Dify

Dify — это платформа с открытым исходным кодом для оркестрации приложений LLM, которая подключает 4ALL API через поставщика «OpenAI-API-compatible».

Шаги настройки

1. Перейдите в Настройки → Поставщики моделей;
2. Найдите OpenAI-API-compatible и нажмите добавить модель:
   • Тип модели: LLM (или Text Embedding и т. д. выбирайте по необходимости)
   • Имя модели: например gpt-5.6
   • API Key: ваш токен sk-
   • API endpoint URL: https://api.4allapi.com/v1
3. После сохранения модель можно будет выбрать в выпадающем списке моделей при оркестрации приложения;
4. Если нужно несколько моделей, повторите вышеописанные шаги для добавления каждой по отдельности.

Рекомендации

• Модель эмбеддингов, используемую для поиска по базе знаний, тоже добавляйте через 4ALL API (тип — Text Embedding), она может использоваться совместно с диалоговой моделью с единым токеном и общей тарификацией;
• В рабочем процессе разные узлы можно привязывать к разным моделям, распределяя их по сложности задачи для контроля общей стоимости;
• Если Dify развернут самостоятельно во внутренней сети, убедитесь, что сервер может обращаться к порту 443 на api.4allapi.com.