Dify

Dify là nền tảng điều phối ứng dụng LLM mã nguồn mở, tích hợp 4ALL API thông qua nhà cung cấp 「OpenAI-API-compatible」.

Các bước cấu hình

1. Vào Cài đặt → Nhà cung cấp mô hình;
2. Tìm OpenAI-API-compatible, nhấp thêm mô hình:
   • Loại mô hình:LLM(hoặc Text Embedding, v.v. chọn theo nhu cầu)
   • Tên mô hình:ví dụ gpt-5.6
   • API Key:token sk- của bạn
   • API endpoint URL:https://api.4allapi.com/v1
3. Sau khi lưu, bạn có thể chọn mô hình này trong danh sách thả xuống mô hình của phần điều phối ứng dụng;
4. Khi cần nhiều mô hình, hãy lặp lại các bước trên để thêm từng mô hình một.

Khuyến nghị

• Mô hình embedding dùng cho truy xuất cơ sở tri thức cũng có thể thêm từ 4ALL API (chọn loại Text Embedding), dùng chung một token với mô hình hội thoại để tính phí thống nhất;
• Trong workflow, các node khác nhau có thể gán các mô hình khác nhau, phân bổ theo độ phức tạp của tác vụ để kiểm soát tổng chi phí;
• Khi tự triển khai Dify trong mạng nội bộ, hãy নিশ্চিত rằng máy chủ có thể truy cập cổng 443 của api.4allapi.com.