LangChain

Các thành phần thuộc họ OpenAI của LangChain đều hỗ trợ tùy chỉnh base_url, chỉ cần trỏ trực tiếp đến 4ALL API là được.

Python

from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    base_url="https://api.4allapi.com/v1",
    api_key="sk-你的密钥",
    model="gpt-5.6",
    temperature=0.7,
)
print(llm.invoke("用一句话解释 RAG").content)

Tương tự với thành phần embedding:

from langchain_openai import OpenAIEmbeddings

emb = OpenAIEmbeddings(
    base_url="https://api.4allapi.com/v1",
    api_key="sk-你的密钥",
    model="text-embedding-3-large",
)

JavaScript / TypeScript

import { ChatOpenAI } from '@langchain/openai'

const llm = new ChatOpenAI({
  model: 'fable-5',
  apiKey: 'sk-你的密钥',
  configuration: { baseURL: 'https://api.4allapi.com/v1' },
})

Gợi ý

• Đưa base_url, api_key, model vào biến môi trường; chuyển đổi giữa các môi trường mà không cần sửa code;
• Các node khác nhau trong Agent/chuỗi có thể dùng các model khác nhau: dùng model chi phí thấp cho định tuyến, tóm tắt; dùng model flagship cho suy luận cốt lõi.