LangChain

LangChain 的 OpenAI 系列组件都支持自定义 base_url,直接指向 4ALL API 即可。

Python

from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    base_url="https://api.4allapi.com/v1",
    api_key="sk-你的密钥",
    model="gpt-5.6",
    temperature=0.7,
)
print(llm.invoke("用一句话解释 RAG").content)

嵌入组件同理:

from langchain_openai import OpenAIEmbeddings

emb = OpenAIEmbeddings(
    base_url="https://api.4allapi.com/v1",
    api_key="sk-你的密钥",
    model="text-embedding-3-large",
)

JavaScript / TypeScript

import { ChatOpenAI } from '@langchain/openai'

const llm = new ChatOpenAI({
  model: 'fable-5',
  apiKey: 'sk-你的密钥',
  configuration: { baseURL: 'https://api.4allapi.com/v1' },
})

建议

• 把 base_url、api_key、model 都放进环境变量,不同环境切换零代码改动;
• Agent/链路里的不同节点可以用不同模型:路由、总结用低成本模型,核心推理用旗舰模型。