LangChain

LangChain の OpenAI 系コンポーネントはすべて base_url のカスタマイズに対応しており、そのまま 4ALL API を指すように設定できます。

Python

from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    base_url="https://api.4allapi.com/v1",
    api_key="sk-你的密钥",
    model="gpt-5.6",
    temperature=0.7,
)
print(llm.invoke("用一句话解释 RAG").content)

埋め込みコンポーネントも同様です:

from langchain_openai import OpenAIEmbeddings

emb = OpenAIEmbeddings(
    base_url="https://api.4allapi.com/v1",
    api_key="sk-你的密钥",
    model="text-embedding-3-large",
)

JavaScript / TypeScript

import { ChatOpenAI } from '@langchain/openai'

const llm = new ChatOpenAI({
  model: 'fable-5',
  apiKey: 'sk-你的密钥',
  configuration: { baseURL: 'https://api.4allapi.com/v1' },
})

推奨

• base_url、api_key、model はすべて環境変数に入れておき、異なる環境への切り替えをコード変更なしで行えるようにする;
• Agent/チェーン内の異なるノードでは異なるモデルを使える: ルーティングや要約には低コストモデルを、コア推論にはフラッグシップモデルを使う。