LangChain

LangChain의 OpenAI 계열 컴포넌트는 모두 base_url 커스텀 설정을 지원하므로, 4ALL API를 직접 가리키도록 지정하면 됩니다.

Python

from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    base_url="https://api.4allapi.com/v1",
    api_key="sk-你的密钥",
    model="gpt-5.6",
    temperature=0.7,
)
print(llm.invoke("용 한 문장으로 RAG를 설명해줘").content)

임베딩 컴포넌트도 동일합니다:

from langchain_openai import OpenAIEmbeddings

emb = OpenAIEmbeddings(
    base_url="https://api.4allapi.com/v1",
    api_key="sk-你的密钥",
    model="text-embedding-3-large",
)

JavaScript / TypeScript

import { ChatOpenAI } from '@langchain/openai'

const llm = new ChatOpenAI({
  model: 'fable-5',
  apiKey: 'sk-你的密钥',
  configuration: { baseURL: 'https://api.4allapi.com/v1' },
})

권장 사항

• base_url, api_key, model을 모두 환경 변수에 넣어두면, 환경이 달라져도 코드 변경 없이 전환할 수 있습니다;
• Agent/파이프라인 내 각 노드마다 다른 모델을 사용할 수 있습니다: 라우팅·요약에는 저비용 모델을, 핵심 추론에는 플래그십 모델을 활용하세요.