LangChain

Все компоненты серии OpenAI в LangChain поддерживают настраиваемый base_url, просто укажите 4ALL API напрямую.

Python

from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    base_url="https://api.4allapi.com/v1",
    api_key="sk-ваш-ключ",
    model="gpt-5.6",
    temperature=0.7,
)
print(llm.invoke("Одной фразой объясни RAG").content)

Аналогично и для компонента эмбеддингов:

from langchain_openai import OpenAIEmbeddings

emb = OpenAIEmbeddings(
    base_url="https://api.4allapi.com/v1",
    api_key="sk-ваш-ключ",
    model="text-embedding-3-large",
)

JavaScript / TypeScript

import { ChatOpenAI } from '@langchain/openai'

const llm = new ChatOpenAI({
  model: 'fable-5',
  apiKey: 'sk-ваш-ключ',
  configuration: { baseURL: 'https://api.4allapi.com/v1' },
})

Рекомендации

• Поместите base_url, api_key и model в переменные окружения, чтобы переключаться между средами без изменения кода;
• Для разных узлов в Agent/цепочке можно использовать разные модели: для маршрутизации и суммаризации — дешёвую модель, для ключевого вывода — флагманскую модель.