Astrbotチャットボット

AstrBot は、オープンソースのオールインワンな Agentic チャットボットプラットフォームおよび開発フレームワークになることを目指しています。AstrBot を柔軟に設定することで、理想的な AI 伴走者、高効率なインテリジェントカスタマーサポート、あるいは専門的な企業ナレッジベースとして活用できます。AstrBot を使えば、主要な各種メッセージプラットフォーム上に、大規模言語モデル（LLM）に対応したスマートチャットボットを簡単にデプロイ・開発できます。

一、大規模モデル設定の概要

4All API は、会話モデル、音声認識、embedding、テキスト読み上げ（tts は現時点では AstrBot に未対応、後日追加予定）を設定できます。

接続手順：

1、サービス提供者を追加する

2、下の「サービス提供者の利用可否」で状態を更新し、緑色になれば利用可能です

二、会話モデルの設定

図のとおりに設定してください。注意点としてはタイムアウト時間です。できるだけ大きめに設定するのがおすすめです。たとえば私の場合は10分に設定しています。というのも、チャットでは単純な挨拶だけで終わることもあれば、じっくり考える必要がある複雑なやり取りになることもあるからです。タイムアウトを少し余裕を持って設定しておけば、タイムアウトによる空返答で無駄になるのを避けられます。

三、音声認識モデルの設定

特に難しい点はなく、通常はwhisper-1を使えば問題ありません。

四、embedding モデルの設定

以下の2点に注意してください。

1、埋め込み次元は、通常そのモデルのデフォルトの最大次元を記入します。モデルの次元範囲はモデル広場ページで該当モデルを検索して確認してください。

2、gemini-embedding-001 のような Gemini API 形式の embedding モデルを 4All API で利用する場合は、必ずopenai 形式を使用してください。したがって、サービス提供者を選ぶ際は、必ず 接入 OpenAI Embedding を選択してください。

4All API - ワンストップ AI 大規模モデル API アグリゲーションプラットフォーム
公式サイト: https://4allapi.com
API Base: https://api.4allapi.com