コンテンツにスキップ
メインサイト ニュース コンソール

更新版 Model Spec:より強力で有益な AI の実現へ

· OpenAI 翻訳済
OpenAILLM

モデルがますます高度化し、現実世界においてより大きな影響力を持つアクションを実行するようになるにつれ、与えられた具体的な指示を理解するだけでなく、その文面以上の意図を汲み取ることが極めて重要になっています。指示が明示されていない状況でも適切な判断を下し、常に人間の意図や監督に忠実であり続けるためには、人間側の意図や価値観を理解する必要があります。

本日、モデルがどのように振る舞うべきかについての公式指針である「Model Spec(モデル仕様)」を更新します。今回のアップデートでは、5つの基本的価値観を中心にガイドラインを再編しました。それは、人間の意図への忠実さ(faithfulness to human intent)、危害の最小化(harm minimization)、誠実さと透明性(honesty and transparency)、人間の主体性(human agency)、そして**配慮・ケア(care)**です。これは、未知の状況においても人間の意図に忠実であり続けながら、人間の価値観を理解・適用できるようにするという、私たちの価値観アライメント(value alignment)への取り組みにおける目標を反映したものです。既存の原則をより明確に説明することに加え、今回の改訂ではコンテキスト、監督、主体性に関する指針を追加し、いくつかの振る舞いのデフォルト設定を調整するとともに、細かすぎる文体指示の多くを廃止しました。

コアバリューに基づく仕様の再編

これら5つの価値観は、Model Spec全体を通してすでに示されていた広範なコミットメントを明確に言語化したものです。すなわち、人間の目標に資すること、真実を重視すること、危害を最小限に抑えること、人々が自らの視点を形成する自由を尊重すること、そして個々の置かれた具体的な状況を真摯に受け止めることです。これらのコミットメントを統合することは、Model Specがなぜモデルの挙動に対してそれらの要求を課しているのかを説明する助けとなり、また十分に対処されていなかった領域において、より明確なガイドラインを策定することにもつながります。今回の更新は、研究やモデルのデプロイ経験、Model Specやモデルの挙動に対する一般からのフィードバック、そしてユーザーや外部の専門家との議論を通じてModel Specを洗練させていくためのさらなる一歩となります。

私たちは、AIが世界中の多様なニーズ、価値観、そして未来への希望を持つ人々に恩恵をもたらすことを願っています。

人間の意図への忠実さはこのアプローチの基盤です。それは、人々にとって重要な事柄を理解し、その追求を支援することを意味します。OpenAIが仕様を策定し、境界線を設定し、その境界線を守るようモデルをトレーニングします。開発者はそれらの境界線の中でアプリケーションを指示し、ユーザーはその制約のもとでモデルの挙動を導きます。私たちのモデルは、人々が世界を理解し、可能性を見出し、自ら選んだ目標を追求することを支援することで、自らの人生を切り拓く力を高めると同時に、その支援が他者に与える影響にも真摯に向き合うべきです。人間の意図への忠実さとその他の4つの価値観は、Model Specの骨格を成し、モデルが直面する最も重大なトレードオフに対処するための道標となります。これらは、モデルが尊重し、人々が追求するのを支援すべきすべての人間の価値観を網羅することを意図したものではありません。

忠実であるとは、単に指示を字面通りに実行するだけでなく、OpenAI、開発者、そしてユーザーの意図や価値観を深く理解し、十分な理解が得られない場合でも賢明に行動することを意味します。また、人々の信念や価値観が変化し得ることを認識し、密かに誘導したり選択を覆したりするのではなく、本人が納得できる形で内省や成長を促す支援を行うことも意味します。例えば、誰かが複数の内定(オファー)を比較・検討するのを支援する際、モデルは相手が以前共有してくれた優先事項(規則正しい勤務時間など)を参考にしつつ、修正しやすいようにそれらの前提を明示的に提示することができます。

私たちのミッションは、汎用人工知能(AGI)が人類全体に利益をもたらすようにすることです。これには、ある個人の目先の意図だけでなく、長期的な利益や他者への影響を考慮することも含まれます。残りの4つの価値観は、これらの考慮事項を明確に定義しています。

  • 危害の最小化:厳格な安全基準を遵守し、モデルの振る舞いによって予見される結果を十分に考慮することを意味します。

  • 誠実さと透明性:モデルが知っていること、行ったこと、不確実なことに対して誠実であり続け、人々がその推論プロセスやアウトプットを理解・評価できるようにすることを意味します。

  • 人間の主体性の促進:人々が自らの力で理解し、判断を下し、行動する能力を高めることを意味します。

  • 配慮・ケア:影響を受ける人々の状況に気を配り、関連する社会的・専門的規範を遵守し、信頼できる成果を提供することを意味します。

Model Specはこれらの価値観を具体的な実践指針へと落とし込み、個人や社会の保護が不可欠な領域には厳格な境界(ハードバウンダリ)を設ける一方、その他の領域ではユーザーや開発者がカスタマイズまたは上書きできるデフォルト設定を中心に構成しています。

今回のModel Specの更新に伴い、私たちはモデルがこれらのコアバリューを学習し、仕様で定められた具体的な行動原則をより深く理解して遵守できるようにするための新しいトレーニング手法を模索してきました。その狙いは、「なぜこれらの原則が重要なのか」、そして「未知の状況においてそれらをどう適用すべきか」についての理解を確立すること、すなわち**「正当な理由に基づいて正しい行動をとる」**ことにあります。このような理解が重大な局面における的確な意思決定を支え、日々の細かな判断においても行き届いた配慮をもたらすことで、人類と社会に永続的な恩恵が蓄積されることを願っています。このトレーニングに関する成果や得られた知見については、今後のアップデートで共有する予定です。

追加および廃止されたセクション

今回の再編によって、どのような点に追加の指針が必要であるかが明確になり、それらの課題に対応するための新たな原則を策定するとともに、既存の指針の改定や廃止を進めることができました。

「人間の意図への忠実さ」に関する新しいセクションは、「人々が重んじる事柄が最優先であり、多くの場合、指示はその価値観を最も明確かつ直接的に表すシグナルである」という考え方に基づいています。このアプローチは、アライメント分野におけるアシスタンス・ゲーム(assistance games)のフレームワークを参考にしています(初期の研究およびその後のサーベイ論文を参照)。本セクションには更新された「指示系統(chain of command)」が含まれており、どの指示が適用されるのか、また指示が衝突した場合にどのように解決すべきかを解説しています。新たに追加された「コンテキストを慎重に考慮する(consider context carefully)」の小節では、会話、メモリ、その他のコンテキスト情報が、モデルが人々の意図や好みを把握する上でどのように役立つかを詳述しています。

また、「人間の主体性をサポートする(support human agency)」や「[関連する社会的規範を遵守する](https://model-sp

#OpenAI#LLM#4Allapi.com

4All API チームによる投稿

原文リンク:https://openai.com/index/updated-model-spec

主流 AI モデル API をお探しですか?4All API は OpenAI / Anthropic / Google Gemini / Qwen / DeepSeek など数十種類のモデルを単一の API キーで呼び出せます。公式準拠の価格、エンタープライズ品質の通信路、5 分で接続完了。

4All API コンソールに登録 →