コンテンツにスキップ
メインサイト ニュース コンソール

Control Room:研究インフラ横断でモデルワークロードを追跡・停止する中央システム

· OpenAI 翻訳済
OpenAILLM

Control Room:研究インフラにおけるモデルワークロードを追跡・中断するための集中管理システム

モデルの性能が向上するにつれて、安全性とセキュリティ(safety and security)のリスクも高まるため、潜在的な問題を検知し、必要に応じてモデルの実行を迅速に停止できるようにすることが極めて重要になっています。そのために構築されたのが Control Room です。

Control Room は、研究インフラ全体におけるモデルワークロード(workloads)を追跡し、安全性やセキュリティ上の懸念が生じた際に即座に停止させるための集中管理システムです。モデルのトレーニングや評価に使用されるエージェンティックサンプリング(agentic sampling)、データ処理などを含む、すべての研究推論ワークロードと連携しています。このシステムはアライメント異常監視システム(misalignment monitoring systems)と連動し、介入の決定から35秒以内に該当ジョブのモデル出力を中断または一時停止できます。また、他のシステムに障害が発生しても稼働を維持できるよう設計されており、仮に Control Room 自体がダウンした場合でも、自動的にモデルの出力を停止するフェイルセーフの仕組みを備えています。

Control Room は、最も導入の必要性が高い研究インフラ全体にデプロイされています。これに対し、外部向けのモデルサービングスタック(external model-serving stack)は本質的により集中管理されており、必要に応じて迅速にモデルの提供を停止できる成熟した運用体制がすでに整っています。

仕組み

Control Room は、ワークロード(workload)、推論エンジン(inference engine)、および集約された Control Room サービスという複数のシステムを連携させることで機能します。

  • ワークロードとは、強化学習実験、評価、大規模サンプリング、データ処理ジョブなど、実行中のジョブ(job)を指します。エージェンティック推論(agentic inference)を実行するすべての研究ワークロードには、承認済みのセーフティケース(safety case)を関連付けることが義務付けられています。

  • 推論エンジン(または単にエンジン)はモデルそのものを指します。GPU 上で直接稼働するモデルの頭脳のようなものと考えてください。1つのワークロードで通常1つまたは複数のモデルが使用され、これらは1つまたは複数の異なる推論エンジン上で稼働します。また、同じ推論エンジンを複数の異なるワークロードで共有することも可能です。

  • Control Room サービスはジョブを追跡し、モデル出力の生成継続を許可するかどうかを制御します。エンジンはリクエストに応答する前に、Control Room サービスに問い合わせて検証を行います。対象のジョブが中断されていた場合、サービスはリクエストを拒否し、それ以上の出力を阻止します。

Control Room は次のように統合されています。

  • 新しいジョブの開始時、ワークロードのコードは Control Room に新しい job_id を要求します。

  • ワークロードがモデルからトークンをサンプリングする必要が生じるたびに、モデルを実行している推論エンジンに job_id を付与したリクエストを送信します。エンジンは Control Room に対し、そのリクエストを処理する権限を問い合わせ、job_id を渡します。

  • Control Room はそのジョブが終了済みでないかを確認し、終了している場合は推論リクエストを拒否します。エンジンはワークロードの推論リクエストに対して拒否レスポンスを返し、そのジョブに対する以降のモデル出力の生成を停止します。

Control Room の動作フロー

研究ジョブ(Research job)

<ジョブID未取得>job_042

推論エンジン(Inference engine)

GPU 上でモデルを実行

Control Room

  • job_039、アクティブ(active)job_039
  • job_040、アクティブ(active)job_040
  • job_041、アクティブ(active)job_041
  • job_042、アクティブ(active)job_042

ステップ 1:研究者がジョブの開始を決定

一連のフローは、研究者が実験や評価などのジョブを起動することから始まります。

ジョブの起動

ジョブコード(またはワークロードコード)は研究者が所有し実行します。推論エンジンはこのジョブの一部として起動される場合もあれば、特定のジョブに関連付けられていない既存の独立したエンジンが稼働している場合もあります。

ジョブが Control Room に登録

ワークロードコードはジョブ ID をリクエストし、承認済みのセーフティケースとジョブを関連付けます。ジョブ自身がこのリクエストを発行します。

Control Room がジョブ ID を返却

Control Room はジョブを記録し、その識別子を返します。ワークロードは以降の推論リクエストにこの ID を含めます。

ジョブが推論エンジンにモデル出力をリクエスト

このリクエストには job_id が含まれます。ワークロードコードから直接発行され、Control Room は経由しません。

エンジンが権限を確認

リクエストを処理する前に、推論エンジンは Control Room に対し、そのジョブの実行が引き続き許可されているかを問い合わせます。

Control Room がリクエストを許可

ジョブが引き続き許可されているため、Control Room は権限を付与します。これで推論エンジンはリクエストに応答できるようになります。

エンジンがモデル出力を返却

モデルがレスポンスを生成し、エンジンがそれを研究ジョブに返送します。ジョブはその出力を利用して処理を続行できます。

何らかの事象によりジョブ中断が決定

人間または監視システムが Control Room にジョブの中断を指示します。Control Room は該当の ID を停止状態としてマークします。この時点でもワークロードコード自体は稼働し続けています。

ジョブがモデル出力のサンプリングを再度試行

「ジョブがまだ実行中かどうかを確認する」という判断処理を、ワークロードコード自体が正しく実行することには依存していません。

エンジンが再度権限を確認

エンジンは同じジョブ ID を渡して、新しい推論リクエストを処理する権限を Control Room に要求します。

次回の認可が拒否される

エンジンが再度権限を確認した際、Control Room は中断されたジョブを拒否します。エンジンはその推論リクエストを拒否しなければなりません。

モデル出力が停止(ジョブプロセスは生存)

エンジンはモデル出力ではなく拒否レスポンスを返します。研究プロセス自体は生存したままの場合があり、エンジンも他の認可されたジョブ向けに引き続き利用可能です。

事例:監視アラートへの対応

最先端の強化学習ジョブはすべて、モニター(monitor)の監視下で稼働しています。モニターとは別のモデルであり、学習中のモデルが行うすべての挙動をチェックし、問題を検知するとアラートを発行します。たとえば、最近発生したDNS 関連のセキュリティインシデントも、モニターによって検知されたものです。

Control Room と監視システムは次のように連携します。

  • 監視システムが潜在的な問題を検知した場合、状況の詳細と深刻度に基づいてジョブを中断するかどうかを決定します。

  • 中断と判断された場合、監視システムは job_id を添えてジョブを中断するメッセージを Control Room に送信します。Control Room はそのジョブが終了したことを記録します。

  • 以降、その job_id を持つジョブがさらなるトークンをサンプリングするためにいずれかのエンジン上で稼働するいずれかのモデルに対して推論リクエストを発行しても、すべて拒否され、それ以上のモデル出力が遮断されます。

速度と信頼性

Control Room がジョブの中断指示を受け取ってから、ジョブの継続が完全に不可能になるまでの最大タイムラグは35秒です。この35秒の遅延は、求められる大量のトラフィックと並行処理を支えるための推論認可キャッシュ層に起因しています。私たちは

#OpenAI#LLM#AI安全#4Allapi.com

4All API チームによる投稿

原文リンク:https://openai.com/index/control-room

主流 AI モデル API をお探しですか?4All API は OpenAI / Anthropic / Google Gemini / Qwen / DeepSeek など数十種類のモデルを単一の API キーで呼び出せます。公式準拠の価格、エンタープライズ品質の通信路、5 分で接続完了。

4All API コンソールに登録 →