次世代の Agent は必然的にクラウドと、より大規模な計算リソースへ向かう
henry 発凹非寺
「俺がリセットしたいと思えば、いつでもリセットできる。」
先ほど、サイバー養父、AKA Codex の利用上限リセット神こと Tibo が、Matthew Berman の最新ポッドキャストで自信満々に語った。
しかも最も“イケている”のは、リセットのために Tibo が専用の物理ボタンまで用意したことだ。
Codex の現責任者である Tibo は、ユーザーに特典を提供する方法を紹介しただけでなく、今回のポッドキャストで自身のこれまでの Google 時代を詳しく振り返り、現在の自分と OpenAI が取り組んでいる重要な仕事についても明かした。
いわばこれは、OpenAI の新たなプロダクト責任者となった彼について、外部の人々が深く知ることのできる、数少ない機会だった。
OpenAI のプロダクト文化、次世代の Agent、GPT 究極の超高速モード（Ultra Fast）、未来の人間とコンピューターのインタラクション、OpenAI がフロンティアモデルのトレーニング開発を停止したこと、RSI に至るまで、ほぼあらゆるテーマが語られた。
Tibo の主な見解は次のとおりだ。
- ChatGPT と Codex は最終的に融合する。将来、「コーディング Agent」と「チャットアシスタント」という2つのプロダクトが存在するのではなく、同じ高度にパーソナライズされた AGI が、人によって異なるタスク、能力、習慣に応じてインターフェースを自動的に調整するようになる。
- 次世代 Agent の核心は、Skill、Memory、サブ Agent をさらに増やすことではなく、それらの仕組みを「消す」ことにある。ユーザーが本当に求めているのは、自分自身や目標、日常、チームのコンテキストを継続的に理解するパートナーであって、skill ファイルや記憶、Agent ネットワークを絶えず管理することではない。
- ノートパソコンは AI Agent の新たなボトルネックになる。次世代 Agent は必然的にクラウドと、より大規模な計算リソースへ向かう。
- 現在、10～15個の Agent を同時に動かしているのは、モデルの速度がまだ遅い問題を並列処理で補っているためだ。Ultra Fast によって応答速度が人間の思考速度に近づけば、ワークフローは再びリアルタイムのインタラクションと「フロー」に戻り、コンテキストを絶えず切り替える必要はなくなる。
- 競争は重視していない。OpenAI と Anthropic の差別化を語る際、単純に「モデルがより強い」と強調するのではなく、「最も強力な能力を、できるだけ多くの人に届ける」と考えている。OpenAI は広範な提供、コミュニティの参加、利用の敷居を下げることを重視しており、これも Codex を ChatGPT に統合する重要な理由の一つだ。
- OpenAI はすでに実際に「再帰的な自己改善」を利用している。これは単にモデルにモデルを研究させるだけではない。最も強力なモデルに CUDA カーネル、推論スタック、インフラを最適化させ、「より強いモデル → より高い効率 → より多くの計算能力 → より強いモデル」という好循環を生み出すことも含まれる。
（Tibo のフルネームは Thibault Sottiaux。ベルギー出身で、ルーヴェン・カトリック大学（UCLouvain）で応用数学を学んだ。2015年に Google に入社し、当初は Google Maps 関連の業務に携わった。その後 Google DeepMind に移り、AI 研究インフラの構築を担当。AlphaGo をはじめとする最先端 AI プロジェクトの支援にも参加した。2024年に OpenAI に入社し、Codex プロジェクトを担当するようになった。AI コーディングのブームが到来すると、Codex は OpenAI で最も急速に成長するプロダクトの一つとなり、Tibo も開発者コミュニティで注目を集めるようになった。彼は頻繁に自らユーザーからのフィードバックに返信し、開発者の Codex 利用上限のリセットを手助けしていたことから、ネットユーザーから「サイバー養父」と呼ばれるようになった。）
以下は、整理した対話全文である。
Google と DeepMind での経験
司会者： 素晴らしいですね。あなたとお話しできるのを本当に楽しみにしていました。まずは Google 時代の経験から伺いたいと思います。当時、あなたは DeepMind のチームにいましたよね。ChatGPT が登場する前、Google には LM Chat というものがありました。
あなたは以前、「Google はあまりにも神経質になっていて、それを公開する勇気がなかった。DeepMind も、Google に衝撃を与える可能性のあるプロダクトのリリースを止められていた」と投稿していました。私はこのことをよく考えます。当時、あなたはそうしたプロダクトを作っていたわけですが、それは ChatGPT が本当に世界を変えるずっと前のことでした。当時はどのように考えていたのでしょうか？
Tibo： とても刺激的な時期でした。DeepMind は非常にクリエイティブな場所です。
私の専門は、研究を加速させるためのインフラやプロダクトを構築することです。当時、言語モデルと、そのスケーリングに取り組んでいるチームがありました。
その後、彼らはかなり良い結果を出すようになりました。そこで自然に、「これを、人と対話でき、さまざまな用途に使えるプロダクトにできないだろうか」と考えるようになったのです。
そうして、LM Chat のようなアイデアが自然に生まれました。最初は社内プロジェクトでしたが、その後、一般向けのオープンなツールにしようという構想が生まれました。
司会者： それは何年のことですか？
Tibo： ChatGPT が登場するおよそ1年前です。
Tibo： それ以外にもさまざまなプロジェクトに取り組んでいましたが、ここでは詳しく触れないでおきましょう。本当にクリエイティブな場所でした。ただ、DeepMind はプロダクトを提供するために設計された組織ではありませんでした。
それに対して、OpenAI は大きく異なります。現在、私たちの研究チームとプロダクトチームは極めて緊密に連携しています。
一緒にアイデアを考え、多くのものを共同で設計しています。私たちはプロダクトを世に出し、人々に実際に使ってもらうことを非常に重視しています。私はこの点が大好きです。使命、優秀な人材、そして人材の密度。それが私をここに引きつけた理由でもあります。OpenAI には本当に素晴らしい点がたくさんあります。
司会者： LM Chat に関わっていた当時、すでにそれが特別なものだ、あるいは将来特別なものになると分かっていたのでしょうか？
Tibo： 確かに、とても特別なものだと感じていました。そうしたモデルによって初めて、「これは一貫性のある文章を生成できるし、何らかの助けも提供できる」と実感したのです。最初は単に面白いものでしたが、次第にどんどん実用的になっていきました。
司会者： あなたがそのことをよく思い出すというのも、よく分かります。Google はさまざまな面で、自らの足を自分で引っ張ってしまったように思います。そこで学んだことのうち、OpenAI に持ち込んだものは何でしょうか？
Tibo： そうですね。私がそのことをよく考える理由はそこにあります。チームの文化や OpenAI 全体の文化という観点から、どの良い部分を残し、何をすべきでないのかを考えています。
OpenAI の文化は非常にボトムアップで、人々に大きな権限を与えます。誰でもさまざまなアイデアを提案でき、人々が集まり、非常に速いペースでプロダクトをリリースできます。新しいプロダクトのアイデアに対する抵抗は、全体としてほとんどありません。とても刺激的で、楽しいことです。すべては世界に良い影響を与えるためにあります。この点を維持することは、私にとって非常に重要です。
もう一つ、同じくらい重要なのは、物事を混乱させないことです。最終的に、新機能ばかりが積み重なり、全体としての方向性や一貫性がない、寄せ集めのような状態にはしたくありません。そのため、シンプルさとのバランスが必要ですし、プロダクトの品質に誇りを持つことも大切です。
私は、ChatGPT の iOS アプリは市場で最高のアプリの一つだと思っています。私たちはこの状態を維持したいと考えています。快適さ、パフォーマンス、効率、シンプルさといった面に多くの投資をしています。こうした原則を大切にしながらも、一人ひとりが新しいことを試し、素早く提供できるようにするのです。
OpenAI の文化をつくる
司会者： 起業家にアドバイスするとしたら、このような文化はどのように育てればよいのでしょうか？ OpenAI の内部にある、より具体的な要素や取り組みで、起業家が参考にできるものはありますか？
Tibo： 強い信念を持つことが重要だと思います。同時に、ユーザーに寄り添いながら、フィードバックに基づいて素早く反復できる方法を見つけなければなりません。また、自分自身を破壊することをいとわない姿勢も必要です。起業家にとっては、必ずしも直接関係する話ではないかもしれません。しかし OpenAI のような会社にとっては、非常に重要なことです。
私たちには常に新しい研究や新しいアイデアがあります。たとえそれが本業からリソースを再配分することを意味するとしても、いつそこに投資すべきかを判断することは極めて重要です。難しいことですが、本当に大切なことです。
司会者： そのとおりです。まさに、先ほどあなたが Google にはできなかったと説明したことですね。
Tibo： 公平に言えば、彼らにも計画はありました。ただ、すべてがより大きな計画の一部だったのです。私にとっては、それが正しい場所ではありませんでした。
司会者： OpenAI やどのような会社でも、規模が大きくなるにつれて、素早く提供し、自らを進んで破壊していく文化を維持するのは難しくなるのでしょうか？ 特に、一方に利益を生み続けるキャッシュカウ、もう一方に非常に魅力的で革新的かもしれない新しいものがある場合です。
Tibo： 私たちは非常に未来志向です。AI の未来や、最終的にどのような姿になるのか、そして人類がそこからどのような恩恵を受けるのかは、立ち止まって待ってくれるわけではありません。あなたがこの先1か月や3か月で築き上げたものを気にかけることもありません。
だからこそ、全力で取り組み、その発展の方向性に対してオープンな視点を持ち、自分たちがどう位置づけられるのかを考え、その波を確実につかむことが非常に重要だと思います。
OpenAI にとっても同じです。私たちはモデルをトレーニングし、その能力を後から知ることになります。ベンチマークだけでは、すべてを教えてくれません。
モデルを実際に長時間使ってみて初めて、「そうか、これまで考えていなかったけれど、こういう特定の方法で役立てられるかもしれない」と気づくことがあります。あるいは、「まさか、こんなことまでできるのか」と驚くこともあります。
すると、プロダクトについて考える方法そのものが変わります。たとえば現在、私たちは新しい音声機能をリリースしています。とても心地よく、自然に会話できます。しかも、ツールも利用できます。
これは多くのことを変えます。今では、私は直接話しかける時間が増えました。もう一つ、ずっと使っているのが音声入力です。音声入力の品質が非常に、非常に高く、キーボードでプロンプトを入力するよりもはるかに効率的だからです。
そのため、朝はスマートフォンを手にして、「ChatGPT にいくつかのことをやってもらいたい……」と長々と話しかけることがあります。すると ChatGPT がそれを実行してくれる。私のすべてのツールにアクセスできるからです。これほど優れた音声モデルがなければ、これは不可能でした。だから突然、プロダクトについての考え方が根本から変わるのです。
AI Agent の未来
司会者： では、新しいモデルや新しい harness（エージェント実行フレームワーク）の話に移りましょう。数週間前、あなたの別の素晴らしい投稿について触れようとしていました。「2～3か月後には、Codex はとても原始的なものに見えるだろう。私たちは、また大きな進化を経験しようとしている。次世代モデルが必要とするのは、あなたのノートパソコンだけではない」と書いていましたね。まずは harness から伺います。モデルが強くなるにつれて、harness にはまだどのような大きなイノベーションの余地があるのでしょうか？
Tibo： 本当に、あまりにもたくさんあります。先ほど話した音声もその一つです。現在、Codex やほかのコーディング Agent を使い込んでいる人なら、すでに、あまり滑らかではない感覚に少し慣れてしまっていますよね。
skill ファイルを管理しなければならない。これはモデルに何かを教える方法ですが、多くの人が、こうしたファイルを長期的にメンテナンスするのはかなり難しいと気づいていると思います。記憶も問題です。すべてを常に覚えているわけではありません。サブ Agent があれば、サブ Agent の面倒も見なければならず、何らかの小さなネットワークを構築する必要もあります。やり取りのあらゆる段階で、「完全なパートナーがいる」という感覚が壊れてしまうのです。
本当に欲しいのは、自分のこと、自分の目標、自分の日常、そしてチームが何をしているのかを深く理解してくれる存在です。理想的には、その存在が反応し、先回りして行動し、日々の中であなたを助けてくれる。そして、その感覚を壊さないことです。まるで、自分のそばにいる完璧な小さなパートナーのような存在です。私たちはまさにそこを目指しています。
もう一つは、非常に、非常に強力なモデルを手にすると、ノートパソコン自体が制約になることです。1台のノートパソコンが処理できる仕事量は、人間向けに設計されています。
△AI 生成
人間が生み出せる仕事量、タイピングや思考の速度、同時に開いておく必要のあるアプリケーションの数などを収容できるように設計されているのです。これらはすべて、人間側の制約です。
モデルには同じ制約がありません。たとえば将来的には、100個のアプリケーションを同時に開いたまま処理し、それでもまったく問題ないかもしれません。したがって、リソースへのアクセスという観点から見れば、将来のモデルが必要とするリソースは、1台のノートパソコンが提供できる量を明らかに超えることになります。
司会者： つまり、クラウド上の Agent ということですね？ そして、後ほど話す Ultra Fast が登場し、トークン速度が Fast の10～14倍になると言われている状況では、帯域幅の制約も変わります。CPU が帯域幅になる。文字どおり、ツール呼び出し、ネットワーク、あらゆるツール、そして技術スタックに存在するあらゆるオーバーヘッドが制約要因になるということです。
Tibo： ただし、複数の作業を同時並行で行うことで補うこともできます。探索しながらテストを書き、同時にコンパイルし、新しい仮説も検証できる。そうすれば、より多くのことを並列処理でき、モデルも非常に効率的かつ高速に考え、前に進めるため、ボトルネックの位置を次々に移動させることができます。
司会者： 現在のトークン速度では、私は10～15個の Agent を並行して起動することがあります。これによって、かなり大きな認知負荷が生じています。コンテキストを何度も切り替え、Agent を次々に起動しなければならず、タスクの結果が返ってくるまで30～45分かかることも予想できます。
Ultra Fast によって、このワークフローは大きく変わるでしょう。もう10個や15個の Agent を同時に開くことはなくなると思います。それは、ある意味で良いことかもしれません。一度に必要なのは3～4個だけになるかもしれない。独立系開発者のワークフローは、時間とともにどのように変化すると考えますか？
Tibo： 自分の注意力を管理すること、そして体験を自分の注意力により適合させることは、私たちが非常に重視していることです。
AI が開発者のワークフローを変える
Tibo： 結局のところ、私たちは人間のためにプロダクトを作っています。人間に最大限の力を与える技術を作りたい。そのためには、あなたのマルチタスク能力を中心に設計する必要があります。あなたはどのように注意力を管理したいのか。あることを今すぐ提示するのがよいのか、それとも30分後に提示するほうがよいのか。
そして、Ultra Fast の速度と音声が組み合わさると、突然こう感じるようになります。「分かった。これは自分と同じくらい、あるいは自分より速く動くことができる」と。
すると、フローを維持し、考えを途切れさせず、プロトタイプを確認し、リアルタイムで小さなレポートを生成できる。その感覚は本当に素晴らしいものです。そして突然、「そうだ。以前のように10個の Agent を並列で動かしてマルチタスクするやり方には、もう戻りたくない」と思うようになる。
だから私たちは、とても自然でありながら、まるで自分専用に作られたような体験を提供しようと努力しています。あなたが技術に合わせるのではなく、技術のほうがあなたに合わせるのです。
司会者： ここ数か月、多くの人が Agent 型のコーディング技術について議論してきました。以前は Loops が大きな注目を集め、今も人気があります。最近では graphs という言葉も聞きます。これらの技術はすべて、独立系開発者が注意力を管理できるようにするためのものなのでしょうか？ あるいは、あなたの言うように、注意力に優しいものにするためのものなのでしょうか？ 私はこの表現が気に入っています。
Tibo： この問題は、2種類に分けて考えられると思います。
一つ目は、最高のパーソナル AGI、あるいはパーソナル Agent を構築することです。あなたとともにフローに入り、重要な新しいアイデアを自ら提案し、機会を見つけたら、あなたの意図に沿って非常に効率的に行動する存在です。
技術的な問題でも、調査でも、アドバイスでも、それを実行でき、しかもあなたに高度に適合します。これは非常に重要なことです。人間として、そして唯一無二の個人としてのあなたを理解することに深く根ざしています。私たちはこの問題に全力で取り組んでいます。
もう一つは、全面的な自動化です。こちらでは、非常に複雑なプロセスを引き継がせるためのインテリジェントなシステムを構築します。そうしたプロセスには、知性が必要であった、あるいはかつて必要だったものもあるでしょう。そして、とても複雑に見えるはずです。
たとえば、本番環境のログを確認して自動的にパフォーマンスを最適化したり、リグレッションを発見して自動的に修正したりすることです。サイバーセキュリティの分野でも、この傾向が見られます。
たとえば、スキャナーが脆弱性を発見したとき、それを自動的に修正し、その脆弱性がさらす時間をほぼゼロに短縮できるでしょうか。人間をそのループに関与させない、あるいは関与を最小限にする。高リスクのアクションだけを承認すればよく、システムの大部分は自動化されたままにするのです。この場合、システムをそれほど直接的に制御する必要もありません。
司会者： なるほど。
ChatGPT と Codex の融合
司会者： では、少し話題を変えたいと思います。ここ数か月、ChatGPT と Codex は融合へ向かう道を歩んできました。
まず、この取り組みはどの程度進んでいるのでしょうか？ 内部ではどのように受け止められていますか？ ユーザーからはどのようなフィードバックが寄せられていますか？
Tibo： 実際、大きなメリットがありました。初めに寄せられたフィードバックは、「なぜ統合するのか？ 本当にそうする必要があるのか？」というものでした。しかし、未来のモデルは私たちに統合を求めています。
だから、私たちは統合します。非常にパーソナライズされ、極めて高い能力を持ち、さまざまな方法であなたを助けられる Agent を構築するうえで、それが最も簡単で、最も正しい方法だからです。
基盤となるのは、同じ一連の技術です。同じ harness、同じ考え方です。高度にマルチモーダルで、音声を優先し、極めて効率的。あなたがプログラミングをしているかどうかは関係ありません。この Agent は何でもこなせますし、しかも非常に高い効率で動作します。
インターフェースは、あなたのニーズに応じて調整されるべきです。まず「自分はプログラマーだからプログラマー向けのインターフェースが必要だ」と決めたり、「技術に詳しくないから、非技術者向けのインターフェースが必要だ」と決めたりする必要はありません。
人々は連続したスペクトラム上に存在しています。ソフトウェアエンジニアやデザイナーといったラベルは、複雑すぎる現実に対処するために人間が作り出した概念にすぎません。
結局のところ、一人ひとりがそのスペクトラム上の異なる位置にいるのです。だから私たちは、誰にでも適応できる完璧なインターフェースを構築したいと考えています。技術に詳しいかどうかにかかわらず、具体的な個性に応じて調整される。これが、私たちがこのように取り組んでいる理由です。
司会者： ただ、それは最終的に一つの統合されたインターフェースになるということでしょうか？ 異なるプロダクトを選ぶドロップダウンメニューもなくなるのでしょうか？ 私の母が、私とまったく同じインターフェースを使うかもしれないと考えると、確かに驚くべきことです。
もちろん、私のニーズに合わせてカスタマイズされるのでしょう。私がより複雑な作業をしているなら、より多くの情報が必要になるかもしれません。しかし、最終的な形はどのようなものになるのでしょうか？
Tibo： そのとおりです。同じ一つのものになります。あなたも、お母さまも、同じものを使うことになります。それは、それぞれのためのパーソナル AGI です。
あなたとお母さまでは、取り組むタスクも、そこから得られる価値も大きく異なるでしょう。生活の中で接続するツールも、そこから生まれるアイデアやニーズも違います。そして、その AGI はあなたに最大限の利益をもたらせるよう、継続的に自らを調整していきます。あなたの友人や、ほかのすべての人にも、同じようにサービスを提供することになります。
人間とコンピューターのインタラクションの未来
司会者： 先ほどの話に戻りたいと思います。最終的な状態を説明する際、あなたは何度か「幻覚」という言葉を使いました。一般のユーザーにとって、その完璧な「幻覚」とはどのようなものでしょうか？ 数年後の AI と人間のインタラクションを想像すると、どのような姿になるでしょうか？
Tibo： 私にとっては、人間に極めて自然に寄り添う存在になると思います。大規模言語モデルが成功した理由もそこにあります。自然言語を使うからです。自然言語はもともと人間の概念ですよね？ 私たちは互いに会話することに慣れています。もし明日、あなたが私に一通の手紙を書いて …