コンテンツにスキップ
メインサイト ニュース コンソール

事実確認におけるモラベックのパラドックス

· Normal Tech (AI Snake Oil) 翻訳済
分析实践

私は YouTube チャンネル を運営しており、そこで AI の進展を一般的な技術者の視点から分析しています。この記事は、最近公開した動画をもとにしたもので、モラベックのパラドックス(Moravec’s paradox)、つまり「人間にとって難しいことは AI にとって簡単で、逆に人間にとって簡単なことは AI にとって難しい」という、繰り返し引用される格言について詳しく掘り下げた内容です。

私の発見は次のとおりです。

  • モラベックのパラドックスは、実証的に検証されたことがありません。(私が知っていて尊敬する先駆者を含め、多くの AI 研究者が事実のように繰り返し語っていますが、だからといって鵜呑みにするつもりはありません!)

  • 実際には、AI コミュニティがどこに労力を割くべきだと考えているかを表しているにすぎず、AI にとって何が簡単で何が難しいかを予測するものではありません。

  • さらに、私はかなり疑わしいと思う進化論的な説明まで付いています。(AI 研究者は、神経科学や進化生物学の知識がまったくなくても、人間の脳について勝手な話を作るのが本当に好きです。)

  • モラベックのパラドックス的な発想は、差し迫った超知能の推論に関する大げさな警告も、ロボティクスなどの分野における誤った安心感も生み出してきました。

  • AI の進歩に適応するために、私たちに予測ブレークスルーは必要ありません。新しい能力の普及には長い時間がかかるため、その間に十分な対応時間があります――ただし私たちは、その時間を無駄にしたうえで、最後に慌てふためくことが多いのですが!

完全な議論はこちらで視聴できます。あるいは、このまま読み進めてください。


毎週のように、AI の進歩に関する新しい主張が現れます。次に何が起こるのか、私たちはどうやって知ればよいのでしょうか? AI は犯罪を予測できるのでしょうか? 受賞作に値する小説を書けるのでしょうか? 重要インフラを侵害できるのでしょうか? あるいは、ついに家で洗濯物を畳んだり、食器洗い機に食器を入れたりしてくれるロボットが手に入るのでしょうか?

AI の進歩は、あなたの仕事に何を意味するのでしょうか? 社会構造にどんな影響を与えるのでしょうか? こうした不確実性を前にすると、確かに対応は簡単ではありません。どの新しい AI 能力がすぐに実現し、どの能力が当面は難しいままなのかを予測できる方法があれば、どれほど助かることでしょう。

歴史的に見ると、AI 研究者の AI 能力の進展に関する予測はかなり外れがちでした。実際のところ、AI にとって何が簡単で何が難しいのかを示す原則は、私たちはほとんど持っていません。

とはいえ、ひとつだけあります――モラベックのパラドックス(Moravec’s paradox)です。これは、数学や論理のような、人間には難しく感じられることをコンピュータにやらせるのは簡単だが、世界を見たり歩いたりするような、人間には簡単に思えることをやらせるのは難しい、という観察を指します。

この概念は、ハンス・モラベック(Hans Moravec)が 1988 年に著した『心の子どもたち』(Mind Children)に由来します。彼はロボット研究者で、過去にも現在にもそうです。彼はこう書いています。

コンピュータに知能テストやチェッカーで成人並みの成績を取らせるのは比較的容易だが、知覚や移動において一歳児並みの能力を持たせるのは非常に難しい、あるいは不可能でさえある。

AI の初期には、研究者たちは主にチェスやその他の推論タスクに注目していました。当時、それらは最も難しく、しかも人間らしさを最もよく示すものだと考えられていたからです。ところが面白いことに、人間のグランドマスターに勝てるロボットを作る場合、どの手を指すかを決めること自体は簡単な部分です。本当に難しいのは、その手を実際に盤上で実行することです。今日ではこの点は広く知られており、たしかにモラベックのパラドックスは直感に合うように思えます。

もしモラベックのパラドックスが本当なら、その含意は非常に大きなものになります。次にどの AI 能力が現れるかを知りたければ、人間にとってそれがどれほど難しいかを見ればよい、ということになるからです。そうすると、たとえば科学研究の自動化は、洗濯物を畳むことより先に進むことになります。

しかし問題は、モラベックのパラドックスは事実確認されたことがない、という点です。何十万回も再生された動画や TED トークで事実のように語られているにもかかわらず、です。私がこのいわゆるパラドックスの裏付けを詳しく調べてみると、意外なことがいくつも見えてきました。

この記事では、なぜこのパラドックスを支える理論も証拠も非常に弱いのかを説明します。そのうえで、AI にとって何が簡単で何が難しいかを単純化して予測することが、AI 研究者やテック業界のリーダーたちをどう誤らせてきたのかを明らかにします。それは一方で危機を煽り、他方では誤った安心感を与えてきました。(たしかに、少しパラドックスっぽい話です。)最後に、もしモラベックのパラドックスに頼れないなら、AI の進歩とその影響にどう備えるべきか、という問いにも答えます。

パラドックスを支える証拠はかなり弱い

モラベックのパラドックスは、どう検証すればよいのでしょうか。現実のタスクをいくつか選び、それぞれについて「人間にとってどれだけ難しいか」と「AI にとってどれだけ難しいか」を判定し、図にしてみればよいのです。もし次のような結果が得られれば、このパラドックスは証明されたことになります。