私は YouTube チャンネルを開設し、一般的な技術的視点から AI の発展を分析しています。本稿は、最近公開した動画をもとにしたもので、動画ではモラベックのパラドックスを詳しく検討しました。モラベックのパラドックスとは、「人間にとって難しいことは AI にとって簡単であり、その逆もまた然り」という、何度も繰り返し引用されてきた格言です。
以下が、私の見つけたことです。
- モラベックのパラドックスは、これまで一度も実証的に検証されていません。（私が知り、尊敬している AI 研究者の多くは、先駆者を含めて、これを事実として頻繁に引用しています。しかし、だからといって私は彼らの主張を無批判に受け入れるつもりはありません！）
- 実際には、AI コミュニティがどの分野に研究努力を注ぐ価値があると考えているかを反映しているにすぎません。AI にとってどの問題が簡単で、どの問題が難しいのかを予測できるものではありません。
- そこに付随する進化論的な説明は、非常に疑わしいものです。（AI 研究者は、神経科学や進化生物学の知識が不足しているにもかかわらず、人間の脳についてしばしば勝手な推測をしています。）
- モラベックのパラドックス的な考え方は、「超知能による推論が目前に迫っている」という扇情的な議論を生み出す一方で、ロボット分野などでは誤った安心感ももたらしています。
- AI の進歩に適応するために、能力の飛躍的な向上がいつ起きるかを予測する必要はありません。新しい能力が社会に広がるまでには長い時間がかかるため、私たちには対応する十分な時間があります——ただし、私たちはその時間をしばしば無駄にし、最後にはパニックに陥ってしまうのです！
詳しい議論は動画を最後までご覧いただくか、以下を読み進めてください。
AI の進歩については、毎週のように新たな主張が登場します。私たちは、次に何が起こるのかをどうすれば知ることができるのでしょうか？ AI は犯罪を予測できるようになるのでしょうか？ 受賞作となる小説を書けるのでしょうか？ 重要なインフラに侵入できるのでしょうか？ 最終的には、家庭で衣類をたたんだり、食器洗い機に食器を入れたりしてくれるロボットが実現するのでしょうか？
AI の進歩は、あなたの仕事にどのような意味を持つのでしょうか？ そして、社会の構造にはどのような影響を及ぼすのでしょうか？ こうした不確実性に直面するのは、確かに困難です。どの新しい AI 能力がすぐに開発され、どの能力が予見可能な将来においても実現困難なままなのかを予測できれば、どれほどよいでしょう。
歴史的に見て、AI 研究者による AI 能力の進展予測はかなりひどいものでした。実際のところ、どのような種類のタスクが AI にとって簡単で、どのようなタスクが難しいのかを示す原則は、ほとんど存在しません。
とはいえ、私たちには一つだけあります——モラベックのパラドックスです。これは、人間が難しいと考えること、たとえば数学や論理をコンピューターに学習させるのは簡単である一方、人間が簡単だと考えること、たとえば世界を見たり歩いたりすることをコンピューターに学習させるのは難しい、という観察を指します。
この概念は、ロボット研究者のハンス・モラベック（Hans Moravec）が 1988 年に出版した著書『心の子どもたち』（Mind Children）に由来します。彼は当時もロボット研究者であり、現在もそうです。彼は次のように書いています。
コンピューターに知能テストやチェッカーゲームで成人並みの能力を発揮させることは、比較的容易である。しかし、1 歳児が持つ知覚や運動能力をコンピューターに与えることは、極めて困難、あるいは不可能でさえある。
人工知能の発展初期、研究者たちはチェスやその他の推論タスクに注力していました。これらは最も難しく、人間だけが持つ能力を示すものだと考えられていたからです。しかし興味深いことに、人間のトップ棋士を打ち負かせるロボットを作ろうとするなら、どの手を指すべきかを決めることは、むしろ簡単な部分です。本当に難しいのは、盤上でその物理的な動作を実行することです。現在ではこの点が広く知られているため、モラベックのパラドックスは直感的にも非常に納得できるように思えます。
モラベックのパラドックスが正しいとすれば、その影響は非常に大きなものになります。どの AI 能力が先に実現する可能性があるのかを知りたければ、それらのタスクが人間にとってどれほど難しいかを見ればよいことになるからです。そうなれば、衣類をたたむ作業が自動化されるよりも先に、科学研究が自動化される、といったことになります。
しかし、問題は——モラベックのパラドックスが、これまで一度も事実に基づく検証を受けていないことです。数十万回も再生された動画や TED トークでさえ、これを事実として繰り返し広めています。それにもかかわらず、このいわゆるパラドックスの根拠を詳しく調べてみると、驚くべきことがいくつか明らかになりました。
本稿では、なぜこのパラドックスの背後にある理論と証拠が、いずれも信頼できないのかを論じます。続いて、AI にとって何が簡単で何が難しいのかについての単純化された予測が、なぜ AI 研究者やテクノロジー業界のリーダーたちを誤らせてきたのかを説明します。こうした考え方は、一方では扇情的な議論を生み、他方では誤った安心感をもたらしてきました。（これで本当にパラドックスが生まれたことになります。）最後に、モラベックのパラドックスを頼りにできないとすれば、AI の進歩とその影響にどのように備えるべきなのかという問いに答えます。
パラドックスの根拠は信頼できない
モラベックのパラドックスを検証するには、どうすればよいのでしょうか？ まず、既存のタスクからサンプルを抽出し、それぞれのタスクが人間にとってどれほど難しいのか、AI にとってどれほど難しいのかを判定したうえで、グラフに表せばよいでしょう。以下のような結果が得られれば、このパラドックスが裏付けられたと考えることができます。
