私は、一般的な技術的視点からAIの発展を分析する YouTube チャンネルを開設しました。この記事は、私が最近公開した動画に基づいています。その動画では、多くの場面で引用される格言「モラベックのパラドックス」について深く掘り下げました。この格言は、人間にとって難しいタスクはAIにとって容易であり、その逆もまた然りであるというものです。
私の発見は以下の通りです。
モラベックのパラドックスは、実証的に検証されたことが一度もありません。（私が知り、尊敬している先駆者たちを含め、多くのAI研究者がこれを事実として繰り返し口にしていますが、だからといって私がそれを鵜呑みにするわけではありません！）
これは実際には、AIコミュニティが「取り組む価値がある」と考えている仕事についての記述にすぎません。どの問題がAIにとって容易で、どれが困難になるかを予測するものではありません。
これには進化論的な説明も付随していますが、私はその説明が極めて疑わしいと考えています。（AI研究者が、神経科学や進化生物学のバックグラウンドを持たないまま、人間の脳について説をでっち上げるのは、歴史的な伝統のようなものです。）
モラベックのパラドックス的な思考は、（間近に迫る超知能の推論に関する）恐怖を煽るセンセーショナリズムと、（ロボット工学などの分野における）誤った安心感の両方をもたらしました。
AIの進歩に適応するために、能力のブレイクスルーを予測する必要はありません。新しい能力が普及するには長い時間がかかるため、私たちには十分な対応時間が与えられています。しかし、私たちはその時間を無駄にしてしまい、後になってパニックに陥ることがよくあります。
完全な議論はこちらでご覧いただくか、このまま以下を読み進めてください。
毎週のように、AIの進歩に関する新たな主張が登場します。次に何が起こるかを、私たちはどうやって知ることができるでしょうか？AIは犯罪を予測できるでしょうか？受賞レベルの小説を書けるでしょうか？重要なインフラをハッキングできるでしょうか？ついにロボットが家庭に入り込み、服を畳んだり、食洗機に食器を入れたりするのを手伝ってくれるようになるのでしょうか？
AIの進歩はあなたの仕事にとって何を意味するでしょうか？社会構造にとって何を意味するでしょうか？これらの不確実性に対処するのは、実に困難です。どのような新しいAI能力がすぐに開発され、どれが近い将来も困難なままであるかを予測する方法があれば、どんなに素晴らしいことでしょう。
歴史的に見ると、AI研究者によるAI能力の進歩に関する予測は、一貫してかなり的外れでした。実際、どのタスクがAIにとって容易で、どのタスクが困難であるかを説明できる真の原則は存在しません。
しかし、私たちには一つだけ原則があります。それが「モラベックのパラドックス」です。これは、コンピュータに人間が難しいと感じる数学や論理などを学ばせるのは容易である一方、人間が簡単だと感じる世界を見る、歩くといったことを学ばせるのは非常に困難である、という観察結果を指しています。
この概念は、ハンス・モラベックが1988年に著した『Mind Children』に由来します。モラベックは、今も昔もロボット工学の研究者です。彼は次のように書いています。
コンピュータに知能テストやチェッカーで大人に近いレベルのパフォーマンスを発揮させるのは比較的容易だが、知覚や運動能力において、1歳児のスキルを身につけさせるのは困難、あるいは不可能である。
人工知能の黎明期、研究者たちはチェスやその他の推論タスクに焦点を当てていました。これらは最も難しいタスクの一つであり、人間の独自性の象徴であると考えられていたからです。興味深いことに、人間のグランドマスターを打ち負かすロボットを作ろうとする場合、どの手を指すかを決定するのは実は簡単な部分であり、本当に難しいのは実際にチェス盤の上で駒を動かすことです。今日ではこれが広く知られているため、モラベックのパラドックスは非常に直感的に感じられます。
もしモラベックのパラドックスが真実であるなら、その影響は驚くべきものになります。次にどのようなAI能力が登場するかを知りたい場合、それが人間にとってどれほど難しいかを見るだけで済むからです。その結果、服を畳むことよりも先に科学研究が自動化される、といったことになります。
しかし問題は、モラベック的パラドックスが一度もファクトチェックされていないことです。数十万回再生される動画やTEDトークがこれを事実として繰り返していても、その事実は変わりません。私がこのいわゆるパラドックスの背後にある証拠を深く調査したところ、いくつかの意外な発見がありました。
この記事では、このパラドックスの背後にある理論と証拠がなぜ成り立たないのかを議論します。次に、AIにとって何が容易で何が困難かという単純化された予測が、なぜAI研究者やテクノロジーリーダーたちを誤導してきたのかを説明します。それは一方で恐怖を煽り、他方で誤った安心感をもたらしました（これこそが真のパラドックスと言えます）。最後に、モラベックのパラドックスに頼れないのであれば、私たちはAIの進歩とその影響にどのように備えるべきかという問いに答えます。
パラドックスの背後にある証拠は信頼できない
モラベックのパラドックスを検証するにはどうすればよいでしょうか？現実のタスクのサンプルをいくつか選び、それらが人間にとってどれほど難しいか、AIにとってどれほど難しいかを判断し、グラフを描くことができます。もしそのような結果が得られれば、このパラドックスは実証されたことになります。