我开设了一个 YouTube 频道,在其中我从普通技术视角分析 AI 的发展。本文基于我最近的一期视频,我在其中对 莫拉维克悖论(Moravec’s paradox) 做了深入解析——也就是那句被反复引用的格言:对人类来说困难的任务,对 AI 来说很容易,反之亦然。
我的发现如下:
莫拉维克悖论从未经过实证检验。(许多 AI 研究者,包括我认识并尊敬的一些先驱,常常把它当作事实来重复,但这并不意味着我会照单全收!)
它实际上是在描述 AI 社区认为值得投入精力去做什么,并不能预测哪些问题对 AI 来说会容易或困难。
它还附带了一个我认为非常可疑的进化论解释。(AI 研究者一向喜欢在没有任何神经科学或进化生物学相关背景的情况下,随意编造关于人类大脑的说法。)
莫拉维克悖论式的思维既导致了危言耸听(关于迫在眉睫的超智能推理),也导致了错误的安慰(在机器人等领域)。
为了适应 AI 的进步,我们不需要预测能力突破。由于新能力的扩散需要很长时间,这给了我们充足的反应时间——而我们往往把这段时间白白浪费掉,然后再恐慌!
完整论证可在这里观看,或继续阅读下文。
每周都会出现关于 AI 进展的新说法。我们怎么知道接下来会发生什么?AI 能预测犯罪吗?写出获奖小说吗?入侵关键基础设施吗?我们会不会终于拥有能在家里帮我们叠衣服、装洗碗机的机器人?
AI 的进步会对你的工作意味着什么?会对社会结构意味着什么?面对这一切不确定性,确实很难应对。要是我们能有一种方法来预测哪些新的 AI 能力很快会被开发出来,哪些能力在可预见的未来仍然很难实现就好了。
从历史上看,AI 研究者对 AI 能力进展的预测一直相当糟糕。我们其实并没有什么原则,能够说明哪些任务对 AI 来说容易,哪些任务困难。
不过,我们确实有一个——莫拉维克悖论(Moravec’s paradox)。它指的是这样一种观察:让计算机完成诸如数学和逻辑这类人类觉得困难的事情很容易,而让它们完成诸如看世界或走路这类我们觉得轻松的事情却很难。
这一概念出自汉斯·莫拉维克(Hans Moravec)1988 年的著作《心灵的孩子》(Mind Children)。他是一位机器人研究者,过去是,现在也是。他写道:
让计算机在智力测验或下跳棋中表现出接近成人水平,相对容易;而在感知和移动方面,要让它们具备一岁婴儿的能力,却很困难甚至不可能。
在人工智能的早期,研究者主要关注国际象棋和其他推理任务,因为当时人们认为这些任务最难,也最能体现人类的独特性。但有趣的是,如果你想造出一台能击败人类特级大师的机器人,决定该走哪一步其实是容易的部分。真正困难的是把这些步子在棋盘上实际走出来。今天这点已经广为人知,因此莫拉维克悖论似乎确实很符合直觉。
如果莫拉维克悖论是真的,那么其含义将非常惊人。若我们想知道下一步可能会出现哪些 AI 能力,只需看看这些能力对人类来说有多难即可。于是,科学研究会先于叠衣服之类的事情被自动化,等等。
但问题在于——莫拉维克悖论从未被事实核查过。尽管有数十万播放量的视频,以及 TED 演讲都把它当作事实反复讲述,情况依然如此。当我深入研究所谓悖论背后的证据时,我发现了一些令人意外的东西。
在这篇文章里,我会讨论为什么该悖论背后的理论和证据都很站不住脚。然后我会解释,为什么关于 AI 哪些事情容易、哪些事情困难的简单化预测,误导了 AI 研究者和科技领袖。它一方面导致了危言耸听,另一方面又带来了错误的安慰。(这下真有点悖论了。)最后,我还会回答一个问题:如果我们不能依赖莫拉维克悖论,那我们应该如何为 AI 的进步及其影响做准备?
悖论背后的证据很站不住脚
我们该如何检验莫拉维克悖论?我们可以抽取一部分现实中的任务,判断它们对人类有多难、对 AI 有多难,然后画一张图。如果我们看到类似这样的结果,那么这个悖论就得到了证实。