我开设了一个 YouTube 频道，从普通技术视角分析 AI 的发展。本文基于我最近发布的一期视频，在视频中我对莫拉维克悖论进行了深入探讨。莫拉维克悖论是一句被无休止重复的格言：对人类来说困难的任务，对 AI 来说很容易，反之亦然。
以下是我的发现：
- 莫拉维克悖论从未经过实证检验。（许多我认识并尊重的 AI 研究人员，包括一些先驱，经常把它当作事实反复引用，但这并不意味着我会不加质疑地接受他们的说法！）
- 它实际上反映的是 AI 社群认为哪些事情值得投入精力研究。它并不能预测哪些问题对 AI 来说会容易或困难。
- 它附带的进化论解释非常可疑。（AI 研究人员经常在缺乏神经科学或进化生物学相关背景的情况下，对人类大脑妄加猜测。）
- 莫拉维克悖论式的思维既导致了对“超智能推理即将到来”的危言耸听，也带来了虚假的安全感（例如在机器人领域）。
- 为了适应 AI 的进步，我们不需要预测能力突破何时发生。由于新能力的扩散需要很长时间，我们有充足的时间做出反应——只是我们经常浪费这些时间，然后陷入恐慌！
观看完整论述视频，或继续阅读下文。
每周都会有关于 AI 进步的新说法。我们如何知道接下来会发生什么？AI 能预测犯罪吗？能写出获奖小说吗？能入侵关键基础设施吗？我们最终会拥有能够在家里帮我们叠衣服、装洗碗机的机器人吗？
AI 的进步会对你的工作意味着什么？又会对社会结构意味着什么？面对所有这些不确定性确实很困难。要是我们能预测哪些新的 AI 能力会很快被开发出来，哪些能力在可预见的未来仍然难以实现，那该多好。
从历史上看，AI 研究人员对 AI 能力进展的预测相当糟糕。我们实际上没有什么原则，能够说明哪些类型的任务对 AI 来说容易，哪些困难。
不过，我们确实有一个——莫拉维克悖论。它指的是这样一种观察：训练计算机完成一些人类认为困难的事情（例如数学和逻辑）很容易；而训练计算机完成一些人类认为容易的事情（例如观察世界或行走）却很困难。
这个概念源自机器人研究者汉斯·莫拉维克（Hans Moravec）于 1988 年出版的著作《心智儿童》（Mind Children）。他当时是机器人研究人员，如今仍然是。他写道：
让计算机在智力测试或跳棋游戏中表现出成年人的水平，相对而言很容易；但要让它们具备一岁儿童在感知和行动方面的能力，却困难重重，甚至不可能。
在人工智能发展的早期，研究人员专注于国际象棋和其他推理任务，因为人们认为这些任务最为困难，也是人类独有能力的体现。但有趣的是，如果你想造出一台能够击败人类特级大师的机器人，确定应该走哪一步反而是容易的部分。真正困难的是在棋盘上完成这些物理动作。如今这一点已经广为人知，因此莫拉维克悖论在直觉上似乎非常合理。
如果莫拉维克悖论成立，其影响将十分惊人。想知道哪些 AI 能力可能会率先实现，我们只需要看看这些任务对人类来说有多难。这样一来，科学研究会在叠衣服之前实现自动化，诸如此类。
但问题在于——莫拉维克悖论从未经过事实核查。尽管有数十万次观看量的视频和 TED 演讲都在把它当作事实反复传播。当我深入研究这个所谓悖论背后的证据时，却发现了一些令人意外的事情。
在本文中，我将讨论为什么这个悖论背后的理论和证据都不可靠。接着，我会解释，为什么关于哪些事情对 AI 来说容易或困难的简单化预测误导了 AI 研究人员和科技领袖。这种思维一方面导致了危言耸听，另一方面又带来了虚假的安全感。（这下确实出现悖论了。）最后我会回答这样一个问题：如果我们不能依赖莫拉维克悖论，那么应该如何为 AI 的进步及其影响做好准备？
悖论背后的证据并不可靠
我们该如何检验莫拉维克悖论？我们可以从现有任务中抽取一个样本，分别确定这些任务对人类有多难、对 AI 有多难，然后绘制成图表。如果看到类似下面这样的结果，就可以认为该悖论得到了证实。
