跳转到内容
主站 新闻 控制台

# AI 会拖慢科学发展吗?

分析实践

AI 领域的领军人物曾预测,它将带来颠覆性的科学进步:治愈癌症、将人类寿命翻倍、殖民太空,并在未来十年实现一个世纪的进步。鉴于美国联邦科学经费被削减,这个时间点似乎正合适,因为 AI 甚至可能替代大规模科学劳动力的需求。

至少在技术圈内,有一种常识性的看法:随着 AI 被应用到科学流程的每个环节——梳理既有文献、生成新想法、进行数据分析和实验来验证这些想法、撰写研究结果,以及开展“同行”评审——它会大幅加速科学进展。

但对于一项新技术对既有制度的影响,许多早期看似常识性的预测后来都被证明大错特错。天主教会曾欢迎印刷机,认为它可以通过印刷《圣经》来巩固自身权威。社交媒体在早期则带来了天真乐观的期待:人们以为“阿拉伯之春”之后,民主会在全球广泛传播。

同样,AI 对科学的影响也可能出人意料。即使单个科学家因采用 AI 而受益,也并不意味着科学整体会受益。若从宏观层面思考,我们面对的是一个具有涌现性质的复杂系统。这个系统之所以会以出人意料的方式运作,是因为它不是市场。它在某些方面比市场更好,比如奖励真相;但在另一些方面却更差,例如应对技术冲击的能力。到目前为止,总体而言,AI 对科学来说是一种不健康的冲击,把科学的许多流程都拉到了崩溃边缘。

任何严肃预测 AI 对科学影响的尝试,都必须正视生产-进步悖论。科学论文发表数量一直在指数级增长:从 1900 年到 2015 年,增长了 500 倍。但按现有任何可用指标衡量,真正的进步却一直保持不变,甚至在放缓。因此,我们必须问:AI 正在如何影响、以及将如何影响,导致这种脱节的那些因素。

我们在本文中的分析表明,AI 很可能会加剧这种差距。这未必适用于所有科学领域,而且这绝不是必然结局。若能像我们下面提出的那样,及时而认真地采取行动,也许还有可能扭转局面。不幸的是,AI 公司、科学资助方和政策制定者似乎都没有意识到,科学进步的真正瓶颈究竟在哪里。他们只是在试图加速“生产”,这就像在堵塞其实是收费站导致的情况下,给高速公路增加车道一样,结果只会让问题更糟。

目录

  1. 科学一直在放缓——生产-进步悖论
  2. 为什么进步在放缓?AI 能帮上忙吗?
  3. 科学还没有准备好迎接软件,更不用说 AI 了
  4. AI 可能会延长对错误理论的依赖
  5. 人类理解仍然至关重要
  6. 对科学未来的影响
  7. 最后的思考

科学一直在放缓——生产-进步悖论

已发表论文的总数正以指数级增长,每 12 年翻一番。撰写过研究论文的研究者总数增长得甚至更快。并且在 2000 年到 2021 年之间,全球前七大资助方(美国、中国、日本、德国、韩国、英国和法国)在研发方面的投资增加了四倍。1

但这是否意味着进步更快了?未必。有些论文会带来改变科学走向的根本性突破,而另一些则只是对已知结果做出微小改进。

真正的进步源自我们理解上的突破。比如,我们在上个世纪中叶才真正理解了板块构造——也就是大陆在移动这一思想。在那之前,地质学家甚至还没法提出正确的问题。他们试图解释地球冷却的影响,认为山脉等地质特征就是由此形成的。若没有板块构造理论,旧有地质学范式里再多的发现和论文,也不可能带来同样的进步。

因此,完全有可能出现这样的情况:论文数量指数级增长,但进步并没有以同样速度增长,甚至正在放缓。我们如何判断这种情况是否存在?

回答这个问题的一大挑战在于,与研究产出不同,进步并没有清晰、客观的衡量指标。幸运的是,整个研究领域——“科学的科学”,即元科学(metascience)——正试图回答这个问题。元科学使用科学方法研究科学研究本身。它关注的问题包括:研究结果有多大比例可以被复现?哪些因素会影响研究者工作的质量?学术界的激励机制如何影响科学结果?不同的科学资助模式如何影响进步?以及,进步究竟发生得有多快?