在多项基准测试(数学、科学、医学等)中,它们的得分高出约 10%,使用的 Token 减少了一半,运行速度提升了两倍,且成本远低于常规模型。
版主说明,论文链接:[2610.18861] Hybrid Reasoning Agents
原帖发布于 tech_x。
编辑补充:该方法是对当前词空间推理(word-space reasoning)大语言模型(LLM)的一种适配。如果你信任该模型便可使用,面对新模型时建议慎用。
热门讨论
lordcaylus (⬆184):确实,我们早就知道这样会更快、更便宜。但我们也知道,这会让智能体(agent)隐藏欺骗性行为变得容易得多。我认为这种安全层面的妥协并不值得。
neopolitan77 (⬆32):这和非推理型 LLM 没什么两样,不是吗?我一直觉得这迟早会被重新折叠回模型内部。虽然能以可解释的方式看到部分计算过程很不错,但也有把这拟人化为“思考”的风险。
lordcaylus (⬆26):是的,但非推理模型的智能程度较低。让它们隐藏部分推理过程,就会赋予它们“双重思想(doublethink)”的能力。我记得有人用“回答时不要去想粉色大象”这个例子测试过,常规推理模型在推理过程中仍然会输出“我不应该去想粉色大象”,而像这样的混合模型则能让它们的推理日志完全不出现粉色大象的痕迹(大概是因为它们把‘不要去想’的思绪隐藏了起来……
vtkayaker (⬆22):我们完全清楚模型能够伪造推理轨迹(reasoning traces)。它们目前只是还不太擅长伪造而已。现在它们在这方面会变得厉害得多。这让我很恼火,因为我在运行本地模型时都会开启推理轨迹,并借此了解模型何时严重偏离方向或产生困惑。我还会用它来调试。我其实非常反感使用隐藏了推理过程的云端模型。即便不够完美,推理过程的可视化也是我喜欢本地 AI 的原因之一。
TldrDev (⬆29):什么鬼?Facebook?搞欺骗?怎么可——能——啊——
BalleaBlanc (⬆61):“听我的准没错,兄弟(trust me bro)”版 LLM。
R_Duncan (楼主) (⬆9):这不是那种“信我准没错”的 LLM。它是对常规 LLM 的一种改进,可以自由开启或关闭。
AdCreative8703 (⬆44):代价是完全无法洞悉模型是如何得出答案的?我相信它确实有其应用场景,但考虑到当前的模型对齐(alignment)问题,这感觉代价太大了,甚至可能潜藏危险。