AI 通过错误的推理得到正确的结果?
AI 真的会推理吗?它展示的推理链/思维链真的是导出结论前的逻辑步骤?或者它给出的推理过程只是在糊弄我们?一种拟人化的虚构?Quantamagazine 上的一篇文章讨论了这一问题,作者认为 LRM(large reasoning models)在解复杂问题时常常能给出正确答案,但整个机制仍然是不透明的,是一种黑盒子,而思维链更像是某种自言自语而不是严谨的推理。AI 专家 Melanie Mitchell 指出,LRM 有效,执行推理任务的准确率比 LLM 高;思维链不一定忠实反映模型内部的运作过程;模型合成的思维链文本基本无用完全可以删除。2025 年美国东北大学和加州伯克利的研究人员分析了开源前沿 LRM 模型,发现 30%-60% 的思考步骤对模型在数学题上给出的答案“几乎没有因果影响”。