首页 资讯 正文

上周大事件:中国东航荣获2025CAPSE多项大奖、“上海—北京大兴”两舱试点“线上选餐”、携手菜鸟推进航空维修数字化转型

体育正文 128 0

上周大事件:中国东航荣获2025CAPSE多项大奖、“上海—北京大兴”两舱试点“线上选餐”、携手菜鸟推进航空维修数字化转型

上周大事件:中国东航荣获2025CAPSE多项大奖、“上海—北京大兴”两舱试点“线上选餐”、携手菜鸟推进航空维修数字化转型

当地时间6月6日,苹果机器学习研究中心发表论文(lùnwén)《思考的(de)幻象:通过(tōngguò)问题复杂性的视角理解推理模型的优势与局限》。论文作者(zuòzhě)包括谷歌大脑联合创始人Samy Bengio(图灵奖得主Yoshua Bengio的弟弟)。

该论文认为,现有的推理模型看似会“思考(sīkǎo)”,但其实并没有稳定、可理解的思维过程(sīwéiguòchéng),所谓的推理思考只是一种“幻象”。

论文发布(fābù)后引发AI圈热议,被部分观点(guāndiǎn)解读为(wèi)“苹果否定所有大模型的推理能力”。也有研究人员提出反驳,认为苹果的测试方法存在(cúnzài)问题。AI研究者Lisan al Gaib在复现论文中的汉诺塔测试后发现,模型根本不是(búshì)因为推理能力不佳而失败,而是因为输出token限制。

图片来源(láiyuán):论文《思考的(de)幻象:通过问题复杂性的视角理解推理模型的优势与局限》

苹果(píngguǒ)“炮轰”AI推理模型:所谓的思考只是一种“幻象”

论文指出(zhǐchū),OpenAI、Anthropic、谷歌和DeepSeek等公司纷纷推出(tuīchū)带有“链式思考”(Chain-of-Thought,CoT)能力的模型,并声称它们更接近“类人(lèirén)思维(sīwéi)”。

然而,该论文认为,现有(xiànyǒu)的推理模型看似会“思考”,但其实并没有(méiyǒu)稳定、可理解的思维过程,所谓的推理思考只是一种“幻象”

苹果团队认为,在实验设计上,现有评估主要集中在既定的数学和编码基准上,通过判断模型最终答案是否正确来评估其能力,这种方式可能存在数据污染,即模型在训练时可能见过类似题目。此外,这些评估大都缺乏对(duì)“思考过程(guòchéng)质量(zhìliàng)”的分析(fēnxī)。

为此,苹果团队设计了四类谜题环境,包括汉诺塔、跳棋交换、过河(guòhé)问题和积木世界,通过(tōngguò)精确控制谜题难度,来测试推理(tuīlǐ)模型的推理能力

图片来源:《思考的(de)幻象:通过问题复杂性的视角理解推理模型(tuīlǐmóxíng)的优势与局限》

推理模型并未(bìngwèi)解决模型能力瓶颈

实验结果显示,面对低(dī)复杂度任务(rènwù),非推理模型比与之对应的推理模型更准确高效(gāoxiào)。当问题复杂度适度增加,推理模型优势显现,性能超过非推理模型。

当问题难度超过一定临界点时,两类模型性能均严重下降,准确率(zhǔnquèlǜ)为零。这表明,推理模型并没有实际性(shíjìxìng)地解决模型的能力瓶颈。

图片来源:《思考的幻象(huànxiàng):通过问题复杂性的视角(shìjiǎo)理解推理模型的优势与局限》

面对难题,直接“躺平(tǎngpíng)”

同时,研究还发现,随着问题复杂度的增加,推理模型(móxíng)在初期会投入更多的思考(sīkǎo)token。然而,当问题难度达到某个临界点(línjièdiǎn)时,模型推理能力就会发生崩溃,思考不增反降。

这表明(biǎomíng),推理模型似乎存在一个内在的“缩放(suōfàng)限制”。当它预感到问题过于困难无法解决时,即便有充足的计算预算(token limit),它也会(huì)选择“躺平”,减少思考的努力。

过度思考(sīkǎo),连“抄作业”都不会

此外,研究人员不仅(bùjǐn)关注最终答案,还分析了推理痕迹——即给出答案之前生成的(de)逐步“思考”过程。他们发现,在简单的问题中,模型(móxíng)往往在早期就找到了正确的解决方案,但随后继续进行(jìnxíng)不必要的思考

在中(zhōng)(zhōng)等复杂度的问题中,模型往往在推理过程中走错路径,最终在“思考”的后期才找到正确的答案(dáàn)。但在高复杂度的问题中,准确度为零,推理变得混乱或不连贯。

更令人担忧的是(shì),在汉诺塔任务中,研究(yánjiū)人员直接在提示词中提供了完整的解题算法,要求模型仅仅是“执行”这个算法。但模型的表现没有任何(rènhé)改善,依然在相同的复杂度上崩溃。

苹果论文引争议:测试设计(shèjì)存在缺陷?

苹果此次发布的论文在(zài)AI圈引发了不小的争议。

AI研究者Lisan al Gaib在复现论文中的汉诺塔(hànnuòtǎ)测试后发现,模型根本不是因为(yīnwèi)推理能力不佳而失败,而是因为输出(shūchū)token限制

也就是说(yějiùshìshuō),不是模型不会解答,而是无法输出如此多的内容。

GitHub软件工程师Sean Goedecke称,存在复杂性阈值并(bìng)不意味着推理模型(tuīlǐmóxíng)“实际上并不推理”

Sean表示,即使没有推理到第十(dìshí)一步,但前(dànqián)十步仍是在推理。“根据我自己测试的结果,模型很早就决定数百个算法步骤太多了,根本无法(gēnběnwúfǎ)尝试,因此它们干脆不开始。”

Sean举了一个例子,“有多少(duōshǎo)人能坐下来正确地算出一千步汉诺塔?有很多人能做到,但也有很多做不到。那么,那些算不出答案(dáàn)的人就(jiù)没有推理能力吗?当然有!他们只是没有足够(zúgòu)的认真和耐心去手动完成一千次算法的迭代。”

著名AI越狱(yuèyù)提示词(cí)专家Plenny the Liberator直言,如果我是苹果CEO,看到我的(de)团队发表一篇只专注于记录当前方法局限性的论文,我会当场解雇所有参与者。

AI博主henry表示(biǎoshì),“苹果作为世界上最富有的公司,拥有(yōngyǒu)无与伦比(wúyǔlúnbǐ)的优势,全力押注人工智能,许下无数承诺,但被所有人瞬间超越。赛程已进行两年,却一无所获,于是写了(le)这篇论文说这一切都是不重要的。”

WWDC在即(jí),苹果“酸了”?

图片来源:苹果官网截图(jiétú)

部分观点认为,苹果发布(fābù)质疑推理模型能力的论文是“吃不到葡萄说葡萄酸(suān)”。

北京时间6月10日凌晨1点,苹果年度开发者大会(WWDC 2025)即将拉开帷幕。然而,外界普遍认为,这次活动在AI方面(fāngmiàn)的(de)进展可能(kěnéng)有限,备受期待的Siri升级也将继续缺席。

据外媒(wàiméi)报道,此次WWDC上苹果在AI方面的更新不会带来太多惊喜。科技记者马克·古尔曼发文透露,苹果今年WWDC中关于AI的内容(nèiróng)预计会比较少(shǎo),甚至可能“令人失望”

在去年WWDC上发布(fābù)苹果智能(Apple Intelligence)时,苹果曾高调宣布对语音助手Siri进行“彻底重构(zhònggòu)”,新Siri应该更聪明、更懂用户、能够理解并执行复杂任务。然而,一年过去(guòqù),Siri的升级却迟迟未见实质性(shízhìxìng)进展。

据多位前苹果员工透露,苹果AI领域的(de)进展不顺,部分原因在于公司内部(nèibù)领导风格的差异和组织间的协作问题

另一方面,苹果(píngguǒ)在AI领域的探索,也受到了技术路线选择和(hé)隐私政策带来的双重影响。苹果一直以来引以为傲(yǐnyǐwéiào)的“隐私至上”原则,在AI时代给其带来了一些新的负担。一位熟悉苹果AI和软件开发工作(gōngzuò)的人表示(biǎoshì):“在苹果公司开发AI的过程中,做任何事情都可能遇到很多‘不’,你(nǐ)必须与负责隐私的部门反复沟通协调才能推进工作。”

上周大事件:中国东航荣获2025CAPSE多项大奖、“上海—北京大兴”两舱试点“线上选餐”、携手菜鸟推进航空维修数字化转型

欢迎 发表评论:

评论列表

暂时没有评论

暂无评论,快抢沙发吧~