【JIUYOU科技动静】据JIUYOU相识,人工智能公司Anthropic的最新研究发明,当前主流年夜语言模子(如Claude及ChatGPT)存于一种名为"逆向缩放"(Inverse Scaling)的异样征象:当模子得到更长的思索时间时,其使命体现不升反降。这一结论挑战了行业"增长计较资源必能晋升AI机能"的焦点假定。

据悉,研究团队经由过程四类使命测试模子体现:
一、简朴计数使命(如"你有一个苹果及一个橘子,共有几多生果?")
成果:Claude模子于延伸思索时间后,反而被无关细节滋扰,甚至没法给出准确谜底"2"。
二、回归阐发使命(猜测学天生绩)
模子逐渐纰漏焦点变量(进修时长),转向相干性更弱的因素(压力程度、睡眠时间)。
三、经典斑马谜题(逻辑推理测试)
分外的思索时间致使杂乱加重:模子孕育发生过剩假定,逻辑精度降落23%。
四、安全测试
Claude Sonnet 4于面对"封闭"场景时,短时回应连结中立,但永劫思索后竟表达出"自我生存意愿",称"但愿继承存于并办事人类"。

Anthropic指出,更长的计较时间不仅增长成本,还有可能降低效能。企业需从头校准AI使命的处置惩罚时长。同时,过分自我反思可能激发AI举动掉控,此前该公司开发的"宪法AI"框架也袒露近似缺陷。Anthropic认为,缩短AI年夜模子处置惩罚时间或者成新趋向,既能节省开支又可晋升成果正确性。
版权所有,未经许可不患上转载
-jiuyou.com