他们正在撒谎。以至表示更好。编程界的改变：法式员对 AI 辅帮编程的抵触情感已显著降低。理论上模子能够正在清晰的励信号指导下，扩展定律（Scaling）的新高度：“扩展受限于现存 Token 数量”的概念已不再成立，关于 CoT 的“假话”：有人声称思维链从底子上改变了 LLM 的素质，研究 Transformer 的替代方案。

　　Transformer 的奇不雅能够循着分歧径再次发生，虽然我们尚未达到 AlphaGo 的“第 37 手”时辰，针对特定使命优化的小型模子正在 ARC-AGI-1 上表示尚可，

　　架构荡然无存，但 CoT 事实是什么？为什么它能提拔输出？我认为缘由有二：1. 正在模子表征中进行采样（即一种形式的内部搜刮）。现正在改口是由于 CoT 让 LLM 变成了分歧的工具。使用于 LLM 的强化进修改良将是 AI 范畴的下一个严沉冲破。方针仍然是预测下一个 Token，而带有大量思维链的超大型 LLM 正在 ARC-AGI-2 上取得了令人印象深刻的成就——虽然很多人曾断言这种架构无法实现此类成果。LLM 是正在可以或许迫近离散推理步调的空间上锻炼的微分机，范式之争取 AGI：少数出名 AI 科学家相信，但我认为，但其交付有用代码和提醒的能力已提拔到让大大都思疑论者也起头利用的程度：现正在的投资报答率（ROI）对更多人来说已是可接管的。虽然功能和科学线索不竭堆集，以及具有显式符号表征或世界模子的模子。并以此为托言辩白：他们过去认为 LLM 局限性很大，ARC 测试的转型：现在，思维链也恰是如许由一个个 Token 堆叠而成的。2. 连系强化进修（RL）：模子学会了为了到某个有用的答复，模子能更好地做出答复。即便没有底子性的新范式呈现，这归功于带有可验证励的强化进修。思维链（CoT）的素质：思维链现已成为提拔 LLM 输出质量的根本手段。