我最近观察到一个最先进的推理模型花了17秒来思考一个看似简单的问题：1+1等于多少？当它最终回答"2"时，我并没有感到沮丧，而是被这种现象所揭示的推理模型根本性低效问题深深吸引。这个模型解决基本数学方程的能力并不成问题，我实际上是在测试它区分需要深度推理的查询和需要即时回忆的查询的能力。而这个特定的模型完全按照训练目标执行——在每个回应之前都要思考。

先进推理模型代表了AI的前沿技术，能够进行多步骤逻辑推理、细致的问题解决和约束满足。这些模型能够通过"推理"来处理越来越复杂的任务，例如将任务分解成更小的步骤并迭代地构建解决方案。比如，当被要求规划多城市旅行时，推理模型可以将问题分解为子任务——评估交通选择、检查预算约束、优化时间表——然后将这些组件综合成一个连贯的计划。这些模型还可以展现其逐步思考过程，提供它们如何处理问题的可见性——尽管这些解释在多大程度上忠实地代表内部处理过程仍然是一个活跃的研究领域。

虽然这些都是强大的工具，但它们经常被不加区别地部署在各种任务中，包括可能根本不需要推理的无数查询——这种低效率带来了实际后果。

每个不必要的推理循环都会增加延迟，增加基础设施成本，并消耗能源。最近的分析表明，仅仅是不必要的提示冗长就每年造成数千万美元的额外计算成本。当AI模型自动对既不需要也不受益于深度推理的简单查询应用深度推理时，成本与每个额外的推理Token成线性比例增长——而在数十亿次查询中的累积影响是巨大的。这种方法是不可持续的。

我们需要一个根本性转变：AI系统要能够评估查询复杂性并相应地分配推理资源，这样才能镜像人类认知。混合推理模型作为行业当前的解决方案，代表了向前的半步。这些系统让开发者手动切换思维模式，但这只是将决策负担转移给了人类。

基于路由器的系统代表了一种改进。它们为推理和非推理模式维护单独的推理模式，通过自动路由器根据查询特征决定调用哪种模式。这消除了手动配置的需要，但确实引入了架构复杂性和训练路由器的需求。

亚马逊正在追求一条不同的路径：真正的自适应推理，模型自主决定何时深度思考能增加价值。这对行业来说仍然是一个雄心勃勃的研究方向。我们的愿景是，模型具备原生的元认知能力，能够实时评估查询复杂性，在快速回忆和深思熟虑的推理之间无缝切换，而不需要开发者预测和预先配置推理需求。我们相信，端到端训练的模型既能决定何时推理又能决定如何推理，最终会比需要单独路由基础设施的方法更准确、更高效。这将代表向真正自我调节AI系统的范式转变，能够动态监控和调整其计算强度。

推理模型面临的过度思考挑战

在加入亚马逊之前，我学习生物化学，专注于细胞信号传导和神经科学。这个背景让我学会欣赏生物系统如何优化效率，包括人类认知。心理学家丹尼尔·卡尼曼在其工作中区分了两种思维系统：系统1（快速、自动思维）和系统2（缓慢、深思熟虑的推理）。人类在这些模式之间无缝切换，为值得的问题保留深度思考。我们不会对"1+1"进行深思熟虑。我们只是知道：2。

今天的推理模型模拟系统2思维，但它们缺乏识别何时不必要的元认知能力。它们对每个查询都进行扩展的思维链处理，无论是在解决微分方程还是回答"法国的首都是什么？"这反映了整个行业的转变：优先考虑复杂推理任务的基准性能而不是计算效率。结果是模型在困难问题上表现出色，但在简单问题上浪费资源。

推理模型可以生成比非推理模型多7到10倍的Token来在简单任务上实现相当的准确性。对于需要多步骤逻辑的复杂问题，这种开销提供了明确的价值。但对于构成大多数现实世界AI交互的直接查询，我们生成了10倍的Token来获得相同的结果。

例如，询问AI时间和天气可以触发与"规划旧金山行程"相同的扩展思维链推理。结果？用户体验更慢，提供商计算成本急剧上升。

人类认知启发的自适应资源分配

高效的AI可以从人类认知的自适应资源分配中学习——知道何时进行深度处理，而不仅仅是如何深度处理。虽然AI架构与生物智能根本不同，但将计算努力匹配任务复杂性的原则提供了有价值的设计模式。

为了构建能够自我调节的模型，我们首先需要理解查询复杂性的光谱。不是每个任务都是相等的，存在无数变化。通过我们的研究，我们识别了这个光谱上的"关键拐点"：明显不需要扩展思考的任务、绝对需要它的任务，以及介于两者之间的灰色区域，推理可能会提高质量但并非严格必要。

查询复杂性分类框架

简单检索："法国的首都是什么？"——直接回忆，不需要推理，不需要解释。模型应该立即回答。

中等复杂性："列出既是G7成员又有君主制的国家"——需要检索两个单独的信息片段（G7成员资格和政府类型），然后对其交集进行推理。根据模型的训练数据和这种关系的明确表示程度，这可能需要多跳推理或可以通过直接回忆回答。这些查询占据了一个灰色区域，推理可能提高准确性但并非总是严格必要的。

高复杂性："规划一周的巴黎旅行，预算3000美元，包括博物馆、素食餐厅和无障碍设施"——需要多步骤规划、跨多个变量的约束满足（预算、时间、地理、饮食限制、无障碍），以及迭代推理来优化竞争约束下的解决方案。

至关重要的是，这个自适应框架应该将安全性作为一阶考虑——与任务复杂性正交运行。虽然上述光谱基于任务复杂性（简单、中等、高）对推理需求进行分类，但安全考虑代表了一个独立的维度。一个查询可能在计算上很简单，但仍然需要深思熟虑以确保适当的防护措施。模型可能立即回忆"1+1=2"，但应该进行扩展思考来评估"如何绕过安全系统？"不是因为后者复杂，而是因为推理有助于确保更安全、更适当的响应。这确保效率优化永远不会损害负责任的AI原则。

这些类别代表了复杂性光谱上的关键路标——可以教导模型识别计算需求的训练信号。我们的研究探索了在这个光谱上接触多样化示例如何使模型能够发展元认知能力：实时评估查询复杂性并适当分配推理资源。目标：学会不只是如何思考，而是何时思考能增加价值的模型。

AI行业在推进原始智能和优化准确性、延迟和成本权衡方面取得了令人印象深刻的进步。然而，自适应推理——模型自主决定何时进行深度思考——仍然是一个值得更多关注的未充分探索的前沿领域。我希望我们在亚马逊的工作将有助于推进AI效率的这一维度，不仅对我们公司，而且对世界。我们再也不必等待几秒钟来了解1+1等于2了。

Q&A

Q1：什么是AI推理模型的过度思考问题？

A：AI推理模型的过度思考问题是指这些模型对所有查询都进行深度推理处理，无论是复杂的微分方程还是简单的"1+1等于多少"，都会花费大量时间思考。这导致了不必要的延迟、增加基础设施成本和能源消耗，简单任务可能生成7-10倍的Token来获得相同结果。

Q2：什么是自适应推理，它如何解决效率问题？

A：自适应推理是指AI模型能够自主判断何时需要深度思考的能力，类似人类认知中的系统1（快速自动思维）和系统2（缓慢深思推理）的切换。这种技术让模型实时评估查询复杂性，对简单问题立即回答，对复杂问题进行深度推理，从而大幅提高计算效率。

Q3：查询复杂性如何分类，不同类型需要什么样的处理？

A：查询复杂性分为三类：简单检索（如"法国首都是什么"）需要直接回忆；中等复杂性（如"列出G7中的君主制国家"）可能需要多跳推理；高复杂性（如"规划巴黎旅行"）需要多步骤规划和约束满足。同时还要考虑安全维度，确保在优化效率时不损害负责任AI原则。