复旦大学的一位教授近期在公开场合谈及了DeepSeek这款人工智能产品,他用了一个生动的比喻来形容DeepSeek对AI界的影响——“鲶鱼效应”。在生物学中,“鲶鱼效应”是指通过引入一种竞争者或挑战者,来激活整个群体的活力和竞争力。教授认为DeepSeek正是这样一条“鲶鱼”,它的出现不仅激发了行业内其他企业的创新动力,还推动了整个AI领域技术的发展和应用的拓展。
DeepSeek凭借其独特的算法和技术优势,在众多AI产品中脱颖而出,为用户提供了更加精准、高效的服务。它的成功,让业界看到了技术创新的重要性,鼓励更多的企业和研究机构投入到AI领域的研发中去,从而形成了一种良性循环的竞争环境。这种积极向上的氛围有助于促进整个行业的进步和发展,使得AI技术能够更好地服务于社会和经济建设。简而言之,DeepSeek就像一股清新的空气,给沉闷的市场带来活力,促使所有参与者不断自我超越,共同推动AI技术向前发展。
科技圈从来不缺新闻,但 DeepSeek-R1 的出现却像一颗石子投入平静的湖面,激起了层层涟漪。这家来自中国的 AI 初创公司以其开源的推理大模型 R1 搅动了全球 AI 格局。R1 不仅性能媲美甚至超越 OpenAI o1,还以低廉的成本和开放的姿态赢得了全世界的关注。DeepSeek-R1 的开源策略和高效性能正在迫使整个行业重新思考 AI 的未来。
中国计算机学会青年计算机科学与技术论坛(CCF YOCSEF)近期组织了一场研讨会,邀请了复旦大学邱锡鹏教授、清华大学刘知远长聘副教授、清华大学翟季冬教授以及上海交通大学戴国浩副教授四位专家,从不同角度深入解析了 DeepSeek-R1 的技术突破与未来影响。
要理解 R1 的突破,需要从 o1 类推理模型说起。邱锡鹏认为当前人工智能领域正面临一个重要转折点。此前 Ilya 称“预训练时代可能即将结束”,主要源于数据增长的停滞。OpenAI 开始转向强化学习和推理式计算,试图通过增加推理长度来改进模型性能,为下一代大模型的发展注入新动力。
o1 模型的训练在强化学习框架下进行,大语言模型充当一个 Agent,每个动作生成下一个 token,最终生成整个 step 或 solution。o1 这类大型推理模型可以分为四个核心要素:策略初始化、奖励函数设计、搜索策略和学习过程。策略初始化要求模型具备初始的类人推理行为能力,包括问题理解、任务分解及验证和修正错误的能力。奖励函数设计则涉及从环境中直接获得奖励信号或通过专家偏好数据训练奖励模型。搜索策略包括基于树的搜索和基于顺序修改的搜索。学习过程主要包括使用强化学习和其他方法优化模型,分为预热阶段和强化学习阶段。
R1 发布了两个版本:R1-Zero 和 R1。R1-Zero 完全依靠强化学习驱动,不经过预热阶段,没有任何初始的人工调节。在训练过程中,随着步骤的增加,模型逐渐展现出长文本推理能力,尤其是长链推理,并表现出自我修正能力。不过也存在一些问题,如语言混合的问题。
R1 的训练分为四个关键阶段:冷启动阶段、推理导向的强化学习阶段、拒绝抽样与监督微调阶段,以及全任务强化学习阶段。值得注意的是,R1 并未采用传统的过程监督或蒙特卡洛树搜索等技术,而是通过 majority vote 大幅提高推理效果。尤其令人意外的是,R1 在写作能力方面表现突出。
下一篇:盛勇:扎根榕城培育指挥人才