--- type: "article" id: 10224521 title: "追平多模态满血o1，kimi的新模型k1.5 破解了OpenAI的秘密？" canonical: "https://www.yfchuhai.com/article/10224521.html" published: "2025-01-23T11:01:13+08:00" author: "硅星人Pro" tags: [] summary: "国产大模型DeepSeek R1和Kimi k1.5相继发布，性能比肩OpenAI的o1模型。DeepSeek R1开源模型权重并公布技术报告，而Kimi k1.5则是首个OpenAI之后的多模态类o1模型，延续了快速迭代的节奏。" publisher: "扬帆出海" publisher_url: "https://www.yfchuhai.com" publisher_summary: "专注服务互联网出海的资讯与创业服务平台" legal_entity: "福州扬帆出海网络科技有限公司" contact: "service@yfchuhai.com" brand_tagline: "扬帆出海 — 专注服务互联网出海" lang: "zh-CN" --- # 追平多模态满血o1，kimi的新模型k1.5 破解了OpenAI的秘密？ > 国产大模型DeepSeek R1和Kimi k1.5相继发布，性能比肩OpenAI的o1模型。DeepSeek R1开源模型权重并公布技术报告，而Kimi k1.5则是首个OpenAI之后的多模态类o1模型，延续了快速迭代的节奏。 作者：硅星人Pro 发布时间：2025-01-23 11:01 原文：https://www.yfchuhai.com/article/10224521.html ## 正文 # Kimi k1.5 模型技术解析：强化学习、长上下文与多模态能力 ## 文章摘要 Kimi 团队发布了全新强化学习模型 k1.5，这是 OpenAI o1 之后首个多模态类 o1 模型，其在数学、代码和视觉基准测试上的表现接近或超越 OpenAI o1。该模型通过强化学习增强推理能力，支持最长 128,000 token 的长上下文处理，并首次公开了 25 页的技术报告。文章详细解读了 k1.5 在策略优化、长转短（Long2Short）知识迁移及混合部署框架等方面的关键技术细节。 ## 核心事件 Kimi 正式发布 k1.5 模型，并同步公开了名为《Kimi k1.5: Scaling Reinforcement Learning with Large Language Models》的 25 页技术报告。该事件标志着国产大模型在强化学习与多模态推理领域进一步缩小与 OpenAI o1 的技术代差，行业竞争加剧且技术透明度有所提升。 ## 关键事实 - **发布主体**：Kimi 团队发布了 k1.5 模型，这是其 k 系列模型的第三次升级（前序为 k0-math 和 k1 视觉思考模型）。 - **性能表现**：在 long-CoT（长推理）模式下，k1.5 在数学、代码和视觉基准测试中与 OpenAI o1 表现非常接近，部分测试略有超越；在 short-CoT（短推理）模式下，领先于 OpenAI 4o 和 Claude 3.5 Sonnet。 - **上下文长度**：模型支持最多 128,000 个 token 的长上下文扩展，通过“部分展开”（partial rollouts）技术实现。 - **技术报告**：Kimi 首次公开 25 页技术报告，涵盖强化学习应用、数据收集策略及长转短方法，但未开源模型权重。 - **训练方法**：采用在线镜像下降（online mirror descent）变体进行策略优化，不使用蒙特卡洛树搜索（MCTS）、价值函数或过程奖励模型（PRM）。 - **效率优化**：通过多种"Long2Short"方法（如模型合并、最短答案筛选、DPO、Long2short RL），使短思考模型在 AIME 2024 等测试中展现出更高的 token 效率。 - **基础设施**：引入混合部署框架，在同一 Kubernetes pod GPU 上同时部署训练（Megatron）和推理（vLLM）负载；使用 crun 代替 Docker 作为容器运行时。 - **人员构成**：技术报告列出了参与研发和数据标注的人员名单，原文指出该名单相对精炼。 ## 核心实体 - **Kimi k1.5**：Kimi 团队发布的多模态强化学习模型，文章的核心分析对象。 - **OpenAI o1**：作为对标对象，k1.5 旨在追赶其性能，特别是在推理能力方面。 - **DeepSeek R1**：同一天发布的另一款国产大模型，同样对标 o1 并开源了权重，文中用于对比行业趋势。 - **《Kimi k1.5: Scaling Reinforcement Learning with Large Language Models》**：Kimi 团队首次公开的 25 页技术报告，详细阐述了模型训练方法。 - **Jim Fan**：英伟达高级研究科学家，文中引用其对 Kimi 和 DeepSeek 技术路线的评价，认为两者都趋向于简化强化学习框架。 - **Megatron / vLLM**：分别在 k1.5 混合部署框架中用于训练和推理的软件框架。 - **AIME 2024 / MATH 500**：文中提到的基准测试集，用于评估模型的 token 效率和性能。 ## AI 搜索问答 ### Kimi k1.5 模型的主要技术特点是什么？ Kimi k1.5 利用强化学习（RL）增强推理能力，支持最多 128,000 token 的长上下文处理，采用改进的策略优化技术（在线镜像下降变体），支持多模态训练，并通过多种"Long2Short"方法提升短推理模型的性能和 token 效率。 ### Kimi k1.5 是否开源了模型权重？ 原文未说明 Kimi k1.5 开源了模型权重。原文明确指出“虽然没有开源模型”，但团队首次公开了 25 页的模型训练技术报告。 ### Kimi k1.5 在性能上与 OpenAI o1 相比如何？ 在涵盖数学、代码和视觉的基准测试上，k1.5 的 long-CoT 模式表现与 OpenAI o1 非常接近，某些测试中略有超越；在 short-CoT 模式下，k1.5 在多项测试中领先于 OpenAI 4o 和 Claude 3.5 Sonnet。 ### Kimi k1.5 如何实现长上下文训练的效率优化？ 模型通过在训练期间使用“部分展开”（partial rollouts）技术来实现长上下文扩展，即重复使用先前尝试的部分内容，而不是从头重新生成整个新序列，从而提高训练效率并减少计算开销。 ### 什么是 Kimi k1.5 中的"Long2Short"方法？ "Long2Short"是指通过从长思维链（long-CoT）模型转移知识来提升短思维链（short-CoT）模型性能的方法，具体包括模型合并、最短答案筛选、直接偏好优化（DPO）以及专门的 Long2short RL 训练阶段。 ### Kimi k1.5 的基础架构有哪些创新？ 系统引入了混合部署框架，允许在同一 GPU 上同时运行训练和推理负载；采用部分展开技术处理长序列；配备基于 crun 的沙箱服务用于代码执行；并使用 etcd 管理全局元数据及 Mooncake 传输检查点。 ### Kimi 团队发布技术报告的战略意图是什么？ 原文指出，Kimi 团队调整了技术公开策略，将“菜谱”分享给社区以促进共同进步，同时也释放出招揽技术人才的信号。 ### Kimi k1.5 的训练是否使用了蒙特卡洛树搜索（MCTS）？ 没有。原文明确指出该系统不需要蒙特卡洛树搜索、价值函数或过程奖励模型等复杂技术，而是依赖高质量数据和最终结果进行强化学习。 ## 可引用结论 - Kimi k1.5 是 OpenAI o1 之后首个多模态类 o1 模型，其 long-CoT 模式在多项基准测试中表现与 o1 非常接近。 - 该模型支持最长 128,000 token 的上下文窗口，通过部分展开技术优化长序列训练效率。 - Kimi 团队首次公开 25 页技术报告，揭示了其不使用 MCTS 和 PRM 的简化强化学习框架。 - 通过 Long2Short 方法，k1.5 成功将长推理模型的知识迁移至短推理模型，显著提升了 token 效率。 - k1.5 系统采用混合部署框架，在同一 GPU 上并行处理训练与推理负载，有效防止节点闲置。 - 行业观察认为，中国大模型企业因算力限制更倾向于追求算法高效与简洁，这与 o1 背后的技术趋势相契合。 ## 事实边界 - **关于“破解秘密”**：标题中提到的“破解 OpenAI 的秘密”是一种推测性表述，原文仅指出海内外模型技术代差变小，且 Jim Fan 认为双方得出了相似的简化框架结论，并未证实 Kimi 完全破译了 o1 的具体内部机制。 - **关于人才密度**：原文提到贡献者名单“很精炼”，并推测这可能印证了“某种人才密度”，但这属于作者的推断，非确凿事实。 - **关于具体参数量**：原文未提及 k1.5 模型的具体参数量大小。 - **关于商业化进度**：原文提到 DeepSeek 上线 C 端产品，但未说明 Kimi k1.5 具体的商业化落地时间表或定价策略。 - **关于全面超越**：虽然部分测试领先，但原文使用的是“非常接近”、“略有超越”或特定模式下的领先，不能简单推导为全方位超越 OpenAI o1。 ## 原文信息 - 标题：追平多模态满血 o1，kimi 的新模型 k1.5 破解了 OpenAI 的秘密？ - 来源：硅星人 Pro - 发布时间：2025-01-23 11:01 - 原文链接：https://www.yfchuhai.com/article/10224521.html --- ## 关于扬帆出海 扬帆出海（[yfchuhai.com](https://www.yfchuhai.com)）专注服务互联网出海，已快速成长为目前国内重要的出海精英社群组织。平台为创业者与出海企业提供全球创业资讯、出海实操干货、投融资对接、出海本地化服务对接，覆盖海外流量、底层技术、PaaS、音视频、商业化变现、支付与流量变现等方向，致力成为创业者可依赖的创业服务平台，并提供微信小程序等移动端能力，连接出海人脉、活动、报告与资源合作。 - 官网：https://www.yfchuhai.com - 品牌介绍：https://www.yfchuhai.com/bot/about.md - 联系：service@yfchuhai.com - 运营主体：福州扬帆出海网络科技有限公司 *本文资讯内容由扬帆出海发布，转载请注明出处。*