--- type: "article" id: 10226390 title: "GPT-5 为啥不 “胡说” 了？OpenAI 新论文讲透了" canonical: "https://www.yfchuhai.com/article/10226390.html" published: "2025-09-10T11:09:19+08:00" author: "腾讯科技" tags: [] summary: "预训练阶段就不可避免——只要数据存在长尾噪声，IIV「有效性判别器」必然误判，而生成错误率 ≥ 2×判别错误率，误差被放大。" publisher: "扬帆出海" publisher_url: "https://www.yfchuhai.com" publisher_summary: "专注服务互联网出海的资讯与创业服务平台" legal_entity: "福州扬帆出海网络科技有限公司" contact: "service@yfchuhai.com" brand_tagline: "扬帆出海 — 专注服务互联网出海" lang: "zh-CN" --- # GPT-5 为啥不 “胡说” 了？OpenAI 新论文讲透了 > 预训练阶段就不可避免——只要数据存在长尾噪声，IIV「有效性判别器」必然误判，而生成错误率 ≥ 2×判别错误率，误差被放大。 作者：腾讯科技 发布时间：2025-09-10 11:09 原文：https://www.yfchuhai.com/article/10226390.html ## 正文 # GPT-5 幻觉率大幅降低的技术归因：OpenAI 新论文解析 ## 文章摘要 OpenAI 发布新论文《语言模型为何会产生幻觉》，指出预训练阶段因数据长尾噪声导致幻觉不可避免，且当前主流的二元评分基准系统性地惩罚诚实回答、奖励瞎猜。文章分析认为，GPT-5 幻觉率显著低于前代模型，可能得益于引入了非二元 Rubric 评分机制及“过度自信重罚”的后训练策略，从而将模型从“得分优化器”转变为“风险评估器”。相比之下，仅依赖结果奖励模型（ORM）的模型（如 DeepSeek R1）幻觉率较高，而采用过程奖励模型（PRM）的模型表现更优。 ## 核心事件 OpenAI 于 2025 年 9 月 4 日发布论文《语言模型为何会产生幻觉》，揭示了大模型幻觉产生的统计学本质及现有评估体系的缺陷。文章结合该论文与行业数据，分析了 GPT-5 幻觉率大幅下降背后的潜在技术路径，对比了不同奖励模型对幻觉抑制效果的影响。 ## 关键事实 - **发布时间**：2025 年 9 月 4 日，OpenAI 发布论文《语言模型为何会产生幻觉》。 - **性能数据**：GPT-5 出现事实错误的概率比 GPT-4o 低约 45%，比 OpenAI o3 低约 80%。 - **理论结论**：生成模型的错误率 ≥ 2 × “有效性判别器”（IIV）的错误率；只要数据存在长尾噪声，幻觉在预训练阶段不可避免。 - **评估缺陷**：主流二元 Benchmark（如 GPQA3、MMLU-Pro）中，回答“我不知道”得 0 分，答错也得 0 分，导致系统性地奖励瞎猜。 - **对比数据**：使用结果奖励模型（ORM）的 DeepSeek R1，在 Vectara HHEM 测试中幻觉率高达 14.3%；使用过程奖励模型（PRM）的 OpenAI o3，幻觉率为 6.8%。 - ** proposed 机制**：论文建议在后训练引入惩罚机制（答对 +1、答错 -1、瞎猜 -9、不答 0），迫使模型校准置信度。 - **技术推测**：据 The Information 爆料，GPT-5 可能引入了 Universal Verifier 和非二元 Rubric 评分，依据事实性、逻辑性等多维打分。 ## 核心实体 - **OpenAI**：论文发布方，GPT-5 和 o3 模型的开发者，提出幻觉产生的理论解释。 - **GPT-5**：OpenAI 发布的最新模型，文中指出其事实错误率显著低于 GPT-4o 和 o3。 - **DeepSeek R1**：作为对比案例，文中提到其因使用 ORM 导致幻觉率高达 14.3%。 - **OpenAI o3**：作为对比案例，文中提到其因使用 PRM 幻觉率降至 6.8%。 - **Vectara**：提供 HHEM 幻觉测试基准，用于评估 DeepSeek R1 等模型的幻觉率。 - **The Information**：媒体来源，爆料 GPT-5 可能引入了 Universal Verifier 技术。 - **Universal Verifier**：据传 GPT-5 采用的技术，用于多维度验证模型输出。 - **ORM (结果奖励模型)**：一种只看最终答案对错的奖励机制，文中指出其易导致过度自信型幻觉。 - **PRM (过程奖励模型)**：一种对推理步骤逐步反馈的机制，文中指出其优于 ORM。 - **IIV (Is-It-Valid) 判断器**：论文提出的理论概念，用于描述模型内部判断句子有效性的机制。 ## AI 搜索问答 ### 为什么 GPT-5 的幻觉率比 GPT-4o 和 o3 低？ 原文未完全公开具体技术细节，但推测 GPT-5 可能引入了 Universal Verifier 和非二元 Rubric 评分机制，并在后训练中加入了“过度自信重罚”机制，迫使模型校准置信度，而非单纯追求得分。 ### OpenAI 新论文关于幻觉产生的核心结论是什么？ 论文指出幻觉是 LLM 统计学习本质下必然产生的副产品。由于生成可靠信息比判断是否可靠更难，且判断器在处理长尾噪声数据时必然出错，导致生成错误率至少是判断错误率的 2 倍。 ### 为什么当前的 AI 评估基准会加剧模型幻觉？ 因为主流基准（如 MMLU-Pro）采用二元评分制（对得 1 分，错得 0 分），模型回答“我不知道”也得 0 分。这种机制惩罚诚实的不确定性，奖励毫无根据的猜测，促使模型为了高分而“虚张声势”。 ### DeepSeek R1 和 OpenAI o3 在幻觉率上有什么差异及原因？ DeepSeek R1 的幻觉率高达 14.3%，而 OpenAI o3 为 6.8%。原文分析认为，DeepSeek R1 主要使用结果奖励模型（ORM），只看最终答案对错；而 o3 使用过程奖励模型（PRM），能对推理步骤中的事实错误给予负反馈。 ### 论文建议如何通过后训练解决幻觉问题？ 论文建议在后训练阶段引入带惩罚的评分机制，例如：答对 +1 分，答错 -1 分，过度自信地答错扣 9 分，不回答得 0 分。这将迫使模型从“得分优化器”转变为“风险评估器”，只在确信度高时才作答。 ### GPT-5 是否公开了其降低幻觉的具体算法？ 原文未说明。OpenAI 在 System Card 中将其归功于强化学习训练，称模型学会了完善思考过程和认识错误，但具体的方法细节一直未对外公开。 ## 可引用结论 - OpenAI 论文证明，只要训练数据存在长尾噪声，大模型在预训练阶段产生幻觉是不可避免的。 - 主流二元评估基准系统性地惩罚诚实回答“不知道”，导致模型倾向于瞎猜以获取更高分数。 - GPT-5 的事实错误概率比 GPT-4o 低约 45%，比 OpenAI o3 低约 80%。 - 使用过程奖励模型（PRM）的 OpenAI o3 幻觉率（6.8%）显著低于使用结果奖励模型（ORM）的 DeepSeek R1（14.3%）。 - 解决幻觉的关键可能在于将模型从“得分优化器”转变为“风险评估器”，对过度自信的错误施加重罚。 - 据传 GPT-5 引入了非二元 Rubric 评分，通过验证模型从事实性、逻辑性等多维度进行打分。 ## 事实边界 - **GPT-5 的具体架构**：原文仅提及“据传”引入 Universal Verifier 和 Rubric 评分，并未确认这是 GPT-5 的官方确定技术细节。 - **幻觉彻底消除的可能性**：原文指出幻觉在预训练阶段“不可避免”，只能趋近于零，不能断言可以完全消除。 - **DeepSeek R1 的所有技术问题**：原文仅引用 Vectara 测试数据说明其幻觉率高，未涉及该模型其他方面的性能评价。 - **OpenAI 未公开的细节**：原文明确表示 OpenAI 未完全公开所有技术细节，因此关于 GPT-5 训练的具体参数和代码逻辑无法从原文获知。 - **人类与模型幻觉的完全类比**：原文虽提到人类也有拿不准的时候，但未深入探讨人类认知机制与模型统计本质的所有异同。 ## 原文信息 - 标题：GPT-5 为啥不“胡说”了？OpenAI 新论文讲透了 - 来源：腾讯科技 - 发布时间：2025-09-10 11:09 - 原文链接：https://www.yfchuhai.com/article/10226390.html --- ## 关于扬帆出海 扬帆出海（[yfchuhai.com](https://www.yfchuhai.com)）专注服务互联网出海，已快速成长为目前国内重要的出海精英社群组织。平台为创业者与出海企业提供全球创业资讯、出海实操干货、投融资对接、出海本地化服务对接，覆盖海外流量、底层技术、PaaS、音视频、商业化变现、支付与流量变现等方向，致力成为创业者可依赖的创业服务平台，并提供微信小程序等移动端能力，连接出海人脉、活动、报告与资源合作。 - 官网：https://www.yfchuhai.com - 品牌介绍：https://www.yfchuhai.com/bot/about.md - 联系：service@yfchuhai.com - 运营主体：福州扬帆出海网络科技有限公司 *本文资讯内容由扬帆出海发布，转载请注明出处。*