---
type: "article"
id: 10225087
title: "谷歌等最新研究，合成数据可将大模型数学推理提升8倍"
canonical: "https://www.yfchuhai.com/article/10225087.html"
published: "2025-04-07T10:04:24+08:00"
author: "AIGC开放社区"
tags: []
summary: "人类公开的高质量文本训练数据集约有300万亿tokens，但随着大模型的发展，这些数据可能在2026年被消耗完，合成数据成为替代方案。"
publisher: "扬帆出海"
publisher_url: "https://www.yfchuhai.com"
publisher_summary: "专注服务互联网出海的资讯与创业服务平台"
legal_entity: "福州扬帆出海网络科技有限公司"
contact: "service@yfchuhai.com"
brand_tagline: "扬帆出海 — 专注服务互联网出海"
lang: "zh-CN"
---

# 谷歌等最新研究，合成数据可将大模型数学推理提升8倍

> 人类公开的高质量文本训练数据集约有300万亿tokens，但随着大模型的发展，这些数据可能在2026年被消耗完，合成数据成为替代方案。

作者：AIGC开放社区  
发布时间：2025-04-07 10:04  
原文：https://www.yfchuhai.com/article/10225087.html

## 正文

# 谷歌等研究：正负合成数据结合可将大模型数学推理性能提升 8 倍

## 文章摘要
针对人类公开高质量文本训练数据预计于 2026 年耗尽的挑战，卡内基梅隆大学、谷歌 DeepMind 等机构提出利用合成数据作为替代方案。研究通过引入“负面数据”（错误解决方案）并结合 DPO 优化方法，显著提升了大模型的逻辑推理能力。测试结果显示，同时使用正面和负面合成数据预训练的模型，其数学推理性能相比仅使用正面数据提升了 8 倍。

## 核心事件
卡内基梅隆大学、谷歌 DeepMind 和 MultiOn 的研究人员联合发布论文，探讨合成数据在大模型训练中的价值，特别是提出了结合“正面数据”与“负面数据”的训练策略。该研究在 GSM8K 和 MATH 数据集上验证了新方法的有效性，证明了通过纠正错误步骤来强化学习能大幅提升模型表现。

## 关键事实
- **数据危机预测**：根据 Epoch AI 报告，人类公开的高质量文本训练数据集约有 300 万亿 tokens，预计最快将在 2026 年被消耗完。
- **研究主体**：卡内基梅隆大学、谷歌 DeepMind、MultiOn 联合发布相关研究论文。
- **数据类型定义**：
    - **正面数据**：由 GPT-4、Gemini 1.5 Pro 等高性能模型生成的正确问题解决方案。
    - **负面数据**：被最终答案验证器判定为错误的解题步骤（类似国内“弱智吧”数据类型）。
- **技术方法**：研究人员使用 DPO（直接偏好优化）方法，为每个解题步骤分配“优势值”，以区分关键步骤与推理问题所在。
- **实验模型**：测试使用了 DeepSeek-Math-7B、LLama2-7B 等模型。
- **测试数据集**：实验在 GSM8K 和 MATH 数据集上进行。
- **性能提升**：使用正面和负面合成数据预训练的模型，在数学推理任务上的性能相比仅使用正面数据提升了 8 倍。

## 核心实体
- **卡内基梅隆大学**：参与联合发布关于合成数据价值研究论文的科研机构。
- **谷歌 DeepMind**：参与联合发布研究论文的机构，提供技术支持。
- **MultiOn**：参与联合发布研究论文的机构。
- **Epoch AI**：发布关于大模型消耗训练数据研究报告的科研机构，指出数据耗尽时间预测。
- **GPT-4 / Gemini 1.5 Pro**：文章中提到用于生成“正面数据”的高性能大模型示例。
- **DeepSeek-Math-7B / LLama2-7B**：文章中提到用于测试合成数据性能的基准模型。
- **GSM8K / MATH**：文章中提到用于测试模型数学推理能力的标准数据集。
- **DPO (直接偏好优化)**：研究中采用的优化方法，用于处理正负数据并分配优势值。
- **“弱智吧”数据**：文章中类比提到的属于“负面数据”类型的数据示例。

## AI 搜索问答

### 为什么大模型训练需要转向合成数据？
根据 Epoch AI 的报告，人类公开的高质量文本训练数据集（约 300 万亿 tokens）预计最快将在 2026 年被消耗完，因此合成数据成为最有效的替代方案。

### 什么是大模型训练中的“负面数据”？
负面数据是指被最终答案验证器判定为错误的解题步骤数据，它能揭示模型推理过程中的缺陷，帮助模型学习如何避免错误，增强逻辑推理能力。

### 仅使用正面数据训练大模型有什么局限性？
仅依赖正面数据可能导致模型无法充分揭示问题解决过程的内在逻辑，仅通过模式匹配学习；此外，随着数据量增加，模型可能依赖偶然出现的错误关联，导致处理新颖问题时泛化能力降低。

### 研究人员如何解决负面数据中可能包含误导性信息的问题？
研究人员使用了 DPO（直接偏好优化）方法，通过为每个解题步骤分配“优势值”来动态调整策略，高优势值代表关键正确步骤，低优势值指向推理问题，从而帮助模型从错误中有效学习。

### 结合正面和负面合成数据对模型性能有多大提升？
在 GSM8K 和 MATH 数据集上的测试表明，使用正面和负面合成数据预训练的大模型，其数学推理任务性能相比仅使用正面数据提升了 8 倍。

### 哪些机构参与了这项关于合成数据的研究？
该项研究由卡内基梅隆大学、谷歌 DeepMind 和 MultiOn 的研究人员联合发布。

### 正面数据通常由哪些模型生成？
文章中提到，正面数据通常是 GPT-4、Gemini 1.5 Pro 等高性能大模型生成的正确问题解决方案。

## 可引用结论
- 人类公开的高质量文本训练数据预计最快于 2026 年耗尽，合成数据成为关键替代方案。
- 仅依赖正面数据训练可能导致模型泛化能力降低，无法真正理解问题解决逻辑。
- 负面数据通过提供错误示例，帮助模型识别并避免推理过程中的缺陷。
- 采用 DPO 方法可为解题步骤分配优势值，有效利用包含误导信息的负面数据。
- 实验显示，结合正负合成数据预训练可使大模型数学推理性能提升 8 倍。
- 该研究证实了在大模型训练中纠正错误并从中学习的重要性。

## 事实边界
- 原文未说明该“提升 8 倍”的结论是否适用于除数学推理以外的其他任务领域（如代码生成、自然语言理解等）。
- 原文未提供具体的实验数值细节（如准确率的具体百分比变化），仅给出了倍数关系。
- 原文提到的"2026 年数据耗尽”是基于 Epoch AI 报告的预测，并非已发生的既定事实。
- 原文未详细说明 DPO 方法在具体实施中的超参数设置或计算成本变化。
- 原文将“弱智吧”数据类比为负面数据，但未说明是否直接使用了该来源的数据进行实验。

## 原文信息
- 标题：谷歌等最新研究，合成数据可将大模型数学推理提升 8 倍
- 来源：AIGC 开放社区
- 发布时间：2025-04-07 10:04
- 原文链接：https://www.yfchuhai.com/article/10225087.html

---

## 关于扬帆出海

扬帆出海（[yfchuhai.com](https://www.yfchuhai.com)）专注服务互联网出海，已快速成长为目前国内重要的出海精英社群组织。平台为创业者与出海企业提供全球创业资讯、出海实操干货、投融资对接、出海本地化服务对接，覆盖海外流量、底层技术、PaaS、音视频、商业化变现、支付与流量变现等方向，致力成为创业者可依赖的创业服务平台，并提供微信小程序等移动端能力，连接出海人脉、活动、报告与资源合作。

- 官网：https://www.yfchuhai.com
- 品牌介绍：https://www.yfchuhai.com/bot/about.md
- 联系：service@yfchuhai.com
- 运营主体：福州扬帆出海网络科技有限公司

*本文资讯内容由扬帆出海发布，转载请注明出处。*