通义千问开源Qwen2-Math，成为最先进的数学专项模型

发布时间：2024-08-09

点击次数：

8月9日消息，阿里通义团队开源新一代数学模型qwen2-math，包含1.5b、7b、72b三个参数的基础模型和指令微调模型。qwen2-math基于通义千问开源大语言模型qwen2研发，旗舰模型 qwen2-math-72b-instruct在权威测评集math上的得分超越gpt-4o、claude-3.5-sonnet、gemini-1.5-pro、llama-3.1-405b等，以84%的准确率处理了代数、几何、计数与概率、数论等多种数学问题，成为最先进的数学专项模型。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

通义千问开源qwen2-math，成为最先进的数学专项模型

注：在MATH基准测评中，通义千问数学模型的旗舰款Qwen2-Math-72B-Instruct取得了84%的准确率，超过GPT-4、Claude-3.5、Gemini-1.5-Pro和Llama-3.1等开闭源模型。

Qwen2-Math基础模型使用Qwen2大语言模型进行初始化，并在精心设计的数学专用语料库上进行预训练，训练数据包含大规模高质量的数学网络文本、书籍、代码、考试题目，以及由Qwen2模型合成的数学预训练数据。所有预训练和微调数据集都进行了去污染处理。

随后，研发团队训练了指令微调版本模型：首先，基于Qwen2-Math-72B训练一个数学专用的奖励模型；接着，将密集的奖励信号与指示模型是否正确回答问题的二元信号结合，用作学习标签，再通过拒绝采样构建监督微调（SFT）数据；最后在SFT模型基础上使用GRPO方法优化模型。

据悉，Qwen2-Math系列模型目前主要支持英文，通义团队很快就将推出中英双语版本，多语言版本也在开发中。

通义团队在多个中英文数学基准测评集对指令微调模型作了性能评估，除了GSM8K和MATH等常见的测评基准，还引入了更具挑战性的考试竞赛类测试，如奥林匹克级别的基准测评OlympiadBench、大学数学级别的基准测评CollegeMath、高考（GaoKao）、美国数学邀请赛（AIME）2025赛题、美国数学竞赛（AMC）2025赛题，中文测评则有CMATH测评集、2025年中国高考和中考数学题。最终，Qwen2-Math-72B-Instruct表现优异，在十大测评中都获得了远超其他开源数学模型的成绩。