2024 年 9 月 19 日,阿里云宣布开源 Qwen2.5 系列模型,包括 Qwen2.5 语言模型、Qwen2.5-Coder 编程模型和 Qwen2.5-Math 数学模型。Qwen2.5 系列模型在最新的大规模数据集上进行了预训练,包含多达 18 万亿 tokens,提升了知识、编程能力和数学能力。Qwen2.5 语言模型支持高达 128K tokens,并能生成最多 8K tokens 的内容,支持 29 种以上语言。Qwen2.5-Coder 在 5.5 万亿 tokens 编程数据上训练。Qwen2.5-Math 支持中文和英文,整合多种推理方法。除 3B 和 72B 版本外,所有开源模型均采用 Apache 2.0 许可证。
- **Qwen2.5 语言模型 **:在最新的大规模数据集上进行了预训练,包含多达 18 万亿 tokens,提升了知识和语言处理能力。该模型支持高达 128K tokens 的上下文长度,并能生成最多 8K tokens 的内容,支持 29 种以上语言。
- **Qwen2.5-Coder 编程模型 **:在 5.5 万亿 tokens 编程数据上进行了训练。该模型支持 128K 上下文长度,覆盖 92 种编程语言,能够处理复杂的编程任务。
- **Qwen2.5-Math 数学模型 **:支持中文和英文,整合多种推理方法,能够解决复杂的数学问题。该模型在多个数学基准测试中表现优异。
Qwen2.5 系列模型的多语言支持和上下文长度支持是其一大亮点。Qwen2.5 语言模型支持 29 种以上语言,能够处理多语言任务。Qwen2.5-Coder 编程模型支持 92 种编程语言,能够处理复杂的编程任务。Qwen2.5-Math 数学模型支持中文和英文,能够解决复杂的数学问题。Qwen2.5 系列模型支持高达 128K tokens 的上下文长度,能够处理长文本任务。