MiniCPM 3.0 是一个 4B 参数量的语言模型，相比 MiniCPM1.0/2.0，功能更加全面，综合能力大幅提升，多数评测集上的效果比肩甚至超越众多 7B-9B 模型。

➤  MiniCPM 3.0

Github：github.com/OpenBMB/MiniCPM

HuggingFace：huggingface.co/openbmb/MiniCPM3-4B

  • 支持工具调用🛠️（Function Calling）和代码解释器💻（Code Interpreter）：Berkeley Function Calling Leaderboard (BFCL)上取得 9B 规模以下 SOTA，超越 GLM-4-9B-Chat、Qwen2-7B-Instruct。

  • 超强的推理能力🧮：数学能力方面，MathBench上的效果超越 GPT-3.5-Turbo 以及多个 7B-9B 模型。在非常具有挑战性的LiveCodeBench上，效果超越 Llama3.1-8B-Instruct。

  • 出色的中英文指令遵循能力🤖：英文指令遵循IFEval、中文指令遵循FollowBench-zh效果超越 GLM-4-9B-Chat、Qwen2-7B-Instruct。

  • 长文本能力：原生支持 32k 上下文长度，32k 长度内大海捞针全绿。提出LLM x MapReduce，理论可处理的上下文长度达到 +∞。

  • RAG能力：官方发布了MiniCPM RAG 套件。基于 MiniCPM 系列模型的MiniCPM-Embedding、MiniCPM-Reranker在中文、中英跨语言检索测试中取得 SOTA 表现；针对 RAG 场景的MiniCPM3-RAG-LoRA在开放域问答等多项任务上超越 Llama3-8B、Baichuan2-13B 等模型。



工具调用能力

在 Berkeley Function Calling Leaderboard (BFCL) 上测试了模型的工具调用能力，MiniCPM3-4B 在该榜单上的表现超越了多个 7B-9B 参数量的模型，优于 GPT-3.5-Turbo-0125。



长文本能力

在 32k 的上下文长度进行大海捞针测试，结果如下图：



模型推理

MiniCPM3-4B支持Huggingface、vLLM、llama.cpp（面壁智能自己维护的仓库https://github.com/OpenBMB/llama.cpp.git）。

模型微调

目前模型微调支持 LLaMA-Factory，使用方法参考：

https://modelbest.feishu.cn/wiki/PpUrwsmDAiAAoEk8jc8cnBh7nOh