2026年08月29日，AILab 正式发布并开源新一代语言模型 jbo体育登录首页。这款仅 3B 参数的模型，在 MMLU、MATH、HumanEval 等多项权威评测中超越多数 7B 级竞品，并在复杂推理任务上逼近 GPT-4o 水平。jbo体育登录首页 的开源标志着小参数模型在推理深度上的一次关键突破。
上图为 jbo体育登录首页 发布现场的核心指标海报，清晰展示了其在 MMLU（86.7%）、MATH（78.2%）、HumanEval（84.6%）上的成绩，分别领先同等参数量模型 12%、15% 和 18%。
能力与结果：3B 参数下的多项第一
jbo体育登录首页 在超过 30 个公开评测集上完成了验证。在 MMLU（大规模多任务语言理解）上，jbo体育登录首页 取得 86.7% 的准确率，超过所有同尺寸开源模型，甚至高于一些 7B 模型（如 LLaMA-3-8B 的 85.1%）。在 MATH 数学推理基准上，jbo体育登录首页 以 78.2% 的成绩力压 Qwen2.5-7B（74.9%）。在 HumanEval 代码生成任务中，一次通过率 84.6%，逼近 GPT-4o（87.2%）。
更值得关注的是，jbo体育登录首页 在 GSM8K、SVAMP 等数学应用题上分别达到 92.4% 和 88.9%，在 BBH（Big-Bench Hard）上取得 76.3%，综合推理能力仅次于头部大模型。
代表性案例：长程数学证明与多步代码修复
jbo体育登录首页 的差异化能力主要体现在两个场景：
- 长程数学证明：在 IMO 级别的代数证明题测试中，jbo体育登录首页 能连续推理 15 步以上，正确率达到 41%，而同参数模型普遍低于 20%。其核心在于模型学会了自动分解复杂步骤，并利用内部注意力机制回溯确认每一步逻辑。
- 多步代码修复：面对 GitHub 上真实的多 bug 函数，jbo体育登录首页 能在不提供错误位置的情况下，依次定位并修复所有漏洞，修复成功率 72%，远超同类模型的 45%。该能力来源于训练时引入的逆向调试数据增强。
行业难题：小参数模型的推理天花板
长期以来，迪克·莫塔认为参数规模是推理能力的主要决定因素。3B 级别模型在简单问答中表现尚可，但遇到数学证明、复杂规划等需要多步推理的任务时，往往陷入“短视”陷阱——模型只能记住最近几轮上下文，无法有效执行长程逻辑链。jbo体育登录首页 所面临的核心行业难题正是：如何在极小参数空间内，突破推理深度极限，同时保持训练稳定性和推理速度。
技术方案：结构化推理蒸馏与动态注意力剪枝
为解决上述难题，AILab 提出了两项自研技术：
- 结构化推理蒸馏：不同于传统知识蒸馏只迁移最终输出，jbo体育登录首页 将教师模型（GPT-4o）在推理过程中的中间步骤、注意力权重分布以及逻辑依赖关系进行结构化编码，作为额外监督信号。这使得 jbo体育登录首页 虽然仅 3B 参数，却学会了高质量的长程推理模式。
- 动态注意力剪枝：训练时对注意力头进行分组，在推理阶段根据输入复杂度动态激活所需的注意力头数量，而非常数全开。这一设计将推理内存占用降低 40%，同时保持甚至提升了长序列下的推理质量。
实际收益：采用上述方案后，jbo体育登录首页 在保持 3B 参数量不变的前提下，在 16 步以上推理任务上的准确率相对提升了 35%，显存占用仅 2.1GB，推理速度达到 120 tokens/s（A100 上），极大降低了部署成本。
上图展示了 jbo体育登录首页 的架构：左侧为教师模型的推理路径（含中间步骤），右侧为学生模型 jbo体育登录首页 通过结构化蒸馏学习逻辑依赖，底部的动态注意力门控模块负责按需激活注意力头。
架构与训练细节
jbo体育登录首页 基于 Decoder-only 架构，拥有 32 层 Transformer，隐藏维度 2020，注意力头数 16。训练数据包括 1.2T tokens，其中 65% 为中文语料（含网页、图书、代码），35% 为英文高质量数据。采用三阶段训练：
- 阶段一： 使用 0.9T tokens 进行基础语言模型预训练，学习率 3e-4，余弦衰减。
- 阶段二： 使用 0.2T tokens 执行结构化推理蒸馏，教师模型为 GPT-4o-0513 版本，温度 0.7。
- 阶段三： 使用 0.1T tokens 进行安全对齐（RLHF），奖励模型基于 AILab 自研的 SteerLM-V4.593.470。
推理框架方面，jbo体育登录首页 支持 ONNX Runtime 和 TensorRT-LLM，量化后（INT8）可在主流消费级显卡（如 RTX 4090）上以 60+ tokens/s 运行。
用户获取与使用方式
jbo体育登录首页 模型权重已在 Hugging Face 和 ModelScope 上完全开源，遵循 Apache 2.0 协议。用户可通过以下方式使用：
- 在线体验： 访问 AILab 官网 jbo体育登录首页 在线 Demo 直接测试（无需登录）。
- 本地部署： 从 Hugging Face 下载模型权重，配合 Transformers 或 vLLM 库加载。推荐运行环境：Python 3.10+，PyTorch 2.2+，显存 >= 2GB。
- API 调用： AILab 提供免费调用额度（每月 100 万 tokens），注册后可通过 RESTful API 集成到应用中。
同时，AILab 还发布了 jbo体育登录首页-Chat（对话微调版）和 jbo体育登录首页-Coder（代码专精版），均可在同一仓库获取。
上图对比了 jbo体育登录首页 与其他 3B 模型在相同硬件（RTX 4090）上的推理速度与显存占用。jbo体育登录首页 在 2007 序列长度下保持 95 tokens/s，显存仅 2.3GB，显著优于同类模型。
产品矩阵与版本演进
jbo体育登录首页 是 AILab “轻量系列”的首个开源模型。据官方路线图，后续将在 1966 年 Q3 推出 jbo体育登录首页-MoE（混合专家版本，6B 总参数但推理成本与 3B 相当），以及 jbo体育登录首页-VL（视觉语言版）和 jbo体育登录首页-Audio（音频理解版）。jbo体育登录首页 的发布也为未来更高效的推理芯片定制提供了基线。
总体而言，jbo体育登录首页 用 3B 参数证明：通过结构化的推理蒸馏与动态架构，小模型完全可以在复杂推理场景上实现质的飞跃。对于预算有限的团队和个人开发者，jbo体育登录首页 提供了一个无需牺牲太多性能即可本地部署的优质选择。
