Apertus Mini系列评测：16个主权AI开源小模型，蒸馏与量化技术的新标杆

Apertus Mini简介

2026年6月22日，Apertus发布了Apertus Mini系列，包含16个小型语言模型（SLM, Small Language Model）。这一系列展示了先进的模型蒸馏与量化技术，是Apertus构建主权AI（Sovereign AI）开源基础模型愿景的重要组成部分。

主权AI是当前全球AI治理的热点议题——各国和各组织越来越重视AI技术的自主可控性，希望减少对外部AI供应商的依赖。Apertus Mini系列的开源发布，正是对这一趋势的积极响应，为希望部署自主AI能力的组织提供了实用的技术方案。

核心功能与技术特点

模型蒸馏技术

Apertus Mini系列采用了先进的模型蒸馏技术，将大型语言模型的知识"蒸馏"到小型模型中。通过教师-学生训练范式，Mini系列模型在参数量大幅减少的情况下，仍能保持接近大模型的核心能力。这意味着用户可以在有限的计算资源下获得接近大模型的使用体验。

量化优化

除了蒸馏，Apertus Mini系列还应用了深度量化技术。通过将模型参数从FP16量化到INT8甚至INT4，模型体积和推理内存需求大幅降低。这使得这些模型可以在消费级GPU甚至CPU上运行，极大扩展了部署场景。量化后的模型在推理速度上也有显著提升，适合对延迟敏感的应用。

16个模型的差异化定位

Apertus Mini系列包含16个不同的模型，覆盖了不同的参数规模（从1B到7B）、不同的量化级别和不同的专业领域。这种多模型策略让用户可以根据具体需求选择最合适的模型：需要高精度的场景选择较大模型，追求速度的场景选择量化版本，特定领域任务选择专业微调版本。

主权AI设计理念

Apertus Mini系列的设计从一开始就贯彻了主权AI的理念。所有模型完全开源，包括训练数据和训练流程，确保使用者可以完全审计和自主部署。不依赖任何外部API服务，所有推理都在本地完成，数据和隐私完全可控。

应用场景

Apertus Mini系列的应用场景包括：

• 边缘部署：在IoT设备、移动端进行本地AI推理
• 私有化部署：企业内部部署，数据不出域
• 离线场景：无网络连接环境下的AI助手
• 成本敏感场景：降低AI使用的计算和能源成本
• 教育和研究：为学术研究提供可复现的开源模型

适合人群

Apertus Mini系列适合以下用户：需要私有化AI部署的企业技术团队、关注数据主权的政府机构、在边缘设备上部署AI的工程师、AI模型研究者，以及对开源AI生态感兴趣的开发者。

评测总结

Apertus Mini系列是主权AI领域的重要开源贡献。16个模型的矩阵式发布，配合先进的蒸馏和量化技术，为不同规模和需求的组织提供了灵活的选择。在AI工具导航的角度，Apertus Mini丰富了开源AI模型的多样性，特别是在小模型和高效部署这个细分赛道上提供了高质量的选择。随着主权AI理念的进一步普及，Apertus Mini有望在政府、金融、医疗等对数据主权有高要求的领域获得广泛应用。