Mistral Large 4评测:1万亿参数开源,把“半价”写进定价表

AI编程 2026-10-30 4 阅读
Mistral 开源模型 AI编程 模型评测

10月30日,Mistral AI 把 Mistral Large 4 的权重放上了 Hugging Face。这个被内部叫做 Le Chonk 的模型,总参数约 1 万亿,每 token 激活约 490 亿,原生多模态,上下文 100 万 token。同一时间,API 价格下调约 50%。

硬件账先算清楚

官方定价:输入 0.70 美元/百万 token,缓存命中输入 0.07 美元/百万 token,输出 2.10 美元/百万 token。对比同量级的闭源旗舰,这个价位基本是“用开源打价格战”的姿态。本地部署方面,Unsloth 提供的 1-bit 动态 GGUF 量化把体积压到约 233GB——一台 256GB 内存的机器就能跑起来,虽然质量会有折损,但至少证明这条路通了。

首日支持也做得比较完整:transformers、vLLM、llama.cpp 都有 FP8 和 NVFP4 版本,Vercel AI Gateway 同步上架。对工程团队来说,这意味着不用等社区自己踩坑。

能力评估:强项很集中

  • 编程:官方称在编码基准上领先 GLM-5.3 一个点,自称最佳开源编程模型。
  • 防御性安全:Artificial Analysis Cyber Index 得分 82%,测试内容是“复现一个真实开源漏洞再打补丁”。有意思的是,多个闭源前沿模型在这项上接近零分——不是不会,而是自动护栏让它们拒绝执行任务。这正是开放权重在安全研究上的独特价值。
  • 多模态与长上下文:100 万 token 够放下一整个中型代码仓库的索引,配合多模态可以做界面截图转代码。

没被重点宣传的部分

许可协议是 Mistral Ecosystem Open-Weight License,不是 Apache 2.0。商用基本可行,但大规模再分发和托管服务有附加条件,上线前务必让法务过一遍条款,别默认它是“随便用”。另外 1T 总参数意味着显存带宽压力大,高并发场景的吞吐表现取决于你的量化方案和 batch 策略,官方给的数字都是理想条件。

该不该换

三个判断标准:

  • 如果你在做代码助手或安全审计类工具,值得优先试;
  • 如果只是通用问答,闭源中端模型的价格已经很低,迁移收益不明显;
  • 如果有数据不出境要求,开源权重是唯一解,Large 4 是目前少数“能力不掉档”的选项。

实操上建议先用 vLLM 起一个 FP8 实例,拿自己业务里 500 条真实样本做盲测,再对比我们此前评测的 GPT-6.1 Terra 这类低价电脑操作模型,看谁在你的场景里更划算。模型详情页见 Mistral Large 4。

优缺点速览

优点:开源可私有化、价格腰斩、安全基准突出、首日工程支持完善。
缺点:许可非完全自由、1T 参数部署门槛仍在、长上下文下的实际召回率需自测。

适合谁

有自建推理能力的团队、对数据合规敏感的行业客户、以及需要拿模型做安全研究的实验室。个人开发者更现实的用法是走 API,成本比自建低得多。