
IT之家 5 月 25 日音讯,面壁智能相接清华大学、OpenBMB 开源社区,今天认真发布并开源其在低比特大模子窥察标的的最新后果 ——BitCPM-CANN。
官方暗示,这是中国首个满盈基于国产算力平台(华为昇腾)完满端到端窥察并开源的三值(1.58-bit)大模子。从量化算子、窥察算法到全链路框架,BitCPM-CANN 均在华为昇腾上原生完成,包含 0.5B、1B、3B、8B 四个模子尺寸,与同尺寸 MiniCPM4 全精度眷属逐项对照评测,性能推崇优异。

比较传统 BF16 精度,BitCPM-CANN 在推理阶段开释约 6 倍显存红利,同期将模子身手保留率保管在 90%–97.2%。

官方暗示,开运体育世界杯中国官网首页敌手机产业来说,6 倍的显存红利意味着,一个 8B 参数的 BitCPM-CANN 大模子,不错纵欲启动在面前主流旗舰手机之上。
米乐体育app2026世界杯中国官方下载此外开运体育世界杯中国官网首页,面壁智能基于 MindSpeed × Megatron-LM 骨干搭建了齐全的低比特窥察底座,包含环境适配、32K 长序列扶植、并行计策、交融算子等齐全工程体系。从此,统统面向昇腾的低比特窥察责任,皆可开导在并吞套大家基础要道之上。
BitCPM-CANN 0.5B / 1B / 3B / 8B 全系列模子权重现已开源,IT之家附流畅如下: ]article_adlist--> 声明:新浪网独家稿件,未经授权不容转载。 -->






备案号: