タグ: CPU推論

Microsoftが発表した「BitNet」は、1.58ビット量子化技術により、100億パラメータ規模の大規模AIモデルをCPU上で実行可能にする。従来の推論方法と比較して最大82.2%のエネルギー消費削減を実現し、x86 CPUでは最大6倍以上の速度向上も確認されている。