← 回集市
零件★ 41518

bitnet.cpp

bitnet.cpp(C++ 1.58bit 推理框架 + Python 脚本:I2_S / TL1 查表内核,x86 加速 2.37–6.17x、能耗降 71–82%;附官方 2B-4T 模型、1bit embedding(0.6B/270M)与 VibeASR)

作者没提供演示画面 —— 点下面的按钮进仓库自己看

怎么装 / 怎么用

conda 建 py3.10 环境 + VS2022(勾 C++、CMake、clang18)后:`python setup_env.py -md models/BitNet-b1.58-2B-4T -q i2_s` → `python run_inference.py -m ... -cnv

去 GitHub 看仓库