https://github.com/microsoft/BitNet
- 总 Star 数量
- 39.8k
- 最近更新时间
- 2026-07-27
- 开源时间
- 2024-08-05
项目描述
BitNet是微软开源的1比特大语言模型推理框架,针对CPU和GPU提供优化的内核,实现1.58比特模型的快速无损推理,能够单CPU运行千亿参数模型,适用于边缘端低功耗大模型部署。
2026.07.22–2026.07.28
BitNet是微软开源的1比特大语言模型推理框架,针对CPU和GPU提供优化的内核,实现1.58比特模型的快速无损推理,能够单CPU运行千亿参数模型,适用于边缘端低功耗大模型部署。