热点
"参数量化" 相关文章
微软开源爆火1.58bit大模型推理框架！千亿参数模型量化后单CPU可跑，速度每秒5-7个token
智源社区 2024-10-23T10:08:29.000000Z