微软1bit LLM新研究：原生4bit激活值量化，可充分利用新一代GPU对4bit计算的原生支持
"量化" 相关文章
LLMs Can Now Retain High Accuracy at 2-Bit Precision: Researchers from UNC Chapel Hill Introduce TACQ, a Task-Aware Quantization Approach that Preserves Critical Weight Circuits for Compression Without Performance Loss
Gemma 3支援QAT技術，消費級GPU就可執行270億參數大模型
25.4.17 赚了一天
不惧关税事件扰动，私募股票仓位创七个月新高，股票策略一季度领跑
10倍吞吐提升无损性能：多模态适用的KV cache量化策略来了，即插即用无需改原模型
咱QwQ 32B就够了？Llama4还要2000B？！
这个30岁后的顶级混世智慧，会得罪人
2月私募登记与产品备案环比减少，百亿量化私募备案更显积极
热情再起？1月备案私募证券产品超700只，量化占近四成，宽德等百亿量化备案积极
Meta AI Introduces ParetoQ: A Unified Machine Learning Framework for Sub-4-Bit Quantization in Large Language Models
完整的671B R1塞进本地，详尽教程来了！
Quantization Space Utilization Rate (QSUR): A Novel Post-Training Quantization Method Designed to Enhance the Efficiency of Large Language Models (LLMs)
本地大模型之路（二）：了解模型能力与性能需求，让硬件选购恰到好处
4比特量化三倍加速不掉点！清华即插即用的SageAttention迎来升级
A popular technique to make AI more efficient has drawbacks
苦寻绝对收益的私募也快撑不下去了
微盘大跌，量化再成矛头指向，真相如何？
1-bit大模型还能再突破，新一代BitNet架构启用4位激活值
社区供稿 | 探索 Ovis: 多模态大模型量化的实战指南
