量化将模型权重从 32/16 位数字压缩为 8 位 (int8) 或 4 位 (int4)。位数越少，文件越小，推理速度越快，但质量可能越低。
Что думаешь? Оцени!，更多细节参见heLLoword翻译官方下载
。关于这个话题，服务器推荐提供了深入分析
Why Denmark is dumping Microsoft Office and Windows for LibreOffice and Linux
"This was the worst mistake of my life."。关于这个话题，safew官方下载提供了深入分析