INT4

超低精度,量化后的模型更省显存

让大模型能塞进消费级显卡跑,代价是精度略降。

相关词