量子化

モデルの軽量化と高速化を実現する GPTQ 量子化を簡単にはじめに: Auto-GPTQ とは？ 近年、大規模言語モデル（LLM）は目覚ましい発展を遂げ、自然言語処理の様々なタスクで高い性能を発揮しています。しかし、その巨大なモデルサイズと...