GGUF

llama.cpp/Ollama 常用,一个文件打包好量化后的模型。