Skip to main content

将huggingface的safetensors模型文件转为gguf模型。

· One min read

下载压缩包convert_hf_to_gguf.py,解压后执行:python3 convert_hf_to_gguf.py your/model/folder/,就会在your/model/folder文件夹下生成.gguf文件