什么时候 更新一下 huggingface的 fp8模型 或者量化 gguf模型 #30
Description
什么时候 更新一下 huggingface的 fp8模型 或者量化 gguf模型， 读取模型就花了很长时间。
(https://huggingface.co/IamCreateAI/Ruyi-Mini-7B-FP8/tree/main)
{{ message }}
什么时候 更新一下 huggingface的 fp8模型 或者量化 gguf模型， 读取模型就花了很长时间。
(https://huggingface.co/IamCreateAI/Ruyi-Mini-7B-FP8/tree/main)