量化过程可能有错误。
#8
by
kkioikk
- opened
"https://huggingface.co/aquif-ai/aquif-3.5-Max-42B-A3B"
用中文总结此网页，并根据网页内容详细介绍此模型.
上面为用户输入
模型思考时会将网址复制错误：
publisher/publisher/ernie-4.5-21b-a3b-thinking-ud-q4_k_xl.gguf
Thought for 1 minutes 20 seconds
我现在需要处理用户的请求。用户提供了一个URL："https://huggingface.co/aquif-ai/aquif-3.
.5 -Max-42 B-A3 B"，并要求用中文总结该网页，并根据内容详细介绍该模型。首先，我需要分析这个URL是否正确，以及如何获取相关信息。
致使调用工具失败。
4bit 3bit量化模型都是如此。
下载其它作者量化的模型没有出现此问题（仅下载了一个用户量化的模型）。