Does it support Qwen1.5 Model?

[kicGit]

No description provided.

[wanshichenguang]

同问，llama.cpp的转换脚本好像不能正常转化

[sweetcard]

可以试试ollama，一条命令即可体验。

[kicGit]

可以试试ollama，一条命令即可体验。

你测试的效果如何？我用ollama测试qwen1.5-0.5b，效果极差

[sweetcard]

可以试试ollama，一条命令即可体验。

你测试的效果如何？我用ollama测试qwen1.5-0.5b，效果极差

0.5b太小了。目前要做到效果好，很难的

[anaivebird]

同问，llama.cpp的转换脚本好像不能正常转化

老哥解决了吗

[YiandLi]

huggingface 上有 gguf 的版本，可以直接用。

https://huggingface.co/Qwen/Qwen1.5-1.8B-Chat-GGUF

[anaivebird]

huggingface 上有 gguf 的版本，可以直接用。

https://huggingface.co/Qwen/Qwen1.5-1.8B-Chat-GGUF

如果是自己微调过的版本，怎么转换gguf呢

[helloHKTK]

huggingface 上有 gguf 的版本，可以直接用。
https://huggingface.co/Qwen/Qwen1.5-1.8B-Chat-GGUF

如果是自己微调过的版本，怎么转换gguf呢

老哥，自己微调过的模型转换成gguf的问题解决了吗？