为什么生成的中文含有很多乱码？

[linonetwo]

* TiddlyWiki是一种基于HTML的���������记本，���可以在������器中运行。
* ���的特点是：
	+ ���活性���：用户可以自由编���和���展TiddlyWiki的内容。
	+ ���用性���：TiddlyWiki的用户界面���单������，不需要长时间学���。
	+ 可���展性���：用户可以添加自���的���件和���展功能。
	+ 可���性���：TiddlyWiki使用文件和本地数据库存���数据，可以在网���不���定的������下������使用。

我尝试了 ggml-vic7b-q5_1.bin 和 RWKV-4-World-CHNtuned-7B-v1-20230709-ctx4096-Q5_0.bin ，都是这样的效果。 rwkv 其实失败了 #101

[Zacharia2]

./main -m ../ggml-vic7b-q5_1.bin --color -ins -p "You known much on TiddlyWiki. You should answer in wikitext format(!for title, and#for numeral list,* for unordered list.)." --temp 1

在控制台好像没有乱码。

[linonetwo]

我用 llama-node 网站上的代码就不行 https://llama-node.vercel.app/docs/backends/llama.cpp/inference

看来是 llama-node 的问题

[linonetwo]

@Zacharia2 为什么我运行 ./chat_mac --model "/Users/linonetwo/Documents/languageModel/ggml-vic7b-q5_1.bin" --threads 4 --prompt "介绍一下Tiddlywiki"

它是说 bad magic failed to load model ，你下载模型的链接就是太记官网上给的那个跟我一样的吗

main: seed = 1689748090
llama_model_load: loading model from '/Users/linonetwo/Documents/languageModel/ggml-vic7b-q5_1.bin' - please wait ...
llama_model_load: invalid model file '/Users/linonetwo/Documents/languageModel/ggml-vic7b-q5_1.bin' (bad magic)
main: failed to load model from '/Users/linonetwo/Documents/languageModel/ggml-vic7b-q5_1.bin'

[Zacharia2]

对，就是这个名字的模型

[Zacharia2]

我是直接下载的，Mac可能需要自己编译

[Zacharia2]

推理程序