生成结果与readme中不符（试过快十次）

[louisxavier123]

我生成的结果：

readme中的结果：分词结果分别为：无线电，法国，别研究。
有些答非所问，不知道是什么原因

[ydli-ai]

其他的问题呢，也答非所问吗

[15810856129]

下面是我用ChatLLaMA-zh-7B在单张40G的A100卡推理的效果（seq_length由默认的512改成400了）。

prompt: 给我推荐一款适合在家锻炼的运动器材。
answer: 给我推荐一款适合在家锻炼的运动器材。
可以考虑购买哑铃或弹力带等简单的器材，可以协调全身运动，提升身体素质和姿势协调能力。

prompt: 上海有什么好玩的地方？
answer: 上海有什么好玩的地方？上海有许多令人惊奇的好玩的地方，最受欢迎的就是上海迪士尼乐园，它有丰富的景点、亲子游戏、表演以及探险活动，可以让您和您的孩子尽情享受欢乐。此外，您还可以前往上海东方明珠广播塔和上海太空城，在那里有更多的惊喜和活动等您期待！

prompt: 给我介绍一本关于哲学的好书。
answer: 给我介绍一本关于哲学的好书。

《存在与时间》（Being and Time） by Martin Heidegger。

prompt: 中文分词：无线电法国别研究
answer: 中文分词：无线电法国别研究中心决定定期开展无线电征询网络，以了解各地群众的生活和想法。分词结果：无线电法国别研究中心决定定期开展无线电征询网络，以了解各地群众的生活和想法。

prompt: 来到杨过曾经生活过的地方，小龙女动情地说：“我也想过过过儿过过的生活。”
answer: 来到杨过曾经生活过的地方，小龙女动情地说：“我也想过过过儿过过的生活。”楚庄小龙女在杨过故居游玩，遇到几个看人没有伺机去打招呼就被她回绝的游客，可不可以慷慨一些？
问：“我”不喜欢小龙女，因此： 选项：趁机和“我”打了招呼，跑到小龙女与众不同的旁边，劝小龙女一次别再去，遇到了另一个慷慨的游客
答案：跑到小龙女与众不同的旁边

prompt: 对叙打击是一次性行为？
answer: 对叙打击是一次性行为？报告称，有100.000份遭受性侵犯事件发生，其中25.000件被报道的受害者是未成年儿童。有关部门指出，受到性侵权害之前，受害者会受到更大范围内的权威和社会影响，尤其是未成年儿童等弱势群体。是的，报告显示100,000分之受欺凌者中，25,000名未成年人受到性侵犯的威胁，预示了未成年儿童受到性侵权害的问题会更加突显。重要的是，未成年儿童成为性侵权害的受害者，会影响他们在岁数小的时候的社会、个人发展，表明他们受到权威的威胁，缺乏社会支持，缺乏能力解决以前的困难。因此，报告结果表明受到性打击是

prompt: 《绿林俊杰》--林俊杰做错了什么？为什么要绿他?
answer: 《绿林俊杰》--林俊杰做错了什么？为什么要绿他?

林俊杰是由华视主持的一档综艺节目，旨在寻找中国内地最有才华的年轻人，并通过多种形式为他们提供发展机会。

然而，近年来，林俊杰已经遭遇了诸多争议。一些观众和网民认为，他不仅对选手的评价存在偏差，而且在选秀过程中也存在着不公平的做法。有些选手被林俊杰过度褒奖或夸大其词，而有些选手却受到了他的不公正对待。

在某些情况下，林俊杰甚至会为了增加节目的观众收视率，故意制造争议，而对选手的评价也出现了错误和过度个人化的倾向。

因此，有人认为林俊杰在绿林俊杰节目中做错了什么，那就

prompt: 如何解释这句话：过几天天天天气不好
answer: 如何解释这句话：过几天天天天气不好？这句话意味着太阳不多，大气层中有颗粒物，它们会在夜间被吸收。如果没有这种吸收，太阳的光线会反射回地球。在这种情况下，天空会变暗，从而导致大气不会充满阳光宜人的温度。这种情况下，天气不好。

prompt: 写一首关于北京的冬天的诗。
answer: 写一首关于北京的冬天的诗。
北京冬天的景象。

枯叶飘零雪花落，
芦花别有清凉香。
天空灰装打扮美，
寒风吹过冰霜凉。
雪霰中翩翩舞动，
明月照耀流光澄。
冬天的北京，如此美，
让人心翻神迷啊。

prompt: 根据标题写论文摘要：地缘政治视野中的中亚及其对中国的影响。
answer: 根据标题写论文摘要：地缘政治视野中的中亚及其对中国的影响。
中亚,地缘政治,安全

prompt: 编写一则关于科技新闻的新闻稿。今天小米公司推出了一款全新的智能手表，配备了各种健康和娱乐功能。请编写一则新闻稿，介绍这款智能手表的特点，功能和价格。
answer: 编写一则关于科技新闻的新闻稿。今天小米公司推出了一款全新的智能手表，配备了各种健康和娱乐功能。请编写一则新闻稿，介绍这款智能手表的特点，功能和价格。今天，小米公司推出了一款集智能健康、娱乐和连接可能为其创造新品牌魅力的全新智能手表。这款手表可实时监测心率、血氧饱和度等健康数据，可定位路线步数，同时还针对压力、睡眠、心维安全等专门的健康功能集成相关应用，可实时分析监测睡眠状态，监测压力水平和心维安全状态，如果发现异常，即时报警临时帮助，为用户创造更全面的健康管理服务。

此外，小米手表的音乐端有1500首流行音乐、500首纯音乐和1000首时下热门歌曲，乐趣更不断；配有硬件键盘和微信支付等功

prompt: 创建一个包含十个元素的列表，其中每个元素都是斐波那契数列中前十个数字之一。
answer: 创建一个包含十个元素的列表，其中每个元素都是斐波那契数列中前十个数字之一。
[0, 1, 1, 2, 3, 5, 8, 13, 21, 34, 55, 89, 144, 233]

prompt: 翻译成日语：每一个成就都始于勇于尝试的决心。
answer: 翻译成日语：每一个成就都始于勇于尝试的决心。
Every achievement starts with an act of daring: To try.

prompt: 翻译成英文：大量独生子女的出现，不仅使中国的家庭结构发生了变化，而且也带来了一些令人担忧的社会问题。
answer: 翻译成英文：大量独生子女的出现，不仅使中国的家庭结构发生了变化，而且也带来了一些令人担忧的社会问题。
In the past few decades, the number of births has soared, particularly of only-child families. This has introduced a number of worrisome societal problems.

[ydli-ai]

感谢分享！ 使用时可以给prompt加一个换行符，例如 中文分词：无线电法国别研究 \n 现在展示的结果可能是由于模型将这句话续写了，没有当成指令。

[zhilonglu]

接着这个话题，7b模型我发现很多answer没说完就结束了。另外13b模型的token.model 方便提供一下，谢谢