预训练示例数据以及finetune结果数据

[AlexYoung757]

1. 如题，预训练示例数据。data_sample文件只包含finetune任务数据，可否提供下预训练任务示例数据。
2. 执行demo进行finetune任务后，得到的结果和示例相差较大，如下所示：

S-167 大 松 格 力 电 饭 煲 煲 多 功 能 电 饭 锅 家 用 4 升 无 可 挑 剔 的 口 感 ， 真 正 的 中 国 好 米 饭 ， 满 足 人 类 对 米 饭 的 需 求 ， 双 层 合 金 内 加 ， 一 产 品 全 家 福 ， 多 种 烹 饪 模 式 智 能 随 心 控 ， 匠 心 精 神 ， 让 你 拥 有 ， 让 您 拥 有 无 可 挑 剔 的 口 感 ， 3 段 智 能 保 温 技 术 ， 点 阵 液 晶 显 示 智 能 触 摸 操 控 ， - 产 品 细 节 ， 24 小 时 美 味 预 约 ， 保 温 盖 板 可 拆 洗 ， 垂 涎 欲 滴 的 晚 餐 ， 香 甜 软 糯 的 早 餐 ， 我 们 给 您 配 置 了 ， 早 上 想 喝 粥 ， 不 吃 米 饭 会 缺 爱 ， 主 机 * 1 、 量 杯 * 1 、 内 胆 * 1 ， 产 品 尺 寸 37 ##5 * 27 ##0 * 21 ##5 ##mm ， 高 温 穿 透 米 芯 ， 从 底 部 发 热 ， 磁 力 穿 透 锅 体 ， 突 然 一 阵 饭 香 扑 面 而 来 ， 晚 上 想 吃 米 饭 ， 米 饭 快 速 升 温 ， 汤 勺 ， 煲 仔 饭 ， 量 杯 ， 额 定 电 压 22 ##0 ##v ， 古 法 烹 饪 ， 保 留 食 材 原 汁 原 味 ， 米 饭 口 感 五 颗 星 ， 预 约 10 小 时 ， 米 饭 放 入 锅 中 ， 精 华 煮 ， 煲 汤 ， 蒸 煮 ， 产 品 容 量 4 ##l ， 右 手 还 在 关 门 ， 别 扭

T-167 电 磁 感 应 加 热 标 准 火 候 控 制 ， 米 饭 表 面 柔 软 平 整 口 感 软 儒 ， 三 段 智 能 保 温 技 术 循 环 保 温 ， 全 面 锁 住 营 养 不 流 失 ， 焖 出 米 饭 好 口 感 ； 双 层 合 金 内 胆 古 法 烹 饪 ， 保 留 食 材 原 汁 原 味 米 饭 口 感 五 颗 星 。

H-167 -0.8923664689064026 。 格 力 电 饭 煲 煲 多 功 能 电 饭 煲 家 用 4 。 无 可 挑 剔 的 口 碑 多 功 能 电 饭 煲 家 4 。 无 可 挑 剔 ， 家 用 4 多 功 能 电 饭 煲 家 用 4

里面出现重复句子，是否因为训练数据较少，同时包含大量重复数据呢

[xu-song]

你多训一些epoch

[AlexYoung757]

你多训一些epoch

已训练20个epoch，得到的结果依然和示例差距很大。如下所示：

S-167 大 松 格 力 电 饭 煲 煲 多 功 能 电 饭 锅 家 用 4 升 无 可 挑 剔 的 口 感 ， 真 正 的 中 国 好 米 饭 ， 满 足 人 类 对 米 饭 的 需 求 ， 双 层 合 金 内 加 ， 一 产 品 全 家 福 ， 多 种 烹 饪 模 式 智 能 随 心 控 ， 匠 心 精 神 ， 让 你 拥 有 ， 让 您 拥 有 无 可 挑 剔 的 口 感 ， 3 段 智 能 保 温 技 术 ， 点 阵 液 晶 显 示 智 能 触 摸 操 控 ， - 产 品 细 节 ， 24 小 时 美 味 预 约 ， 保 温 盖 板 可 拆 洗 ， 垂 涎 欲 滴 的 晚 餐 ， 香 甜 软 糯 的 早 餐 ， 我 们 给 您 配 置 了 ， 早 上 想 喝 粥 ， 不 吃 米 饭 会 缺 爱 ， 主 机 * 1 、 量 杯 * 1 、 内 胆 * 1 ， 产 品 尺 寸 37 ##5 * 27 ##0 * 21 ##5 ##mm ， 高 温 穿 透 米 芯 ， 从 底 部 发 热 ， 磁 力 穿 透 锅 体 ， 突 然 一 阵 饭 香 扑 面 而 来 ， 晚 上 想 吃 米 饭 ， 米 饭 快 速 升 温 ， 汤 勺 ， 煲 仔 饭 ， 量 杯 ， 额 定 电 压 22 ##0 ##v ， 古 法 烹 饪 ， 保 留 食 材 原 汁 原 味 ， 米 饭 口 感 五 颗 星 ， 预 约 10 小 时 ， 米 饭 放 入 锅 中 ， 精 华 煮 ， 煲 汤 ， 蒸 煮 ， 产 品 容 量 4 ##l ， 右 手 还 在 关 门 ， 别 扭

T-167 电 磁 感 应 加 热 标 准 火 候 控 制 ， 米 饭 表 面 柔 软 平 整 口 感 软 儒 ， 三 段 智 能 保 温 技 术 循 环 保 温 ， 全 面 锁 住 营 养 不 流 失 ， 焖 出 米 饭 好 口 感 ； 双 层 合 金 内 胆 古 法 烹 饪 ， 保 留 食 材 原 汁 原 味 米 饭 口 感 五 颗 星 。

H-167 -0.29891541600227356 满 格 的 电 饭 煲 ， 多 功 能 电 饭 煲 家 用 4 ##l 无 可 挑 剔 的 口 感 ， 无 可 挑 剔 的 口 感 ， 无 可 挑 剔 的 口 感 ， 无 功 能 电 饭 煲 家 用 4 ##l ， 一 产 品 全 家 福 ， 多 种 烹 饪 模 式 智 能 随 心 控 ， 无 可 挑 剔 的 口 感 ， 双 层 合 金 内 胆 无 可 挑 剔 的 口 感 ， 智 能 智 能 保 温 技 术 ， 双 层 合 金 内 胆 智 能 触 摸 操 控 ， - 产 品 细 节 ， 24 小 时 美 味 预 约 ， 保 温 盖 板 可 拆 洗 ，

上述结果中，依然出现重复内容。无法达到示例展示结果

[xu-song]

finetune数据是什么呢？data_sample的数据只是一点样例，更多训练数据可以参考 https://jd-nlg-rhino.github.io/

[AlexYoung757]

finetune数据是什么呢？data_sample的数据只是一点样例，更多训练数据可以参考 https://jd-nlg-rhino.github.io/
fintune数据是data_sample的示例数据（只包含200条数据），那出现这样的结果是不是因为训练数据较少，同时包含大量重复数据呢？

[xu-song]

是的，正常不会用这么少训练数据的

[AlexYoung757]

是的，正常不会用这么少训练数据的

好的。非常感谢~~~