bettafish生产内容产生的ai幻觉非常严重,大量胡编乱造的信息,怎么解决呀 #680
Closed
b612sheryl
started this conversation in
General
Replies: 2 comments
|
幻觉非常重要,我也有体会, 到底事实怎么回事说不清 |
0 replies
这不只是模型选型问题,也是当前系统的已知边界。模型较弱会加重幻觉,但更常见的原因是 Insight Agent 没有检索到足够且相关的真实数据,或三个上游 Agent 的输入不完整;模型可能用看似合理的内容补空。 请先确认数据库和三份上游报告确有本轮相关数据,再使用能力更强、结构化输出更稳定的模型,并人工核验重要事实、数字和引用链接。报告只能作为研究辅助材料,不能视为未经验证的事实源。详细排查见 FAQ #700。 这一问题已有明确处理边界,本讨论关闭归档。 |
0 replies
Sign up for free
to join this conversation on GitHub.
Already have an account?
Sign in to comment
Uh oh!
There was an error while loading. Please reload this page.
是接入模型选择上需要注意,还是大家都遇到了这个问题
All reactions