[Bug] 群聊上下文感知开关失效

[zz6zz666]

What happened / 发生了什么

如图，当仅开启“群聊上下文感知”开关时，实际并未启用上下文感知功能，

同时开启主动回复开关后，上下文感知才可正常工作（亦即"you are in a chatroom, the chat histrory is..."格式的单一user字段请求）。

同时强烈要求把群聊上下文感知的chatroom换成中文提示词，以避免误导大模型使用英文输出。（当然最好要做国际化）

Reproduce / 如何复现？

如问题所述。

AstrBot version, deployment method (e.g., Windows Docker Desktop deployment), provider used, and messaging platform used. / AstrBot 版本、部署方式（如 Windows Docker Desktop 部署）、使用的提供商、使用的消息平台适配器

目前最新4.7.1,4.7.0版本均存在次问题，回退至4.6.1 4.6.0 依然如此。疑似为“群聊上下文感知”模块自重构以来的版本一直遗留了此问题，如先前提到的“群聊图片转述”的默认转述模型耦合设置一样。很有可能这个问题的起源可以一直追溯至4.0.0版本。

OS

Other

Logs / 报错日志

如上所述

Are you willing to submit a PR? / 你愿意提交 PR 吗？

• Yes!

Code of Conduct

• I have read and agree to abide by the project's Code of Conduct。

[zz6zz666]

#3842，由于开启群聊上下文感知/但未开启主动回复时，消息历史被注入系统提示词，对用户不可见；同时用于没有清空req.contexts字段，用户在会话数据页面看到的结果，和未开启上下文感知无差别（误以为上下文感知失效）。

但引入问题，即用户和AI的交互历史同时出现在sys prompt和promt两处，导致冗余请求；且用户不便查看注入sys prompt的聊天历史，难以监控会话。

（当开启主动回复后，无论该条消息为是被动触发还是主动触发回复，都采用了相同逻辑并未区分。因此逻辑上可以认为上下文感知开启后，无论是否开启主动回复，都可以直接套用当前prompt注入逻辑）

修改建议：将未开启主动回复改为与当前开启主动回复的请求方式一致逻辑，包括清空contexts.

此外强烈建议：将提示词改为中文以避免误导AI输出英文。

#3826，由于文转图类用户插件替换了原消息链并更换为图片，导致消息实际发送但fnial measage中get_plain_text()得到结果为空。

用于此时文本内容已保存至req.contexts，因此将final messge改为从req.contexts提取，即可实现chat history中注入正确的[You/]内容。

这一修改，保证了同一装饰类插件在群聊（开启上下文感知）和私聊场景下工作效果一致，不必为群聊场景单独额外适配。

同时，保证了当前轮会话时，用户在会话数据页面看到的bot响应内容（为文本形式，尽管协议端接收时装饰为图片），与下一轮会话时被注入prompt的[You/]内容一致，避免因装饰导致原始响应内容在群聊历史注入中记录缺失。

[Dt8333]

开启群聊上下文感知后，LTM会收集群聊内所有的信息并单独保存。
会话管理中显示的是唤醒Astrbot的信息与Astrbot的回应信息对。这里的信息不包括未唤醒Astrbot的信息。

会话管理的信息会插入上下文中用于LLM理解和风格保持。这里的信息遵循User和Agent成对的规则。
LTM记录的信息会插入System Prompt中用于LLM理解群聊中的上下文。这里的信息包括收到的群聊所有信息。

即用户和AI的交互历史同时出现在sys prompt和promt两处，导致冗余请求。

该问题存在。可以提供一个合适的解决方案吗？

修改建议：将未开启主动回复改为与当前开启主动回复的请求方式一致逻辑，包括清空contexts.

开启主动回复时应当也存在Context。你确定Context为空吗？

此外强烈建议：将提示词改为中文以避免误导AI输出英文。

人格设定中强调一下输出使用什么语言。

https://github.com/AstrBotDevs/AstrBot/issues/3826，由于文转图类用户插件替换了原消息链并更换为图片，导致消息实际发送但fnial measage中get_plain_text()得到结果为空。
用于此时文本内容已保存至req.contexts，因此将final messge改为从req.contexts提取，即可实现chat history中注入正确的[You/]内容。
这一修改，保证了同一装饰类插件在群聊（开启上下文感知）和私聊场景下工作效果一致，不必为群聊场景单独额外适配。
同时，保证了当前轮会话时，用户在会话数据页面看到的bot响应内容（为文本形式，尽管协议端接收时装饰为图片），与下一轮会话时被注入prompt的[You/]内容一致，避免因装饰导致原始响应内容在群聊历史注入中记录缺失。

这个问题存在。需要考虑一下如何在转为图片后不影响发送的同时保留文字信息。

也许需要在Image对象中添加一个字段用来记录最初的文本？

[zz6zz666]

修改建议：将未开启主动回复改为与当前开启主动回复的请求方式一致逻辑，包括清空contexts.

开启主动回复时应当也存在Context。你确定Context为空吗？

开启主动回复开关时，🈚user/agent对形式的消息记录，仅有一条chat history注入作为唯一user字段，从代码中看见req.contexts被清空。

即用户和AI的交互历史同时出现在sys prompt和promt两处，导致冗余请求。

该问题存在。可以提供一个合适的解决方案吗？

目前实现中，在主动回复开关开启时，混淆了被动回复语主动回复的请求逻辑。既然开启主动回复开关后已经混淆是否主动回复的请求，那么大胆假设，不开启主动回复也可以统一成一致逻辑。

会话管理中显示的是唤醒Astrbot的信息与Astrbot的回应信息对。这里的信息不包括未唤醒Astrbot的信息。

会话管理的信息会插入上下文中用于LLM理解和风格保持。这里的信息遵循User和Agent成对的规则。

实际上在chat history明确区分@bot的用户的同时，再用不区分用户的user/agent对模式追加描述，只会让llm混淆聊天场景是群聊还是私聊，是否区分不同用户。再加上sys prompt对用户默认不可见，很难观测bot的工作（除非开debug log）。因此依然建议将合并为与主动回复一致的请求逻辑作为最佳解决方案。

此外强烈建议：将提示词改为中文以避免误导AI输出英文。

人格设定中强调一下输出使用什么语言。

llm读取请求内容并进行处理时，对其影响权重最大的部分往往是请求内容文本的靠后部分。如将长长的一篇文章贴给llm，末尾追加询问一些关于文章的内容；相比在开头添加询问，再贴上一整篇长长的文章。前者往往能得到针对问题的回答，而后者llm几乎遗忘开头问的问题是什么。

从反馈部分贴的来看，由于末端文本为“please react to it...”为英文，llm往往理所当然地使用英文接着往下回答；而您提出的在提示词中强调使用中文，这一强调在请求内容以及上下文很长的情况下总是毫无效果，因为如上所述，sys prompt作为请求文本最前部的内容，往往会被llm最容易忽视。

经过验证，及时在sys prompt中强调使用中文，依然难以避免llm用英文输出。使用模型为国产豆包seed 1.6。若为国外模型，恐怕英文现象更严重。因此依然强烈建议修改注入历史提示词（尤其是最下部分的please react to it）

[Dt8333]

llm读取请求内容并进行处理时，对其影响权重最大的部分往往是请求内容文本的靠后部分。如将长长的一篇文章贴给llm，末尾追加询问一些关于文章的内容；相比在开头添加询问，再贴上一整篇长长的文章。前者往往能得到针对问题的回答，而后者llm几乎遗忘开头问的问题是什么。

从反馈部分贴的来看，由于末端文本为“please react to it...”为英文，llm往往理所当然地使用英文接着往下回答；而您提出的在提示词中强调使用中文，这一强调在请求内容以及上下文很长的情况下总是毫无效果，因为如上所述，sys prompt作为请求文本最前部的内容，往往会被llm最容易忽视。

经过验证，及时在sys prompt中强调使用中文，依然难以避免llm用英文输出。使用模型为国产豆包seed 1.6。若为国外模型，恐怕英文现象更严重。因此依然强烈建议修改注入历史提示词（尤其是最下部分的please react to it）

根据你的分析，是否将历史提示词注入位置放置在最前方有助于改善这个问题？

此外#3842被我不小心手滑关闭且无权限重开，麻烦请reopen一下https://github.com/AstrBotDevs/AstrBot/issues/3842🙏🏻🙏🏻

按道理说你作为issue作者是有权重开的啊。

实际上在chat history明确区分at bot的用户的同时，再用不区分用户的user/agent对模式追加描述，只会让llm混淆聊天场景是群聊还是私聊，是否区分不同用户。再加上sys prompt对用户默认不可见，很难观测bot的工作（除非开debug log）。因此依然建议将合并为与主动回复一致的请求逻辑作为最佳解决方案。

我觉得需要实践确认一个优于目前方案的LLM请求方法，能确保使用后可以让bot更能区分群聊和私聊环境。

个人有个不成熟的想法，也许可以通过针对群聊和私聊设置不同配置文件来实现你希望的区分？

• 群聊中开启LTM，携带对话轮数设为0，这样Context应该只会有唤醒Astrbot的用户发言。
• 私聊中携带对话轮数设为一个需要的值，Context中正常携带对话。

这个应当可以通过目前的配置实现。不需要额外修改代码。
你可以尝试一下确认效果。

[zz6zz666]

目前一个非常困扰的问题是，在会话数据页面监视时无法观察sys prompt。

按照您的描述，将LTM会话数调为0，确实可以实现和主动回复的请求一致的逻辑，（除了文本位置不一样）但是在会话数据页面观察不到任何内容，完全无法监视（除非开debug log，但每次观察debug log非常麻烦）。

个人觉得是否也应该在会话数据页面提供一个可视化查看实际sys prompt的入口？

另外#3826的回复已更新，刚才未仔细阅读误解了您的意思🙏🏻

[zz6zz666]

根据你的分析，是否将历史提示词注入位置放置在最前方有助于改善这个问题？

按照这一分析，确实未开启主动回复时，由于下方有中文user/agent对可以避免llm被误导英文输出。

当开启主动回复时，llm开始被误导英文输出。

---

强烈建议将注入提示词改为中文，以最高效地修复这一问题。毕竟AstrBot社区绝大多是是看中文的用户。

---

当然最终目标是实现提示词的国际化，或至少像图片转述提示词一样开放配置项自定义。

[zz6zz666]

个人有个不成熟的想法，也许可以通过针对群聊和私聊设置不同配置文件来实现你希望的区分？

• 群聊中开启LTM，携带对话轮数设为0，这样Context应该只会有唤醒Astrbot的用户发言。
• 私聊中携带对话轮数设为一个需要的值，Context中正常携带对话。

这个应当可以通过目前的配置实现。不需要额外修改代码。 你可以尝试一下确认效果。

熬，这样做固然可以做到非主动回复下采用一样的提示词注入逻辑。但是由于注入到sys prompt会导致不方便查看。

个人有个更好的体验方案，即开启主动回复但主动回复概率设为0，即可同时采用压缩的chat history并避免主动回复。

但是我依然觉得上下文感知最好的实现方案，就是全盘采用目前主动回复已有的整理与请求方式。另一方面也是避免了sys prompt难以观测的问题🤔🤔🤔

[zz6zz666]

@Soulter 😋😋

[zz6zz666]

对于提示词误导输出语言的问题，已在 #3864 中修改了主动回复提示词，加了一句英文的请使用聊天相同语言进行回答。可能因聊天室不同消息语言不一致导致llm输出混淆。

建议开启主动回复选项下，添加自定义末尾主动回复提示词设置项（please react to it...），效果如当前图片转述提示词配置项。

这一方面也是给用户提供更大的配置自由，比如用户可以自定义添加主动回复的描述，如 如果该消息与你有关，请认真回复。

对于是否开启主动回复导致的消息记录与请求方式不一致的问题，当前并未修复，用户端可通过开启主动回复开关同时将主动回复概率设为0，以获得一致体验。