Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

建议更换程序向slack请求的文本格式 #27

Open
L1Xu4n opened this issue Jun 5, 2023 · 2 comments
Open

建议更换程序向slack请求的文本格式 #27

L1Xu4n opened this issue Jun 5, 2023 · 2 comments

Comments

@L1Xu4n
Copy link

L1Xu4n commented Jun 5, 2023

众所周知,claude开始新对话后,随着对话进行,回复会越来越长,即使在设定中加入”你的回复必须在xx字以下“也无济于事
但是,当/reset开始新对话,claude通常能给出较短的回复
我观察到每次claude回复结束,程序会发送/reset
但实际上这个“/reset”直接发送给了模型,而并非真正的重置了对话,就像用chatgpt告诉他结束对话而不点击new chat
那么使用/reset指令后应该能解决回复过长的问题
tips:我认为有时候机器人自己跟自己聊起来就是因为单个会话token累计过长导致claude不能按格式回复

@Syan-Lin
Copy link
Owner

Syan-Lin commented Jun 5, 2023

对,但是我没在slack的文档里找到如何发送/reset命令,如果你知道可以提一个PR

@L1Xu4n
Copy link
Author

L1Xu4n commented Jun 6, 2023

抱歉我的回复有误,可能真的没有发送命令的方法,但是还有另一种方式重置token
那便是在频道中向claude回复消息
在频道中@claude便可以开启新对话,然后claude的消息便会从消息列中发出,后续也可以通过在消息列与claude保持对话
在您的项目,每条发送给claude的消息都可以在频道@claude来忽略之前的token,然后只需获取claude在消息列传出的消息即可
如果实现这个方法,那么单次可以发送给claude更长的json消息,实现更长的短期记忆,让AI在收到错误的检索消息后也能联系更多的短期记忆提供更有逻辑的回复
我用openai的tokenizer计算了一次发送给claude的总结请求,共计人机对话7次,算上claude的回复仅有3200个token
理论上短期记忆能增长一倍(claude上下文窗口9k)

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

No branches or pull requests

2 participants