Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

现在最大的问题应该是ChatGPT的文本上限。 #43

Open
valithria opened this issue Feb 24, 2023 · 12 comments
Open

现在最大的问题应该是ChatGPT的文本上限。 #43

valithria opened this issue Feb 24, 2023 · 12 comments

Comments

@valithria
Copy link

valithria commented Feb 24, 2023

中文文本的上限大概在600字不到,经常是550左右就自动断开,文章刚到中间就没了,能有一千都好🙄找了很久都没找到解决办法,PLUS都无法解决…出个无文本字符数量限制的会员都好,救救孩子😭
顺便还发现了个新问题,单个chat里的文字数量在16万左右就会无法继续,已经玩坏一个。

@Nyarlathote
Copy link

打个继续说不就行了吗

@danmuLLtoo
Copy link

我感觉最大的问题是他的健忘,经常说着说着就忘了之前说的话或者设定,没开plus,不知道plus解决了这个问题没有

@aistha
Copy link

aistha commented Feb 24, 2023

我一般会说“接着上文最后一个字继续生成”,同时也可以补充要求。
另外在设定时可以加入“始终是开放式的并且可以继续”之类的话。
健忘的话,一般用“总结前文”“保持角色”之类的话放在开头,帮着强化记忆。如果嫌它把总结生成出来,可以再加上“不用显示出来”
最后,plus不解决健忘

@shawlj
Copy link

shawlj commented Feb 25, 2023

昨天刚刚试验,中文字符测试最多18行不含空行。然后按网友方式让它继续写,但上下文乱套了。。Plus版有字数限制吗?

@aistha
Copy link

aistha commented Feb 25, 2023

Plus版有字数限制。

@littlefox0990
Copy link

确实,我也发现这个问题了,我一般就是打一个“继续往下写”,他接下来输出的东西和之前写东西细节上对不太上,不过大体剧情上还是能承接的,脑补一下凑合着用吧,希望以后的版本能增加单次文本输出的限制

@B-lackLuster
Copy link

B-lackLuster commented Feb 28, 2023

Plus会续着说,普通版有时候不会

@xihajun
Copy link

xihajun commented Feb 28, 2023

得理解原理,一个中文的token很重的

@weekdayjast
Copy link

可以试试我这个,通过【人格设定】固定开始上下文,加上最多10条上下文,超过2048自动去除上下文
1678593880209

@xihajun
Copy link

xihajun commented Mar 12, 2023

可以使用embeddings功能,把文字转成向量储存起来,https://community.openai.com/t/how-can-i-use-embeddings-with-chat-gpt-3-5-turbo/86759

@zombieyang
Copy link

zombieyang commented Mar 14, 2023

可以使用embeddings功能,把文字转成向量储存起来,https://community.openai.com/t/how-can-i-use-embeddings-with-chat-gpt-3-5-turbo/86759

看了下这个,本质上是给chatgpt外挂了一个记忆体。但chatgpt一次最多能处理的token没有变,还是只有4096token,也不能压缩文本体积。

实现这个外挂记忆体还是有一些开发成本的。不过github上有一个开源实现:https://github.com/jerryjliu/llama_index

@1JayPeng
Copy link

参考@aistha 始终是开放式的并且可以继续,如果你突然被截断输出,那当你输出被截断后收到我的指令:继续 之后你会接着输出你被截断的那部分内容,无需继续生成 可以解决问题,当当一个继续以及不够了不提前设定的话

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

No branches or pull requests