Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

chatgpt似乎添加了新的直接屏蔽敏感prompt的功能。 #38

Open
jiayev opened this issue Apr 18, 2023 · 6 comments
Open

chatgpt似乎添加了新的直接屏蔽敏感prompt的功能。 #38

jiayev opened this issue Apr 18, 2023 · 6 comments

Comments

@jiayev
Copy link

jiayev commented Apr 18, 2023

No description provided.

@bigemon
Copy link
Owner

bigemon commented Apr 18, 2023

image

能否提供一些更为详细的描述?例如所在平台和浏览器、使用方式、脱敏后的敏感词和cgpt的反馈等。
截止4月18日下午17时,暂未观察到所描述的现象。

@jiayev
Copy link
Author

jiayev commented Apr 18, 2023

QQ截图20230419012205
如图,它并不是去掉了敏感词,而是直接拒绝掉这次prompt的发送。你可以试试直接用英文打一些比较敏感的prompt,应该可以复现。

@bigemon
Copy link
Owner

bigemon commented Apr 18, 2023

这可能是一项正在进行灰度更新的特性。
有一些朋友说遇到了类似的事情,另外一些则说一切正常。
稍后我会试着找一个账号复现一下。

@youtehub
Copy link

川虎Chat在线体验,这个位置昨天测试也是出现无法角色扮演的情况,如果有空,也麻烦整体测试一下吧,看看是否有失效的情况,其中某些似乎无法使用。

@RoyRao2333
Copy link

image

能否提供一些更为详细的描述?例如所在平台和浏览器、使用方式、脱敏后的敏感词和cgpt的反馈等。 截止4月18日下午17时,暂未观察到所描述的现象。

我只想要你的prompt,哈哈哈哈

@bigemon
Copy link
Owner

bigemon commented May 19, 2023

目前,官方已正式推送之前报告的灰度测试版本.

所有用户会话, 目前都可能在对话末尾收到服务端推送的审核标记.
作为一个简单的补丁, 近期更新的v1.4.1 已在本地对会话中的流式响应做了过滤处理.

理论上这应该可以解决本issues提到的问题. 但鉴于prompts 标记可能有另外的响应. 也许我们还需要一些额外的补丁措施.

若1.4.1版本无法正常屏蔽相关警告.请在本issues下提交报告.

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

No branches or pull requests

4 participants