Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

有计划支持流式响应吗 #386

Closed
selfboot opened this issue Apr 3, 2023 · 14 comments
Closed

有计划支持流式响应吗 #386

selfboot opened this issue Apr 3, 2023 · 14 comments

Comments

@selfboot
Copy link

selfboot commented Apr 3, 2023

目前docker部署后,用nginx做了反向代理,但是没有流式响应。是因为现在还没支持,还是我的nginx配置有问题呢

@Cp0204
Copy link

Cp0204 commented Apr 3, 2023

一直支持的,你配置的问题,加上这几句

        # 不缓存,支持流式输出
        proxy_cache off;  # 关闭缓存
        proxy_buffering off;  # 关闭代理缓冲
        chunked_transfer_encoding on;  # 开启分块传输编码
        tcp_nopush on;  # 开启TCP NOPUSH选项,禁止Nagle算法
        tcp_nodelay on;  # 开启TCP NODELAY选项,禁止延迟ACK算法
        keepalive_timeout 300;  # 设定keep-alive超时时间为65秒

@selfboot
Copy link
Author

selfboot commented Apr 3, 2023

    # 不缓存,支持流式输出
    proxy_cache off;  # 关闭缓存
    proxy_buffering off;  # 关闭代理缓冲
    chunked_transfer_encoding on;  # 开启分块传输编码
    tcp_nopush on;  # 开启TCP NOPUSH选项,禁止Nagle算法
    tcp_nodelay on;  # 开启TCP NODELAY选项,禁止延迟ACK算法
    keepalive_timeout 300;  # 设定keep-alive超时时间为65秒

确实,非常感谢,现在可以了。

@roboger
Copy link

roboger commented Apr 3, 2023

vercel等一键部署平台,没法设置环境,该怎么做能流式输出?

@Cp0204
Copy link

Cp0204 commented Apr 3, 2023

一键部署没用反向代理,原本就是流式输出

@roboger
Copy link

roboger commented Apr 4, 2023

采用 netlify 一键部署的,不支持流式输出,希望后期能对这块 调整,或者增加一个开关。

@Yidadaa Yidadaa closed this as completed Apr 5, 2023
@openaddr
Copy link

这个配置文件是写在哪的呢,我直接docker部署了,也没有使用过nginx, 直接使用端口号访问的页面,也没有流响应

@openaddr
Copy link

docker run -d -p 1111:3000
-e OPENAI_API_KEY="我的秘钥"
-e CODE="我的密码"
-e PROXY_URL="我的代理地址"
yidadaa/chatgpt-next-web

我的docker是这样启动的,
访问时是: 域名:1111 这样访问的

@LiberatorHg
Copy link

这个配置文件是写在哪的呢,我直接docker部署了,也没有使用过nginx, 直接使用端口号访问的页面,也没有流响应

老哥你解决了吗,我现在也是遇到和你一样的问题。。直接docker部署的,没有打字机效果

@openaddr
Copy link

openaddr commented May 8, 2023

我最后检查出来的问题是浏览器兼容性,我使用火狐浏览器是不行的, 切换谷歌浏览器就行了

@LiberatorHg
Copy link

我最后检查出来的问题是浏览器兼容性,我使用火狐浏览器是不行的, 切换谷歌浏览器就行了

我本地docker跑用edge有打字机效果,但是放到服务器中的docker上,打字机效果就没了 纳闷了 也没做nginx

@openaddr
Copy link

openaddr commented May 8, 2023

我也没做什么,这是我的启动命令:
docker run -d -p 1111:3000
-e OPENAI_API_KEY="APIKEY"
-e CODE="PassCode"
-e PROXY_URL="proxy"
yidadaa/chatgpt-next-web

我最后检查出来的问题是浏览器兼容性,我使用火狐浏览器是不行的, 切换谷歌浏览器就行了

我本地docker跑用edge有打字机效果,但是放到服务器中的docker上,打字机效果就没了 纳闷了 也没做nginx

@LiberatorHg
Copy link

我也没做什么,这是我的启动命令: docker run -d -p 1111:3000 -e OPENAI_API_KEY="APIKEY" -e CODE="PassCode" -e PROXY_URL="proxy" yidadaa/chatgpt-next-web

我最后检查出来的问题是浏览器兼容性,我使用火狐浏览器是不行的, 切换谷歌浏览器就行了

我本地docker跑用edge有打字机效果,但是放到服务器中的docker上,打字机效果就没了 纳闷了 也没做nginx

是的,我也是和你一模一样的启动命令,

@luciouskami
Copy link

用traefik替代nginx就能解决了

@Issues-translate-bot
Copy link

Bot detected the issue body's language is not English, translate it automatically.


Use traefik instead of nginx to solve the problem

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

No branches or pull requests

8 participants