What happened?
当前的逻辑:每一次光标移动、文件改变等时间发生时,均会调用大模型接口实现代码补全。在异步任务发送请求时,getCodeCompletionHints函数判断httpRequestFinFlag是否为true,如果上一次发送完了才进行当前请求,如果上一次请求未结束,则直接返回null。
这样会产生两个问题:
- 过于频繁的大模型调用,会增加模型的压力;
- 如果大模型响应速度为秒级(目前很多用户本地跑大模型的水平),当用户停止编码想要自动补全输出时。大概率发生以下情况:之前的请求没有完成,真正停止编码要等待输出的请求会跳过直接返回null。稍后返回的数据反而是之前请求的数据,导致用户的代码提示出不来。
What did you expect to happen?
建议减少调用频繁,优化操作习惯,在等一段时间用户无动作后才发送补全代码请求。
What happened?
当前的逻辑:每一次光标移动、文件改变等时间发生时,均会调用大模型接口实现代码补全。在异步任务发送请求时,
getCodeCompletionHints函数判断httpRequestFinFlag是否为true,如果上一次发送完了才进行当前请求,如果上一次请求未结束,则直接返回null。这样会产生两个问题:
What did you expect to happen?
建议减少调用频繁,优化操作习惯,在等一段时间用户无动作后才发送补全代码请求。