Skip to content

建议优化并减少补全代码功能发送请求的频率 #18

@SihengCui

Description

@SihengCui

What happened?
当前的逻辑:每一次光标移动、文件改变等时间发生时,均会调用大模型接口实现代码补全。在异步任务发送请求时,getCodeCompletionHints函数判断httpRequestFinFlag是否为true,如果上一次发送完了才进行当前请求,如果上一次请求未结束,则直接返回null。
这样会产生两个问题:

  1. 过于频繁的大模型调用,会增加模型的压力;
  2. 如果大模型响应速度为秒级(目前很多用户本地跑大模型的水平),当用户停止编码想要自动补全输出时。大概率发生以下情况:之前的请求没有完成,真正停止编码要等待输出的请求会跳过直接返回null。稍后返回的数据反而是之前请求的数据,导致用户的代码提示出不来。

What did you expect to happen?
建议减少调用频繁,优化操作习惯,在等一段时间用户无动作后才发送补全代码请求。

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Type

    No type

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions