node(如koa)发送openai包stream问题

[co2color]

俺是个后端小白....
我前端这边跟本项目调用方式类似，fetch:

const reader = data.getReader();
const decoder = new TextDecoder("utf-8");
let done = false;

while (!done) {
  const { value, done: readerDone } = await reader.read();
  if (value) {
    let char = decoder.decode(value);
    if (char === "\n" && currentAssistantMessage().endsWith("\n")) {
      continue;
    }
    if (char) {
      setCurrentAssistantMessage(currentAssistantMessage() + char);
    }
    smoothToBottom();
  }
  done = readerDone;
}

koa这边，我给个我的demo，每隔一秒钟发送一个字符，直到所有字符全部发送。

const SSEStream = require('koa-sse-stream')
router.post('/poststream1', new SSEStream(), async (ctx) => {
  let count = 0;
  const str = 'hello';
  const t = setInterval(() => {
    count++;
    if (count <= str.length) {
      ctx.sse.send({
        data: str[count - 1],
        event: 'message',
        id: Date.now(),
      });
    } else {
      clearInterval(t);
      ctx.sse.send({ event: 'end' });
    }
  }, 1000);
});

我这样调用时，f12那边会变成这样：

我这种方式拿到的char结构是data: xx\event: xx\nid: xx\n这种字符串，需要我转换成json才能拿到data里面的值，我是觉得这里挺耗费性能的，我需要用下面的函数去转换：

function transfer(messageStr: string) {
  // messageStr = 'event: message\nid: 1678989864707\ndata: o\n'
  const messageRegex = /^event: ([^\n]+)\nid: ([^\n]+)\ndata: ([^\n]+)/
  const matchResult = messageStr.match(messageRegex)

  if (matchResult) {
    const [, event, id, data] = matchResult
    const messageJson = { event, id, data }
    return messageJson
  }
  return {
    event: 'message',
    data: '',
  }
}

因为我看/api/generate返回的还是正常的Preview，所以想问问本项目/api/generate接口是用类似sse的方式实现的，还是用别的方式？如果是别的方式，能给个最简实现吗，谢谢大佬！

[yzh990918]

You can refer: https://developer.mozilla.org/en-US/docs/Web/API/ReadableStreamDefaultReader/ReadableStreamDefaultReader