Repository navigation
1.0.3
- 支持返回消耗的token数
- 区块化单元测试。
- 修复已知bug
注意:- 单元测试时的时候不要并发点,会报错,因为他是websocket访问。
- OpenAI 采用流式方法对话时,不会返回消耗的token。
- 各模型厂商对token的消耗计算是不一样的,可以通过单元测试对比结果。
- 测试中通义千问流式方法消耗的token比直接对话的要多一点
- 文心一言实际调用中的模型并不叫模型名,要跟官方的对标好比如ernie-bot实际在代码中的传参是completions,这个后续优化。
- 文心一言有概率乱答