[Bug] pplx-7b-online、pplx-70b-online 模型输出内容诡异

[limboinf]

💻 系统环境

macOS

📦 部署环境

Vercel / Zeabur / Sealos

🌐 浏览器

Chrome

🐛 问题描述

pplx-7b-online 模型输出的内容过于诡异，我不清楚是什么导致的，温度（0.6）等其他配置都是默认的。

pplx-70b-online 也是一样

🚦 期望结果

No response

📷 复现步骤

default agent( 随便聊聊）

input: 小米汽车什么时候发布会？价格大概多少？

📝 补充信息

No response

[lobehubbot]

👀 @limboinf

Thank you for raising an issue. We will investigate into the matter and get back to you as soon as possible.
Please make sure you have given us as much context as possible.
非常感谢您提交 issue。我们会尽快调查此事，并尽快回复您。 请确保您已经提供了尽可能多的背景信息。

[1PercentSync]

pplx7b基于mistral7b，70b基于llama70b，本身中文能力很差，容易出现不断重复的问题，并且不是新的模型，失去了官方的支持，这里应该做的是同步pplx最新的模型 https://docs.perplexity.ai/docs/model-cards 不过问题也是显而易见的，medium甚至没有中文能力，输出的只有英文

[1PercentSync]

sonar 7b倒是没问题

[lobehubbot]

Bot detected the issue body's language is not English, translate it automatically. 👯👭🏻🧑‍🤝‍🧑👫🧑🏿‍🤝‍🧑🏻👩🏾‍🤝‍👨🏿👬🏿

---

Sonar 7b is no problem

[YuChenSSR]

I had the same weirdness here, just a "hello".
我这里也是同样的诡异,只是说了一声 “hello”

[MapleEve]

试着调整一下对话助手里面的4个设置吧，Lobe 只负责返回对应的内容，你就算是 curl 一下。这种本地的7B 模型返回的也是这样的。

[lobehubbot]

Bot detected the issue body's language is not English, translate it automatically. 👯👭🏻🧑‍🤝‍🧑👫🧑🏿‍🤝‍🧑🏻👩🏾‍🤝‍👨🏿👬🏿

---

Try adjusting the four settings in the conversation assistant. Lobe is only responsible for returning the corresponding content. You can just curl it. This local 7B model returns the same.

[lobehubbot]

✅ @limboinf

This issue is closed, If you have any questions, you can comment and reply.
此问题已经关闭。如果您有任何问题，可以留言并回复。