Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

Update API to return only <bot> response #10

Closed
kasima opened this issue May 11, 2023 · 1 comment
Closed

Update API to return only <bot> response #10

kasima opened this issue May 11, 2023 · 1 comment

Comments

@kasima
Copy link
Contributor

kasima commented May 11, 2023

Currently the API returns the full completion:

<context>: วันที่ 10 พ.ค. 66 ที่ศาลอาญา ศาลนัดฟังคําพิพากษาคดีที่พนักงานอัยการคดีพิเศษ 1 เป็นโจทก์ฟ้อง น.ส.วันทนีย์ หรือเดียร์ ทิพย์ประเวช, นายเมธี หรือบอส ชิณภา สองสามีภรรยา, นายปิยะ หรือเป้ คีรีสุวรรณกุล, น.ส.พรสวรรค์ หรือฝ้าย ภูอินอ้อย, น.ส.ธวัลรัตน์ ทิพย์ประเวช มารดาของ น.ส.วันทนีย์ จําเลยที่ 1, น.ส.วิไลวรรณ หรือมิ้น หงษ์ประชาทรัพย์, น.ส.นิตยา หรือโบว์ พินนอก, นายบริภัทร เข็มรัตน์ (ได้ประกัน) และนายปิยะเศรษฐ์ ธิโสภา ที่ร่วมกันเป็นจําเลยที่ 1-9 ตามลําดับ ในความผิดฐานร่วมกันกู้ยืมเงินอันเป็นการฉ้อโกงประชาชน <human>: พาดหัวข่าวนี้ให้หน่อย <bot>: คดีนี้เกิดขึ้นเมื่อวันที่ 10 พฤษภาคม พ.ศ. 2546 เป็นการฟ้องร้องคดีอาชญากรรมที่ศาลแขวงพระนครเหนือ

Update the api to return only the portion after the <bot>:

@kasima kasima transferred this issue from another repository May 11, 2023
@kasima
Copy link
Contributor Author

kasima commented May 15, 2023

Closing this issue, since the Feedback request needs the full completion:

payload:

{'save': 'gen', 'prompt': '<human>: แต่งกลอนวันแม่\n<bot>: รักแม่มากที่สุดในโลก แม้ว่าฉันจะไม่มีแม่ก็ตาม ฉันรักเธอมากและฉันก็รักคุณด้วย ฉันจะรักและดูแลคุณตลอดไป', 'vote': 1, 'feedback': 'some feedback', 'max_len': 512, 'temp': 0.9, 'top_p': 0.95, 'model': 'pythainlp/wangchanglm-7.5B-sft-enth-sharded'}

It will be better to parse the response in the front end, so that we don't have to rebuild the prompt.

@kasima kasima closed this as completed May 15, 2023
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

No branches or pull requests

1 participant