Skip to content

Latest commit

 

History

History
49 lines (22 loc) · 1.88 KB

serverless-zh.md

File metadata and controls

49 lines (22 loc) · 1.88 KB

希望这个教程可以帮助你!如果想支持一下,可以使用 RunPod Referral link 这个链接注册

如何在 RunPod Serverless 环境中运行 ChilloutMix 和 LORA

RunPod 应该是目前在 Serverless 环境中运行 ChilloutMix 和 LORA 最简单和最便宜的方式。

我尝试过 Replicate, 但没成功,之后可能再试试.

以下是使用步骤:

1. 创建一个 RunPod 账号

2. 前往 Serverless My Template, 点击 New Template

可以设置一个 tempalte name, 但 container name 必须是 chilloutai/auto-api:1.2.0

Docker 镜像构建过程在仓库中。

image

3. 前往 Serverless My APIs, 点击 New API

设置 api name 并选择上一步创建的 template name

image

创建完成后,可以在下方看到 API 接口

4. 前往 Settings to 创建 API key

image

5. 需要 Billling 中去冲一点钱

个人使用的话,10刀就可以用很久了

6. 测试一下是否正常使用

把 API key 和 name 放到 runpod_api_test.py,然后运行 python runpod_api_test.py

30 秒到 1 分钟后,应该可以在目录下看到图片。

另外我还根据这个 api 创建了一个小网站,可以试一下: https://chilloutai.com/