ja workshop newapi integration
New APIは次世代の大規模モデルゲートウェイおよびAI資産管理システムであり、複数のAIサービスプロバイダーへの断片的なアクセス、コスト管理の難しさ、サービス安定性の不足などの問題に対処するように設計されています。その中心的な利点は、次の3つの側面に焦点を当てています:
- マルチプロバイダー互換性: 30以上のAIサービスプロバイダーを統合し、100% OpenAI互換を実現しています(つまり、OpenAIインターフェース形式で他のサービスプロバイダーのモデルを呼び出すことをサポートし、開発コストを削減します)
- 高可用性: 99.9%のサービス可用性を約束し、エンタープライズレベルの安定性要件を満たします
- 使いやすさと制御性: 迅速なアクセスのための「ワンクリックデプロイ」をサポートし、ユーザーがAI使用コストを管理するのに役立つ「柔軟な請求」機能も提供し、「セキュリティと安定性」機能も考慮しています
その他のデプロイ方法については、New APIデプロイガイドを参照してください
このデプロイ方法はSQLiteデータベースを使用します(軽量で、追加のデプロイは不要です)。
コマンドラインで次のように入力します:
docker run --name new-api -d --restart always \
-p 3000:3000 \
-e TZ=Asia/Shanghai \
-v ./new-api/data:/data \
calciumion/new-api:latest
⚠️ 注意:
./new-api/dataを使用したい実際のフォルダーに置き換えてください。
デプロイ後、http://server-IP:3000を開いてNew APIを設定します。
-
New APIモデルを追加
- モデル名: New APIで設定されたモデル名を入力します
- モデルプロバイダー: New APIを選択します
- リクエストURL:
http://server-IP:3000/v1を入力します - APIキー: New APIで作成したトークンを入力します
- パイプラインで新しく設定したモデルを選択
- これで、New APIのモデルを使用できます。