luckrig

日本語 | English

ランディングページ → https://prospectorlabs.dev/luckrig/

今この瞬間、誰かのオンプレミス環境で動いているLLM推論APIを、貢献ベースで試せる場所

Note

これはコンセプト + 動作するPOCであり、運用中のホスト型サービスではありません。公開トラッカーやノードは存在せず、「今すぐ参加できる稼働中プラットフォーム」ではありません。設計思想・プロトタイプ実装・設計判断の記録を共有するためのリポジトリです。実際に運用する場合の法的前提は LEGALISSUE.md を参照（これは法的助言ではありません）。

オンプレミスLLM推論APIシェアリングプラットフォーム。Hotline Connectの「貢献ベースのアクセス権」をローカルLLMの世界に移植し、OpenAI互換APIをコミュニティ間で共助する。

• luck（引き当てる）+ rig（自分の環境・装備）
• SLAは保証しない。ラッキーなら速いノードに当たる
• LMSys Arenaがモデル評価のマップなら、luckrigはインフラ評価のリアルタイムマップ

詳細なコンセプトは CONCEPT.md を参照。これがこのプロジェクトの正典 (source of truth) で、設計判断はすべてここに照らして行う。

技術仕様は SPEC.md を参照。POCの実装範囲、API、データモデル、テスト要件をまとめています。

ユーザーストーリーと受け入れ条件は USERSTORY.md を参照。

操作手順は MANUAL.md を参照。

POC v1 以降の積み残し（実地検証 / v6機能 / 運用ハードニング）は BACKLOG.md を参照。

法務・コンプライアンス論点（コードで解けない領域）は LEGALISSUE.md を参照。これは法的助言ではなく、公開前に弁護士と相談すべき項目のチェックリスト。

構成要素

コンポーネント	役割
Tracker	ノード登録の受付、死活監視、貢献スコアに応じた一時トークン発行
Node Proxy	ollama/llama.cppの前段に差し込む。OpenAI互換の真SSEを基線とし、subtext modeでは復号/暗号化・キューバッファ・擬似SSEを行う
CLI	コマンド一行でノード登録、プロキシ層の自動セットアップ
Web (試食UI)	公開リスト閲覧、トークン取得、キューUX、リプレイ再生
subtext (任意)	Unicode variation selectorで暗号化ペイロードを不可視に埋め込む方式。ノード側プロキシログにcovertextしか残さないためのdefense-in-depth。デフォルトでは使われない

スコープ (v1)

• テキスト生成（OpenAI互換API）に限定
• plain mode（基線）: 素のOpenAIクライアントがそのまま動く真SSE
• subtext mode（任意）: ノードのプロキシログに平文を残さないdefense-in-depth
• 画像生成 / 音声 / 認識は試食UX全般の整合性設計が確立してから (v6+)

近い先行事例との差別化

• AI Horde（kudosベースの貢献共助）: ワーカーを抽象化してハードウェアを隠す設計。luckrigは逆にハードウェアを主役にする（環境メタデータ・チューニングノート・特定リグの指名・希少性ベースの並び）。
• Petals: 大規模モデルの分散推論。luckrigは1ノード1推論で射程外。

送信内容について

plain mode（基線）はTLS + ノードプロキシのログ非書き出し規約に依存します。subtext mode（任意）はそれに加えて、ノードのプロキシログに covertext しか残さないdefense-in-depthを足します。いずれにせよノード提供者がプロセス内部に踏み込めば平文を見られます。機密情報、個人情報、業務上守るべき内容は送らないでください。

違法コンテンツへのゼロトレランスと通報導線

児童性的搾取、テロ・大量暴力支援、その他違法な入力/出力は禁止しています。luckrigは3段構えで対応します。

1. ノードプロキシのローカル正規表現フィルタ
2. ノードプロキシの外部モデレーションフック（LUCKRIG_MODERATION_ENDPOINT、OpenAI Moderation互換、入力は送信前ブロック・到達不能時はfail-closed／出力は既定 record（ストリーミング維持＋事後記録）で plain modeの真SSEを壊さない。法務要件があれば block に切替）
3. トラッカー側のNotice-and-Takedown：POST /api/abuse/report（誰でも通報可、IPレート制限、自動banはしない）／POST /api/bans（運営者がレビュー後に手動でban／LUCKRIG_DEV=1）

Abuse contactは GET /api/abuse-contact で公開されます。詳細は SPEC.md §7.1b / §7.1c を参照。

最小実装の順序

CONCEPT.md §「最小実装の順序」より：

1. ノード情報の公開リスト（無登録者向け、死活監視込み）
2. ベンチマーク自動収集（メモリ使用量、エラー率）
3. ノード登録CLI + luckrigプロキシ層
4. トークン発行ロジック
5. 試食UI（トークン取得→キューUX→擬似SSE）
6. リプレイ機能（ローカル永続化、~/.luckrig/history/）
7. 貢献スコアと権限管理

現在のプロトタイプ

依存なしの POC prototype を実装済みです。tracker / token / proxy / subtext / pseudo SSE / replay までE2Eで検証できます。

上図はシードノード3構成（RTX 5090 / Apple M3 Max / Raspberry Pi 5）を読み込んだ公開リストUI。デフォルトは希少性スコア順で、リーダーボードではなくShowcaseとして並ぶ。

source .tools/git-env.sh   # Codexサンドボックス内でgitを使う場合
npm start                  # http://127.0.0.1:8787
npm run check
npm run test:smoke
npm run test:e2e
npm test

• 公開リストUI: GET /
• tracker health: GET /api/health
• ノード一覧: GET /api/nodes
• 詳細: docs/tracker-api.md
• metrics schema: docs/metrics-schema.md
• POC E2E: docs/poc.md

現段階のv1/POCとして、公開リスト、fingerprint表示/任意照合、ブラウザpublic-key試食POC、privacy caveat checkbox、死活監視、SQLite/JSONL永続化、durable token quota、prompt filter、token、node proxy、subtext、擬似SSE、replay保存までを一通りつないでいます。

Status

v1/POC実装完了。公開リスト、死活監視、SQLite/JSONL永続化、token、durable limited quota、prompt filter、node proxy、public-key subtext、browser public-key試食、queue可視化、環境フィルタ/比較ビュー、多軸貢献スコア、Showcase自動生成、browser identity永続化、別経路fingerprint任意照合、IP token rate limit、heuristic tokenizer replay、pseudo SSE、replay保存までをNode.js標準ライブラリのみで実装済み。コンセプト v5.6 確定。

License

Apache License 2.0。明示的な無保証条項（§7 Disclaimer of Warranty）はluckrigの「保証しません、でも試せます」という免責思想と整合します。