Skip to content

Latest commit

 

History

History
271 lines (202 loc) · 12.6 KB

README_ja.md

File metadata and controls

271 lines (202 loc) · 12.6 KB
Raw

English | 简体中文 | 日本語

Latest Release Static Badge docker pull infiniflow/ragflow:v0.6.0 license

💡 RAGFlow とは？

RAGFlow は、深い文書理解に基づいたオープンソースの RAG (Retrieval-Augmented Generation) エンジンである。LLM（大規模言語モデル）を組み合わせることで、様々な複雑なフォーマットのデータから根拠のある引用に裏打ちされた、信頼できる質問応答機能を実現し、あらゆる規模のビジネスに適した RAG ワークフローを提供します。

📌 最新情報

  • 2024-05-21 ストリーミング出力とテキストチャンク取得APIをサポート。
  • 2024-05-15 OpenAI GPT-4oを統合しました。
  • 2024-05-08 LLM DeepSeek-V2を統合しました。
  • 2024-04-26 「ファイル管理」機能を追加しました。
  • 2024-04-19 会話 API をサポートします (詳細)。
  • 2024-04-16 BCEmbedding から埋め込みモデル「bce-embedding-base_v1」を追加します。
  • 2024-04-16 FastEmbed は、軽量かつ高速な埋め込み用に設計されています。
  • 2024-04-11 ローカル LLM デプロイメント用に Xinference をサポートします。
  • 2024-04-10 メソッド「Laws」に新しいレイアウト認識モデルを追加します。
  • 2024-04-08 Ollama を使用した大規模モデルのローカライズされたデプロイメントをサポートします。
  • 2024-04-07 中国語インターフェースをサポートします。

🌟 主な特徴

🍭 "Quality in, quality out"

  • 複雑な形式の非構造化データからの深い文書理解ベースの知識抽出。
  • 無限のトークンから"干し草の山の中の針"を見つける。

🍱 テンプレートベースのチャンク化

  • 知的で解釈しやすい。
  • テンプレートオプションが豊富。

🌱 ハルシネーションが軽減された根拠のある引用

  • 可視化されたテキストチャンキング（text chunking）で人間の介入を可能にする。
  • 重要な参考文献のクイックビューと、追跡可能な引用によって根拠ある答えをサポートする。

🍔 多様なデータソースとの互換性

  • Word、スライド、Excel、txt、画像、スキャンコピー、構造化データ、Web ページなどをサポート。

🛀 自動化された楽な RAG ワークフロー

  • 個人から大企業まで対応できる RAG オーケストレーション（orchestration）。
  • カスタマイズ可能な LLM とエンベッディングモデル。
  • 複数の想起と融合された再ランク付け。
  • 直感的な API によってビジネスとの統合がシームレスに。

🔎 システム構成

🎬 初期設定

📝 必要条件

  • CPU >= 4 cores
  • RAM >= 16 GB
  • Disk >= 50 GB
  • Docker >= 24.0.0 & Docker Compose >= v2.26.1

    ローカルマシン（Windows、Mac、または Linux）に Docker をインストールしていない場合は、Docker Engine のインストール を参照してください。

🚀 サーバーを起動

  1. vm.max_map_count >= 262144 であることを確認する【もっと】:

    vm.max_map_count の値をチェックするには:

    $ sysctl vm.max_map_count

    vm.max_map_count が 262144 より大きい値でなければリセットする。

    # In this case, we set it to 262144:
$ sudo sysctl -w vm.max_map_count=262144

    この変更はシステム再起動後にリセットされる。変更を恒久的なものにするには、/etc/sysctl.conf の vm.max_map_count 値を適宜追加または更新する:

    vm.max_map_count=262144

  2. リポジトリをクローンする:

    $ git clone https://github.com/infiniflow/ragflow.git

  3. ビルド済みの Docker イメージをビルドし、サーバーを起動する:

    $ cd ragflow/docker
$ chmod +x ./entrypoint.sh
$ docker compose up -d

    上記のコマンドを実行すると、RAGFlowの開発版dockerイメージが自動的にダウンロードされます。 特定のバージョンのDockerイメージをダウンロードして実行したい場合は、docker/.envファイルのRAGFLOW_VERSION変数を見つけて、対応するバージョンに変更してください。 例えば、RAGFLOW_VERSION=v0.6.0として、上記のコマンドを実行してください。

    コアイメージのサイズは約 9 GB で、ロードに時間がかかる場合があります。

  4. サーバーを立ち上げた後、サーバーの状態を確認する:

    $ docker logs -f ragflow-server

    以下の出力は、システムが正常に起動したことを確認するものです:

        ____                 ______ __
   / __ \ ____ _ ____ _ / ____// /____  _      __
  / /_/ // __ `// __ `// /_   / // __ \| | /| / /
 / _, _// /_/ // /_/ // __/  / // /_/ /| |/ |/ /
/_/ |_| \__,_/ \__, //_/    /_/ \____/ |__/|__/
              /____/

 * Running on all addresses (0.0.0.0)
 * Running on http://127.0.0.1:9380
 * Running on http://x.x.x.x:9380
 INFO:werkzeug:Press CTRL+C to quit

    もし確認ステップをスキップして直接 RAGFlow にログインした場合、その時点で RAGFlow が完全に初期化されていない可能性があるため、ブラウザーがネットワーク異常エラーを表示するかもしれません。

  5. ウェブブラウザで、プロンプトに従ってサーバーの IP アドレスを入力し、RAGFlow にログインします。

    デフォルトの設定を使用する場合、デフォルトの HTTP サービングポート 80 は省略できるので、与えられたシナリオでは、http://IP_OF_YOUR_MACHINE（ポート番号は省略）だけを入力すればよい。

  6. service_conf.yaml で、user_default_llm で希望の LLM ファクトリを選択し、API_KEY フィールドを対応する API キーで更新する。

    詳しくは ./docs/guides/llm_api_key_setup.md を参照してください。

    これで初期設定完了！ショーの開幕です！

🔧 コンフィグ

システムコンフィグに関しては、以下のファイルを管理する必要がある:

.env ファイルの変更が service_conf.yaml ファイルの内容と一致していることを確認する必要があります。

./docker/README ファイルは環境設定とサービスコンフィグの詳細な説明を提供し、./docker/README ファイルに記載されている全ての環境設定が service_conf.yaml ファイルの対応するコンフィグと一致していることを確認することが義務付けられています。

デフォルトの HTTP サービングポート(80)を更新するには、docker-compose.yml にアクセスして、80:80 を <YOUR_SERVING_PORT>:80 に変更します。

すべてのシステム設定のアップデートを有効にするには、システムの再起動が必要です:

$ docker-compose up -d

🛠️ ソースからビルドする

ソースからDockerイメージをビルドするには:

$ git clone https://github.com/infiniflow/ragflow.git
$ cd ragflow/
$ docker build -t infiniflow/ragflow:v0.6.0 .
$ cd ragflow/docker
$ chmod +x ./entrypoint.sh
$ docker compose up -d

🛠️ ソースコードからサービスを起動する方法

ソースコードからサービスを起動する場合は、以下の手順に従ってください:

  1. リポジトリをクローンします
$ git clone https://github.com/infiniflow/ragflow.git
$ cd ragflow/
  1. 仮想環境を作成します（AnacondaまたはMinicondaがインストールされていることを確認してください）
$ conda create -n ragflow python=3.11.0
$ conda activate ragflow
$ pip install -r requirements.txt

CUDAのバージョンが12.0以上の場合、以下の追加コマンドを実行してください：

$ pip uninstall -y onnxruntime-gpu
$ pip install onnxruntime-gpu --extra-index-url https://aiinfra.pkgs.visualstudio.com/PublicPackages/_packaging/onnxruntime-cuda-12/pypi/simple/
  1. エントリースクリプトをコピーし、環境変数を設定します
$ cp docker/entrypoint.sh .
$ vi entrypoint.sh

以下のコマンドでPythonのパスとragflowプロジェクトのパスを取得します：

$ which python
$ pwd

which pythonの出力をPYの値として、pwdの出力をPYTHONPATHの値として設定します。

LD_LIBRARY_PATHが既に設定されている場合は、コメントアウトできます。

# 実際の状況に応じて設定を調整してください。以下の二つのexportは新たに追加された設定です
PY=${PY}
export PYTHONPATH=${PYTHONPATH}
# オプション：Hugging Faceミラーを追加
export HF_ENDPOINT=https://hf-mirror.com
  1. 基本サービスを起動します
$ cd docker
$ docker compose -f docker-compose-base.yml up -d

  1. 設定ファイルを確認します docker/.env内の設定がconf/service_conf.yaml内の設定と一致していることを確認してください。service_conf.yaml内の関連サービスのIPアドレスとポートは、ローカルマシンのIPアドレスとコンテナが公開するポートに変更する必要があります。

  2. サービスを起動します

$ chmod +x ./entrypoint.sh
$ bash ./entrypoint.sh

📚 ドキュメンテーション

📜 ロードマップ

RAGFlow ロードマップ 2024 を参照

🏄 コミュニティ

🙌 コントリビュート

RAGFlow はオープンソースのコラボレーションによって発展してきました。この精神に基づき、私たちはコミュニティからの多様なコントリビュートを受け入れています。 参加を希望される方は、まずコントリビューションガイドをご覧ください。