Pa1Llama

Ce projet est un proof of concept dans le cadre de la rédaction du rapport "Grands modèles de langages locaux pour la Confidentialité des Données dans les Applications Personnelles et Professionnelles". Un rapport qui s'inscrit pour l'Application de la Démarche Scientifique (ADS) dans le cadre de mes études à CESI. Le rapport sera joint ici après sa finalisation.

L'objectif de ce projet est de développer une solution d'intelligence artificielle open-source, à la fois modulable, flexible, et transparente. Ce projet vise à démocratiser l'accès aux technologies d'IA modernes, en garantissant leur gratuité théorique mais surtout en assurant une confidentialité, une sécurité et une accessibilité optimales.

Sondage

Afin de receuillir les avis en terme de performance de cette application, un sondage est disponible à l'adresse suivante : https://docs.google.com/forms/d/e/1FAIpQLScWba9o3XuoVAnvXRApRKBN7I7vlDXx9cmROKVGilfSAjF68w/viewform?usp=sf_link

note : Ce projet se base sur llama3 et snowflake-arctic-embed, le tout en local sans aucune requete à internet Pour des performances optimal il est conseillé d'utiliser un ordinateur avec au moins 16go de ram (environ 8go de libre)

Prérequis

Avant de démarrer, assurez-vous d'avoir installé les logiciels suivants :

• Python 3.12 ou plus récent (pour le mode developpment)
• Node.js 18.x ou plus récent (pour le mode developpment)
• Ollama (https://ollama.com/) (pour le mode developpment et production)
• Docker (pour le mode production)
• Microsoft C++ tools (pour le mode developpment sur windows)

Installation de l'application en mode production

Installation des modèles d'IA

ollama pull llama3
ollama pull snowflake-arctic-embed

1. Cloner le dépôt :

   git clone https://github.com/Maxougit/Pa1Llama.git

2. Lancer le conteneur Docker :

   cd Pa1Llama
   docker-compose up --build

3. Accéder à l'application :

    http://localhost:3000

   Note : Ajuster les varibles d'environnement au besoin dans les fichiers .env login:mdp admin:admin

------------------------------

Installation de l'application en mode developpement

Installation des modèles d'IA

ollama pull llama3
ollama pull snowflake-arctic-embed

1. Cloner le dépôt :

   git clone https://github.com/Maxougit/Pa1Llama.git

2. Installer les dépendances pour le backend :

   cd Pa1Llama
   python3 -m venv venv # ou python -m venv venv
   source venv/bin/activate # ou .\venv\Scripts\activate.bat
   pip install -r requirements.txt

3. Installer les dépendances pour le frontend :

   cd Pa1Llama/pa1llama
   npm install

Ajuster les variables d'environnement pour le backend

.env

OLLAMA_HOST = 'http://localhost:11434'
MODE = 'dev'

Ajuster les variables d'environnement pour le frontend

.env.local

API_URL=http://localhost:11434/api/
RAG_URL=http://127.0.0.1:5001/

Démarrer l'application

1. Démarrer le backend :

   cd Pa1Llama
   source venv/bin/activate # ou .\venv\Scripts\activate.bat
   python main.py

2. Démarrer le frontend :

    cd Pa1Llama/pa1llama
    npm run dev

3. Accéder à l'application :

    http://localhost:3000

Note : Ajuster les varibles d'environnement au besoin dans les fichiers .env login:mdp admin:admin

------------------------------

Architecture de l'application

------------------------------

Tutoriel

Auteurs

@Maxougit https://cv.maxenceleroux.fr/ github@maxenceleroux.fr

Sources

• https://ollama.com/
• https://www.trychroma.com/
• https://www.snowflake.com/
• https://ai.meta.com/blog/meta-llama-3/