En está tarea de investigación en inteligencia artificial y procesamiento de lenguaje natural (NLP), se fusionan tecnologías innovadoras como LangChain, Pinecone y OpenAI para explorar la vanguardia de la intersección entre IA y NLP. Desde la interacción dinámica con ChatGPT utilizando Python y LangChain para preguntar y recibir respuestas, hasta la creación de sistemas eficientes de recuperación y generación de respuestas (RAG) utilizando bases de datos vectoriales en memoria con Pinecone, se ha diseñado un entorno donde la eficiencia y la versatilidad convergen. Además, se han configurado RAG adicionales, aprovechando la potencia de Pinecone para administrar bases de datos vectoriales en la nube, demostrando así la amplitud de aplicaciones y la capacidad de adaptación de estas herramientas en la creación de sistemas de procesamiento de lenguaje natural avanzados. Este enfoque multidisciplinario representa un paso adelante en la investigación de tecnologías NLP y proporciona nuevas perspectivas para el desarrollo futuro en este campo.
El proyecto contiene:
-
Se tiene Main la clase LLMChain se utiliza para generar respuestas a preguntas utilizando un modelo de lenguaje y una plantilla de mensajes. La clase toma una pregunta como entrada, la formatea utilizando la plantilla de solicitud y luego pasa la solicitud formateada al modelo de lenguaje para generar una respuesta.
-
Se tiene Memory este código utiliza un modelo de lenguaje para responder una pregunta sobre la descomposición de tareas mediante la recuperación y el procesamiento de texto relevante de una página web.
-
Se tiene Pinecote este código utiliza un modelo de lenguaje para buscar texto relevante en un documento basándose en una consulta determinada, convirtiendo el texto y la consulta en representaciones vectoriales y recuperando los fragmentos de texto más similares de un almacén de vectores.
--> Requerimientos Este archivo es en el cual se tendra lo relacionado a las herramientas que es necesario instalar para el funcionamiento del proyecto de Python presentado.
Python Lenguaje de programación usado. Para ver con la versión que cuentas, Abre el CMD y pon lo siguiente:
python -version
Ya al tener este lenguaje puedes usar el IDE que sea de tu agrado. Opciones pueden ser Pycharm o Visual Studio Code
La arquitectura de este código se basa en la cadena de lenguaje (langchain) que se compone de los siguientes componentes:
- Cargador de documentos: Se encarga de cargar los documentos relevantes para el análisis. En este ejemplo, se utiliza un cargador de texto y un cargador de base de datos web.
- Separador de texto: Divide los documentos en fragmentos más pequeños para que el modelo de lenguaje pueda procesarlos. En este ejemplo, se utiliza un separador de texto recursivo de caracteres.
- Modelo de incrustaciones de lenguaje: Convierte el texto en vectores numéricos para que puedan ser indexados y buscados eficientemente. En este ejemplo, se utiliza el modelo de incrustaciones de lenguaje OpenAI.
- Almacén de vectores: Indexa los vectores para una búsqueda eficiente. En este ejemplo, se utiliza el almacén de vectores Chroma.
- Modelo de lenguaje: Genera respuestas a las preguntas basadas en los vectores indexados. En este ejemplo, se utiliza el modelo de lenguaje OpenAI.
La arquitectura del código se organiza en módulos y submódulos, cada uno de los cuales se encarga de una tarea específica. El módulo principal es langchain, que contiene los módulos chains, llms, prompts, community, schema y utils. El módulo chains contiene las cadenas de lenguaje, el módulo llms contiene los modelos de lenguaje, el módulo prompts contiene los prompts, el módulo community contiene las implementaciones de la comunidad, el módulo schema contiene las clases de esquema y el módulo utils contiene las utilidades.
La arquitectura del código está diseñada para ser modular y fácil de usar, lo que permite agregar nuevos cargadores de documentos, separadores de texto, modelos de incrustaciones de lenguaje, almacenes de vectores y modelos de lenguaje según sea necesario. Además, la arquitectura del código está diseñada para ser eficiente y precisa, lo que permite crear cadenas de lenguaje que puedan procesar y analizar grandes conjuntos de documentos.
Debemos clonar el repositorio:
git clone https://github.com/MPulidoM/TareaLLM.git
Se accede al directorio del proyecto:
cd TareaLLM
Antes de correr las clases debe tener en cuenta lo siguiente:
-
La OPEN_API_KEY de las clases Main , Memory y Pinecote es proporcionada por el profesor.
-
La PINECONE_API_KEY de la clase Pinecote es obtenida de la página Pinecone en la sección API KEYS.
Al tener lo anterior se debe instalar los paquetes del archivo Requerimientos con el siguiente comando:
pip install -r requirements.txt
Teniendo todo instalado puedes correr las clases desde tu IDE de preferencía o desde consola con los siguientes comandos para cada una de las clases:
py main.py
py memory.py
py pinecote.py
Main
Es un ejemplo del uso de la clase LLMChain del módulo langchain.chains para crear una cadena de modelo de lenguaje. La cadena consta de una plantilla de aviso y un modelo de lenguaje.
-
La plantilla de solicitud se define utilizando la clase PromptTemplate del módulo langchain.prompts. La plantilla es una cadena que incluye un marcador de posición para la pregunta del usuario. El parámetro input_variables especifica el nombre de la variable que se utilizará para completar el marcador de posición.
-
El modelo de lenguaje es una instancia de la clase OpenAI del módulo langchain_community.llms. Esta clase proporciona una interfaz para la API de OpenAI, que le permite utilizar el modelo de lenguaje OpenAI para generar respuestas a solicitudes.
-
La clase LLMChain toma la plantilla de solicitud y el modelo de lenguaje como argumentos y crea una cadena que se puede utilizar para generar respuestas a las preguntas de los usuarios. El método de ejecución de la cadena toma la pregunta del usuario como argumento y devuelve la respuesta generada.
En este ejemplo, la pregunta es "¿Cuál es el núcleo de la teoría de la ciencia de Popper?" La plantilla de mensaje se usa para construir un mensaje que incluya esta pregunta y el modelo de lenguaje se usa para generar una respuesta al mensaje. La respuesta generada luego se imprime en la consola.
Memory
Es un ejemplo del uso de la clase LLMChain del módulo langchain para crear una cadena de modelo de lenguaje que puede generar respuestas a las preguntas de los usuarios. La cadena consta de un mensaje, un modelo de lenguaje y un recuperador que recupera documentos relevantes de un almacén de vectores.
-
El mensaje se define utilizando la plantilla rag-prompt del módulo langchain.hub. Esta plantilla está diseñada para funcionar con el modelo de generación aumentada de recuperación (RAG) de Hugging Face.
-
El modelo de lenguaje es una instancia de la clase ChatOpenAI del módulo langchain_community.chat_models. Esta clase proporciona una interfaz para la API de OpenAI, que le permite utilizar el modelo de lenguaje OpenAI para generar respuestas a solicitudes.
-
El recuperador es una instancia de la clase Chroma del módulo langchain_community.vectorstores. Esta clase proporciona una manera de crear un almacén de vectores a partir de un conjunto de documentos y de utilizar el almacén de vectores para recuperar documentos relevantes en función de una consulta. En este ejemplo, el almacén de vectores se crea a partir de un conjunto de documentos cargados desde una página web utilizando la clase WebBaseLoader del módulo langchain_community.document_loaders. Los documentos se dividen en fragmentos más pequeños utilizando la clase RecursiveCharacterTextSplitter del módulo langchain.text_splitter.
La clase LLMChain toma el mensaje, el modelo de lenguaje y el recuperador como argumentos y crea una cadena que se puede utilizar para generar respuestas a las preguntas de los usuarios. El método de invocación de la cadena toma la pregunta del usuario como argumento y devuelve la respuesta generada.
- En este ejemplo, la pregunta es "¿Qué es la descomposición de tareas?". El recuperador se utiliza para recuperar documentos relevantes del almacén de vectores según esta pregunta. Luego, el mensaje se utiliza para construir un mensaje que incluya los documentos recuperados y la pregunta del usuario. El modelo de lenguaje se utiliza para generar una respuesta al mensaje. La respuesta generada luego se imprime en la consola.
Pinecote
Es un ejemplo del uso de la clase PineconeVectorStore del módulo langchain_pinecone para crear un almacén de vectores que se puede usar para buscar documentos según sus incrustaciones.
-
El almacén de vectores se crea a partir de un conjunto de documentos cargados desde un archivo de texto utilizando la clase TextLoader del módulo langchain_community.document_loaders. Los documentos se dividen en fragmentos más pequeños utilizando la clase RecursiveCharacterTextSplitter del módulo langchain.text_splitter.
-
Las incrustaciones de los documentos se generan utilizando la clase OpenAIEmbeddings del módulo langchain.embeddings. Estas incrustaciones se utilizan para crear un almacén de vectores en Pinecone, un servicio de base de datos de vectores.
-
La clase PineconeVectorStore proporciona métodos para crear un nuevo almacén de vectores o cargar uno existente. En este ejemplo, el almacén de vectores se crea desde cero utilizando el método from_documents.
Una vez creado el almacén de vectores, se puede utilizar para buscar documentos en función de sus incrustaciones. El método similarity_search toma una consulta como entrada y devuelve los documentos que son más similares a la consulta.
- Mariana Pulido Moreno - Arep 101 - MPulidoM