Utilizando Modelos de Linguagem de Grande Escala (LLM) em Python

✏️ Por Heliton Martins | 01 de agosto de 2024 | 🌱 Programação Popular.

Usaremos neste tutorial os seguintes modelos (LLMs):

• OpenAI GPT 4o (pago)
  • 🗝️ Chaves de API (pegue sua chave aqui)
  • 📄 Documentação
  • 💰 Necessário recarregar a conta em no mínimo US$ 5,00 (R$ 28,76 na data da escrita deste documento);
    • Observe que o modelo gpt-4o-mini é consideravelmente mais barato do que a versão completa gpt-4o.
• Google Gemini 1.5 (gratuito para testes)
  • 🗝️ Google AI Studio (pegue sua chave aqui)
  • 📄 Documentação
  • 💰 Gratuito, mas com limites no número de Requisições Por Minuto (RPM)
    • 2 RPM para o Gemini 1.5 Pro;
    • 15 RPM para o Gemini 1.5 Flash.

Configurando o ambiente

Após clonar o repositório, é fortemente recomendado configurar um novo ambiente do Python (usando, por exemplo, venv ou conda) para isolar suas dependências.

Instale as dependências com o pip:

python3 -m pip install -r requirements.txt

Feito isso, copie o arquivo .env.sample para .env e insira suas chaves de API. Por exemplo:

cp .env.sample .env # copia o arquivo

code .env # abre para edição com vscode
nano .env # abre para edição com nano
vim .env # abre para edição com vim

O conteúdo do arquivo será algo assim (substitua YOUR-API-KEY pelas chaves verdadeiras):

OPENAI_API_KEY="YOUR-API-KEY"
GOOGLE_API_KEY="YOUR-API-KEY"