Projeto v2 MLOps - Webapp+LLM+RAG

Projeto MLOps de aplicação web para falar sobre seus dados pessoais. O projeto envolve a utilização de um moderno stack de tecnologia para utilização dos recursos de LLM e RAG. A aplicação implementa uma moderna arquitetura passando pelo web-server, banco de dados, motor de busca (RAG) e o LLM com chamadas dinâmicas de API leve gratuita e técnicas de engenharia de prompt.

Além da documentação inteira do projeto, aqui você também terá acesso aos vídeos de tutoria do projeto. Os vídeos explicam passo a passo o racional do seu desenvolvimento, o que potencializa ainda mais a sua probabilidade de aprender e de expandir o projeto com seus próprios conhecimentos e ideias.

A versão 1 do projeto envolve o deploy local, API gratuita do LLM e RAG implementado localmente.

Na versão 2, adicionalmente, a arquitetura conta com uma ferramenta de monitoramento da aplicação, na qual o Engenheiro ML/IA poderá monitorar o funcionamento da aplicação e performance do modelo. Além disso implementamos um servidor próprio para o LLM, uma abordagem alternativa buscando eficiência, controle e segurança dos dados compartilhados com o modelo.