Todo mundo que me conhece já sabe que eu atualmente rodo tudo que posso no Docker, então a bola da vez foi Inteligência Artificial. rsrs..

O uso de IA está cada vez mais popular, mas você sabia que é possível rodar uma IA na sua infra local e sem custo?

Atenção! Dependendo do caso de uso, vai compensar mais você pagar uma API, então cada caso é um caso.

Existem empresas que proibem o uso do chat GPT, pela preocupação do vazamento de dados, mas existe uma solução capaz de rodar na sua infra e mesmo sem conexão com a internet processar e devolver uma resposta “inteligente”.

Nesse vídeo eu mostro 2 casos de uso interessantes:

1 – Criação de um modelo próprio que vai responder com base nos parâmetros fornecidos por mim. Ex: Disse que meu nome é Wallace, sou Data Engineer e moro em Portugal. Quando faço a pergunta para este modelo, ele usa os parâmetros fornecidos para processar a resposta. Essa solução pode ser interessante para executar um chatbot.

2 – Gerador de documentação automática em Markdown.

Conteúdo Abordado no vídeo:
– Contextualizando sobre as ferramentas
– Como instalar as ferramentas
– Validando funcionamento do Chat GPT local
– Criando um modelo próprio
– Gerando documentação automática de códigos Python

Propostas comerciais:
www.fwx-consulting.com
contato@fwx-consulting.com

Conheça nossos workshops de Docker e Git:
https://do-zero-to-know-what.mailchimpsites.com/

Meu Linkedin:
https://www.linkedin.com/in/wallace-camargo-35b615171/

Repositório do Projeto:
https://github.com/wlcamargo/ia_local_ollama3

Referências:
https://hub.docker.com/r/ollama/ollama

https://docs.openwebui.com/

https://ollama.com/library

#llama3 #ia #ai #docker #python #produtividade

source