Como fazer a IA responder com os seus documentos

Um documento sendo anexado a uma conversa, e a resposta mudando de forma.

Colocando o documento dentro da conversa. É literalmente isso, e não tem passo escondido. A IA não tem acesso ao seu computador, ao seu drive nem à sua base: ela responde a partir do que está visível naquela resposta. Anexar, colar ou apontar para o arquivo é o que transforma o material em algo que ela pode usar.

O que muda tudo é perceber que isso não é um recurso a mais. É a alavanca principal. Você pode reescrever a mesma pergunta dez vezes e ganhar pouco; colar o trecho certo uma vez muda a natureza da resposta, não o estilo dela. E como o espaço é limitado, escolher o que sobe passa a ser o trabalho de verdade.

O vídeo explica o que é contexto e de onde vem a sigla RAG. Este texto pega o lado operacional.

Leve o mapa mental desta aula com você

O vídeo tem um apoio visual desenhado à mão, o mesmo que aparece na abertura e no fecho da aula. Está disponível pra download em Excalidraw, e abre arrastando o arquivo pra dentro do excalidraw.com, de graça, sem instalar nada.

O contexto, em três linhas

Sou engenheiro de software sênior e passei os últimos anos colocando modelos de linguagem em produção, em sistema que outras pessoas usam.

A pergunta deste texto aparece sempre com a mesma frustração embutida: a pessoa quer que a IA conheça o material dela e acha que isso exige um projeto. Não exige. Exige critério.

Ela não sabe nada seu até você mostrar

Um documento sendo anexado a uma conversa, e a resposta mudando de forma.
Mesma pergunta, mesma ferramenta, mesmo dia. A única coisa diferente foi o que ela estava vendo.

Sem o seu material, a resposta é a média do que existe sobre o assunto. Ela serve para qualquer empresa, qualquer projeto e qualquer pessoa, e é exatamente por isso que soa genérica. Com o material colado, ela passa a citar o que está escrito ali dentro.

Vale nomear o que sobe junto, porque quase ninguém conta: além da sua pergunta e dos arquivos, sobem também as instruções fixas que você deixou salvas, o histórico da conversa e, em alguns casos, o resultado de alguma ferramenta que foi acionada. Tudo isso é contexto. A sua pergunta é a menor parte dele.

Quando o material não cabe, alguém busca o pedaço

Uma lupa retirando um unico pedaco de uma pilha de documentos e colocando na mesa.
Buscar e responder são dois passos. É o primeiro que decide a qualidade do segundo.

Documentação inteira não cabe, porque o espaço é fixo. A saída é fazer uma busca antes: separar o material em pedaços, encontrar os que têm a ver com a pergunta, e colocar só esses na conversa. Esse arranjo tem sigla, e a sigla é RAG. O nome importa menos que a consequência.

A IA não leu a sua base. Ela leu o trecho que a busca encontrou. Isso explica dois comportamentos que confundem muita gente: por que a resposta às vezes ignora uma informação que existe no documento (a busca não trouxe aquele pedaço), e por que ela consegue citar a fonte com precisão (o trecho estava ali, na frente dela).

Quando a resposta erra sobre o seu próprio documento, o problema quase nunca é o modelo. É o que foi buscado.

Encher a mesa não é abastecer

Uma mesa lotada de papeis, com o documento importante perdido no meio.
Material irrelevante não é neutro. Ele ocupa espaço e disputa atenção com o que importa.

O erro mais comum de quem entendeu a ideia é despejar tudo. Anexar seis documentos porque um deles deve conter a resposta. Isso cobra duas vezes: ocupa o espaço que o trecho relevante precisaria, e coloca o trecho relevante no meio de um monte de coisa, que é justamente onde a atenção afrouxa.

Material faltando e material sobrando degradam a resposta pelo mesmo caminho. Um deixa a IA preencher; o outro faz ela pesar o irrelevante junto com o relevante. Mais contexto não é sinônimo de melhor contexto.

O critério que eu uso agora

Quatro decisões, na ordem em que elas aparecem.

  1. Suba o trecho, não o arquivo. Se você sabe qual seção responde, cole a seção. Só suba o documento inteiro quando você genuinamente não souber onde está a resposta.
  2. O que é regra vira instrução fixa, não anexo repetido. Padrão de código, tom de voz, restrição de negócio: isso é comportamento, e comportamento se escreve uma vez num lugar que fica.
  3. Um assunto por conversa. Misturar dois projetos na mesma janela é a forma mais rápida de encher a mesa de material irrelevante para a pergunta atual.
  4. Peça a citação do trecho. Além de reduzir invenção, isso te mostra o que foi realmente buscado. Quando a citação vem de um pedaço que não tinha nada a ver, você descobriu que o problema estava na busca.

Nenhuma dessas quatro exige montar sistema. Todas elas são a versão manual do mesmo mecanismo, e funcionam no primeiro dia. Continua valendo o que já sabemos sobre a redação: reescrever a pergunta pela quinta vez rende menos que colar a fonte uma vez.

Onde tudo isso fica registrado

Escrevo tudo o que aprendo aqui neste blog, que roda num plano de quatro anos da Hostinger, que eu recomendo.

O vídeo lá em cima é a aula sobre contexto de um curso gratuito de fundamentos de inteligência artificial, com aulas curtas e um conceito por vez. Depois de entender que a alavanca é o material, a próxima pergunta do curso é se ainda faz sentido treinar uma IA só sua.

O que eu faria diferente se começasse hoje

Eu pararia de brigar com a redação da pergunta e passaria a cuidar do material. Eu colaria o trecho em vez do documento. E eu trataria conversa longa e cheia como um problema de curadoria, não de capacidade da ferramenta.

No fundo é o mesmo princípio de qualquer sistema que consulta dados: a qualidade da resposta é limitada pela qualidade da consulta que a alimentou. Índice ruim, query ampla demais, join que traz o mundo. A IA só tornou isso mais visível, porque agora o resultado da consulta ruim vem escrito em português convincente.


A newsletter sai todo domingo, com o bastidor do que eu estou construindo, incluindo o que não deu certo.

Receba as análises da semana

Um e-mail por semana com o que foi publicado e analisado.

Gabriel Carvalho

Quem escreve

Gabriel Carvalho

Engenheiro fullstack sênior e especialista em IA. Liderou avaliação de LLMs, sistemas RAG e agentes autônomos em uma das maiores plataformas de IA da América Latina.

LinkedIn · Instagram