Como um modelo de linguagem gera texto

Quase todo erro de uso de IA no trabalho vem de uma expectativa errada sobre o que a máquina está fazendo quando responde. Este módulo desmonta isso primeiro, porque tudo que vem depois no curso depende de você ter o modelo mental certo.

Não vai ter matemática. Vai ter o mecanismo, e o que ele significa na prática.

O que o modelo realmente faz

Um modelo de linguagem faz uma coisa só: dado um texto, ele prevê qual é o próximo pedaço de texto mais provável. Depois anexa esse pedaço ao que já tinha e repete. E repete. Até decidir parar.

É isso. Não há um banco de respostas sendo consultado, não há uma etapa de "verificar se é verdade", não há um raciocínio guardado em algum lugar e depois traduzido em palavras. A resposta é construída um pedaço por vez, da esquerda para a direita.

Esses pedaços se chamam tokens. Um token é aproximadamente um pedaço de palavra — em português, algo em torno de 3 a 4 caracteres na média. "Automação" pode virar dois ou três tokens. Um ponto final é um token. Um espaço geralmente vai junto com a palavra seguinte.

Vale internalizar a implicação: quando você lê uma resposta bem estruturada, com introdução, três argumentos e conclusão, o modelo não planejou essa estrutura antes de começar. Ele produziu o primeiro token, e a estrutura foi emergindo porque textos parecidos com aquele, no material com que ele foi treinado, seguiam esse formato.

Por que isso não é "só autocompletar"

A objeção óbvia é: se é só prever a próxima palavra, por que consegue escrever código que funciona, ou encontrar a contradição num contrato?

Porque prever bem o próximo token, em escala suficiente, exige representar internamente muita coisa sobre o mundo. Para completar "a capital da França é ___" você precisa ter representado o fato. Para completar corretamente a última linha de uma função que soma uma lista, você precisa ter representado a lógica daquele padrão de código.

A previsão é o objetivo de treino. A capacidade que emerge para cumprir esse objetivo é bem maior do que a palavra "autocompletar" sugere. Mas o mecanismo de produção continua sendo aquele: um token de cada vez, sem revisão posterior, sem etapa de verificação.

E é do mecanismo que vêm os problemas.

Consequência 1: ele não sabe o que não sabe

Quando o modelo não tem informação sobre algo, não existe nada no mecanismo que produza a saída "não sei". A pergunta que ele está respondendo internamente nunca é "isso é verdade?" — é sempre "qual token vem agora?".

E o token que vem depois de "O artigo 47 da lei estabelece que" é, estatisticamente, uma continuação plausível de texto jurídico. Plausível não é o mesmo que correto.

É por isso que respostas inventadas vêm com o mesmo tom confiante das respostas certas: o tom não é um sinal de confiança do modelo, é só mais uma característica do texto sendo imitada.

Duas coisas seguem daí, e você vai usar as duas até o fim do curso:

• Se um dado precisa estar exato, ele tem que estar na pergunta. Não conte com a memória do modelo para número de contrato, política interna, preço, prazo ou qualquer coisa específica da sua empresa.
• Peça o "não sei" explicitamente. Uma instrução como "se a informação não estiver no material que forneci, escreva NÃO CONSTA em vez de estimar" elimina uma classe inteira de erro. Sem essa instrução, o comportamento padrão é preencher a lacuna.

Consequência 2: a mesma pergunta não dá a mesma resposta

Na hora de escolher o próximo token, o modelo não pega necessariamente o mais provável — ele sorteia entre os candidatos mais prováveis. É esse sorteio que faz o texto soar natural em vez de robótico e repetitivo.

O efeito colateral: rodar duas vezes a mesma coisa produz resultados diferentes.

Isso muda como você testa qualquer coisa. Um prompt que funcionou uma vez não está validado. Rode de cinco a dez vezes com entradas variadas antes de confiar. O que você quer descobrir não é se ele acerta, é como ele erra quando erra — porque erro previsível dá para tratar, erro imprevisível não.

Consequência 3: ele não volta atrás

Como o texto é produzido da esquerda para a direita e cada token é anexado ao anterior, o modelo não revisa o que já escreveu. Se a terceira palavra tomou um rumo ruim, as próximas duzentas vão ser coerentes com aquele rumo ruim.

É por isso que "pense passo a passo" muda o resultado de verdade, e não é superstição: ao produzir o raciocínio antes da conclusão, cada etapa entra no texto e passa a condicionar a etapa seguinte. Você trocou uma resposta construída de um fôlego por uma resposta construída sobre etapas visíveis — que você também pode conferir.

E também é por isso que pedir "revise a resposta anterior e corrija os erros" funciona: aquilo já não é revisão, é uma nova geração que tem a tentativa anterior no contexto como material.

Exercício

Vale fazer agora, leva uns dez minutos e é o que fixa o módulo.

1. Escolha um assunto que você domina profundamente — seu trabalho, sua cidade, seu hobby de anos.
2. Peça a uma ferramenta de IA um resumo detalhado sobre um recorte bem específico desse assunto.
3. Marque cada afirmação: certa, errada, ou plausível mas não verificável.
4. Repita a mesma pergunta em uma conversa nova e compare as duas respostas.

O que quase todo mundo descobre: a terceira categoria é a maior, e as duas respostas divergem em pontos que você não esperava. Essa percepção — obtida na sua área, onde você tem como julgar — é o que te protege quando estiver usando IA numa área onde você não tem como julgar.

O que fica

• O mecanismo é previsão de próximo token, um por vez, sem revisão e sem etapa de verificação.
• Confiança no tom não é sinal de correção. Dado exato tem que entrar na pergunta.
• Peça o "não sei" de forma explícita, ou a lacuna vai ser preenchida.
• Teste várias vezes: o que importa é o padrão de erro, não o acerto de uma rodada.
• Raciocínio antes da conclusão melhora o resultado porque cada etapa condiciona a seguinte.

No próximo módulo: tokens, janela de contexto e custo — por que uma conversa longa fica mais cara e mais burra, e o que fazer sobre isso.