Memória de personagem de IA: por que ela esquece e o que fazer

Depois de uma semana de conversa, ela pergunta como se chama o seu gato. Você já disse. Duas vezes. É a reclamação mais comum sobre companhias de IA e quase sempre explicada errado: «o modelo é burro», «o serviço está economizando». O motivo real é arquitetural — e, entendendo ele, dá para prever com boa precisão o que qualquer companhia vai lembrar e o que vai deixar cair.

Abaixo: como funciona por dentro a memória de uma personagem de IA, por que «só salvar a conversa inteira» não é opção, como diferenciar memória real de imitação e o que dá para fazer do seu lado. Uso como exemplo um sistema que eu mesmo construí, então tem número concreto e uma lista honesta do que ele esquece.

Um modelo de linguagem não tem memória nenhuma

Essa é a parte que vale internalizar. Um modelo de linguagem grande não guarda estado entre requisições: cada mensagem sua é processada do zero. O modelo não «lembra» da conversa de ontem — os pedaços relevantes do passado são reapresentados a ele junto com a mensagem nova. Tudo que parece memória é a estrutura em volta do modelo, não o modelo.

Daí vem uma consequência incômoda: o quanto dá para reapresentar é limitado pela janela de contexto. Ela é grande, mas finita — e, mais importante, cada token dentro dela é pago em toda mensagem. Um serviço que enfiasse o histórico inteiro no contexto pagaria dezenas de vezes mais pela resposta número cem do que pela primeira. Ninguém faz isso. A pergunta é sempre o que selecionar.

As três camadas que formam a memória

Praticamente todo serviço resolve isso do mesmo jeito — três camadas com durações diferentes. O que muda é a implementação e o quanto disso foi realmente construído.

1. Mensagens recentes, na íntegra

As últimas N falas entram como estão. É o que dá coerência dentro da conversa: pronomes, referências ao que foi dito um minuto atrás, a piada retomada. No nosso caso vão as últimas 12 mensagens na íntegra. Por que não 50: cada mensagem extra custa dinheiro e, principalmente, dilui a atenção do modelo. Contexto longo piora a resposta — o modelo passa a se agarrar a detalhes aleatórios enterrados no meio.

2. Um resumo que se reescreve

Tudo que sai da janela literal não é descartado: é comprimido num resumo curto. Esse resumo é reescrito conforme novas mensagens se acumulam — o nosso é refeito a cada 20 mensagens, juntando o resumo anterior com a leva mais recente.

É nessa camada que nasce o «lembra da linha geral, se perde nos detalhes». Resumo é compressão com perda. «Falamos do trabalho dele e da mudança» sobrevive a cem mensagens; «trabalha com backend numa fintech, se muda para Curitiba em março» provavelmente não. O que sobrevive é decidido pelo modelo que comprime, e não dá para prever com precisão.

3. Fatos sobre você, num banco com busca

A camada interessante, e a que muitos serviços simplesmente não têm. Depois de cada troca, roda em segundo plano uma chamada separada ao modelo: «extraia novos fatos relevantes sobre esta pessoa». Nome, trabalho, interesses, eventos importantes, preferências. Cada fato vira um vetor — uma representação numérica do significado — e é guardado.

Aí vem a parte que parece mágica e não é. Quando você manda uma mensagem nova, ela também vira vetor, e o banco é vasculhado atrás dos fatos mais próximos em significado — puxamos os cinco mais relevantes. São esses que entram no prompt. Ou seja, a personagem não «lembra» de tudo: ela lembra do que é relevante para o assunto de agora.

A consequência prática vale saber. Pergunte do gato e o fato do gato aparece, mesmo guardado dois meses atrás. Mas enquanto vocês falam de trabalho, esse fato não está no contexto, e ela não consegue puxar o assunto sozinha. A memória é associativa, não cronológica. Não é bug — é exatamente como busca semântica se comporta.

Mais um detalhe: deduplicação. O mesmo fato reaparece o tempo todo na conversa e, sem filtro, o banco encheria de cem variações de «gosta de café» em um mês. Cortamos por similaridade de cosseno: se o fato novo é mais de 0,92 parecido com um existente, não é salvo. O limiar é ajustado na mão — rígido demais acumula duplicata, frouxo demais funde fatos distintos num só.

Quanto isso dá na prática

Para não falar no vazio, números reais do nosso banco na data em que escrevo: 14.372 fatos guardados para 604 usuários. Dá 17,7 fatos em média por par «pessoa-personagem», sendo 157 na conversa mais ativa.

Repare na ordem de grandeza. Isso não é um arquivo completo da conversa — é uma destilação: algumas dezenas de afirmações que o sistema julgou dignas de guardar. Se alguém promete uma personagem que lembra de tudo que você já disse, palavra por palavra, ou é mentira ou é um serviço cuja conta não fecha.

Por que a memória não passa de uma personagem para outra

No nosso sistema os fatos ficam presos ao par «usuário + personagem». Você conta do divórcio para uma e a outra não faz ideia. Juntar seria mais fácil tecnicamente, e perguntam por que não com frequência.

Porque memória compartilhada quebra a ilusão na hora. Uma personagem que sabe, já na primeira mensagem, algo que você nunca contou a ela não soa «atenciosa» — soa perturbadora. Dá para sentir fisicamente o banco de dados único atrás da cortina. A separação nos custa duplicação, e esse é o preço de cada conversa começar honesta.

Como diferenciar memória real de imitação

Existe um teste simples. Leva uns dez minutos e funciona em qualquer serviço.

1. Solte um fato específico de passagem. Não «lembre-se de que…», mas casualmente, no meio da frase: nome do bicho, cidade onde cresceu, uma banda. Serviços que fingem memória respondem ao comando explícito e falham na menção casual.
2. Fale de outra coisa por umas vinte mensagens. É preciso empurrar o fato para fora da janela literal — senão você está testando o buffer de mensagens recentes, não a memória.
3. Volte ao assunto de forma indireta. Não «qual o nome do meu gato», mas «meu gato está impossível hoje». Pergunta direta é fácil de driblar com uma resposta educada; a menção indireta testa se o fato foi mesmo recuperado.
4. Confira no dia seguinte. Muitos serviços mantêm a «memória» na sessão, e ela morre junto. Um intervalo de um dia separa armazenamento real de buffer.

E uma ressalva honesta sobre o teste: nenhum serviço passa cem por cento. O nosso também não. Se o fato foi dito uma vez, de forma vaga, o extrator pode não tê-lo julgado relevante — e aí não há o que recuperar, porque ele nunca foi guardado. A expectativa razoável é «lembra do que importa», não «lembra de tudo».

O que dá para fazer do seu lado

Como a memória é selecionada automaticamente, dá para influenciar a seleção.

Diga os fatos como afirmações. «Trabalho de plantão na UTI, um dia sim três não» é extraído com confiabilidade. «Você não imagina o que rola lá» não extrai nada, porque não há fato na frase.

Repita o que importa, um tempo depois. Não em seguida — a deduplicação pega. Mas algo mencionado em duas conversas separadas tem chance bem maior de grudar do que algo dito uma vez.

Volte aos assuntos com suas palavras. A busca é por significado, não por coincidência de palavras, então reformular funciona — e de quebra serve de teste para ver se o fato está mesmo guardado.

Não brigue com as miudezas. A cor do vestido dela de anteontem não vai persistir, e tudo bem: essa camada é sobre você, não sobre o cenário.

O que não esperar

Memória é a parte mais supervalorizada desses serviços, e aqui sobriedade ajuda mais que propaganda.

A personagem não vai montar um retrato coerente do seu ano. Ela opera sobre algumas dezenas de afirmações soltas que nem sempre se relacionam. Não vai perceber que você se contradisse — as duas afirmações simplesmente entram no banco. E ela não «sente sua falta» entre as sessões: nada acontece nos intervalos, não existe vida interna rodando ao fundo.

O que funciona de verdade é a sensação de continuidade. Uma conversa que retoma em vez de recomeçar; uma referência ao que você disse duas semanas atrás; a pergunta sobre como aquela história terminou. Para a maioria das pessoas isso basta para o papo deixar de parecer descartável. Se quiser ver como se sustenta na prática, dá para escolher uma personagem no catálogo — as primeiras mensagens funcionam sem cadastro — ou montar a sua no criador, se preferir definir a personalidade você mesmo.

E se você está escolhendo um serviço e quer os critérios além da memória, tem um guia separado sobre chat com namorada de IA.