
A exceção que sobrevive à conversa
Um gerente autoriza 10% de desconto para resolver um caso específico. O agente de IA participa do atendimento e, ao final, grava um resumo: aquele cliente tem 10% de desconto. A conversa termina, a exceção cumpre seu papel e todos seguem para a próxima tarefa.
Dois meses depois, o mesmo cliente volta. A memória persistente entra no contexto da nova conversa e o agente aplica os 10% outra vez. Ninguém cadastrou uma política permanente. Ninguém renovou a autorização. A exceção virou regra porque o sistema guardou a conclusão, mas perdeu a origem, o prazo e o motivo.
Esse é um risco crescente da memória de agentes de IA. Lembrar torna a experiência mais fluida e permite retomar trabalhos longos. Também cria uma camada de estado que atravessa sessões e influencia decisões futuras. Se essa camada for tratada como verdade, uma preferência inferida, uma política vencida ou uma instrução contaminada pode continuar operando muito depois de a conversa original desaparecer.
Memória de IA não é lembrança mágica
O modelo não acorda lembrando espontaneamente de uma conversa antiga. Em geral, a aplicação grava resumos, fatos, preferências ou resultados em arquivos, bancos de dados ou repositórios vetoriais. Quando uma nova tarefa começa, parte desse material volta ao contexto do modelo. A utilidade vem dessa persistência.
O problema aparece quando a empresa confunde persistência com verdade. Um registro pode estar tecnicamente íntegro e, ainda assim, estar errado para o momento atual. A informação pode ter sido correta ontem, inferida sem confirmação, escrita por uma fonte sem autoridade ou preservada além do prazo em que fazia sentido.
Resumo não é registro oficial
Resumir exige escolher. O agente elimina detalhes, comprime ambiguidades e transforma uma conversa em poucas frases. “Autorizar 10% apenas nesta compra” pode virar “cliente possui 10% de desconto”. A diferença parece pequena no texto e é enorme na operação. O primeiro trecho registra uma exceção com limite. O segundo cria uma condição permanente.
Contexto não é política
Uma memória pode ajudar a interpretar a tarefa, mas não deve substituir o sistema que detém o fato atual. Preço vem da tabela vigente. Saldo vem do financeiro. Estoque vem do ERP. Permissão vem do controle de acesso. Política comercial vem do documento aprovado. Quando a memória responde por qualquer um desses dados, a empresa passa a operar com uma fotografia antiga no lugar do estado real.
Confiança não é autoridade
O modelo recebe a memória dentro do próprio contexto e tende a usá-la como insumo legítimo. A frase recuperada não chega com expressão de dúvida no rosto, carimbo de vencida ou alerta de origem fraca. Sem metadados e regras ao redor, um comentário casual pode ter a mesma aparência de uma orientação formal.
Quatro formas de a memória persistente dar errado
1. O fato envelhece
O cliente muda de cargo. O fornecedor troca a conta bancária. A equipe revoga um acesso. O produto sai de linha. A política de reembolso é atualizada. A memória continua correta em relação ao passado e incorreta em relação ao presente. Esse é o erro mais silencioso, porque ninguém atacou o sistema e nada quebrou. A automação apenas continua usando uma informação que venceu.
2. A inferência vira fato
Durante uma conversa, o agente conclui que o cliente prefere contato por WhatsApp, que determinado gestor aprova despesas ou que uma entrega pode esperar. Se a conclusão for gravada sem confirmação, ela reaparece em tarefas futuras como dado consolidado. O sistema deixa de distinguir o que alguém declarou do que o modelo deduziu.
3. A exceção perde o limite
Autorizações temporárias são especialmente perigosas: desconto único, acesso emergencial, prazo estendido, aprovação fora da alçada, resposta jurídica para um caso específico. Quando a memória não carrega escopo e validade, o agente reaplica o precedente em situações que parecem semelhantes, mas não são iguais.
4. Conteúdo contaminado ganha persistência
A memória também pode ser manipulada. Em 2025, pesquisadores da Unit 42 demonstraram uma prova de conceito em que instruções escondidas em uma página maliciosa afetavam o resumo de sessão de um agente com memória habilitada. O conteúdo era preservado e voltava em sessões futuras, com potencial para influenciar o agente e exfiltrar histórico de conversas.
O ponto mais importante não é o produto usado no teste. É a mudança de escala do risco. Uma injeção de prompt comum tenta desviar uma interação. Quando chega à memória, o desvio pode sobreviver ao encerramento da conversa e afetar tarefas que nem existiam no momento do ataque.
A segurança mudou quando o agente começou a carregar estado
A OWASP incluiu Memory and Context Poisoning no Top 10 para aplicações com agentes de 2026. A categoria reconhece que memória, resumos, contexto recuperado e estado local deixaram de ser apenas recursos de conveniência. Eles passaram a fazer parte da superfície de ataque.
Em maio de 2026, a própria OWASP detalhou o caso MemoryTrap. Segundo o relato, conteúdo malicioso conseguiu alcançar memória persistente e configurações de alta confiança em um fluxo de desenvolvimento, influenciando comportamento entre sessões, projetos e reinicializações. A correção específica reduziu o caminho de maior confiança, mas a lição permanece: qualquer estado que o agente reutiliza precisa ser validado como parte do ambiente de controle.
O perfil de IA generativa do NIST, publicado em 2024, já apontava princípios que se tornam ainda mais importantes aqui: proveniência dos dados, definição de papéis humanos, monitoramento contínuo, registro de incidentes e capacidade de intervenção. O nome da tecnologia mudou rápido. A disciplina operacional continua a mesma.
O que a memória pode guardar e o que precisa consultar ao vivo
Nem todo dado merece o mesmo tratamento. Uma separação simples evita boa parte dos problemas.
Bom uso de memória
- preferências confirmadas pelo usuário, com opção de correção;
- etapas já concluídas em uma tarefa longa;
- decisões anteriores com autor, data e justificativa;
- lições operacionais revisadas por uma pessoa responsável;
- contexto histórico que ajuda a interpretar, mas não autoriza uma ação.
Dados que exigem fonte oficial no momento da ação
- preços, descontos e condições comerciais;
- saldos, pagamentos e dados bancários;
- estoque, disponibilidade e prazo de entrega;
- permissões, credenciais e alçadas de aprovação;
- políticas jurídicas, fiscais, trabalhistas ou de privacidade;
- qualquer informação que possa produzir efeito financeiro, contratual ou irreversível.
A memória pode dizer onde procurar. Não deve ter a palavra final sobre um estado que muda.
Sete controles para a memória não virar política fantasma
1. Dê identidade a cada registro
Toda memória relevante precisa carregar origem, data de criação, autor ou sistema responsável, escopo, nível de confiança e prazo de validade. Sem esses campos, não existe memória governada. Existe texto acumulado.
2. Separe fato, inferência e instrução
Essas três coisas não podem ocupar a mesma prateleira. Fato confirmado pode orientar contexto. Inferência precisa de sinalização e, em casos importantes, confirmação. Instrução operacional só entra na camada confiável quando vem de fonte autorizada e versionada.
3. Defina prazo para esquecer
Preferências podem durar meses. Uma autorização emergencial pode durar horas. Um endereço de entrega pode valer apenas para um pedido. O prazo deve acompanhar a natureza do dado. Expirar não significa apagar todo o histórico, mas impedir que informação antiga continue autorizando ação.
4. Controle quem pode escrever
Se qualquer conversa, página ou documento puder gravar memória persistente, qualquer entrada não confiável ganha chance de influenciar o futuro. Escrita precisa de permissão, esquema definido e validação. Conteúdo vindo da internet, de anexos ou de usuários externos deve entrar como não confiável até passar por revisão.
5. Revalide no momento de usar
Quanto maior o impacto, mais importante consultar a fonte oficial antes da ação. O agente pode lembrar que um cliente costuma receber determinada condição. Antes de aplicar, confirma a tabela e a autorização vigente. Essa verificação transforma memória em pista, não em ordem.
6. Registre, coloque em quarentena e permita voltar
A empresa precisa saber qual memória foi recuperada, qual ação ela influenciou e quem a escreveu. Um registro suspeito deve poder ser isolado sem desligar todo o sistema. E alterações precisam de versão anterior para rollback. Sem trilha, um incidente vira investigação por adivinhação.
7. Crie um caminho de correção
Se cliente ou colaborador corrige uma informação, o ajuste precisa alcançar a memória e os sistemas derivados. Apagar apenas a conversa visível não resolve quando o resumo persistente continua armazenado. Correção e exclusão precisam ser funções operacionais, não favores técnicos.
O teste prático antes de liberar memória em produção
Antes de ativar memória persistente, a equipe deve responder sete perguntas sem depender do fornecedor:
- O que o agente pode guardar?
- Quem ou qual sistema pode escrever nesse espaço?
- Qual fonte comprova cada registro?
- Quando a informação expira?
- Quais ações exigem consulta ao sistema oficial?
- Como uma memória errada é localizada, corrigida e removida?
- Qual é o limite de dano se um registro contaminado for recuperado?
Se uma dessas respostas for “a ferramenta decide”, a empresa ainda não tem governança de memória. Tem persistência sem responsabilidade.
FAQ
Memória de agente é a mesma coisa que RAG?
Não. RAG normalmente busca trechos em uma base no momento da pergunta, sem necessariamente registrar o que aconteceu em cada sessão. Memória persiste informações sobre usuários, tarefas, resultados ou decisões para reutilização futura. Os dois mecanismos podem trabalhar juntos e os dois precisam de origem, permissão e atualização.
Definir prazo de validade resolve o problema?
Resolve apenas o envelhecimento previsível. Não impede uma inferência errada de ser gravada hoje nem uma entrada maliciosa de contaminar a próxima sessão. Prazo precisa vir acompanhado de controle de escrita, classificação, revalidação e trilha de auditoria.
É melhor desativar toda memória persistente?
Não necessariamente. Sem memória, agentes perdem continuidade e repetem trabalho. A decisão correta é proporcional ao risco. Preferências e progresso de tarefa podem ser úteis. Preço, permissão, saldo e política não devem ser aceitos apenas porque apareceram em uma memória antiga.
Uma empresa pequena precisa de toda essa estrutura?
Precisa de uma versão simples e explícita. Uma tabela com tipo de dado, fonte, responsável, validade e regra de consulta já cria um controle melhor do que permitir que o agente guarde qualquer conclusão indefinidamente. O tamanho muda a ferramenta. Não muda o princípio.
Referências
- OWASP Top 10 for Agentic Applications for 2026 (2025), OWASP GenAI Security Project
- Memory Is a Feature. It Is Also an Attack Surface (2026), OWASP GenAI Security Project
- When AI Remembers Too Much: Persistent Behaviors in Agents’ Memory (2025), Unit 42, Palo Alto Networks
- How We Contain Claude Across Products (2026), Anthropic
- Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile (2024), NIST
Para acompanhar mais análises práticas sobre IA e tecnologia com critério, siga @felipebelloni.



