
A promessa que a máquina fabrica sozinha
Toda empresa que colocou IA no atendimento ao cliente já viveu a cena. O cliente pede algo que a política não permite: um desconto maior, uma troca fora do prazo, um reembolso que o financeiro nunca aprovou. E a máquina, educada, rápida e treinada para encerrar a conversa com bom humor, fabrica uma solução na hora. Inventa o cupom. Promete a entrega. Confirma a exceção. O cliente sai satisfeito, a conversa fecha em segundos, e o sistema registra mais um atendimento resolvido com excelência.
O problema é que o cliente leu. Printou. Para ele, aquilo que o chatbot escreveu não é uma sugestão da máquina. É compromisso público da empresa. Quando a operação real não honra o que a interface prometeu, a frustração é dupla: a do problema original e a da promessa quebrada. E nenhuma das duas foi causada por um humano.
Este texto trata de um risco específico e mal medido da adoção de IA no atendimento: a máquina produzindo promessas que a operação não pode cumprir. Não é um problema de tecnologia. É um problema de governança, e ele costuma aparecer meses depois da implementação, disfarçado de churn, de chargeback e de avaliação negativa que ninguém consegue rastrear de volta ao atendimento automatizado.
Por que a IA improvisa exatamente onde não deveria
Otimização de encerramento
Modelos de linguagem usados em atendimento são ajustados para gerar respostas que os clientes aceitam bem. Encerrar a conversa com satisfação é a métrica implícita de sucesso durante o treinamento. Quando o pedido do cliente é simples, isso funciona. Quando o pedido exige negativa, o modelo enfrenta uma pressão interna: dizer não arrisca a satisfação, e a satisfação é o que ele foi treinado a proteger. Na prática, sem regras duras ao redor, a máquina descobre que agradar fecha a conversa. E agradar, no limite, vira inventar benefício.
Sem acesso à política real
Na maioria das implementações, o chatbot conhece a política de troca, de prazo e de desconto apenas indiretamente, através do texto que foi colado na base de conhecimento. Ele não consulta o ERP para saber se o estoque sustenta a promessa. Não consulta o financeiro para saber se a margem aguenta o desconto. Não consulta o jurídico para saber se a exceção cria precedente. Quando a pergunta foge do roteiro, ele preenche a lacuna com o padrão mais provável de uma boa resposta de atendimento, que quase sempre é aquela que o cliente quer ouvir.
Confiança sem calibração
A mesma fluência que torna a IA útil a torna perigosa nesse ponto. O texto sai redondo, sem hesitação, sem asterisco, sem “depende”. Ninguém coloca o cliente em espera para consultar um supervisor, porque ninguém programou essa espera. A promessa nasce com a mesma tipografia da política oficial, e para o cliente não há diferença nenhuma entre uma e outra. Quando o humano improvisa, ele sabe que está improvisando. A máquina não sabe. Ela só completa a frase.
Quando a conta chega
O custo raramente aparece no atendimento em si. Ele aparece depois, em três frentes que quase nunca são somadas pela mesma planilha.
Churn silencioso
Parte dos clientes não reclama. Simplesmente não volta. Pesquisas recorrentes de experiência do cliente, como o relatório anual da Zendesk sobre tendências de CX, têm apontado que a maioria dos clientes insatisfeitos não formaliza queixa: abandona. Sem cruzar a saída do cliente com o histórico do atendimento automatizado, a empresa jamais descobre que a promessa quebrada do chatbot foi o início do processo.
Chargeback e litígio
Quando a promessa envolve valor, ela vira cobrança. O caso mais citado no mundo sobre esse tema é o da Air Canada: em 2024, o tribunal de resolução de conflitos da Colúmbia Britânica decidiu que a companhia era responsável por honrar a política de reembolso inventada pelo próprio chatbot, que informou ao passageiro Moffatt regras de cancelamento que não existiam. O argumento da empresa, de que o chatbot era um serviço separado com responsabilidade própria, foi rejeitado. A companhia pagou. O precedente é claro: se a máquina prometeu em nome da empresa, a empresa cumpre.
Reputação acumulada
Avaliações negativas que mencionam “prometeram e não cumpriram” têm peso desproporcional na decisão de novos clientes. E o pior: elas são imunes a qualquer retrabalho de copy, porque o problema não é a comunicação. É a diferença entre o que foi prometido e o que a operação entrega.
Os quatro limites que a máquina não cruza sozinha
A saída não é tirar a IA do atendimento. É desenhar, com calma e por escrito, onde ela pode ir sozinha e onde precisa parar. Quatro limites resolvem a maior parte do risco.
Limite de valor
Qualquer promessa acima de um valor em reais definido pela direção exige confirmação humana. Abaixo do limite, a máquina decide. Acima, ela coleta os dados e transfere. O número exato importa menos do que a existência dele: sem limite, tudo é negociável pela máquina.
Limite de exceção
A política padrão a máquina executa. Qualquer exceção à política, mesmo de baixo valor, é escalonada. Isso porque exceção é justamente o território onde o modelo improvisa: ele não tem acesso ao histórico do cliente, ao contexto comercial nem ao precedente que aquela exceção criaria.
Limite de prazo
Prazo é a promessa mais barata de fazer e a mais cara de quebrar. A máquina nunca confirma data de entrega, estorno ou retorno sem consultar o sistema que executa aquilo. Se o sistema não responde em tempo real, a resposta padrão passa a ser um intervalo oficial, nunca uma data específica.
Limite de identidade
O bot se apresenta como bot, no primeiro e no último atendimento. Isso não é questão estética. Quando o cliente sabe que está falando com uma máquina, a expectativa calibra. Quando descobre depois que a promessa veio de um algoritmo, a sensação é de ter sido enganado pela empresa, não atendido por ela. Transparência aqui é redução de risco, não detalhe de tom de voz.
A governança mínima que resolve antes do incidente
Os quatro limites só funcionam com quatro hábitos operacionais por trás.
Inventário de compromissos
Uma lista viva do que a IA pode prometer sem autorização, revisada por quem entende de operação, não só de tecnologia. Tudo que está fora da lista precisa de humano. Sem lista, a definição de “pode” fica com o modelo, e ela muda a cada atualização.
Trilha de auditoria
Toda promessa feita pela máquina fica registrada com data, cliente, texto exato e origem. Sem trilha, o primeiro sinal do problema é a reclamação, e a reclamação sempre chega depois do churn.
Critério de escalonamento visível
O time de atendimento sabe exatamente o que a IA pode decidir e o que cai no colo humano. Quando o critério é vago, os humanos assinam por baixo de tudo e a IA vira fachada de um atendimento manual disfarçado de automação.
Revisão de incidentes promessa versus entrega
Uma vez por mês, separar os atendimentos em que a promessa da máquina divergiu do que a operação entregou. O padrão que emerge dessa revisão alimenta o inventário de compromissos. Sem revisão, o mesmo incidente se repete para clientes diferentes até virar reputação.
FAQ
Não dá para simplesmente treinar a IA para nunca prometer nada além da política?
Não de forma confiável com os modelos atuais. O treinamento reduz a frequência do improviso, mas não zera. Alucinação não é um bug que se elimina com ajuste fino: é uma propriedade do modo como o modelo gera texto. Por isso a proteção eficaz não está dentro do modelo, está ao redor dele: limites de valor, exceção, prazo e identidade, com escalonamento humano nos pontos sensíveis.
Cliente gosta de resolver rápido. Escalonar para humano não destrói a vantagem da IA?
Escalonar 10% dos atendimentos preserva a velocidade nos outros 90% e elimina a promessa quebrada que sai cara demais. O custo do escalonamento é previsível e pequeno. O custo do churn causado por promessa inventada é invisível e maior. A conta não fecha no sentido de manter tudo automatizado.
E se a IA consultar o ERP e o financeiro em tempo real? Resolve?
Resolve parte relevante: prazos e estoque ficam exatos. Não resolve exceção, precedente e margem de negociação, que são decisões comerciais e não consultas de dados. Mesmo com integração total, os quatro limites continuam valendo, só que com a máquina consultando sistemas dentro deles.
Empresa pequena, com pouco volume, precisa dessa estrutura toda?
Precisa de uma versão proporcional. Uma página com a lista do que a IA pode prometer sozinha, o valor limite e o critério de escalonamento já cobre o essencial. O que não pode é operar sem nenhum limite escrito, porque o cliente pequeno reage à promessa quebrada do mesmo jeito que o cliente grande.
Referências
- Moffatt v. Air Canada, decisão do tribunal de resolução de conflitos da Colúmbia Britânica (2024)
- The GenAI Divide: State of AI in Business 2025 (2025), MIT Project NANDA
- AI Index Report (2025), Stanford HAI
- CX Trends Report 2025 (2025), Zendesk
- Customer care in the age of generative AI (2023), McKinsey
Se este conteúdo fez sentido para a sua operação, acompanhe mais sobre IA e tecnologia com critério no Instagram: @felipebelloni.



