En este artículo:

O que acontece quando a IA erra com o cliente, e como limitar o estrago

O que acontece quando a IA erra com o cliente, e como limitar o estrago

O que acontece quando a IA erra com o cliente, e como limitar o estrago

Ian Kraskoff

Ian Kraskoff

Ian Kraskoff

Erro vai acontecer, e a pergunta útil é qual o tamanho máximo dele. Operações maduras limitam isso com três travas: a IA só afirma o que está na base, só executa ações dentro de uma política de exceção escrita e transfere quando a confiança cai ou o cliente pede. Nos projetos com boa gestão de IA que a gente acompanha, o erro grave fica em até 5% das conversas auditadas. O contrato define o que o fornecedor garante, mas quem responde ao cliente é você, então a política tem que ser sua.

Quais são os erros de um agente de IA com o cliente, e qual o risco de cada um?

Um agente de IA erra com o cliente de três jeitos: informa errado, faz o que não devia ou fala no tom errado. Na auditoria da ClaudIA a gente cruza isso com a gravidade, de leve (faltou um detalhe) a grave (informação toda errada, ou caso que devia ir pra humano e não foi).

Tipo de erro

Como aparece

Caso real

Trava que segura

Informação errada

Afirma uma regra que não existe

Air Canada, 2024: o chatbot prometeu desconto de luto pedido depois da viagem

Só afirmar o que está na base

Ação errada

Executa o que não podia, ou acha que executou

Sweep, 2026: a API do helpdesk devolvia sucesso e o status não mudava

Política de exceção e conferência do efeito

Tom errado

Sai da voz da marca

DPD, 2024: o chatbot xingou um cliente e escreveu um poema contra a empresa

Regras de comportamento e transferência

O caso da Air Canada ensina mais pela defesa do que pelo erro: com o print na mão do cliente, a companhia alegou que o chatbot respondia pelos próprios atos, e o tribunal de British Columbia rejeitou o argumento e mandou pagar CA$ 812. No Brasil, pelo artigo 30 do Código de Defesa do Consumidor, a informação precisa que a empresa divulga vira compromisso dela, inclusive a que a IA escreve.

Ação errada é a mais cara, porque mexe em estorno, cancelamento e status de pedido. Tom errado é a que vira print, e a DPD viralizou no X porque o chatbot obedeceu quando o cliente pediu pra ele ignorar as regras. O print que queima a marca quase sempre vem de um erro que não tinha teto.

Quais travas limitam o tamanho do erro da IA?

Zerar o erro de um agente de IA não existe, então a conta que vale é quanto um erro cresce antes de alguém ver. A gente aprendeu isso com o Sweep, agente interno que limpa a nossa fila de suporte todo dia e publica um relatório por execução num canal aberto ao time, diário que eu abri na newsletter PorDentro, edição #11.

A IA só afirma o que está na base

Na ClaudIA, cada pergunta vira uma busca semântica na base de conteúdos da empresa. Se a pergunta é ambígua ou nada na base casa com ela, a ClaudIA pergunta antes de responder, e se responde sem confiança duas ou três vezes seguidas, transfere em vez de completar a lacuna com palpite, que é o que uma alucinação faz.

A IA só age dentro de uma política escrita

Numa operação bem configurada, ação passa por fluxo controlado, com a regra desenhada e a identidade do cliente validada antes de mexer na conta. Validar identidade serve pra liberar a ação, e não pra liberar a conversa com uma pessoa. E permissão de sistema não basta: em 22 de julho, o Sweep achou um ticket com pagamento confirmado, viu que o dono era um time terceirizado de cobrança com processo próprio e não fechou. Ele tinha a credencial, mas a tarefa não era dele.

A IA transfere quando a confiança cai ou quando o cliente pede

A regra que mais aparece nos relatórios do Sweep é "na dúvida, SKIP". Em 3 de julho ele analisou a fila inteira e não moveu nenhum ticket, porque nenhum batia o critério de confiança alta, e numa fila de suporte fechar errado custa mais que adiar. Na ClaudIA, a transferência também dispara quando ela detecta frustração ou fica mais de 10 minutos sem responder. E quando o cliente pede uma pessoa, o mais seguro é atender na hora, sem obrigá-lo a insistir ou a informar algum dado antes, o que pra quem está no escopo do novo decreto do SAC virou obrigação. E tem o teto em volume: na ClaudIA, um agente especialista novo pode entrar com ativação gradual, num teste A/B, e aí um erro de configuração atinge uma fatia da fila e não ela inteira.

Reconstituição do relatório do Sweep de 3 de julho: fila de suporte analisada, nenhum ticket com confiança alta e zero tickets movidos

Como escrever uma política de exceção para a IA de atendimento?

Política de exceção é o documento que diz o que a IA pode fazer sozinha, até onde e pra onde a conversa vai quando passa do limite. A base de conhecimento diz o que é verdade, a política diz o que a IA tem licença pra fazer, e a maioria das operações só tem a primeira.

Cada linha da política responde quatro coisas: a ação ("estornar o frete"), o limite ("até o valor que a empresa definir, uma vez por pedido"), a verificação ("pedido localizado e CPF confirmado") e a saída ("acima disso, transfere com o motivo na nota interna"). Escrita assim, ela vira regra do fluxo controlado e régua da auditoria.

Exemplo de uma linha da política de exceção com ação, limite, verificação e saída: estornar o frete até o valor que a empresa definir, com pedido localizado e CPF confirmado, e transferir pra uma pessoa acima do limite

O difícil é tirar o critério da cabeça do atendente, e foi o que segurou a Bow-e no primeiro fluxo conectado, como a gente contou no texto sobre a IA que trava nos 40%. Feche a política com a lista do que a IA nunca faz, mesmo tendo dado e permissão, e com o dono de cada fronteira, que é a lição do ticket de cobrança do Sweep.

O que exigir no contrato sobre responsabilidade pelo erro da IA?

Quem responde ao seu cliente pelo erro da IA é a sua empresa. O artigo 14 do CDC põe na conta do fornecedor o dano por serviço defeituoso ou por informação inadequada, independentemente de culpa, e o caso da Air Canada mostra que a tese do "robô responde por si" não para de pé. O contrato com o fornecedor de IA define o que ele garante pra você.

A divisão que a gente defende é essa: o fornecedor responde quando a IA sai da base ou ignora a política, e você responde pelo que está escrito nelas. Pra conseguir cobrar, exija a trilha de cada resposta, com o conteúdo usado e o raciocínio (na ClaudIA ela aparece em cada mensagem auditada), o controle de desligar a IA e tirar uma conversa dela sem abrir chamado, um prazo definido pra tratar erro grave e o acesso aos dados crus das conversas. Isso entra junto com os testes que vale fazer antes de assinar com qualquer fornecedor, e a redação final é do seu jurídico.

O que muda pra quem está no escopo do novo decreto do SAC?

O Decreto 13.135/2026, em vigor desde 2 de novembro, permite IA na triagem, na distribuição e na resolução das demandas, desde que o consumidor possa falar com uma pessoa em tempo real. Ele vale pra setores regulados pelo governo federal, conforme os critérios de cada agência, e pra serviço financeiro, de pagamento ou de crédito digital supervisionado pelo Banco Central, o que põe fintech e banco digital dentro.

Pra quem está dentro, parte da política de exceção já vem escrita pelo regulador. A opção de falar com uma pessoa e a de cancelar aparecem em qualquer nível do atendimento, com humano das 8h às 20h todos os dias, o cancelamento vale no próprio canal e com efeito imediato, e a cobrança indevida tem de ser suspensa em até 48 horas.

A trilha também ganha prazo: o histórico de cada demanda fica guardado por seis meses depois da resolução e as mensagens por 90 dias, e o atendente que recebe a conversa da IA precisa enxergar esse histórico, porque o decreto veda pedir pro cliente repetir a demanda, salvo razão técnica fundamentada. A resposta tem de ser conclusiva e cobrir todos os pontos, o que pode transformar o erro leve da auditoria, aquele detalhe que faltou, em ponto de conformidade. O detalhe artigo por artigo está no texto do decreto, e como ele se aplica ao seu caso é algo pra validar com o jurídico da sua empresa.

Como auditar o erro da IA depois que ele acontece?

Auditoria de IA se faz por amostra, e não caçando print. O guia de auditoria da ClaudIA recomenda conversas aleatórias de N1 e N2, começando pelas mais recentes, num volume que dá 99% de confiança com 5% de margem: 400 auditorias por mês pra operação de até 5 mil tickets e 1.000 pra quem tem entre 20 mil e 40 mil. A meta inicial é não passar de 20% de erro no total nem de 5% em erro grave.

Pra cada erro, abra o raciocínio e os conteúdos usados e corrija na origem, seja o título que levou à escolha errada, o conteúdo desatualizado ou a transferência que faltava. Alucinação vai pro canal oficial de suporte, porque aí o problema é do sistema.

Perguntas frequentes

A IA de atendimento vai alucinar com o meu cliente?

Vai errar em alguma taxa, como qualquer atendente. O que dá pra controlar é o teto: com boa gestão, o erro grave fica em até 5% das conversas auditadas, e a IA transfere quando não tem conteúdo.

O novo decreto do SAC proíbe IA no atendimento?

Não. O Decreto 13.135/2026 permite IA na triagem, na distribuição e na resolução das demandas, desde que o consumidor possa falar com uma pessoa em tempo real. A regra vale pra setores regulados pelo governo federal e pra serviços financeiros digitais supervisionados pelo Banco Central, e se a sua empresa está nesse escopo é uma pergunta pro jurídico dela.

Quer saber até onde a IA pode agir sozinha na sua operação? Agende uma demonstração e traga as três exceções que mais chegam no seu atendimento: a gente olha com você como cada uma vira regra da política e como a auditoria da ClaudIA confere se ela está sendo seguida.

SOBRE EL AUTOR

11 de febrero de 2026

11 de febrero de 2026

Ian Kraskoff

Ian Kraskoff

Ian Kraskoff

Founder & CEO @ Cloud Humans

Founder & CEO @ Cloud Humans

Founder & CEO @ Cloud Humans

LinkedIn

11 de febrero de 2026

11 de febrero de 2026

Conoce

Cloud Humans.