Pular para o conteúdo principal

Quem é responsável quando seu agente de IA toma uma decisão ruim?

8 min para lerMike ThriftMike Thrift
Quem é responsável quando seu agente de IA toma uma decisão ruim?

O chatbot de uma concessionária de veículos já concordou em vender uma Chevrolet Tahoe zero-quilômetro por um dólar. Um cliente convenceu o assistente de IA de outro varejista a conceder um desconto de 80% e, em seguida, fez um pedido de milhares de dólares. E no caso que deu início a tudo isso, um tribunal determinou que a Air Canada honrasse um desconto de tarifa por luto que seu chatbot inventou do nada — o argumento da companhia aérea de que o robô era "uma entidade jurídica separada" não sobreviveu ao primeiro contato com um juiz.

Nenhuma dessas empresas escreveu uma única linha do código com defeito, da promessa falsa ou do desconto que nunca deveria ter existido. Elas apenas eram donas da IA que disse aquilo. E, em 2026, é exatamente assim que tribunais, reguladores e — cada vez mais — seguradoras estão tratando o assunto: se a sua IA disse, você é responsável.

Essa última parte é a reviravolta que os donos de pequenas empresas ainda não perceberam. Justamente quando as ferramentas de IA agêntica ficaram boas o suficiente para de fato administrar partes de um negócio — cotando preços, respondendo a chamados de suporte, triando candidatos a emprego, redigindo contratos —, o setor de seguros começou, discretamente, a excluir sinistros relacionados a IA das apólices que os empresários presumiam que os protegeriam.

A Cobertura que Você Achava que Tinha Está Mudando

Durante anos, a maioria das pequenas empresas operou com uma "cobertura silenciosa de IA": nada nas apólices de responsabilidade civil geral (GL), erros e omissões (E&O) ou responsabilidade profissional mencionava explicitamente inteligência artificial, então os sinistros envolvendo ferramentas de IA eram tratados como qualquer outro sinistro. Se o seu software cometesse um erro, sua apólice geralmente respondia por ele.

Essa era silenciosa terminou em janeiro de 2026. A Insurance Services Office (ISO) — o órgão do setor que redige a linguagem-padrão das apólices sobre a qual a maioria das seguradoras americanas se baseia — introduziu dois novos endossos opcionais especificamente para IA generativa:

  • CG 40 47 é a versão mais ampla. Ela exclui sinistros tanto da Cobertura A (lesão corporal e dano material) quanto da Cobertura B (lesão pessoal e por publicidade) relacionados a resultados gerados por IA generativa — conteúdo difamatório, violação de propriedade intelectual a partir de material gerado por IA e até mesmo dano físico, se puder ser rastreado até um erro provocado por IA.
  • CG 40 48 é mais restrito, excluindo apenas a Cobertura B. Ela deixa em aberto os sinistros de lesão corporal e dano material, mas ainda assim bloqueia os danos relacionados a publicidade e reputação que os erros de IA mais frequentemente causam.

No início de 2026, grandes seguradoras — incluindo Chubb, Travelers e Berkshire Hathaway — já haviam obtido aprovação regulatória estadual para acrescentar exclusões explícitas de IA às apólices de GL, de administradores (D&O) e de E&O. Mais de 80% dos pedidos das seguradoras para essas exclusões foram aprovados. Isso significa que uma apólice renovada hoje pode parecer idêntica à do ano passado na superfície, enquanto silenciosamente deixa de cobrir sinistros relacionados a IA.

O momento é a parte incômoda: cerca de 74% das pequenas empresas hoje usam ferramentas de IA em alguma medida, e a adoção continua crescendo. A maioria dos donos de empresas não faz ideia de que a renovação já exclui exatamente o risco que estão acumulando mais rapidamente.

O Que Está Realmente Caindo na Lacuna

As exclusões não dizem respeito apenas a chatbots que viralizam pelos motivos errados. A lacuna de responsabilidade aparece em qualquer lugar onde uma ferramenta de IA tome uma ação — ou faça uma declaração — que um cliente, funcionário ou regulador possa atribuir à sua empresa:

  • Preços e cotações. Um agente de IA que cota um preço abaixo do custo, oferece um desconto não autorizado ou declara incorretamente um termo da apólice. Tribunais já determinaram que uma empresa deve honrar o que seu robô prometeu, mesmo quando a promessa estava errada.
  • Decisões de contratação. Um triador de currículos ou agente de agendamento baseado em IA que produz um resultado tendencioso ou discriminatório, expondo a empresa a uma reclamação trabalhista que a apólice original nunca precificou.
  • Comunicações com clientes. Agentes de suporte que fornecem orientação jurídica, médica ou financeira incorreta, ou que fazem declarações que nenhum humano jamais aprovou.
  • Ações de fornecedores e cadeia de suprimentos. Um agente de IA de compras ou roteamento que faz um pedido incorreto, administra mal compromissos de estoque ou aciona um contrato que a empresa não pretendia firmar.
  • Tratamento de dados. Ferramentas de IA que coletam, retêm ou expõem dados de clientes de maneiras que violam a legislação de privacidade — uma categoria regulatória que por si só cresce rapidamente.

O fio condutor: são danos consequenciais — lucros cessantes, dano à reputação, multas regulatórias, perda de dados — e não apenas o custo da assinatura do software. Os contratos de tecnologia padrão normalmente excluem exatamente essas categorias, e os termos de fornecedor em que a maioria das empresas clicou em "aceitar" já isentam o fornecedor de responsabilidade por precisão ou adequação à finalidade. Isso deixa a empresa com um risco que não escolheu totalmente e que agora não consegue segurar totalmente por meio da apólice que já possui.

O Que Fazer Antes da Sua Próxima Renovação

Você não precisa arrancar suas ferramentas de IA nem entrar em pânico antes que sua apólice expire. Mas precisa parar de presumir que sua cobertura atual ainda diz o que dizia no ano passado.

1. Solicite uma auditoria da apólice. Peça ao seu corretor para revisar suas apólices atuais de GL, E&O, D&O e responsabilidade profissional especificamente em busca de endossos ou linguagem de exclusão relacionados a IA. Se sua apólice foi renovada depois de outubro de 2025, trate esse momento como o ponto que merece uma segunda análise — foi mais ou menos quando a linguagem de exclusão começou a aparecer em renovações reais.

2. Mapeie onde a IA realmente toca o seu negócio. A maioria dos donos de empresas subestima isso. Vá ferramenta por ferramenta: bots de atendimento ao cliente, contratação ou agendamento assistidos por IA, ferramentas de modelagem financeira ou previsão, geração de conteúdo de marketing, sistemas de precificação ou estoque orientados por IA. Cada uma delas é um lugar de onde um sinistro pode se originar.

3. Pergunte sobre cobertura autônoma de responsabilidade por IA. Um novo segmento de mercado está se formando especificamente para preencher essa lacuna. A HSB (uma empresa da Munich Re) lançou um produto de Seguro de Responsabilidade por IA para pequenas e médias empresas em março de 2026, distribuído por meio de pacotes de seguro já existentes, com cobertura que se estende a cenários como uma cotação de IA precificada incorretamente que a empresa é obrigada a honrar. Produtos autônomos de seguradoras como a Munich Re agora oferecem limites que variam de $2 milhões a $50 milhões, com a precificação fortemente moldada pelo setor, pela intensidade de uso da IA e pela quantidade de governança que você consegue documentar.

4. Coloque um humano no circuito para decisões relevantes. As seguradoras cada vez mais precificam a cobertura com base na governança, não apenas no uso da IA. Uma supervisão estruturada — uma etapa de revisão humana antes que um preço, termo contratual ou decisão de contratação gerados por IA se torne definitivo — é ao mesmo tempo uma boa gestão de risco e um fator que pode melhorar significativamente suas condições e seu prêmio.

5. Documente seus controles. Testes de viés, registros de monitoramento, uma política de escalonamento de incidentes e uma política escrita de uso de IA se tornam, todos, evidências de que você está gerenciando o risco em vez de ignorá-lo — o que importa tanto para a subscrição quanto para o caso de um sinistro chegar a um litígio.

O próprio mercado ainda é jovem. Como disse um subscritor, há muita gente falando sobre seguro de IA e ainda poucas pessoas realmente emitindo essa cobertura. Esse é um argumento para começar a conversa com seu corretor agora, enquanto ainda há espaço para negociar condições, em vez de esperar até que um aviso de renovação chegue com uma exclusão já embutida.

Mantenha o Registro Financeiro em Ordem, Seja Lá o Que a IA Tiver Feito

Quando uma disputa relacionada a IA finalmente surge — um preço contestado, um estorno, um acordo, uma nova linha de item de seguro —, a primeira coisa que uma seguradora, um contador ou um advogado vai pedir é um rastro documental limpo: o que foi cobrado, o que foi reembolsado, qual era o prêmio da apólice e quando cada lançamento entrou nos livros. O Beancount.io oferece contabilidade em texto simples que mantém esse registro transparente e sob controle de versão desde o primeiro dia, de modo que, se você algum dia precisar reconstruir exatamente o que aconteceu financeiramente, a resposta não estará enterrada dentro de uma ferramenta de caixa-preta. Comece gratuitamente e mantenha sua contabilidade tão auditável quanto as ferramentas de IA contra as quais você agora está tentando se segurar.

Partilhar este artigo