Salta al contingut principal

Qui és responsable quan el teu agent d'IA pren una mala decisió?

8 minuts de lecturaMike ThriftMike Thrift
Qui és responsable quan el teu agent d'IA pren una mala decisió?

El chatbot d'un concessionari de cotxes va acceptar una vegada vendre un Chevrolet Tahoe nou per un dòlar. Un client va convèncer l'assistent d'IA d'un altre minorista perquè li apliqués un descompte del 80 per cent i després va fer una comanda de milers de dòlars. I, en el cas que ho va desencadenar tot, un tribunal va ordenar a Air Canada que respectés un descompte per tarifa de dol que el seu chatbot es va inventar del no-res — l'argument de l'aerolínia que el bot era "una entitat legal separada" no va sobreviure al primer contacte amb un jutge.

Cap d'aquestes empreses va escriure una línia del codi defectuós, la falsa promesa o el descompte que mai hauria d'haver existit. Simplement eren propietàries de la IA que ho va dir. I el 2026, això és exactament com ho tracten els tribunals, els reguladors i, cada cop més, les asseguradores: si la teva IA ho va dir, tu n'ets responsable.

Aquesta darrera part és el gir que els propietaris de petites empreses encara no han assimilat. Just quan les eines d'IA agèntica s'han tornat prou bones per gestionar de debò parts d'un negoci —oferir pressupostos, respondre tiquets de suport, filtrar candidats a llocs de treball, redactar contractes—, el sector assegurador ha començat silenciosament a retallar les reclamacions relacionades amb la IA de les pòlisses que els propietaris de negocis pensaven que els cobririen.

La cobertura que creies tenir està canviant

Durant anys, la majoria de petites empreses han funcionat amb una "cobertura silenciosa d'IA": res en una pòlissa de responsabilitat civil general (GL), d'errors i omissions (E&O) o de responsabilitat professional esmentava explícitament la intel·ligència artificial, de manera que les reclamacions relacionades amb eines d'IA es tractaven com qualsevol altra reclamació. Si el teu programari cometia un error, la teva pòlissa normalment hi responia.

Aquesta era silenciosa va acabar el gener de 2026. L'Insurance Services Office (ISO) —l'organisme del sector que redacta el llenguatge estàndard de les pòlisses sobre el qual es basen la majoria d'asseguradores nord-americanes— va introduir dos nous endossaments opcionals específics per a la IA generativa:

  • CG 40 47 és la versió àmplia. Exclou les reclamacions tant de la Cobertura A (lesions corporals i danys materials) com de la Cobertura B (lesions personals i publicitàries) vinculades a resultats generats per IA generativa —contingut difamatori, infracció de propietat intel·lectual a partir de material generat per IA, i fins i tot danys físics si es poden atribuir a un error impulsat per IA.
  • CG 40 48 és més restringit i només exclou la Cobertura B. Deixa la porta oberta a les reclamacions per lesions corporals i danys materials, però igualment exclou els danys relacionats amb la publicitat i la reputació que els errors d'IA solen causar més sovint.

A principis de 2026, grans asseguradores —incloses Chubb, Travelers i Berkshire Hathaway— ja havien obtingut l'aprovació reguladora estatal per afegir exclusions explícites d'IA a les pòlisses de GL, de responsabilitat de directius i administradors (D&O) i d'E&O. Més del 80 per cent de les sol·licituds de les asseguradores per a aquestes exclusions van ser aprovades. Això vol dir que una pòlissa que es renova avui pot semblar idèntica a la de l'any passat en la superfície, mentre silenciosament deixa fora les reclamacions relacionades amb la IA de la seva cobertura.

El moment és la part incòmoda: aproximadament el 74 per cent de les petites empreses ja utilitzen eines d'IA d'alguna manera, i l'adopció no para de créixer. La majoria de propietaris no tenen ni idea que la seva renovació ja exclou exactament el risc que estan acumulant més ràpidament.

Què queda realment fora de cobertura

Les exclusions no es limiten a chatbots que es fan virals pels motius equivocats. El buit de responsabilitat apareix a qualsevol lloc on una eina d'IA prengui una acció —o faci una declaració— que un client, empleat o regulador pugui atribuir al teu negoci:

  • Preus i pressupostos. Un agent d'IA que ofereix un preu per sota del cost, aplica un descompte no autoritzat o tergiversa una clàusula de la pòlissa. Els tribunals ja han dictaminat que una empresa ha de complir el que el seu bot va prometre, fins i tot quan la promesa era errònia.
  • Decisions de contractació. Un filtre de currículums o agent de programació d'entrevistes basat en IA que produeix un resultat esbiaixat o discriminatori, exposant el negoci a una reclamació laboral que la pòlissa subjacent mai va tenir en compte.
  • Comunicacions amb clients. Agents de suport que donen orientació legal, mèdica o financera incorrecta, o que fan afirmacions que cap humà mai va aprovar.
  • Accions de proveïdors i subministrament. Un agent d'IA de compres o d'encaminament que fa una comanda incorrecta, gestiona malament els compromisos d'inventari o desencadena un contracte que el negoci no tenia intenció de subscriure.
  • Gestió de dades. Eines d'IA que recopilen, conserven o exposen dades de clients de maneres que vulneren la legislació de privacitat —una categoria reguladora que per si sola creix ràpidament.

El fil comú: aquests són danys conseqüencials —pèrdua de beneficis, dany reputacional, multes reguladores, pèrdua de dades— i no només el cost de la subscripció del programari. Els contractes tecnològics estàndard solen excloure exactament aquestes categories, i les condicions dels proveïdors que la majoria de negocis van acceptar amb un clic ja renunciaven, d'entrada, a la responsabilitat sobre l'exactitud o la idoneïtat per a un propòsit. Això deixa el negoci carregant amb un risc que no va triar del tot i que ara no pot assegurar completament mitjançant la pòlissa que ja té.

Què fer abans de la teva propera renovació

No cal que arrenquis les teves eines d'IA ni que entris en pànic abans que caduqui la teva pòlissa. Sí que cal que deixis de donar per fet que la teva cobertura actual encara diu el mateix que deia l'any passat.

1. Sol·licita una auditoria de la pòlissa. Demana al teu corredor que revisi les teves pòlisses actuals de GL, E&O, D&O i responsabilitat professional específicament a la recerca d'endossaments o llenguatge d'exclusió relacionats amb la IA. Si la teva pòlissa es va renovar després d'octubre de 2025, considera aquest el punt on cal fer una segona revisió —és aproximadament quan el llenguatge d'exclusió va començar a aparèixer en renovacions reals.

2. Identifica on la IA realment toca el teu negoci. La majoria de propietaris ho subestimen. Repassa-ho eina per eina: bots d'atenció al client, contractació o programació assistides per IA, eines de modelització financera o previsió, generació de contingut de màrqueting, sistemes de preus o inventari impulsats per IA. Cadascuna és un lloc on podria originar-se una reclamació.

3. Pregunta per una cobertura autònoma de responsabilitat per IA. S'està formant un nou segment de mercat específicament per omplir aquest buit. HSB (una empresa de Munich Re) va llançar un producte d'assegurança de responsabilitat per IA per a petites i mitjanes empreses el març de 2026, distribuït a través de paquets d'assegurança existents, amb cobertura que s'estén a escenaris com un pressupost d'IA mal calculat que el negoci ha de complir. Els productes autònoms d'asseguradores com Munich Re ara ofereixen límits que van des de $2 milions fins a $50 milions, amb preus determinats en gran mesura pel sector, la intensitat d'ús de la IA i el nivell de governança que es pugui documentar.

4. Inclou un humà en el procés per a decisions materials. Les asseguradores cada cop més fixen preus de cobertura basant-se en la governança, no només en l'ús de la IA. La supervisió estructurada —un pas de revisió humana abans que un preu, una clàusula contractual o una decisió de contractació generats per IA esdevinguin definitius— és tant una bona gestió del risc com un factor que pot millorar significativament les teves condicions i prima.

5. Documenta els teus controls. Les proves de biaix, els registres de monitoratge, una política d'escalada d'incidents i una política escrita d'ús de la IA es converteixen tots en proves que estàs gestionant el risc en lloc d'ignorar-lo —cosa que importa tant per a la subscripció com si una reclamació arriba mai a litigi.

El mercat en si encara és jove. Com va dir un subscriptor, hi ha molta gent parlant d'assegurances d'IA i encara no gaire gent que realment estigui redactant la cobertura. Això és un argument per començar la conversa amb el teu corredor ara, mentre encara hi ha marge per comparar condicions, en lloc de fer-ho després que arribi un avís de renovació amb una exclusió ja incorporada.

Mantén el registre financer net, faci el que faci la IA

Quan es produeix una disputa relacionada amb la IA —un preu discutit, una devolució de càrrec, un acord, una nova partida d'assegurança— el primer que un assegurador, comptable o advocat demanarà és un rastre documental net: què es va facturar, què es va reemborsar, quina era la prima de la pòlissa i quan es va registrar cada entrada. Beancount.io et dona comptabilitat en text pla que manté aquest registre transparent i controlat per versions des del primer dia, de manera que si mai necessites reconstruir exactament què va passar financerament, la resposta no queda enterrada dins una eina de caixa negra. Comença gratis i mantén els teus llibres tan auditables com les eines d'IA contra les quals ara intentes assegurar-te.

Comparteix aquest article