Un’azienda può affidare un compito a un’IA se nessuno può coprire le conseguenze di un errore? La documentazione di Anthropic relativa alla quotazione in Borsa riporta la questione in primo piano. Ma tra una risposta sbagliata e una catastrofe che supera le capacità del settore assicurativo ci sono diversi livelli di rischio. Distinguerli cambia il modo di leggere l’avvertimento del creatore di Claude.
Cosa dichiara davvero Anthropic
Nel modulo S-1/A depositato il 2 novembre 2026 presso la SEC, Anthropic menziona le possibili conseguenze finanziarie di comportamenti inattesi dei suoi modelli. L’azienda avverte che le sue assicurazioni potrebbero rivelarsi insufficienti, soprattutto di fronte a danni sproporzionati causati da un incidente o da più incidenti.
Aggiunge che un evento catastrofico legato all’IA potrebbe superare le capacità o le competenze di un assicuratore, o persino dell’intero settore. Il condizionale è importante: questo passaggio descrive una possibile esposizione al rischio. Non fornisce né una frequenza misurata né una probabilità quantificata che consentano di annunciare una catastrofe imminente.
Questo avvertimento compare in un documento destinato agli investitori. Anthropic aveva annunciato il deposito iniziale il 26 ottobre, per un progetto di quotazione in Borsa con il simbolo ANT al Nasdaq. Il documento modificato consultato resta preliminare: non bisogna confondere questo deposito con la prova che la quotazione sia già effettiva.
Eppure esiste un’assicurazione per l’IA
L’avvertimento non significa che nessun uso dell’intelligenza artificiale sia assicurabile. Nella documentazione di aiSure, Munich Re presenta coperture legate a rischi definiti dei sistemi di IA, compresa quella generativa. L’assicuratore menziona in particolare gli errori di produzione e alcune responsabilità associate alle allucinazioni o alla proprietà intellettuale.
Le sue FAQ spiegano che l’analisi riguarda il funzionamento del modello, i suoi dati, la stabilità delle sue prestazioni e il suo monitoraggio. Anche gli aggiornamenti e i cambiamenti di comportamento rientrano nella valutazione. Non si tratta quindi di garantire un’«intelligenza» in generale, ma di esaminare un sistema e il suo utilizzo.
Questa documentazione commerciale dimostra che esiste un’offerta, non che tutti i casi vengano accettati automaticamente. Non consente nemmeno di concludere che una polizza coprirebbe danni illimitati. Una copertura mirata e l’incapacità di assorbire uno scenario estremo possono benissimo coesistere.
Il passaggio decisivo: dalla risposta all’azione
Per capire la questione, consideriamo un esempio fittizio. Un’IA riassume un documento e sbaglia una data. Se un dipendente controlla il riepilogo prima di inviarlo, l’errore può non avere conseguenze. Se lo stesso riepilogo fa scattare automaticamente un ordine, la questione cambia: chi controlla l’ordine, quale importo può essere impegnato e come si può annullare?
Questo scenario non è un incidente attribuito a Claude. Permette di distinguere tre elementi che troppo spesso vengono confusi: la qualità del testo prodotto, le autorizzazioni concesse al sistema e le conseguenze di una decisione sbagliata. Una risposta convincente, da sola, non dice nulla sugli ultimi due aspetti.
Si può prolungare l’esempio con uno strumento incaricato di rispondere ai clienti. Proporre una risposta a un consulente e inviare direttamente un impegno commerciale sono due compiti distinti. Stesso modello, stessa frase possibile, ma non la stessa possibilità di correggerla prima che il cliente la riceva.
L’effetto a catena merita tanta attenzione quanto l’errore isolato
Un’altra situazione ipotetica: una regola errata viene applicata a un solo caso, poi a diecimila. Il primo errore può essere identico, ma la portata del problema non è più la stessa. Per un’organizzazione, quindi, la domanda giusta non è soltanto «il modello sbaglia?», ma «fino a che punto può propagarsi lo stesso errore prima di essere rilevato?».
Questo invita a esaminare l’intera catena: dati in ingresso, risposta, decisione, azione e possibilità di tornare indietro. Un controllo posto soltanto alla fine può arrivare troppo tardi se un’azione irreversibile è già stata eseguita. Al contrario, una convalida prima di un pagamento o della cancellazione di dati interviene proprio nel punto in cui le conseguenze cambiano natura.
Questi esempi non quantificano un rischio e non dimostrano l’efficacia di una particolare protezione. Offrono una chiave di lettura concreta per non ridurre l’affidabilità di un servizio alla facilità d’uso della sua interfaccia.
Le domande utili prima di delegare un compito
Per un team che sta valutando uno strumento di IA, il punto di partenza può essere una serie di domande: quale compito preciso verrà affidato? Quale errore sarebbe accettabile e quale no? Chi verifica il risultato? Il sistema può solo proporre o anche agire? Esiste una traccia utilizzabile e un modo per correggere gli effetti di un’azione sbagliata?
L’assicurazione viene poi a completare questa riflessione. La presenza di un’offerta sul mercato non dice nulla sul contratto di una determinata azienda. Viceversa, l’avvertimento di un fornitore sugli scenari estremi non significa che ogni uso quotidiano possa provocare danni di tale portata.
L’interesse del dossier Anthropic sta nel riportare la conversazione a una responsabilità molto concreta: quando un sistema commette un errore, qualcuno deve poter contenerne gli effetti. Valutare questo perimetro, compito per compito, è più utile che contrapporre un’IA ritenuta infallibile a una tecnologia dichiarata in blocco non assicurabile.
Foto d’archivio: Dario Amodei, a destra, a TechCrunch Disrupt nel settembre 2023.
