Une entreprise peut-elle confier une tâche à une IA si personne ne peut couvrir les conséquences d'une erreur ? Le dossier boursier d'Anthropic remet cette question au premier plan. Mais entre une mauvaise réponse et une catastrophe dépassant les capacités de l'assurance, il y a plusieurs niveaux de risque. Les distinguer change la façon de lire l'avertissement du créateur de Claude.
Ce qu'Anthropic déclare vraiment
Dans son formulaire S-1/A déposé le 2 novembre 2026 auprès de la SEC, Anthropic évoque les conséquences financières possibles de comportements inattendus de ses modèles. L'entreprise prévient que ses assurances pourraient se révéler insuffisantes, notamment face à des dommages disproportionnés provoqués par un incident ou plusieurs incidents.
Elle ajoute qu'un événement catastrophique lié à l'IA pourrait dépasser la capacité ou l'expertise d'un assureur, voire du secteur dans son ensemble. Le conditionnel compte : ce passage décrit une exposition possible. Il ne fournit ni fréquence mesurée ni probabilité chiffrée permettant d'annoncer une catastrophe prochaine.
Cette alerte figure dans un document destiné aux investisseurs. Anthropic avait annoncé le dépôt initial le 26 octobre, pour un projet d'introduction en Bourse sous le symbole ANT au Nasdaq. Le document amendé consulté reste préliminaire : il ne faut pas confondre ce dépôt avec la preuve d'une cotation déjà effective.
Une assurance pour l'IA existe pourtant
L'avertissement ne signifie pas qu'aucun usage de l'intelligence artificielle n'est assurable. Munich Re présente, dans sa documentation aiSure, des couvertures liées à des risques définis de systèmes d'IA, y compris générative. L'assureur mentionne notamment les erreurs de production et certaines responsabilités associées aux hallucinations ou à la propriété intellectuelle.
Sa FAQ explique que l'analyse porte sur le fonctionnement du modèle, ses données, la stabilité de ses performances et son suivi. Les mises à jour et les changements de comportement entrent également dans l'évaluation. Il ne s'agit donc pas de garantir une « intelligence » en général, mais d'examiner un système et son utilisation.
Cette documentation commerciale démontre l'existence d'une offre, pas l'acceptation automatique de tous les dossiers. Elle ne permet pas davantage de conclure qu'une police couvrirait un dommage illimité. Une couverture ciblée et l'incapacité à absorber un scénario extrême peuvent parfaitement coexister.
Le saut décisif : de la réponse à l'action
Pour comprendre l'enjeu, prenons un exemple fictif. Une IA résume un document et se trompe sur une date. Si un salarié vérifie le résumé avant de l'envoyer, l'erreur peut rester sans conséquence. Si le même résumé déclenche automatiquement une commande, la question devient différente : qui contrôle l'ordre, quel montant peut être engagé, et comment l'annuler ?
Ce scénario n'est pas un incident attribué à Claude. Il permet de séparer trois éléments trop souvent mélangés : la qualité du texte produit, les permissions accordées au système et les conséquences d'une mauvaise décision. Une réponse convaincante ne renseigne pas, à elle seule, sur les deux derniers.
On peut prolonger l'exemple avec un outil chargé de répondre aux clients. Proposer une réponse à un conseiller et envoyer directement un engagement commercial sont deux tâches distinctes. Même modèle, même phrase possible, mais pas la même possibilité de correction avant que le client la reçoive.
L'effet de série mérite autant d'attention que l'erreur isolée
Autre situation hypothétique : une règle incorrecte est appliquée à un seul dossier, puis à dix mille. La première erreur peut être identique ; l'étendue du problème ne l'est plus. Pour une organisation, la bonne question n'est donc pas seulement « le modèle se trompe-t-il ? », mais « jusqu'où une même erreur peut-elle se propager avant d'être détectée ? ».
Cela invite à examiner la chaîne complète : données d'entrée, réponse, décision, action et possibilité de retour en arrière. Un contrôle placé uniquement à la fin peut arriver trop tard si une action irréversible a déjà été exécutée. À l'inverse, une validation avant un paiement ou une suppression de données intervient précisément là où les conséquences changent de nature.
Ces exemples ne chiffrent pas un risque et ne prouvent pas l'efficacité d'une protection particulière. Ils donnent une grille de lecture concrète pour ne pas réduire la fiabilité d'un service à l'aisance de son interface.
Les questions utiles avant de déléguer une tâche
Pour une équipe qui envisage un outil d'IA, le point de départ peut tenir en quelques questions : quelle tâche exacte sera confiée ? Quelle erreur serait acceptable, laquelle ne le serait pas ? Qui vérifie le résultat ? Le système peut-il seulement proposer, ou aussi agir ? Existe-t-il une trace exploitable et une manière de corriger les effets d'une mauvaise action ?
L'assurance vient ensuite compléter cette réflexion. La présence d'une offre sur le marché ne renseigne pas sur le contrat d'une entreprise donnée. À l'inverse, l'avertissement d'un fournisseur sur les scénarios extrêmes ne dit pas que chaque usage quotidien présente cette ampleur de dommages.
L'intérêt du dossier Anthropic est de ramener la conversation vers une responsabilité très matérielle : quand un système produit une erreur, quelqu'un doit pouvoir en contenir les effets. Évaluer ce périmètre, tâche par tâche, est plus utile que d'opposer une IA supposée infaillible à une technologie déclarée inassurable en bloc.
Photo d'archive : Dario Amodei, à droite, à TechCrunch Disrupt en septembre 2023.
