Pode uma empresa confiar uma tarefa a uma IA se ninguém puder cobrir as consequências de um erro? O processo de entrada em Bolsa da Anthropic volta a colocar esta questão em primeiro plano. Mas entre uma resposta errada e uma catástrofe que exceda a capacidade dos seguros, há vários níveis de risco. Distingui-los muda a forma de interpretar o alerta do criador do Claude.
O que a Anthropic declara realmente
No formulário S-1/A apresentado à SEC em 2 de novembro de 2026, a Anthropic refere as possíveis consequências financeiras de comportamentos inesperados dos seus modelos. A empresa avisa que as suas apólices de seguro poderão revelar-se insuficientes, nomeadamente perante danos desproporcionados causados por um ou vários incidentes.
Acrescenta que um evento catastrófico relacionado com a IA poderá exceder a capacidade ou os conhecimentos especializados de uma seguradora, ou mesmo do setor no seu conjunto. O uso do condicional é importante: esta passagem descreve uma exposição possível. Não apresenta uma frequência medida nem uma probabilidade quantificada que permita anunciar uma catástrofe iminente.
Este alerta consta de um documento destinado a investidores. A Anthropic tinha anunciado a apresentação inicial em 26 de outubro, para um projeto de entrada em Bolsa com o símbolo ANT na Nasdaq. O documento alterado consultado continua a ser preliminar: não se deve confundir esta apresentação com a prova de que a cotação já está em vigor.
No entanto, existe seguro para a IA
O alerta não significa que nenhum uso da inteligência artificial possa ser segurado. Na sua documentação aiSure, a Munich Re apresenta coberturas associadas a riscos definidos de sistemas de IA, incluindo IA generativa. A seguradora menciona, em particular, erros de produção e certas responsabilidades associadas a alucinações ou à propriedade intelectual.
A sua secção de perguntas frequentes explica que a análise incide sobre o funcionamento do modelo, os seus dados, a estabilidade do seu desempenho e a respetiva monitorização. As atualizações e as alterações de comportamento também são tidas em conta na avaliação. Não se trata, portanto, de garantir uma «inteligência» em geral, mas de analisar um sistema e a sua utilização.
Esta documentação comercial demonstra que existe uma oferta, não que todos os casos sejam aceites automaticamente. Também não permite concluir que uma apólice cobriria danos ilimitados. Uma cobertura específica e a incapacidade de absorver um cenário extremo podem perfeitamente coexistir.
O salto decisivo: da resposta à ação
Para perceber o que está em causa, consideremos um exemplo fictício. Uma IA resume um documento e engana-se numa data. Se um funcionário verificar o resumo antes de o enviar, o erro poderá não ter consequências. Se o mesmo resumo desencadear automaticamente uma encomenda, a questão muda: quem controla a ordem, que montante pode ser comprometido e como pode ser anulada?
Este cenário não corresponde a um incidente atribuído ao Claude. Permite separar três elementos que são demasiadas vezes confundidos: a qualidade do texto produzido, as permissões concedidas ao sistema e as consequências de uma decisão errada. Uma resposta convincente, por si só, não informa sobre os dois últimos.
Podemos prolongar o exemplo com uma ferramenta encarregada de responder aos clientes. Sugerir uma resposta a um consultor e enviar diretamente um compromisso comercial são duas tarefas distintas. O mesmo modelo, a mesma frase possível, mas não a mesma possibilidade de corrigir antes de o cliente a receber.
O efeito de série merece tanta atenção como o erro isolado
Outra situação hipotética: uma regra incorreta é aplicada a um único processo e, depois, a dez mil. O primeiro erro pode ser idêntico; a dimensão do problema já não é a mesma. Para uma organização, a pergunta certa não é, portanto, apenas «o modelo engana-se?», mas «até que ponto pode propagar-se o mesmo erro antes de ser detetado?».
Isto leva a analisar a cadeia completa: dados de entrada, resposta, decisão, ação e possibilidade de reverter o processo. Um controlo colocado apenas no fim pode chegar demasiado tarde se já tiver sido executada uma ação irreversível. Pelo contrário, uma validação antes de um pagamento ou da eliminação de dados intervém precisamente no momento em que as consequências mudam de natureza.
Estes exemplos não quantificam um risco nem demonstram a eficácia de uma proteção específica. Oferecem um quadro de análise concreto que permite não reduzir a fiabilidade de um serviço à facilidade de utilização da sua interface.
Perguntas úteis antes de delegar uma tarefa
Para uma equipa que esteja a ponderar utilizar uma ferramenta de IA, o ponto de partida pode resumir-se a algumas perguntas: que tarefa exata será confiada? Que erro seria aceitável e qual não seria? Quem verifica o resultado? O sistema pode apenas sugerir ou também agir? Há um registo que possa ser consultado e uma forma de corrigir os efeitos de uma ação errada?
O seguro vem depois completar esta reflexão. A existência de uma oferta no mercado não informa sobre o contrato de uma determinada empresa. Inversamente, o alerta de um fornecedor sobre cenários extremos não significa que cada utilização quotidiana implique danos dessa dimensão.
O interesse do processo da Anthropic está em trazer a conversa de volta a uma responsabilidade muito concreta: quando um sistema produz um erro, alguém tem de poder conter os seus efeitos. Avaliar este âmbito tarefa a tarefa é mais útil do que opor uma IA supostamente infalível a uma tecnologia declarada impossível de segurar em bloco.
Fotografia de arquivo: Dario Amodei, à direita, na TechCrunch Disrupt, em setembro de 2023.
