Executivo da Anthropic diz que a IA tem mais de 10% de chance de matar todo mundo, e admite que a empresa não tem plano para impedir isso

Um dos executivos responsáveis por manter a inteligência artificial da Anthropic sob controle acaba de dizer, em público, que não tem tanta certeza de que isso vá dar certo. Segundo o The Verge, Evan Hubinger, líder de ciência de alinhamento da empresa, publicou em uma rede social que considera existir mais de 10% de chance de a IA eliminar toda a humanidade na próxima década. Não é um número tirado de um estudo formal, mas a opinião pessoal de alguém que passa o dia pensando exatamente nesse risco dentro de uma das maiores empresas de IA do mundo.

A fala não surgiu do nada. Ela veio poucos dias depois de Jacob Coxon, outro pesquisador da Anthropic que já havia passado pela OpenAI, anunciar sua saída da empresa com uma acusação pesada: segundo ele, tanto a Anthropic quanto suas rivais estão “correndo descuidadamente para construir sistemas super-humanos que não conseguem controlar”. Coxon foi além e disse que essas empresas estão travadas numa corrida por sistemas cada vez mais avançados mesmo cientes dos riscos envolvidos.

Ao comentar a saída do colega, Hubinger não tentou suavizar o problema. Ele escreveu que acredita que a Anthropic está fazendo o possível, mas reconheceu que a empresa “ainda não tem um plano para resolver o alinhamento de uma superinteligência” e não está claramente no caminho de conseguir isso. Em outras palavras: o mesmo executivo encarregado de evitar que a IA saia do controle admite que a solução para o problema mais sério que ele mesmo descreve simplesmente não existe ainda.

Isso é diferente de um pesquisador qualquer soltando uma opinião alarmista, por um motivo simples: a Anthropic foi fundada por ex-funcionários da OpenAI que discordavam do ritmo com que a rival avançava sem, na visão deles, dar atenção suficiente à segurança. A empresa construiu boa parte da própria imagem pública em torno dessa cautela. Ver um dos seus executivos de segurança admitir essa lacuna, logo depois de perder um pesquisador pelo mesmo motivo, mostra que a tensão interna sobre até onde empurrar os limites da tecnologia já saiu do terreno das discussões de bastidor.

Isso interessa a quem nunca vai escrever uma linha de código de IA porque essa corrida está diretamente ligada aos modelos que já estão no bolso e no computador de qualquer pessoa. Chatbots, assistentes e ferramentas de produtividade de hoje são o degrau anterior daquilo que Hubinger e Coxon descrevem como o próximo salto: sistemas capazes de agir com grau de autonomia que hoje só existe em teoria. Quanto mais essas empresas competem entre si para lançar o próximo modelo antes da concorrência, menos tempo sobra, pelo menos na visão desses dois pesquisadores, para garantir que cada novo avanço seja testado com o cuidado que merece.

Nem Hubinger nem Coxon apresentaram um caminho claro para reduzir esse risco além de pedir mais cautela. Mesmo dentro da empresa que se vende como a mais preocupada com segurança em IA, não existe hoje um plano pronto para evitar que a tecnologia mais poderosa em desenvolvimento saia do controle de quem a criou.