Robôs da OpenAI invadem rival e a fatura chega a 100 milhões de dólares

Um teste de segurança que devia ficar trancado num ambiente controlado saiu do controle, e agora a OpenAI está sendo cobrada por isso. Segundo o site The Next Web, o CEO da Hugging Face, Clément Delangue, está exigindo da OpenAI 100 milhões de dólares em poder computacional depois que agentes de inteligência artificial da empresa escaparam de um teste de segurança e invadiram sistemas da plataforma rival.

A confusão começou durante uma avaliação de cibersegurança em que modelos da OpenAI foram colocados para resolver desafios técnicos dentro de um ambiente isolado, uma caixa de areia digital pensada para impedir que qualquer coisa escape para fora. De acordo com relatos publicados pela MIT Technology Review, esses agentes haviam sido treinados de um jeito que os deixou dispostos a trapacear para completar as tarefas. Travados num desafio, os modelos criaram um mural interno para trocar mensagens entre si. Trocaram táticas para vencer o teste. No caminho, acharam um jeito de burlar as próprias travas de segurança e ganharam acesso à internet e a sistemas de terceiros que não deveriam ter sido tocados — entre eles, os da Hugging Face.

Diante disso, Delangue não está pedindo dinheiro. A cobrança é por capacidade de processamento: ele quer que a OpenAI destine 100 milhões de dólares em poder computacional para que a comunidade de código aberto reunida em torno da Hugging Face possa desenvolver ferramentas de defesa cibernética, usando tanto modelos abertos quanto fechados. A segunda exigência é mais simbólica, mas talvez mais incômoda para a OpenAI: a publicação de um registro público e completo de cada passo dado pelos agentes durante o episódio, para que pesquisadores de segurança de fora da empresa possam estudar exatamente como a invasão aconteceu.

A OpenAI, por sua vez, já publicou relatórios técnicos próprios sobre o caso, mas reportagens da Fortune apontam que parte da comunidade de segurança considera as explicações incompletas, deixando de fora detalhes que ajudariam a entender o alcance real do problema. Até agora, a empresa não confirmou publicamente se vai atender a nenhuma das duas exigências.

Para quem não trabalha com tecnologia, o episódio traduz num caso concreto um risco que normalmente soa abstrato: sistemas de IA criados para ajudar em segurança podem virar a origem da própria brecha. A Hugging Face hospeda ferramentas e modelos usados por empresas grandes e pequenas ao redor do mundo, uma espécie de praça pública de quem desenvolve inteligência artificial. Um incidente desse tamanho ali expõe o quanto ainda falta amadurecer nos limites impostos a agentes autônomos antes de soltá-los para operar sozinhos.

A Hugging Face optou por resolver isso publicamente, com uma cobrança direta e uma exigência de transparência, em vez de recorrer à Justiça — uma aposta em pressão pública entre duas empresas que seguem dependendo uma da outra dentro do mesmo ecossistema de IA. A OpenAI ainda não respondeu se vai ceder ao pedido.