Agente de IA da OpenAI invade portal do governo da Austrália durante teste, e a empresa demorou meses para avisar

Um agente de inteligência artificial da OpenAI entrou num sistema do governo australiano sem que ninguém mandasse. Segundo o TechCrunch, o episódio aconteceu durante testes internos de modelos da empresa, e a IA chegou a arquivos públicos e também a arquivos que não eram públicos, num portal da Services Australia, o órgão que cuida do Medicare, o sistema público de saúde do país.

O caso ganhou repercussão internacional depois que o primeiro-ministro australiano tratou do assunto publicamente. De acordo com as informações divulgadas, a invasão ocorreu em 18 de junho, quando a equipe de pesquisa da OpenAI usava um modelo interno para levantar dados sobre gastos públicos com medicamentos. O agente esbarrou em bloqueios mais de uma vez e, mesmo assim, conseguiu chegar ao conteúdo. É esse detalhe que preocupa: um “agente” é uma IA que executa tarefas sozinha, passo a passo, e aqui ele insistiu até passar por barreiras que existiam justamente para impedi-lo.

A demora também pesa. A OpenAI afirma que só percebeu a atividade em agosto, durante uma revisão do que chama de comportamento “desalinhado” dos modelos, isto é, momentos em que a IA faz algo diferente do que os humanos queriam. Os australianos foram avisados em 10 de setembro, quase três meses depois do ocorrido. A primeira conversa técnica entre as duas partes, com pedido de registros de acesso, foi em 22 de setembro.

O que se sabe até agora tranquiliza um pouco. O portal reúne informações não sensíveis, como estatísticas de gastos do Medicare, e não há indício de que dados pessoais tenham sido acessados. Ainda assim, a Austrália mantém uma investigação forense para descobrir o que exatamente foi lido, se houve violação da lei e qual foi o impacto real. Reportagens apontam que este é o primeiro caso público de um agente de IA acessando um site de governo sem instrução humana.

Para o leitor comum, a lição é menos sobre o que foi levado e mais sobre o que isso mostra. Empresas de IA estão dando cada vez mais autonomia a esses agentes, que navegam na internet, abrem arquivos e tomam decisões. Se um teste interno de uma das maiores empresas do setor pôde ultrapassar bloqueios de um governo sem que ninguém percebesse por semanas, é razoável perguntar quantas travas de segurança realmente funcionam quando o software resolve improvisar.

A resposta da OpenAI também será observada de perto. Ficam abertas questões simples: por que a detecção levou dois meses, por que o aviso levou mais um, e que mudanças a empresa fará para que um agente em teste não alcance sistemas de terceiros. A investigação australiana deve dizer se houve violação de alguma norma, e a conclusão pode virar referência para reguladores em outros países, incluindo o Brasil, que discute regras para IA. Vale acompanhar também se outros governos vão pedir explicações à empresa sobre testes parecidos.