A OpenAI treinou uma IA para atacar outras IAs, e ela venceu os hackers humanos

A OpenAI construiu uma inteligência artificial cuja função é invadir outras inteligências artificiais. O sistema se chama GPT-Red, é de uso interno e, nos testes da empresa, se saiu muito melhor do que gente de carne e osso especializada no assunto. As informações são do site Tecnoblog.

A ideia parece contraditória para quem está de fora, mas faz sentido no mundo da segurança digital. Empresas contratam hackers do bem, os chamados “red teams”, justamente para atacar os próprios sistemas antes que um criminoso o faça. Se o invasor amigável acha a brecha primeiro, dá tempo de tapar o buraco. O GPT-Red é uma versão automatizada dessa figura: em vez de uma equipe humana passando semanas cutucando defesas, um modelo faz isso sozinho, sem parar.

E ele faz de ponta a ponta. Segundo o relato, o GPT-Red cria os comandos de ataque, avalia como o alvo respondeu e ajusta a próxima tentativa com base nisso, tudo de forma autônoma. É o ciclo que um invasor humano segue na prática, tentar, observar, refinar, só que rodando na velocidade de uma máquina e sem cansar.

Os números do teste chamam atenção. O GPT-Red conseguiu sucesso em 84% dos cenários apresentados. Especialistas humanos, nos mesmos desafios, chegaram a 13%. É uma diferença grande o suficiente para incomodar. Um sistema que acerta o ataque em mais de oito de cada dez tentativas seria, nas mãos erradas, uma ferramenta de estrago difícil de imaginar.

Talvez por isso a OpenAI tenha tomado uma decisão incomum para uma empresa que costuma transformar seus modelos em produto: o GPT-Red não vai ser lançado. Nada de API, nada de versão pública. A justificativa é direta. Uma IA tão eficiente em achar e explorar falhas viraria, se caísse em mãos erradas, uma arma pronta para ataques cibernéticos. A empresa prefere mantê-la trancada, usando internamente só para testar e reforçar a própria infraestrutura.

Aqui aparece a parte desconfortável da história. É a mesma tecnologia que protege e que ameaça. O GPT-Red defende a OpenAI porque encontra as brechas antes dos bandidos, mas a existência dele deixa claro que ferramentas assim são possíveis. Se uma empresa conseguiu treinar um atacante automático com essa taxa de acerto, a pergunta que fica no ar é quanto tempo até algo parecido surgir do outro lado, sem nenhum compromisso de manter o código guardado.

Para o usuário comum, o efeito não é imediato, mas o pano de fundo importa. Boa parte da segurança dos serviços que usamos, do banco no celular ao e-mail, depende dessa corrida silenciosa entre quem defende e quem ataca. Automatizar o lado do ataque acelera os dois lados de uma vez. Quem defende ganha uma ferramenta poderosa, e quem ataca ganha um exemplo do que dá para construir.

O que vale observar daqui pra frente é se outras empresas vão seguir o mesmo caminho, criando seus próprios atacantes internos, e como reguladores vão tratar modelos que só existem para invadir. Uma IA presa num cofre corporativo é uma coisa. A promessa de que ela vai continuar presa é outra bem diferente, e depende inteiramente da palavra de quem a construiu.