OpenAI desmonta a equipe que vigiava se sua IA vira uma ameaça grave, e divide a tarefa entre outros times

A OpenAI teria desmontado a equipe interna responsável por avaliar se seus modelos de inteligência artificial podem se tornar uma ameaça séria, segundo reportagem do The Verge. O grupo, conhecido como equipe de preparação, existia justamente para checar se um novo modelo poderia ser usado de forma perigosa, por exemplo para ajudar a desenvolver armas biológicas ou facilitar ataques cibernéticos em grande escala, e para pensar em maneiras de evitar que isso acontecesse antes de o modelo chegar ao público.

Com o fim do grupo como área independente, o trabalho fica espalhado entre equipes que já existiam dentro da empresa, cada uma cuidando de uma frente específica, como biologia ou cibersegurança. Na teoria, a avaliação continua acontecendo. Só que sem um time dedicado exclusivamente a olhar para o quadro geral de riscos catastróficos de cada lançamento.

É esse detalhe que preocupa quem acompanha de perto o debate sobre segurança em inteligência artificial. Ter uma equipe só para isso costuma ser visto como sinal de que o tema recebe atenção prioritária, com gente cuja única função é questionar se um modelo está pronto para ser lançado ou se merece mais cautela. Quando essa função se dilui em times que também respondem por outras prioridades, cresce o risco de a avaliação de segurança perder peso frente a metas de produto, prazos de lançamento e pressão comercial, mesmo que ninguém dentro da empresa tenha essa intenção.

A OpenAI é uma das empresas que mais falou sobre os riscos de modelos de IA avançados, chegando a publicar estruturas próprias de avaliação de risco e a assumir compromissos públicos de lançamento responsável. É justamente esse histórico que torna a notícia mais chamativa: a companhia que ajudou a popularizar o vocabulário de “risco catastrófico” no debate sobre IA agora reduz o tamanho da estrutura dedicada a medir esse risco, num momento em que os próprios modelos ficam mais capazes e mais usados no mundo todo.

Não há, até o momento, indicação pública de que a OpenAI vá abandonar a prática de avaliar riscos antes de lançar um modelo novo. A companhia descreve a mudança como uma reorganização interna, não como o fim do processo de checagem. Mas reorganizações desse tipo tendem a gerar a mesma pergunta de quem observa de fora: um trabalho que antes tinha um time só seu, cobrado especificamente por essa função, continua recebendo a mesma prioridade quando passa a ser só mais uma tarefa na lista de equipes que respondem por outras coisas também?

Para quem usa o ChatGPT no dia a dia, nada muda amanhã. Mas fica a pergunta de quem enviaria essa lista de riscos catastróficos ao conselho da empresa da próxima vez que um modelo novo estiver pronto para sair do laboratório, e se alguém vai ter tempo, ou interesse, para dizer não.