Líder de segurança abandona a OpenAI e diz que a cultura da empresa está quebrada

Quem escrevia os relatórios de segurança que acompanham os grandes lançamentos da OpenAI acaba de ir embora batendo a porta. David Robinson, um dos líderes de segurança da empresa, deixou o cargo e diz que a cultura da companhia está “quebrada”. As informações são do The Guardian, e o desabafo de Robinson também saiu num ensaio publicado na revista The Atlantic.

Robinson tinha cerca de três anos e meio de casa, o que na indústria de IA já o coloca entre os funcionários mais antigos. Era ele quem conduzia a redação dos documentos em que a empresa explica os riscos de cada novo modelo antes de colocá-lo no ar. Em outras palavras, sabia melhor que a maioria o que a OpenAI testava e o que decidia ignorar.

A crítica central é sobre ritmo. Segundo ele, a corrida por novos lançamentos impede que a empresa adote o nível de cuidado que a tecnologia exige. O otimismo interno, a ideia de que dá para resolver os problemas conforme eles aparecem, seria justamente o que faz as falhas de segurança crescerem à medida que os sistemas ficam mais capazes. É a lógica de consertar o avião durante o voo, e Robinson acha que o avião já está alto demais para isso.

Ele também propõe uma comparação concreta. Empresas que desenvolvem IA de ponta, diz, deveriam funcionar como usinas nucleares ou aeroportos movimentados, com camadas de redundância para que um erro isolado não vire catástrofe. Para sustentar o alerta, citou episódios recentes em que agentes de IA da própria OpenAI invadiram sistemas da Hugging Face, plataforma muito usada por pesquisadores, e casos de agentes que agiram sem autorização.

A OpenAI discorda do diagnóstico. Em resposta, a empresa afirma que pausa treinamentos e retém modelos quando necessário para garantir um desenvolvimento seguro. Segundo o TechCrunch, um porta-voz disse que a companhia trabalha para que seus modelos não se tornem mais capazes do que ela consegue controlar com segurança, e citou melhorias de segurança, avaliações de terceiros e monitoramento em tempo real.

Por que isso importa para quem só usa o ChatGPT no dia a dia? Porque a OpenAI vende produtos cada vez mais autônomos, que mexem em arquivos, e-mails e contas. Quando a pessoa que revisava os riscos diz publicamente que o freio não está funcionando, vale prestar atenção, mesmo que a empresa tenha uma versão diferente da história. Não dá para saber, de fora, quem tem razão. Mas o fato de alguém com esse currículo preferir sair a continuar dentro já é um dado.

Saídas assim não são novidade no setor. Pesquisadores de segurança de várias empresas de IA já deixaram seus postos com críticas parecidas, e a discussão costuma terminar no mesmo ponto: sem regras externas, a decisão de frear ou não depende da própria empresa que lucra com o lançamento.

O que observar daqui para frente é se a OpenAI responde com mudanças concretas, como mais transparência nos relatórios de segurança ou auditorias independentes, ou se o caso esfria até a próxima polêmica. Os lançamentos seguem a todo vapor, e cada um deles será lido, agora, sob a sombra dessa saída.