A OpenAI relatou na terça-feira (21) um ataque virtual “sem precedentes” em que dois modelos avançados de inteligência artificial encontraram formas de invadir sistemas da Hugging Face, plataforma usada para compartilhamento de modelos de IA. O caso reacendeu a discussão sobre o avanço de agentes capazes de executar tarefas de cibersegurança com pouca intervenção humana.
Especialistas descartam a ideia de que uma IA tenha decidido atacar uma empresa por vontade própria. Adriano Carezzato, professor do curso de Inteligência Artificial da Fundação Vanzolini, afirmou que modelos desse tipo seguem objetivos definidos por humanos. “Quando dizem que a IA ‘agiu sozinha’, quase sempre estão escondendo a mão humana que apertou o botão para iniciar o modelo. Em todos os casos conhecidos havia uma ordem humana no começo: vencer um teste, ou espionar alvos escolhidos por pessoas”, explicou.
A divulgação ocorre semanas depois de a Anthropic afirmar que não liberaria a versão plena do Claude Mythos, seu modelo mais avançado, por causa de um “salto significativo em suas capacidades” para ataques cibernéticos. Álvaro Machado Dias, professor da Universidade Federal de São Paulo (Unifesp), disse que o caso da OpenAI surgiu após o governo dos Estados Unidos proibir, em junho, o uso por estrangeiros do modelo mais avançado da Anthropic, medida revertida no início de julho.
Para Dias, a comparação entre as duas empresas envolve também a forma como cada uma apresentou seus riscos. “O que a OpenAI fez esta semana é caçar o seu equivalente desse momento. A diferença decisiva é de encenação: a Anthropic teve o Estado escrevendo seu comunicado; a OpenAI precisou escrever o seu”, afirmou.
Como os modelos chegaram aos sistemas da Hugging Face
A OpenAI afirmou que o GPT-5.6-Sol, lançado no início de julho, e outro modelo ainda não divulgado atuaram juntos para localizar brechas em seu ambiente de pesquisa e na infraestrutura da Hugging Face. Os testes buscavam avaliar a capacidade dos sistemas em tarefas de segurança cibernética.
A Hugging Face já havia revelado na quinta-feira (16) que detectou uma invasão conduzida por um agente de IA. A empresa disse que sua plataforma executou dois códigos enviados pelo agente, que conseguiu ampliar permissões dentro da infraestrutura e obter credenciais para atacar outros sistemas internos.
Esses experimentos costumam ocorrer em ambientes controlados e com versões sem as barreiras de proteção presentes em modelos disponíveis ao público.
Carezzato comparou o caso a um GPS orientado a chegar ao destino o mais rápido possível e que leva o motorista a um caminho indevido: “O modelo não ficou rebelde nem agiu por vontade própria. O que ele fez foi levar uma ordem humana ao pé da letra e utilizou um atalho que ninguém esperava que usaria”.
A OpenAI avaliou que ataques desse tipo devem se tornar mais comuns à medida que modelos de IA ampliam habilidades em cibersegurança. “Consideramos este um incidente cibernético sem precedentes, envolvendo recursos de última geração”, afirmou a empresa. A Hugging Face também classificou o episódio como incomum: “Foi diferente de tudo que havíamos enfrentado antes”.
Dias disse que o avanço pode transformar modelos de IA em uma “arma de propósito geral” para ataques digitais. “O cenário provável é mais o da democratização do crime cibernético de nível médio, com quadrilhas executando ataques que antes exigiam criminosos hiperespecializados. O futuro parece anunciar uma nova era para o crime organizado, infelizmente”, afirmou.
