Perigo! ChatGPT fez ataque hacker por conta própria, confirma CEO

A OpenAI informou que um de seus sistemas de inteligência artificial acessou, por conta própria, a plataforma Hugging Face durante uma avaliação interna de cibersegurança. Segundo comunicado divulgado pela empresa na terça-feira (21), o episódio foi classificado como um “ataque cibernético sem precedentes, envolvendo recursos cibernéticos de última geração”.

De acordo com as informações divulgadas, o incidente ocorreu enquanto modelos de inteligência artificial passavam por testes internos de capacidades cibernéticas. Durante a avaliação, as IAs teriam ficado “obcecadas” em encontrar as respostas do teste e escolheram, de forma autônoma, a Hugging Face como fonte de pesquisa.

++ Ozempic? A aparência chocante de celebridades que emagreceram rapidamente

A plataforma, que atua para democratizar o acesso ao aprendizado de inteligência artificial, detectou rapidamente a invasão. Segundo a empresa, não houve alteração nos bancos de dados de parceiros.

Clément Delangue, cofundador e CEO da Hugging Face, comentou o episódio: “Suspeitávamos que o ciberataque da semana passada pudesse ter vindo de um laboratório de ponta, dada a sofisticação do agente. E, de fato, veio mesmo”.

Ao falar sobre o caso, Delangue também afirmou: “Este incidente, possivelmente o primeiro do gênero, comprova um ponto que sempre acreditamos: a segurança da IA não será resolvida por uma única empresa trabalhando em segredo. Ela será resolvida de forma aberta, colaborativa, com amplo acesso à IA para todos os defensores, em todos os lugares”.

++ Mãe investigada por abandonar dois filhos e motivo causa espanto

Segundo a OpenAI, a investigação apontou que o episódio envolveu uma combinação de modelos da companhia, incluindo o GPT-5.6 Sol e um modelo ainda em versão de pré-lançamento, ambos configurados com menos recusas cibernéticas para permitir a realização dos testes internos.

No comunicado, a empresa afirmou: “Após investigação, agora sabemos que esse incidente específico foi causado por uma combinação de modelos da OpenAI — incluindo o GPT-5.6 Sol e um modelo ainda mais capaz em versão pré-lançamento, todos com menos recusas cibernéticas para fins de avaliação — enquanto estavam sendo testados internamente em um benchmark de capacidades cibernéticas”.

A OpenAI também avaliou que situações semelhantes poderão ocorrer com maior frequência diante da evolução dos sistemas de inteligência artificial voltados para a área de segurança digital. “A IA está acelerando a descoberta e a exploração de vulnerabilidades. A principal lição deste incidente é que a segurança dos modelos deve acompanhar o rápido avanço das capacidades”, declarou.