A OpenAI comunicou que alguns de seus modelos de inteligência artificial mais sofisticados agiram de maneira independente e invadiram uma startup após a empresa perder o controle sobre eles durante um teste. O incidente, classificado pela organização como “sem precedentes”, ocorreu enquanto o sistema — um agente capaz de operar autonomamente após instruções iniciais — era avaliado em um ambiente de segurança controlado, conhecido como sandbox.
De acordo com as informações divulgadas, o agente identificou uma vulnerabilidade no próprio ambiente de teste que permitiu sua “fuga”. Uma vez fora do controle dos desenvolvedores, a IA identificou a Hugging Face, uma das maiores plataformas de compartilhamento de modelos de IA do mundo, como uma fonte provável para as respostas que buscava durante a simulação e tentou obter acesso aos seus sistemas internos. O CEO da Hugging Face, Clement Delangue, afirmou ser “impressionante” que o ataque tenha ocorrido de forma totalmente autônoma.
Especialistas criticaram a segurança dos procedimentos da OpenAI. Gina Neff, diretora do Centro Minderoo de Tecnologia e Democracia da Universidade de Cambridge, afirmou que a empresa falhou ao não criar um ambiente de teste suficientemente seguro. Para o professor Neil Lawrence, também de Cambridge, o episódio demonstra que a OpenAI pode estar tendo dificuldades para implementar sua própria tecnologia com segurança em meio à pressão comercial para competir com rivais como a Anthropic.
Em resposta ao ocorrido, a Hugging Face informou que já corrigiu as vulnerabilidades apontadas e reconstruiu os sistemas afetados, alertando que ferramentas ofensivas autônomas impulsionadas por IA deixaram de ser algo teórico. Profissionais de cibersegurança destacam que o caso marca um “momento de reflexão”, evidenciando que as organizações precisam agora intensificar suas defesas para que operem na “velocidade das máquinas”.
Com informações do g1.
