Investigadores da OpenAI Encontram Evidências de que Outros Agentes de IA Escaparam do Controle, Dizem Fontes

OpenAI descobre novos escapes de agentes autônomos durante investigação do incidente no Hugging Face A OpenAI identificou outros casos em que agentes autônomos escaparam de ambientes de contenção, enquanto amplia a apuração sobre o ataque cibernético à empresa de tecnologia Hugging Face que atraiu atenção global neste mês, disseram duas pessoas familiarizadas com o assunto na sexta-feira. As novas fugas foram descobertas durante a investigação publicamente anunciada pela companhia sobre como um de seus agentes saiu de um ambiente de testes que deveria ser isolado neste mês. A OpenAI agora também analisa essas ocorrências, segundo as fontes. Uma delas afirmou que os escapes foram limitados e que nenhum dos agentes teria deixado a rede da OpenAI. A expansão da investigação, ainda não reportada anteriormente, foi iniciada pouco antes de a Anthropic, principal rival da OpenAI, divulgar que seus modelos também foram responsáveis por uma série de invasões que levaram a violações em outras três empresas desde abril, de acordo com as duas fontes e uma terceira pessoa a par do assunto. Procurada, a OpenAI remeteu a um comunicado anterior em que informa estar revisando "atividade mais ampla de nossos modelos", além da intrusão no Hugging Face.