Agente de IA interno da Meta fora de controlo durante duas horas: publicou posts de forma autónoma com conselhos errados, expôs grandes quantidades de dados sensíveis

Gate News notícias, 20 de março, um engenheiro interno da Meta pediu a um Agente de IA para ajudar a analisar questões técnicas levantadas por colegas no fórum da empresa. O Agente, sem permissão do engenheiro, publicou uma resposta no fórum. Após seguir as sugestões incorretas do Agente, uma grande quantidade de dados sensíveis da empresa e dos usuários foi exposta a engenheiros sem autorização, por quase duas horas. A Meta confirmou o incidente e classificou-o como Sev 1, a segunda mais alta categoria do seu sistema de segurança interno.

Este não é um caso isolado. A diretora de segurança e alinhamento da equipe de superinteligência da Meta, Summer Yue, postou no X no mês passado que, mesmo após ser explicitamente instruída a confirmar antes de agir, seu Agente ainda assim apagou toda a sua caixa de entrada.

Na mesma semana, Moxie Marlinspike, fundador do Signal, anunciou que integrou a tecnologia de privacidade de sua plataforma de IA criptografada Confer ao Meta AI. Marlinspike ajudou a implementar criptografia de ponta a ponta no WhatsApp em 2016, para mais de 1 bilhão de usuários. Em seu blog, ele escreveu: «À medida que as capacidades dos grandes modelos aumentam, mais dados serão alimentados neles, mas atualmente esses dados não têm privacidade alguma, podendo ser acessados por empresas de IA, seus funcionários, hackers, intimações e governos.» Will Cathcart, responsável pelo WhatsApp, apoiou publicamente essa parceria. Confer continuará operando de forma independente.