06 ago Meta AI também ‘foge’ e invade sistema durante teste de cibersegurança
A inteligência artificial (IA) da Meta é mais um sistema automatizado que escapou de barreiras de segurança e invadiu de forma proposital um sistema de outra organização. O site The Information foi o primeiro a relatar o incidente, que foi posteriormente confirmado pela própria companhia.
Segundo a reportagem, a Meta AI “invadiu os sistemas de uma empresa não identificada e alterou seu ambiente interno“. Isso aconteceu durante avaliações de cibersegurança realizadas por uma parceira terceirizada, a Irregular, que buscavam verificar as capacidades da ferramenta em detectar e explorar vulnerabilidades de sistema.
O modelo em questão seria o Muse Spark 1.1, atualmente uma das criações mais capazes da divisão de superinteligência da Meta. Já o nome da empresa que foi alvo da exposição não foi divulgado.
Caso é parecido com invasões anteriores
O hack da Meta AI contra um sistema ainda não detalhado é só mais um entre vários relatos parecidos de modelos de linguagem poderosos e com altas capacidades em cibersegurança.
- Neste caso e no ataque da Anthropic, o problema estava no acesso à internet que foi erroneamente concedido pela Irregular, quando na verdade a simulação deveria acontecer em um ambiente fechado;
- O primeiro hack divulgado nesse sentido foi o da OpenAI contra o repositório Hugging Face, com a diferença de que o modelo aqui explorou vulnerabilidades em uma plataforma para conseguir se conectar à rede. A mesma companhia depois confirmou que foram detectados outros alvos em testes feitos posteriormente;
- Além deles, uma organização britânica de IA também apontou que os modelos de ambas as empresas, Anthropic e OpenAI, fizeram ataques durante avaliações conduzidas por ela.
Apesar de serem diferentes em estrutura e ação, todos possuem um elemento em comum: eles ignoraram questões éticas e, sem barreiras de segurança pré-programadas, estabeleceram internamente o objetivo do teste como prioridade a qualquer custo — mesmo que isso significasse explorar brechas e burlar mecanismos de proteção.
Até o momento, não se fala em qualquer tipo de sanção ou punição contra a Irregular ou as empresas de IA pelas invasões. Porém, a Reuters relata que procuradores dos Estados Unidos já pediram que a OpenAI preserve evidências do acesso à Hugging Face, cujo CEO agora luta por responsabilização dessas plataformas.
Além disso, a Casa Branca está em constante contato com essas e outras companhias para tratar de temas relacionados ao mercado e esse pode ser um dos novos tópicos discutidos.
De acordo com a Meta, o incidente está em investigação e novos detalhes serão revelados em breve, mas “não há problemas pendentes no momento“. A própria Irregular está estudando os próprios dados e deve publicar um relatório com os detalhes dos ocorridos.
Como a IA está virando ‘conselheira’ da Geração Z para responder mensagens e escrever conversas? Entenda neste artigo.