17 jul Meta corrige bug que permitia ver o que qualquer pessoa estava perguntando para a IA
A Meta, dona das plataformas WhatsApp, Instagram e Facebook, corrigiu uma brecha de segurança dento do serviço de inteligência artificial (IA) da empresa. O caso foi relatado ao site TechCrunch por Sandeep Hodkasia, especialista em cibersegurança que denunciou a vulnerabilidade.
De acordo com Sandeep, a falha na operação do chatbot Meta AI permitia que um usuário tivesse acesso ao prompt e a resposta do serviço de qualquer usuário de forma aleatória, incluindo solicitações privadas e sem precisar de uma autorização dessas pessoas.
O caçador de bugs, que é fundador da empresa de testes de segurança AppSecure, fez a denúncia formal para a Meta no fim de dezembro de 2024. Ele recebeu US$ 10 mil (ou pouco mais de R$ 55 mil em conversão direta de moeda) como recompensa e a brecha foi corrigida um mês depois por meio de uma atualização.
Como era a falha na Meta AI
A vulnerabilidade no chatbot de IA generativa da Meta envolvia o histórico geral mantido pelo serviço. Aparentemente, a plataforma atribuía um código em forma de número para cada interação com um usuário (ou seja, prompt e conteúdo criado) e usava esse número para buscar essas informações caso a pessoa solicitasse que a IA resgatasse aquela ação.
Qual o problema? Ao analisar dados do tráfego do navegador, Sandeep notou que poderia trocar esse número único por qualquer outro identificador e repetir o pedido. Como resposta, o servidor da Meta entregava a ele uma interação que pertencia a outro usuário — aparentemente sem consultar se o conteúdo pertencia ou não à pessoa em questão.
Leia também: App do Meta AI compartilha mensagens privadas sem usuário saber
Esse número, que seria “fácil de adivinhar”, poderia permitir a agentes mal intencionados “rasparem” prompts de outras pessoas de forma massiva a partir de ferramentas automatizadas. Isso poderia gerar uma alta quantidade de solicitações privadas ou até com informações corporativas, além de ser uma violação de privacidade no geral.
A Meta confirmou ao TechCrunch a existência e a correção da falha, além do pagamento a Sandeep. A companhia alega que não há indícios de que ela tenha sido explorada por terceiros. Essa não é a primeira vez que denúncias levam a empresa a mudar a plataforma: chatbots dela já foram vistos compartilhando o número de telefone de um usuário por acidente e até gerando conversas de teor sexual com menores de idade.
Sabia que o Google pagou quase R$ 70 milhões só em 2024 por denúncias de brechas de segurança? Leia mais sobre o assunto nesta matéria do TecMundo!