16 abr Apple ameaçou banir Grok por causa de deepfakes sexuais, revela reportagem

A Apple teve um papel importante no caso envolvendo a inteligência artificial (IA) Grok, criada pelas empresas de Elon Musk e presente na rede social X. Em certo momento, ela até ameaçou remover o aplicativo do chatbot da loja de aparelhos com iPhone.

Detalhes sobre o papel da com’1panhia surgiram em uma carta enviada pela Maçã a senadores dos Estados Unidos e obtida pela NBC. No documento, ela explica que conversou diretamente com a equipe do Grok e do X para forçar mudanças no funcionamento da criação de imagens da IA até ficar satisfeita com os resultados.

O caso começou no fim de 2025, quando denúncias apontaram que o Grok estava permitindo a criação de montagens do tipo deepfake sexualizadas de usuários, especialmente mulheres e sem qualquer consentimento ou autorização;Levantamentos feitos em janeiro apontam que o Grok criou cerca de 3 milhões de imagens nesse formato, inclusive de menores de idade sem roupa, em vestimentas íntimas ou posições de conotação sexual;No começo de janeiro, o Grok começou a limitar parcialmente a geração dessas montagens: inicialmente, ele permitiu apenas que assinantes do X fizessem as imagens e, mais tarde, bloqueou a opção dentro da rede social, restringindo a função aos aplicativos do próprio chatbot;Vários países ameaçaram bloquear a rede social e a IA como represália, incluindo Malásia e Indonésia, enquanto o Brasil chegou a ter um pedido de suspensão registrado;A empresa de Musk foi processada pela mãe de um dos filhos de Musk e três pessoas que se dizem vítimas do recurso nos EUA;Essa controvérsia acelerou o processo movido pela polícia francesa contra a x.AI, que resultou em buscas no escritório da plataforma no país.

O papel da Apple no caso

Segundo a carta da Maçã, a companhia entrou em contato com a x.AI depois de receber denúncias de usuários sobre o comportamento da IA, que fere os termos de uso da loja digital App Store.

Ela confirmou que o serviço atuou de forma irregular e “ameaçou de forma privada remover” o Grok da plataforma. A empresa então manteve contato com as equipes do X e do Grok para garantir que os desenvolvedores criassem “um plano para melhorar a moderação de conteúdo“.

O X chegou a enviar uma atualização do Grok que foi recusada pela Apple, com a companhia concluindo que as mudanças foram insuficientes. Versões revisadas foram então enviadas e uma delas acabou aceita pela marca, que não detalhou exatamente quais foram as medidas que resultaram na aprovação.

Atualmente e ainda de acordo com a NBC, continua possível gerar imagens sexualizadas de pessoas no Grok sem consentimento — embora isso esteja mais limitado do que antes. Até o momento, a Apple não se manifestou sobre a reportagem.

Como criminosos usam dados reais para roubar vítimas no Golpe do Falso Advogado? Saiba mais nesta matéria!