17 nov Site que vendia deepfakes de abuso infantil é derrubado após ação da AGU
Um site estrangeiro que comercializava deepfakes destinadas à produção de conteúdos de pornografia infantil saiu do ar após notificação extrajudicial da Procuradoria Nacional da União de Defesa da Democracia (PNDD). Detalhes da ação foram divulgados pela Advocacia-Geral da União (AGU) na última sexta-feira (14).
O pedido da Secretaria de Comunicação da Presidência da República (Secom) para a derrubada da página foi baseado em uma reportagem da agência Núcleo, que denunciou o uso de ferramentas de inteligência artificial de código aberto para a geração das imagens ilícitas envolvendo menores. A operação era realizada por meio da dark web.
“Realismo perturbador”
Conforme a publicação, criminosos manipulavam fotos reais de crianças para a geração de conteúdos falsos de exploração e abuso sexual infantil utilizando recursos de IA oferecidos gratuitamente na internet. Esse tipo de tecnologia tem facilitado bastante a produção de tais materiais.
As ferramentas são encontradas em plataformas de compartilhamento de modelos, aplicativos e outras tecnologias de IA que têm grande popularidade, devido à possibilidade de usá-las gratuitamente;O relatório aponta a geração de centenas de imagens de pornografia infantil por deepfake com “realismo perturbador”, que posteriormente eram disponibilizadas em fóruns de acesso restrito;Esses conteúdos feitos com IA eram compartilhados em uma parte não visível da internet, que exige navegadores específicos para acessá-la;De acordo com a AGU, cibercriminosos utilizam a dark web com frequência para ocultar diversos tipos de atividades ilegais.As imagens falsas geradas com poderosas ferramentas de IA podem ser convincentes. (Imagem: fadfebrian/Getty Images)
“A reportagem que embasou nossa atuação apontou para a existência de um mecanismo, com diversos atores, que se aproveitava da abertura de códigos de aplicações de IA para produzir imagens eróticas de crianças e adolescentes”, destacou o advogado da PNDD, Carlos Eduardo de Oliveira Lima.
O site derrubado fazia parte dessa cadeia, possibilitando a comercialização das imagens sintéticas criadas a partir do uso de fotos de crianças reais. Sediada no exterior, a página em questão não teve o nome revelado pelas autoridades.
Empresa não contestou a ação
Segundo a AGU, a página responsável pela oferta das imagens criadas com ferramentas de IA não fez nenhuma contestação à notificação recebida. Reconhecendo a irregularidade das publicações, o site foi derrubado em seguida.
O órgão agiu com base no Estatuto da Criança e do Adolescente (ECA) e também se fundamentou na Convenção sobre os Direitos da Criança, referência mundial em relação à proteção integral dos menores. Adotado em 1989 pela Organização das Nações Unidas (ONU), o tratado internacional estabelece os direitos associados à faixa etária.
Siga acompanhando o TecMundo para mais notícias sobre tecnologia e interaja com a gente nas redes sociais.