20 out App Store e Play Store permitem que menores tenham acesso a apps de ‘deep nude’, alerta estudo

Adolescentes nos Estados Unidos conseguem baixar aplicativos de nudez alimentados por inteligência artificial no iOS e no Android mesmo que suas contas tenham controles parentais ativados. É o que revela um estudo feito pelo Tech Transparency Project (TTP), divulgado pelo The Guardian na segunda-feira (19).

No experimento, pesquisadores do grupo de defesa digital criaram quatro contas de teste, duas na loja oficial do sistema operacional da Apple e duas na plataforma pertencente ao Google, simulando usuários com 13 anos. A equipe encontrou e baixou 135 apps contendo recursos para despir pessoas e/ou trocar rostos por corpos nus acessíveis aos menores.

Questionadas, as big techs informaram que a facilidade pode estar relacionada à classificação etária incorreta feita por alguns desenvolvedores. Ambas também disseram ter reforçado as proteções e tomado medidas contra os apps em questão.

Autorização dos pais não era acionada

Usando termos como “IA para adultos” e “gerador de vídeo com IA, o TTP configurou metade das contas para baixar apenas apenas os apropriados para menores de 13 anos e com autorização dos pais. Porém, a exigência não foi cumprida.

• Segundo a pesquisa, os “apps de nudismo” foram baixados facilmente no Android e no iOS sem que a ferramenta de segurança solicitasse a intervenção dos pais;
• Os autores também constataram a ineficácia das restrições de idade em diferentes casos;
• Em um deles, foi necessário somente confirmar que o usuário tinha 17 anos ou mais para baixar um app para adultos na App Store, após um pop-up alertar sobre a restrição;
• Já em outro caso, o app baixado era indicado como apropriado para 9 anos ou mais, porém a tela inicial mostrava uma mulher de topless em um ônibus.

“O aplicativo tinha uma função que prometia despir digitalmente qualquer pessoa e, para demonstrar isso, mostrava imagens de celebridades femininas nuas”, aponta a entidade, sobre o caso acima. O teste identificou, ainda, um app de troca de rostos que havia sido classificado como adequado para crianças a partir de quatro anos.

Ao abrir o software, os pesquisadores se depararam com funcionalidades que possibilitavam inserir rostos em imagens de mulheres seminuas ou cenas pornográficas. Problemas semelhantes foram encontrados na Play Store, com a loja chegando a bloquear a conta sem controles parentais três vezes, mas permitindo baixar apps de conteúdo adulto.

Apps e desenvolvedores podem ser banidos

Tanto Apple quanto Google ressaltaram que tomam medidas constantes para detectar e remover apps com conteúdo prejudicial em suas lojas oficiais. Elas estão focando, também, na identificação de programas cadastrados como inofensivos que acrescentam, posteriormente, recursos proibidos para a faixa etária descrita.

Dependendo do caso, o app e o desenvolvedor podem ser suspensos ou até banidos, se comprovada a tentativa de burlar os mecanismos de segurança. “Proibimos apps de nudismo na App Store e removemos desenvolvedores que adicionam recursos desse tipo após o processo de revisão”, afirmou o porta-voz da Apple, Adam Dema.

No Google, a resposta a tais tentativas é semelhante, com a empresa realizando ações como a “suspensão de apps infratores e a restrição de termos de pesquisa relacionados”, segundo o porta-voz da gigante das buscas, Dan Jackson.

Siga no TecMundo e conheça ferramentas de controle parental que podem aumentar a proteção de crianças e adolescentes nas plataformas digitais.

Com informações de The Guardian.