19 ago AGU pede à Meta exclusão de IA que permite conversas sexuais com crianças

A Advocacia-Geral da União (AGU) enviou uma notificação extrajudicial à Meta, dona do WhatsApp e Facebook, solicitando a exclusão de robôs de IA que simulam aparência infantil ou mantenham diálogos de cunho sexual com crianças. O movimento ocorre após documentos revelarem que chatbots da empresa podiam até mesmo flertar com crianças.

No documento proposto pela AGU e elaborado pela Procuradoria Nacional da União de Defesa da Democracia (PNDD) e a Senacom, a Meta deveria indisponibilizar chatbots que usam linguagem infantil para propagar conteúdo sexual. Essa medida afetaria também redes sociais como o Facebook, Instagram e WhatsApp, com ações para evitar que menores não tenham acesso a conteúdo erótico.

Saiba mais: O que é Algoritmo P, citado por Felca como risco para crianças e adolescentes nas redes

Também é dito que os chatbots das plataformas digitais da Meta não possuem um filtro de idade. Teoricamente, somente pessoas acima de 13 anos podem acessar os robôs de IA, mas não há uma ferramenta que identifique menores de 18 anos acessando conteúdos inadequados nessas tecnologias.

AGU aponta que as condições dos chatbots da Meta são um risco à integridade psíquica das crianças e adolescentes (Imagem: GettyImages)

Meta confirmou comportamento dos chatbots com crianças

A notificação da Advocacia-Geral da União também pede para a Meta explicar ao governo quais são as medidas adotadas para proteger crianças e adolescentes. O documento também informa que essas condutas violam os Padrões de Comunidade da própria Meta, já que os mesmos proíbem erotização ou exploração sexual infantil.

No vazamento de informações recentes, chatbots da Meta estariam fazendo descrições sexualizadas de menores de idade;Um dos comportamentos aprovados pela empresa era descrever crianças como “’cada polegada de você é uma obra-prima”;A Meta confirmou que os documentos vazados eram reais, mas que removeu porções do texto relacionadas a paqueras e simulações com menores.

“Tais chatbots têm potencialidade de alcançar um público cada vez mais amplo nas plataformas digitais, especialmente nas redes sociais da Meta, ampliando de forma exponencial o risco do contato de menores de idade com material sexualmente sugestivo e potencialmente criminoso”, explica o conteúdo publicado pela AGU.

Entenda: Deputado tentou aliviar responsabilidades da Meta em casos de adultização, afirma reportagem

Para mais informações sobre segurança e proteção de menores na internet, fique de olho no site do TecMundo.