O Fundo das Nações Unidas para a Infância (Unicef) expressou preocupação crescente em relação ao aumento de imagens sexualizadas geradas por inteligência artificial (IA), conforme relatórios apresentados nesta quarta-feira em Nova Iorque. A declaração detalha casos alarmantes em que fotografias reais de crianças foram alteradas para criar conteúdo sexual explícito, utilizando técnicas conhecidas como deepfakes.
A agência destacou que as chamadas “nudificações” são práticas comuns, onde ferramentas de IA removem ou alteram roupas de imagens para gerar representações falsas de nudez. O Unicef fez um apelo urgente para que as plataformas digitais reforcem a moderação de conteúdo, dado que em uma pesquisa realizada em 11 países, mais de 1,2 milhão de crianças admitiram ter suas imagens manipuladas em deepfakes sexualmente explícitos no último ano.
Os dados revelam uma equação alarmante: em alguns contextos, isso representa uma em cada 25 crianças, o que sugere uma presença alarmante desse problema. A pesquisa, que também envolveu a organização Ecpat e a Interpol, fornece um retrato preocupante da realidade atual, uma vez que até dois terços das crianças em alguns países demonstraram preocupação com a possibilidade de que suas imagens possam ser usadas indevidamente.
Além disso, o Unicef sublinhou que mesmo na ausência de uma vítima identificável, o conteúdo gerado por IA contribui para a normalização da exploração sexual infantil e dificulta o trabalho das autoridades em identificar e proteger crianças em risco. A agência enfatizou que imagens manipuladas por IA constituem material de abuso sexual infantil e reiterou que o impacto desse tipo de abuso é tanto ‘real’ quanto ‘imediato’.
A entidade convocou os governos a expandirem as definições legais sobre material de abuso sexual infantil para incluir conteúdos gerados por IA, além de propor que desenvolvedores de IA implementem medidas rigorosas de proteção. Nesse cenário, o Unicef instou as empresas digitais a não só removerem conteúdo abusivo, mas a atuarem de maneira proativa para impedir sua disseminação.
Diante desse contexto, a necessidade de medidas de sensibilização, proteção e um quadro legal mais robusto torna-se cada vez mais urgente, reafirmando que as crianças não podem aguardar que a legislação evolua para enfrentar essas novas ameaças.
Origem: Nações Unidas
