O rápido crescimento de conteúdos gerados por inteligência artificial (IA) com potencial prejudicial para crianças e adolescentes levou várias entidades do sistema das Nações Unidas a solicitar medidas urgentes para proteger os jovens no ambiente digital. Em uma declaração conjunta publicada no dia 19 de janeiro, especialistas alertaram sobre os novos riscos associados à proliferação de tecnologias baseadas em IA, que incluem aliciamento online, criação de imagens falsas de conteúdo sexual, ciberbullying e exposição a material impróprio.
Cosmas Zavazava, diretor do Gabinete de Desenvolvimento das Telecomunicações da União Internacional das Telecomunicações, enfatizou que muitas crianças, especialmente meninas, foram vítimas de abusos online durante a pandemia de Covid-19, resultando em sérios danos físicos e psicológicos. A declaração destaca que a IA permite que agressores monitorem comportamentos e interesses das crianças, facilitando estratégias de manipulação e exploração.
Além disso, o uso de IA para gerar imagens sexuais falsas de crianças reais tem intensificado novas formas de extorsão sexual. Relatos indicam que, nos Estados Unidos, os casos de abuso sexual infantil facilitados por tecnologia aumentaram significativamente entre 2023 e 2024, evidenciando a gravidade dos riscos associados ao uso não regulado dessas tecnologias.
Frente a esses desafios, alguns países, como a Austrália, já implementaram medidas restritivas. A Austrália se tornou o primeiro país a proibir contas de redes sociais para crianças com menos de 16 anos, justificando que os riscos superam quaisquer benefícios potenciais. Outras nações, como Reino Unido, França, Canadá e Malásia, estão considerando legislações semelhantes em resposta ao aumento das preocupações sobre a segurança infantil.
A declaração da ONU também identificou uma lacuna na literacia em IA entre crianças, pais e educadores, além de uma falta de formação técnica adequada em proteção de dados. As empresas tecnológicas foram chamadas a agir, uma vez que muitas ferramentas de IA não foram projetadas com o bem-estar infantil em mente. Zavazava ressaltou que a ONU procura envolver o setor privado, sublinhando que o uso responsável da IA pode coexistir com a inovação e a atividade econômica.
As agências da ONU envolvidas apontaram que a proteção das crianças no ambiente digital é uma questão fundamental de direitos humanos, e enfatizaram a necessidade de diretrizes adicionais para salvaguardar os direitos da criança em um mundo cada vez mais digital. Com isso, diretrizes específicas devem ser estabelecidas para ajudar pais, educadores e reguladores a promover um uso seguro da tecnologia, garantindo que as crianças possam navegar no ambiente digital de maneira protegida e saudável.
Origem: Nações Unidas
