Mais um caso de criação de imagens pornográficas (deepfake nudes) de crianças utilizando ferramentas de I.A.
Dois estudantes de Miami, EUA, foram presos por criar e compartilhar deepfakes pornográficas de colegas de 12 anos sem consentimento[1]. Em 2023, no Brasil, ao menos 20 meninas de uma escola particular foram vítimas da criação de imagens de nudez criadas por inteligência artificial, destacando uma tendência preocupante [2].
A rápida e fácil criação dessas imagens, impulsionada pelos avanços em algoritmos de IA, torna-se uma ameaça crescente. Modelos como o SORA da OpenAI, capazes de gerar vídeos realistas a partir de instruções de texto [3], exemplificam a rápida expansão dessa tecnologia e os potenciais riscos e benefícios associados.
Para as crianças, os riscos de deepfakes pornográficos são especialmente relevantes. Pesquisa divulgada pela empresa Safernet mostrou que somente em 2023 foram 71.867 denúncias de páginas contendo imagens de abuso e exploração sexual infantil na internet [4] e destacou o uso de inteligência artificial para a criação desse tipo de conteúdo.
Por isso, a segurança online das crianças deve ser uma prioridade diante da evolução das tecnologias, como evidenciado por casos de utilização de inteligência artificial para criar imagens pornográficas não consensuais. Para fortalecer a defesa contra essas situações, é fundamental que pais, educadores e a comunidade estejam cientes e adotem medidas proativas, como por exemplo:
- Manter um diálogo aberto, estabelecendo uma comunicação constante e confortável sobre atividades online, para criar um ambiente no qual a criança se sente à vontade para relatar qualquer comportamento inadequado;
- Incorporar programas educativos que abordam os perigos do uso indevido de tecnologias, incluindo a criação de imagens não consensuais;
- Instruir as crianças a configurar e revisar regularmente as configurações de privacidade em suas contas online, destacando a necessidade de compartilhar informações apenas com pessoas confiáveis;
- A supervisão online é vital, mas deve ser equilibrada com a confiança. Pais e responsáveis devem monitorar as atividades online das crianças, mantendo uma abordagem que promova a confiança mútua e o desenvolvimento da responsabilidade digital;
- Educar as crianças sobre a importância de denunciar imediatamente qualquer comportamento inadequado é fundamental. Adotar procedimentos claros, como por exemplo, ensinar a criança a reconhecer adultos de confiança, como pais, familiares ou professores, a quem ela se sinta confortável em comunicar qualquer situação desconfortável;
- Incentivar a criança a identificar e expressar suas emoções. Pode ser por meio de palavras, desenhos ou outros métodos que a ajudem a comunicar seus sentimentos;
- As escolas desempenham um papel vital na prevenção. Estimular a colaboração entre escolas e pais, implementando programas educativos que enfatizem a ética digital, pode criar uma frente unida contra o assédio online.
- [1] Leia mais: Florida Middle Schoolers Arrested for Allegedly Creating Deepfake Nudes of Classmates. Disponível em: https://www.wired.com/story/florida-teens-arrested-deepfake-nudes-classmates/. Acesso em 10/03/2024.
- [2] Exploramos um pouco do tema neste artigo: Criação de imagens íntimas e inteligência artificial: desafios jurídicos e éticos. Disponível em: https://www.conjur.com.br/2023-nov-18/rodrigo-alves-criacao-de-imagens-intimas-e-inteligencia-artificial/. Acesso em 10/03/2024.
- [3] Vídeo generativo: OpenAI revela sistema de inteligência artificial que transforma textos em filmes realistas. Veja exemplos. Disponível em: https://oglobo.globo.com/economia/tecnologia/noticia/2024/02/15/openai-revela-sistema-de-inteligencia-artificial-que-transforma-texto-em-videos-realistas.ghtml. Acesso em 10/03/2024.
- [4] Exploração sexual infantil na internet bate recorde em 2023. Disponível aqui: https://agenciabrasil.ebc.com.br/geral/noticia/2024-02/exploracao-sexual-infantil-na-internet-bate-recorde-em-2023. Acesso em 10/03/2024.