A rede social Snapchat e a facilidade de encontro entre crianças e predadores sexuais
A rede social Snapchat facilita o encontro entre crianças e predadores sexuais, é o que afirma o Departamento de Justiça do Novo México, nos Estados Unidos. Autoridades locais deflagraram uma operação contra o abuso sexual infantil na semana passada para entender como essa relação acontece.
Operação com uso da inteligência artificial
O trabalho foi realizado com a ajuda da inteligência artificial. Os policiais desenvolveram imagens explícitas de menores para criar uma conta falsa na plataforma e capturar “novas amizades” interessadas no perfil.
Algoritmo do Snapchat entregando crianças a predadores
De acordo com o Departamento, o Snapchat “é uma plataforma de mídia social para compartilhamento de material de abuso sexual infantil (…) Seu algoritmo entrega crianças a predadores adultos”.
Detalhes da investigação
Em um relatório detalhado pelo site Ars Technica, um dos investigadores criou uma conta falsa para uma criança de 14 anos chamada “Sexy14Heather”. O Snapchat definiu a conta como privada e o investigador não seguiu qualquer perfil da rede social. Mesmo assim, “Heather” foi recomendada para outras contas já existentes na rede com nomes comprometedores.
O comunicado divulgado para imprensa também detalha que, após esse investigador aceitar o pedido de conexão com apenas uma conta, outras recomendações de amizade ficaram ainda mais pesadas.
Conversas perturbadoras e trocas de conteúdo explícito
No total, foram cerca de 91 usuários, “incluindo usuários adultos com contas que incluíam ou buscavam conteúdo sexualmente explícito”. Dentre as conversas trocadas, todas incluíam pedidos de fotos, chats explícitos, troca de conteúdo e coerção de atitude sobre o perfil falso da menor.
As autoridades também notaram que, mesmo que “Heather” não tivesse enviado qualquer mensagem escrita de teor sexualmente explícito, o algoritmo entendeu que o perfil buscava material de abuso sexual infantil, oferecendo opções que corroboram essa conclusão.
O nascimento da investigação
A polícia do Novo México prendeu dois homens, Alejandro Marquez e Jeremy Guthrie, por estupro de vulnerável, ambos com relações estabelecidas através do Snapchat. Essas prisões foram o ponto de partida para a utilização de imagens geradas por IA para caçar predadores sexuais.
No entanto, a utilização de IA por forças policiais pode ser um problema, segundo Carrie Goldberg, advogada especializada em crimes. Não há muitas informações sobre como os policiais desenvolveram a imagem via IA.
A resposta do Snapchat e considerações finais
O Snapchat respondeu às acusações alegando que vai responder às reivindicações no tribunal, reforçando o compromisso da plataforma com a segurança online dos jovens. O procurador-geral Torrez, do Departamento de Justiça, destaca a importância de responsabilizar as plataformas pela segurança das crianças.
Documentário “Realidade Violada 3: Predadores Sexuais”
O TecMundo lançará em breve o documentário Realidade Violada 3: Predadores Sexuais. Assista ao trailer aqui.
Já segue o macuxi nas redes sociais? Acompanhe todas as notícias em nosso Instagram, Twitter, Facebook, Telegram e também no Tiktok
