Denunciaron que utilizan IA para amplificar imágenes de abuso sexual Infantil
La explotación infantil encontró un nuevo campo de juego donde los pedófilos están utilizando la tecnología de inteligencia artificial (IA) para crear y comercializar material de abuso sexual infantil realista, según un informe emitido este miércoles por la BBC.
Uno de los sitios identificados en el informe es Patreon, una plataforma para compartir contenido que permite a los creadores recibir pagos de sus suscriptores.
Aunque Patreon mantiene una política de “tolerancia cero” con respecto a este tipo de imágenes, algunos individuos aún logran burlar el sistema y generar contenido de abuso sexual infantil.
Las reacciones por la utilización de la IA
Ante esto, el Consejo de Jefes de Policía Nacional británico (NPCC) reaccionó con indignación, y cuestionó el hecho de que estas plataformas obtengan grandes beneficios sin asumir una “responsabilidad moral”.
En respuesta al informe, la Agencia de Inteligencia, Seguridad y Cibernética del Gobierno británico (GCHQ), destacó que los delincuentes de abuso sexual infantil adoptan todas las tecnologías, indicando que “el futuro del material de abuso sexual infantil radica en el contenido generado por IA”.
El método usado por los abusadores
Los perpetradores utilizan un software de inteligencia artificial llamado Stable Diffusion para generar estas imágenes realistas de abuso.
Originalmente diseñado para crear imágenes para arte o diseño gráfico, este software permite a los usuarios especificar cualquier imagen que deseen mediante instrucciones verbales.
Sin embargo, ahora, según la investigación del medio público británico, se la utiliza para crear imágenes perturbadoras de abuso sexual infantil.
Imágenes “sintéticas” representan un riesgo real
Al respecto, Ian Critchley, líder del NPCC en protección infantil, señaló que las imágenes “sintéticas” representan un riesgo real.
Declaró que podrían permitir que un pedófilo avance desde la ideación hasta el abuso real de un niño vivo.
Problema sin límites
Este problema no se limita a una única plataforma ya que algunos creadores de imágenes de abuso también utilizan Pixiv, una popular plataforma de redes sociales japonesa.
Aunque el sitio tiene políticas contra el contenido explícito, las leyes en Japón, donde Pixiv está alojado, no consideran ilegales las caricaturas y dibujos sexuales de niños.
Ante estos hallazgos, las plataformas en cuestión prometieron tomar medidas: Patreon, por ejemplo, reafirmó su compromiso de eliminar todo material de abuso infantil de su sitio, mientras que Pixiv declaró que estaba asignando recursos sustanciales para combatir este problema.
Con información de la agencia Télam