Informe sobre el uso de Inteligencia Artificial en la creación y venta de material de abuso sexual infantil
Fecha: 29 de junio de 2023
Autor: Angus Crawford y Tony Smith
Algunos pedófilos utilizan la tecnología de Inteligencia Artificial (IA) para crear y vender material que simula situaciones reales de abuso sexual infantil, según una investigadora entrevistada por la BBC.
Estos individuos logran acceder a las imágenes pagando suscripciones a cuentas en sitios populares de intercambio de contenido como la plataforma Patreon.
La empresa Patreon ha declarado que tiene una política de “cero tolerancia” contra este tipo de imágenes en su sitio. Sin embargo, el Consejo Nacional de Jefes de Policía en Reino Unido (NPCC) expresó su indignación ante el hecho de que algunas plataformas estén obteniendo “enormes ganancias” al no asumir una “responsabilidad moral”.
La agencia de inteligencia y ciberseguridad británica GCHQ respondió al informe diciendo que “los criminales de abuso sexual infantil adoptan todas las tecnologías y algunos creen que el futuro del material de abuso sexual infantil yace en el contenido generado por IA”.
Los productores de las imágenes de abuso están utilizando un programa de IA llamado Stable Diffusion, cuya función original era generar imágenes para arte o diseño gráfico.
El software de Stable Diffusion permite a los usuarios describir la imagen que buscan a través de palabras clave, para que el programa luego genere esa imagen. Sin embargo, la BBC ha descubierto que se está utilizando para crear imágenes realistas de abuso sexual infantil, incluyendo la violación de bebés y menores.
Los equipos de la policía británica que investigan el abuso infantil en línea ya han encontrado este tipo de contenido.
La periodista independiente Octavia Sheepshanks investigó el asunto durante varios meses y se puso en contacto con la BBC a través de la organización benéfica Sociedad para la Prevención de la Crueldad de los Niños (NSPCC) para hacer público su trabajo. Según Sheepshanks, desde que la generación de imágenes con IA se hizo posible, ha habido un enorme aluvión de imágenes de abuso sexual infantil.
En el Reino Unido, una “pseudo imagen” generada por una computadora que muestra abuso sexual infantil es considerada como una imagen real y su posesión, publicación o transferencia son ilegales.
El director de protección infantil del consejo NPCC, Ian Critchley, dijo que sería incorrecto afirmar que no se está causando daño a alguien por el hecho de que ningún menor real está representado en ese tipo de imágenes “sintéticas”. Critchley advirtió que un pedófilo podría progresar desde el pensamiento hasta el abuso real de un niño.
Los precios
Muchas de las cuentas en Pixiv, una popular plataforma de redes sociales utilizada por artistas de manga y anime, incluyen vínculos a sus biografías que dirigen a la gente a sus “contenidos sin censura” dentro del sitio de contenido compartido Patreon, que está basado en EE.UU.
Patreon está valorado en US$4.000 millones y afirma contar con más de 250.000 creadores, la mayoría de ellos son cuentas legítimas que pertenecen a celebridades, periodistas y escritores bien conocidos. Sus seguidores pueden apoyar a los creadores afiliándose a una suscripción que les da acceso a blogs, podcasts, videos e imágenes por un costo que empieza en US$3,85.
Sin embargo, nuestra investigación encontró cuentas de Patreon que ofrecen vender imágenes obscenas fotorrealistas de niños, con diferentes niveles de precio dependiendo del tipo de material requerido.
La compañía Patreon afirmó tener una política de “tolerancia cero” y aseguró que los creadores no pueden financiar contenido dedicado a temas sexuales que involucren a menores. Además, afirmó haber identificado y eliminado cantidades crecientes de contenido dañino generado por IA en su plataforma.
El generador de imágenes de IA Stable Diffusion fue creado como una colaboración internacional entre académicos y varias compañías, encabezadas por la firma Stability AI. Aunque se han lanzado varias versiones con restricciones para controlar el tipo de contenido que se puede crear, el año pasado se lanzó una versión anterior de “fuente abierta” que permitía a los usuarios remover cualquier filtro y producir cualquier imagen, incluyendo las ilegales.
La IA presenta riesgos futuros para la privacidad, los derechos humanos y la seguridad de las personas. GCHQ y el NPCC están trabajando para estar a la delantera de las amenazas emergentes como el contenido generado por IA y asegurar que no haya un refugio para los ofensores.
En conclusión, es crucial que la sociedad se enfrente a los desafíos que plantea el uso de la IA en la creación y distribución de material de abuso sexual infantil. Internet y la tecnología deben ser utilizados para crear oportunidades positivas para los jóvenes y no convertirse en un lugar perjudicial.
Recuerda que puedes recibir notificaciones de BBC News Mundo. Descarga la última versión de nuestra app y actívalas para no perderte nuestro mejor contenido.
1. Objetivos de Desarrollo Sostenible (ODS) relacionados con los temas destacados en el artículo:
- Objetivo 5: Igualdad de género
- Objetivo 16: Paz, justicia e instituciones sólidas
- Objetivo 17: Alianzas para lograr los objetivos
2. Metas específicas de los ODS identificadas en el artículo:
- Meta 5.2: Eliminar todas las formas de violencia contra todas las mujeres y niñas en los ámbitos público y privado, incluidas la trata y la explotación sexual y otros tipos de explotación.
- Meta 16.2: Poner fin al abuso, la explotación, la trata y todas las formas de violencia y tortura contra los niños.
- Meta 17.16: Mejorar el cumplimiento de los derechos y la protección de los niños vulnerables, en particular mediante la eliminación de prácticas perjudiciales, como el abuso, la explotación y la trata.
3. Indicadores de los ODS mencionados o implícitos en el artículo:
- Indicador 5.2.1: Proporción de mujeres y niñas víctimas de violencia sexual o física en los últimos 12 meses.
- Indicador 16.2.1: Proporción de niños víctimas de abuso sexual.
- Indicador 17.16.1: Número de países que han adoptado y aplicado leyes y políticas para garantizar la protección de los niños vulnerables.
4. Tabla de ODS, metas e indicadores:
| ODS | Metas | Indicadores |
|---|---|---|
| Objetivo 5: Igualdad de género | Meta 5.2: Eliminar todas las formas de violencia contra todas las mujeres y niñas en los ámbitos público y privado, incluidas la trata y la explotación sexual y otros tipos de explotación. | Indicador 5.2.1: Proporción de mujeres y niñas víctimas de violencia sexual o física en los últimos 12 meses. |
| Objetivo 16: Paz, justicia e instituciones sólidas | Meta 16.2: Poner fin al abuso, la explotación, la trata y todas las formas de violencia y tortura contra los niños. | Indicador 16.2.1: Proporción de niños víctimas de abuso sexual. |
| Objetivo 17: Alianzas para lograr los objetivos | Meta 17.16: Mejorar el cumplimiento de los derechos y la protección de los niños vulnerables, en particular mediante la eliminación de prácticas perjudiciales, como el abuso, la explotación y la trata. | Indicador 17.16.1: Número de países que han adoptado y aplicado leyes y políticas para garantizar la protección de los niños vulnerables. |
¡Atención! Este espléndido artículo nace de la fuente del conocimiento, moldeado por una maravillosa tecnología patentada de inteligencia artificial que profundizó en un vasto océano de datos, iluminando el camino hacia los Objetivos de Desarrollo Sostenible. Recuerda que todos los derechos están reservados por SDG Investors LLC, lo que nos permite defender el progreso juntos.
Fuente: bbc.com
Únete a nosotros en un viaje transformador en https://sdgtalks.ai/welcome, para contribuir activamente a un futuro mejor.
El artículo destaca la preocupante realidad del comercio ilegal de imágenes de abuso sexual infantil generadas por inteligencia artificial. La inteligencia artificial ha avanzado lo suficiente como para crear imágenes realistas de niños en situaciones de abuso, lo que ha llevado a un aumento en la producción y distribución de este tipo de contenido. El artículo resalta la necesidad de una mayor regulación y cooperación internacional para combatir este delito y proteger a los niños. Además, se destaca la importancia de concienciar a la sociedad sobre este problema y fomentar la denuncia de este tipo de actividades ilegales. En conclusión, el artículo resalta la preocupante relación entre la inteligencia artificial y el comercio ilegal de imágenes de abuso sexual infantil, y la necesidad de tomar medidas para combatir este delito y proteger a los niños.