Las imágenes realistas pero falsas de abuso sexual infantil hechas por IA

Informe sobre el aumento de los deepfakes maliciosos

El FBI señaló que estas imágenes no solo se propagan en la dark web, sino también en “redes sociales, foros públicos o sitios web pornográficos”. La agencia culpó a los recientes avances tecnológicos del aumento de los deepfakes maliciosos, ya que herramientas de inteligencia artificial como Stable Diffusion, Midjourney y DALL-E sirven para generar imágenes realistas a partir de simples mensajes de texto. Estos desarrollos están “mejorando continuamente la calidad, la personalización y la accesibilidad de la creación de contenidos basados en inteligencia artificial”, advirtió el FBI.

“Una vez difundido, las víctimas se pueden enfrentar a dificultades considerables para impedir que se siga compartiendo el contenido manipulado, o para que se elimine de internet”, indica la alerta del FBI. “Esto las deja vulnerables a la vergüenza, el acoso, la extorsión, la pérdida financiera o la revictimización continua a largo plazo”.

Algunas empresas detrás de los generadores de imágenes de inteligencia artificial han intentado luchar contra el contenido malicioso restringiendo miles de palabras clave, pero el informe de ActiveFence destaca que los usuarios de los foros de pedofilia de la dark web intercambian guías que explican cómo eludir las restricciones de palabras clave y otras medidas de seguridad. Algunas herramientas, como Stable Diffusion, parecen recurrir a sistemas de código abierto que dificultan el rastreo y la vigilancia online de las imágenes generadas por esta plataforma, resalta el Post. Stability AI, creadora de Stable Diffusion, no registra todas las imágenes de su servicio, como hacen otras herramientas de inteligencia artificial como Midjourney y DALL-E.

Stability AI declaró al Post que prohíbe la creación de contenidos obscenos, coopera con las fuerzas de seguridad para localizar a los infractores de sus políticas y “ha eliminado el material explícito de sus datos de entrenamiento” para evitar futuros intentos de crear contenido ofensivo.

Sin embargo, el Post menciona que estas soluciones son imperfectas porque “cualquiera puede descargar” Stable Diffusion “a su computadora y ejecutarlo como quiera”. En ese punto, las protecciones, como los filtros de imágenes explícitas, pueden eludirse fácilmente con solo añadir unas pocas líneas de código, algo que, al parecer, los usuarios aprenden para este fin leyendo una guía de la dark web sobre el uso de herramientas de IA.

El FBI instó a los padres a ser conscientes de los peligros, limitar lo que comparten los menores y supervisar quién puede ver sus contenidos en internet. La agencia se refirió a recursos como Take It Down, operado por el Centro Nacional para Menores Desaparecidos y Explotados (NCMEC, por sus siglas en inglés), para denunciar contenidos y hacer que se eliminen, pero eso no detendrá las imágenes generadas por inteligencia artificial que podrían ser creadas posteriormente por herramientas posiblemente entrenadas con cierta imagen.

Se necesitan soluciones más creativas a medida que se agrava el problema. El Post afirma que, en los últimos meses, el NCMEC ha recibido “un fuerte incremento de denuncias de imágenes generadas por IA”, así como “más reclamaciones de personas que suben imágenes de abusos sexuales a menores de edad a las herramientas de IA con la intención de generar más”.

¿Infringen las imágenes de IA las leyes de protección de menores de edad?

Dos funcionarios de la Sección de Explotación y Obscenidad Infantil del Departamento de Justicia de EE UU declararon a The Washington Post que las imágenes generadas por IA que muestran a “menores participando en conductas sexualmente explícitas” son ilegales de acuerdo con, por lo menos, dos leyes de ese país.

Una ley “prohíbe a cualquier persona producir, distribuir, recibir o poseer conscientemente con intención de transferir o difundir, representaciones visuales, como dibujos, caricaturas o pinturas, que aparenten representar a menores de edad en conductas sexualmente explícitas y se consideren obscenas”. La otra ley “define la pornografía infantil como cualquier representación visual de una conducta sexualmente explícita en la que participe un menor de edad”, incluidas las “imágenes generadas por computadora indistinguibles de un menor de edad real”.

Objetivos de Desarrollo Sostenible (ODS) relacionados

ODS 5: Igualdad de género
ODS 16: Paz, justicia e instituciones sólidas

Metas específicas de los ODS identificadas

Meta 5.2: Eliminar todas las formas de violencia contra todas las mujeres y las niñas en los ámbitos público y privado, incluidas la trata y la explotación sexual y otros tipos de explotación.
Meta 16.2: Poner fin al maltrato, la explotación, la trata y todas las formas de violencia y tortura contra los niños.

Indicadores de los ODS relevantes

Indicador 5.2.1: Proporción de mujeres y niñas víctimas de violencia física o sexual en los últimos 12 meses.
Indicador 16.2.1: Proporción de jóvenes (entre 18 y 29 años) que experimentaron violencia física o sexual en los últimos 12 meses.

Tabla de ODS, metas e indicadores

ODS	Metas	Indicadores
ODS 5: Igualdad de género	Meta 5.2: Eliminar todas las formas de violencia contra todas las mujeres y las niñas en los ámbitos público y privado, incluidas la trata y la explotación sexual y otros tipos de explotación.	Indicador 5.2.1: Proporción de mujeres y niñas víctimas de violencia física o sexual en los últimos 12 meses.
ODS 16: Paz, justicia e instituciones sólidas	Meta 16.2: Poner fin al maltrato, la explotación, la trata y todas las formas de violencia y tortura contra los niños.	Indicador 16.2.1: Proporción de jóvenes (entre 18 y 29 años) que experimentaron violencia física o sexual en los últimos 12 meses.

El artículo aborda principalmente los temas de la violencia de género y la explotación sexual de menores, los cuales están conectados con los Objetivos de Desarrollo Sostenible (ODS) 5 y 16.

En relación a estos temas, se pueden identificar las metas específicas de los ODS 5.2 y 16.2, que buscan eliminar todas las formas de violencia contra mujeres, niñas y niños.

Además, se mencionan dos indicadores relevantes para medir el progreso hacia estos objetivos. El indicador 5.2.1 se refiere a la proporción de mujeres y niñas víctimas de violencia física o sexual en los últimos 12 meses, mientras que el indicador 16.2.1 se refiere a la proporción de jóvenes que experimentaron violencia física o sexual en el mismo período.

Estos indicadores permiten evaluar la prevalencia de la violencia de género y la explotación sexual de menores, y son herramientas importantes para monitorear el progreso en la consecución de los ODS relacionados.

¡Atención! Este espléndido artículo nace de la fuente del conocimiento, moldeado por una maravillosa tecnología patentada de inteligencia artificial que profundizó en un vasto océano de datos, iluminando el camino hacia los Objetivos de Desarrollo Sostenible. Recuerda que todos los derechos están reservados por SDG Investors LLC, lo que nos permite defender el progreso juntos.

Fuente: es.wired.com