En el marco del Día del Internet Seguro, Red PaPaz lanzó este martes (10 de febrero) una alerta urgente sobre el creciente uso de la Inteligencia Artificial (IA) para generar contenido de abuso sexual infantil no consentido.

La organización colombiana hace un llamado al Estado para regular estas tecnologías y a las plataformas para implementar medidas de seguridad por diseño, con el fin de proteger los derechos de niñas, niños y adolescentes en el entorno digital.

Según los informes de la línea de reporte Te Protejo, en 2025 ya se han procesado más de 15 casos en los que se han utilizado aplicaciones de IA para crear cientos de imágenes ilegales, afectando principalmente a menores de edad. Además, las preocupaciones sobre el uso de estas tecnologías también han aumentado entre niñas, niños y adolescentes, quienes se han mostrado alarmados por la creación de imágenes falsas con contenido sexual.

Este tipo de contenidos no solo son ilegales, sino que tienen un efecto devastador en la salud emocional de las víctimas. La revictimización de los menores es un fenómeno frecuente debido a la circulación de estas imágenes en plataformas digitales, donde eliminarlas por completo resulta casi imposible. Además, el uso de estas imágenes para extorsionar o chantajear a las víctimas está en aumento, lo que da paso a lo que se conoce como la 'economía del abuso'.

Llamado urgente al Estado y las plataformas digitales

Carolina Piñeros, directora ejecutiva de Red PaPaz, hizo un llamado a las autoridades para que exijan a las plataformas digitales y a las empresas de tecnología que asuman su corresponsabilidad en la protección de los derechos de los menores. "En Colombia, seguimos tratando el impacto de las plataformas digitales en la niñez como si fuera una decisión de crianza, y no lo es. Es un problema estructural, de diseño y de falta de reglas para las plataformas", afirmó Piñeros.

Red PaPaz exige que las plataformas implementen medidas de seguridad por diseño, como la verificación efectiva de edad, la detección proactiva de contenidos inapropiados y la cooperación con las autoridades para garantizar un entorno digital seguro para los menores.

La organización se ha sumado como firmante de la declaración internacional “No a las herramientas de IA de desnudez”, un manifiesto que ya cuenta con el respaldo de más de 100 organizaciones y expertos de todo el mundo. A través de esta firma, la organización exige la prohibición inmediata de las herramientas de IA utilizadas para generar imágenes de desnudez no consentida, así como la creación de marcos regulatorios que establezcan responsabilidades claras para las empresas tecnológicas.

Acción ciudadana frente al abuso digital

Desde Red PaPaz también se hace un llamado a la ciudadanía para que no comparta este tipo de imágenes y, en cambio, las reporte a través del CAI Virtual o mediante la web www.teprotejocolombia.org y la App Te Protejo, plataformas que permiten denunciar este tipo de contenidos ilícitos de manera segura.