Ciudad de México, México. - El Fondo de las Naciones Unidas para la Infancia (UNICEF) realizó un llamado urgente el 5 de febrero para que los países implementen penas para la creación de contenido de abuso sexual infantil generado por Inteligencia Artificial (IA). La agencia demandó la actualización de marcos legales debido al aumento de imágenes y videos deepfake que exponen a menores de edad.
UNICEF reporta que al menos 1.2 millones de niños en 11 países han sido víctimas de la manipulación de su imagen para el desarrollo de contenido sexualmente explícito en el último año. El organismo destacó la urgencia de actuar, señalando que “los niños no pueden esperar a que la ley se ponga al día” frente a un fenómeno creciente y dañino.
La organización también demandó a los desarrolladores de IA implementar medidas de seguridad desde la fase de diseño de sus sistemas. Además, instó a las plataformas digitales a mejorar la moderación de contenidos con inversiones en tecnologías de detección. UNICEF destacó que la autorregulación de las empresas no es suficiente por lo cual es necesaria la intervención de los Estados para salvaguardar a la infancia.
Gran Bretaña ha tomado la delantera al anunciar planes para ilegalizar el uso de herramientas de IA que generen materiales abusivos. Sin embargo, en otras partes del mundo, muchos vacíos legales permiten la proliferación de estos contenidos peligrosos. UNICEF advirtió que la falta de acciones concretas crea un entorno favorable para los delincuentes en el ecosistema digital.
La organización reafirmó que la IA debe ser utilizada como una herramienta de avances y no como un medio para nuevas formas de explotación. A medida que la tecnología avanza, UNICEF continuará presionando a los gobiernos para que la protección infantil sea una prioridad en la agenda digital global, cerrando el paso a quienes usan la tecnología para evadir la justicia.
