Crecen los casos de abuso digital: el alarmante uso de IA para manipular fotos infantiles y cómo proteger a los menores

El concepto de inteligencia artificial (IA) comenzó a ser reconocido desde 2022 con la aparición de ChatGPT, y con el tiempo fueron surgiendo más programas que la usaban para todo tipo de tareas, pero no necesariamente tenían que ser con buenas intenciones. 
Así lo evidencia Internet Watch Foundation (IWF), que lanzó una alerta de cómo la IA está siendo usada para manipular imágenes de menores de edad de varias partes del mundo, provocando un aumento del 360% de las fotos sexuales publicadas en la web de niños y niñas entre los 7 a 10 años. 
Asimismo, este riesgo incrementa en la población femenina, debido a que el 50% de las imágenes manipuladas por IA que fueron reportadas en 2022 por IWF, aparecían menores de 11 a 13 años de edad. 
Pese a que se piense que una imagen manipulada puede ser reconocida a comparación de una real, con los casos recientes, y el avance de esta tecnología, se demuestra que su impacto en la salud física y mental de los niños es significativo.

Niñas y adolescentes son las principales afectadas por la manipulación de la IA
Algunos han oído hablar de las ‘deepfakes’, que significa, en términos prácticos, colocar la imagen de una persona en otra por medio de la IA, modalidad que atrae la atención de las autoridades internacionales por ser una fuente de desinformación y atentar contra la honra y el honor de los afectados. Pues esta situación tampoco es ajena a los niños, niñas y adolescentes. 
En territorio español, en una institución educativa, una docena de niñas entre los 11 y 17 años alertaron a las autoridades que en los móviles de sus compañeros de curso estaban circulando fotos de ellas desnudas que estaban manipuladas. 
En Latinoamérica al menos 12 alumnas de un colegio en Lima, Perú, entre los 13 a 16 años de edad, fueron víctimas de fotos íntimas manipuladas con inteligencia artificial que terminaron siendo compradas por depredadores sexuales. 
Estos atroces escenarios reflejan el uso de la IA por delincuentes que terminan filtrando millones de imágenes sexuales de menores manipuladas a red de tráficos que funcionan en distintas partes del mundo. 
De acuerdo con IWF, “en la primera mitad de 2022 se identificó 20.000 páginas web que incluían imágenes de abuso sexual «autogeneradas» producto de la coacción de niñas y niños de 7 a 10 años”.

Por qué es peligroso publicar fotos de niños en redes sociales
De acuerdo con Martha Castellanos, vicerrectora académica de la Fundación Área Andina, lo primero es “hacer entender a los niños niñas adolescentes de cómo utilizar su propio patrimonio personal”. 
Entre los componentes que componen su patrimonio personal están las fotos y videos que publican y cómo se comportan en las redes sociales y plataformas tecnológicas. Castellanos resalta que “ellos deben ser conscientes que una expresión, y que un gesto puede ser malinterpretado y manipulado con las tecnologías avanzadas que existen”. 
Castellanos añade que no solo es trabajo de los menores de edad, sino también de los padres de familia. “A veces cometemos la imprudencia de publicar lo que estamos haciendo con nuestros hijos y esto puede conllevar a que personas inescrupulosas, usen esa información”, afirma la académica.

Cómo deben actuar los padres contra esta amenaza
Las recomendaciones están ligadas a limitar y educar sobre el uso de la tecnología y las redes sociales. “Hay varios estudios que demuestran que no hay que exponer teléfonos inteligentes y redes sociales a menores de 15 años”, asegura Castellanos. 
De hecho, la Fundación Save the Children en el informe “Derechos SinConexión”, hace un llamado de atención a las empresas detras las plataformas de servicios digitales a que “asuman las correspondientes responsabilidades con relación a la protección de los niños, niñas y adolescentes, no únicamente en lo relativo al acceso de contenidos, sino también, en lo que concierne al diseño de productos persuasivos que puedan generar adicciones”. 
Y agregan que “se debe priorizar sobre todas las estrategias, la educación y el acompañamiento por parte de los padres, llegando a acuerdos con sus hijos sobre el uso de los dispositivos electrónicos”. 
Del mismo modo, si en ciertas situaciones un niño o niña termina siendo víctima de una foto íntima manipulada con inteligencia artificial, Alejandro Castañeda, jefe del Centro de Internet Seguro-Viguías de Red Papaz, enfatiza en la importancia de no encontrar culpabilidad en el afectado; destaca que “al final siempre la víctima será el niño”. 
A estas observaciones, se le suma la de Leila Suckewer, docente de la Licenciatura en Psicopedagogía de la Universidad CAECE, en Argentina, que sugiere: “como padres debemos colocar límites en el tiempo de horario, en cuanto al tiempo de uso de dispositivos, y sobre qué tipo de contenido consumen”. 
Cada uno de los especialistas consultados coinciden sobre la importancia de educar a los pequeños desde una temprana edad sobre los riesgos que presenta la tecnología y las redes sociales, al igual que sus beneficios.