¿Aplicaciones que desnudan? Tecnoética y educación en el uso de la inteligencia artificial generativa

Enfoque

El pasado septiembre, en el retorno del curso escolar en España, fue noticia la circulación ilícita de imágenes de un grupo de menores, niñas de entre 11 y 17 años, ‘desnudadas’ por una aplicación de inteligencia artificial. Otros menores de edad, en su mayoría, fueron los que crearon y posteriormente difundieron aquellas imágenes. Además de vulnerar las leyes de España y de la UE en materia de protección de datos, así como el derecho fundamental al honor y a la propia imagen de las menores, se trataba de pornografía infantil. De hecho, strictu sensu, se debe hablar en este caso de morphing o “pseudopornografía infantil”, según la legislación vigente, pues no se utilizó realmente a las menores sino que se abusó de su imagen manipulándola mediante artificios técnicos.

Este no ha sido, ni será, un hecho aislado ni local. Mucho antes de la irrupción de estas herramientas de IA ya se habían filtrado en otras ocasiones, por ejemplo, imágenes o vídeos de desnudos de celebrities, principalmente mujeres, pues el ciber abuso, en sus múltiples manifestaciones, sigue afectando principalmente a la mujer. Y si bien es cierto que con los medios tecnológicos digitales de antaño se podían lograr los mismos efectos que con las IAs generativas actuales, también lo es que hacerlo entonces entrañaba bastante tiempo y trabajo, pues poseía una complejidad técnica al alcance de pocos: ahora, en solo unos segundos, se puede proporcionar una imagen o un video a una aplicación y obtener desnudos o pornografía, en un nivel que se ha denominado ‘deep fake’, en el que cuesta distinguir la falsedad del elemento generado.

En este trabajo se muestran ejemplos de imágenes de desnudos, modificadas mediante inteligencia artificial, que permiten analizar tanto sobre los sesgos de entrenamiento de las herramientas libres de modificación de imagen, como reflexionar sobre las implicaciones tecnoéticas de estas prácticas. No se muestran imágenes gratuitas ni que vulneren ningún aspecto legal, en cuanto se ha trabajado con obras generadas mediante inteligencia artificial, sin impacto real sobre personas reales, y respetando los derechos de autor.

Se plantea, finalmente, un enfoque pedagógico, una propuesta práctica basada en las recomendaciones de organizaciones reconocidas como UNESCO o OEIAC, que permita al profesorado, desde la acción tutorial, trabajar en el aula la prevención de conductas ilícitas, inmorales e incívicas, así como los aspectos éticos fundamentales que prevengan los usos deshonestos de herramientas de acceso abierto de inteligencia artificial generativa.