En una entrevista con AM740, Vanesa Ruiz, abogada y directora del Instituto de Derecho e Inteligencia Artificial, analizó el reciente caso en el que un grupo de estudiantes de General Roca utilizó una aplicación de inteligencia artificial (IA) para manipular imágenes de sus compañeras, generando fotos falsas que luego fueron vendidas en plataformas como Telegram. Ruiz destacó que este caso es solo uno de los muchos ejemplos de cómo la tecnología puede ser utilizada de manera irresponsable, afectando a menores de edad y violando su privacidad. También destacó la gravedad de este hecho, no solo desde el punto de vista jurídico, sino también social, y planteó la necesidad de abordar el uso responsable de estas tecnologías.
“El tema es sumamente preocupante, no solo a nivel jurídico, sino a nivel social y sobre todo cuando estamos hablando de niños, niñas y adolescentes. Todos tenemos al alcance de nuestras manos un celular, y lo novedoso es que ahora cualquiera puede usar la inteligencia artificial”, señaló Ruiz, haciendo hincapié en cómo estas herramientas, antes reservadas a expertos, hoy están al alcance de cualquier persona.
La abogada explicó cómo funciona la tecnología detrás de este tipo de casos: “Podemos crear archivos, videos, imágenes, voz que parecen reales, pero que son falsos, y se hacen con el aprendizaje profundo de la IA. Hoy con una selfie y la voz tomada de cualquier lado te pueden hacer decir cosas que no estás diciendo. Es muy difícil diferenciar lo falso de lo real”. En el caso de Roca, las imágenes fueron manipuladas utilizando una aplicación que permitía colocar las caras de las víctimas en cuerpos desnudos de adultos.
Ruiz advirtió sobre la dificultad de frenar la viralización de este tipo de contenido: “Una vez que algo sale, se hace tan viral que es difícil detenerlo. A veces un juego termina siendo algo macabro para quien lo sufre”. En este sentido, subrayó la importancia de generar conciencia sobre el uso responsable de la tecnología: “Más allá de la responsabilidad, es importante hablar de la conciencia, de tomar conciencia de la gravedad y hasta dónde podemos llegar. Todos somos ciudadanos digitales pasibles de sufrir violencia digital”.
En cuanto a las implicancias legales, Ruiz explicó que en el sistema jurídico se diferencian dos grandes tipos de responsabilidad: “En la responsabilidad penal, se sanciona la comisión de un delito y, en caso de encontrarse culpable, la persona puede ir presa. En cambio, en la responsabilidad civil, se busca la compensación pecuniaria por un daño o perjuicio ocasionado”. Sin embargo, en este caso, los menores de 16 años son inimputables, lo que complica las acciones legales. “Los menores de 16 años son inimputables, ni siquiera podemos llevarlos a un proceso penal”, aclaró.
Finalmente, Ruiz insistió en la importancia de legislar sobre estos temas y fomentar la educación digital. “Es interesante hablar de educación digital y también legislar”, concluyó.
General Roca, 24 de octubre de 2024.
