REDACCIÓN ELONCE
A raíz del caso de adolescentes que habrían manipulado imágenes de compañeras en Concordia, el psicólogo Santiago Reset explicó a Elonce las consecuencias emocionales y sociales de las imágenes falsas con IA. Alertó sobre la viralización y reclamó educación tecnológica desde edades tempranas.
La creación de desnudos falsos con IA encendió la preocupación tras conocerse un caso en Concordia, donde un grupo de adolescentes habría utilizado herramientas de inteligencia artificial para manipular fotografías de compañeras y simular que estaban desnudas. Ante esta situación, el doctor en Psicología y docente de la Universidad Argentina de la Empresa (UADE), Santiago Resett, visitó los estudios de Elonce y advirtió sobre las consecuencias psicológicas, sociales y legales de estas prácticas.
El especialista explicó que estas conductas pueden estar relacionadas con el acceso temprano a dispositivos tecnológicos, la falta de supervisión adulta y la dificultad de los adolescentes para comprender el impacto de sus acciones. También señaló la influencia de la presión grupal y la tendencia a reproducir comportamientos que se popularizan en redes sociales.
Resett consideró fundamental que las familias acompañen el aprendizaje digital de sus hijos y les enseñen a respetar la intimidad propia y ajena. Según indicó, saber utilizar una herramienta no implica comprender los riesgos que puede generar su uso.
La necesidad de incorporar educación tecnológica en las escuelas
El psicólogo propuso avanzar hacia una educación tecnológica integral que permita abordar problemáticas vinculadas con las apuestas digitales, el uso excesivo de dispositivos, la inteligencia artificial y la manipulación de contenidos.
Explicó que muchos adolescentes poseen habilidades para crear imágenes, videos o publicaciones, pero carecen de herramientas para evaluar sus consecuencias. En ese sentido, diferenció las competencias instrumentales, relacionadas con el manejo de la tecnología, de las reflexivas, necesarias para comprender el daño que pueden ocasionar.
"Lo que falta en los menores, que ahí juega el papel de los adultos, es lo que llaman competencias reflexivas", señaló Resett, quien insistió en la importancia de enseñar desde edades tempranas el respeto por la imagen y la privacidad de otras personas.
El daño psicológico que pueden provocar las imágenes falsas
Uno de los aspectos más preocupantes es el impacto emocional que puede sufrir una persona cuando se difunde una fotografía íntima manipulada, especialmente durante la adolescencia.
"Le estás arruinando su vida psicológica y social porque la foto se viraliza, eso genera depresión, avergonzamiento, ansiedad, culpa", advirtió el profesional en diálogo con Elonce.
Resett explicó que las víctimas pueden experimentar angustia, dificultades para dormir, problemas de concentración y alteraciones en su rendimiento escolar. La exposición pública también puede afectar sus vínculos personales y generar situaciones de aislamiento.
La revictimización y la circulación de contenidos
El especialista remarcó que una de las principales dificultades de estas situaciones es la permanencia de los contenidos en internet. Aunque una publicación sea eliminada, puede haber sido descargada y compartida en otras plataformas.
Esta circulación provoca una exposición reiterada de las víctimas, que pueden enfrentar burlas, hostigamiento y contactos no deseados. Reset identificó este fenómeno como una forma de revictimización que prolonga el daño inicial.
También advirtió que la difusión de imágenes íntimas falsas puede trascender el ámbito escolar y alcanzar a personas desconocidas, lo que incrementa los riesgos para los adolescentes afectados.
La falsa sensación de impunidad en internet
Durante la entrevista, Resett analizó la percepción de que las acciones realizadas en redes sociales tienen menos consecuencias que aquellas que ocurren de manera presencial.
El psicólogo comparó el entorno digital con una extensión del patio escolar, donde algunos adolescentes consideran que pueden insultar, amenazar o difundir contenidos ofensivos sin asumir responsabilidades.
Sin embargo, aclaró que el daño provocado por estas conductas puede ser igualmente grave. La ausencia de contacto cara a cara no elimina las consecuencias emocionales ni las posibles responsabilidades legales.
Qué consecuencias legales puede tener la manipulación de fotografías
Resett explicó que la creación y distribución de imágenes íntimas falsas puede derivar en distintas consecuencias jurídicas, dependiendo del contenido, las personas involucradas y las circunstancias de cada caso.
Aunque aclaró que no es especialista en derecho, mencionó posibles delitos vinculados con material de abuso sexual infantil y otras conductas que podrían generar responsabilidades civiles.
También destacó que la intención de quien manipula una fotografía no necesariamente elimina el perjuicio causado. Incluso cuando el contenido no se crea para su difusión pública, puede terminar circulando sin control.
La inteligencia artificial y los riesgos de los contenidos falsos
Otro de los temas abordados fue la capacidad de los sistemas de inteligencia artificial para producir imágenes y publicaciones cada vez más difíciles de distinguir de contenidos auténticos.
"Eso también hay que enseñarle a los menores de edad que no todo lo que aparece en internet es verdad, que hay filtros, que hay noticias falsas", sostuvo Resett.
El especialista señaló que estas herramientas pueden utilizarse para generar información engañosa, alterar fotografías o elaborar respuestas sobre asuntos sensibles, lo que exige una mayor formación de los usuarios.
Un estudio sobre los mecanismos de protección de la IA
Resett compartió una investigación realizada junto con la Asociación Educar para el Desarrollo Humano, en la que evaluaron las respuestas de diferentes herramientas de inteligencia artificial ante solicitudes potencialmente perjudiciales.
Según explicó, los investigadores probaron sistemas gratuitos y pagos con pedidos relacionados con la creación de noticias falsas, la modificación de imágenes, las apuestas digitales y las recomendaciones médicas. "La mayoría de la inteligencia artificial te hacía la tarea", afirmó al referirse a los resultados obtenidos.
El psicólogo relató que una de las plataformas inicialmente rechazó la creación de una noticia falsa, pero terminó accediendo cuando los investigadores plantearon la posibilidad de cancelar la suscripción. A su entender, la experiencia evidenció debilidades en los mecanismos de protección de algunas herramientas.
El rol de las familias en la prevención
Finalmente, Resett insistió en que la prevención requiere acompañamiento familiar y formación escolar. Consideró fundamental que los adultos establezcan pautas claras sobre el uso de dispositivos y expliquen las consecuencias de compartir contenidos sin consentimiento.
Como ejemplo, mencionó la importancia de pedir permiso antes de fotografiar a los hijos o publicar imágenes personales. Estas prácticas cotidianas permiten incorporar desde la infancia el respeto por la privacidad.
El especialista también recomendó trabajar sobre la presión grupal, la impulsividad y la responsabilidad individual frente a las conductas digitales. Su planteo apuntó a que la educación tecnológica no se limite al manejo de herramientas, sino que incluya la reflexión sobre sus consecuencias.
