Deepfakes: niños, niñas y adolescentes en peligro

Los deepfakes son videos creados con inteligencia artificial que logran generar imágenes y secuencias falsas pero extremadamente realistas. Esta tecnología, que combina el aprendizaje profundo (deep learning) con la manipulación digital, permite modificar la apariencia y la voz de una persona para hacerla decir o hacer cosas que nunca ocurrieron.

Aunque inicialmente se popularizó por videos de figuras públicas y celebridades, su uso se ha extendido a situaciones alarmantes, como la creación de contenido sexual no consentido.

En Argentina, se han registrado casos preocupantes en escuelas de provincias como Chaco, Córdoba, Río Negro y Buenos Aires, donde adolescentes han utilizado esta tecnología para manipular imágenes de compañeras de clase. Estas prácticas no solo violan los derechos de las víctimas, sino que también constituyen delitos graves que están siendo investigados por las autoridades.

Casos en Argentina

Uno de los incidentes más recientes ocurrió en Resistencia, Chaco, en el colegio Don Bosco. Allí, un grupo de alumnas denunció que compañeros de clase habían tomado fotos de sus redes sociales, las habían manipulado con inteligencia artificial para “desnudar” las imágenes y luego las vendieron a través de plataformas como WhatsApp y Telegram. En la Provincia de Buenos Aires, un caso similar tuvo lugar en el colegio San Agustiniano de San Martín.

Otros casos se registraron en Río Negro, donde adolescentes de un club deportivo manipularon imágenes de compañeras. En este caso, un grupo de jóvenes de entre 14 y 15 años utilizó inteligencia artificial para adulterar fotos de sus compañeras y generar imágenes de abuso sexual infantil.

Según el diario Río Negro, las imágenes fueron compartidas entre los adolescentes, y una de las familias afectadas presentó una denuncia formal que derivó en una investigación policial. Como medida inmediata, los responsables fueron separados del club deportivo donde entrenaban.

Desde el punto de vista penal, los actos cometidos por los adolescentes en Río Negro podrían encuadrarse en varios delitos tipificados en el Código Penal argentino.

En primer lugar, la creación y distribución de imágenes sexuales falsas de menores de edad constituye un delito de abuso sexual infantil virtual, agravado por el uso de tecnología. Según el artículo 128 del Código Penal, la producción, distribución y tenencia de material de abuso sexual infantil es castigada con penas de prisión que van de 3 a 6 años.

Además, el uso de inteligencia artificial para manipular imágenes de menores podría considerarse una forma de violencia de género, ya que afecta directamente la integridad y dignidad de las víctimas, en su mayoría mujeres. En este contexto, la Ley 26.485 de Protección Integral para Prevenir, Sancionar y Erradicar la Violencia contra las Mujeres podría aplicarse, dado que el acto constituye una forma de violencia simbólica y mediática.

En el ámbito civil, las familias de las víctimas tienen derecho a iniciar acciones legales por daño moral y psicológico.

La manipulación de imágenes y su posterior difusión no solo afecta la privacidad de las víctimas, sino que también genera un daño emocional significativo, especialmente en adolescentes. Según el Código Civil y Comercial de la Nación, las víctimas pueden reclamar una indemnización por los perjuicios sufridos, incluyendo el daño psicológico, el daño a la reputación y el impacto en su vida social y escolar.

Un fenómeno mundial

El problema de los deepfakes no es exclusivo de Argentina. Según Europol, las imágenes sexuales de menores generadas con inteligencia artificial aumentaron un 360% en los últimos años. En España, más de 20 familias denunciaron casos similares en un pequeño pueblo de Extremadura, mientras que en Corea del Sur, las protestas sociales llevaron a la aprobación de leyes que penalizan la posesión y distribución de contenido sexual falso. En Estados Unidos, el FBI emitió un comunicado advirtiendo sobre los riesgos de esta tecnología.

En Corea del Sur, la presión social llevó a la aprobación de una ley que tipifica como delito no solo la creación, sino también la posesión y visualización de contenido sexual generado con inteligencia artificial. Las penas incluyen multas significativas y prisión, marcando un precedente en la lucha contra los deepfakes.

Cómo detectar un deepfake

A medida que la tecnología avanza, los deepfakes se vuelven más difíciles de identificar. Sin embargo, expertos del MIT Media Lab recomiendan prestar atención a detalles como la textura de la piel, la sincronización de los labios con la voz, las sombras y la iluminación. También es útil observar si la persona parpadea de manera natural o si hay inconsistencias en el vello facial y los movimientos faciales.

Reflexión Final

La lucha contra los deepfakes requiere no solo avances tecnológicos para detectarlos, sino también una mayor conciencia social sobre los riesgos y las consecuencias de su uso indebido.

En el caso de Río Negro, como en otros incidentes similares, es fundamental que las autoridades actúen con rapidez para proteger a las víctimas y sancionar a los responsables. Además, es necesario promover la educación digital en las escuelas para que los adolescentes comprendan los riesgos y las implicancias legales de utilizar tecnologías como la inteligencia artificial de manera irresponsable.

La tecnología avanza rápidamente, pero también debe avanzar la legislación y la conciencia social para garantizar que estas herramientas no sean utilizadas para dañar a otros.

Por David Fernández Goinhex- Miembro del Instituto de Derecho e I.A. del Colegio de Abogados y Procuradores de Neuquén dirigido por la Dra. Vanesa Ruiz.