Denuncia contra adolescentes de Roca por usar IA para alterar imágenes de compañeras: ¿qué se sabe hasta ahora?
La denuncia en Roca por la creación de imágenes de abuso sexual infantil se hizo la semana pasada, fue el tercer caso de estas características a nivel nacional y el primero en la región.
Los allanamientos fueron tras un informe del National Center for Missing and Exploted Children (NCMEC).
A pocos días de conocerse la denuncia contra un grupo de alumnos de una secundaria de Roca que habría utilizado Inteligencia Artificial (IA) para adulterar fotos de sus compañeras y crear imágenes de abuso sexual infantil y luego ofrecerlas en redes sociales a cambio de dinero, el caso sigue resonando. A nivel nacional se convirtió en la tercera causa judicial de esta naturaleza y en la región, es la primera. ¿Qué se sabe del caso?
La situación que involucra adolescentes de entre 14 y 15 años, se dio en al menos una institución de la ciudad rionegrina. Al tratarse de menores de edad, denunciados y víctimas, la causa se desarrolla en un expreso hermetismo. Toda información mal cuidada, podría ser un dato que identifica a los involucrados, vulnerando sus derechos y exponiéndolos a reacciones sociales perjudiciales, aseguran expertos.
Hubo comercialización de las imágenes en Telegram y Whatsapp
En esta instancia de la investigación se trata de determinar si las imágenes creadas fueron comercializadas a través de las aplicaciones de mensajería de Telegram y Whatsapp, algo que habría indicado la denuncia ingresada a la fiscalía de Roca.
Será también clave confirmar si en la cadena de la producción y distribución hubo participación de mayores, como hermanos u otros familiares.
Las primeras denuncias también surgieron en 2024
El primer caso con similares características al de Roca que fue judicializado en el país se hizo público en mayo. Allí un adolescente de 13 años de la ciudad La Plata, fue denunciado por los padres de sus compañeras de curso. Denunciado y víctimas asistían a un colegio religioso.
En la causa se aseguraba que el joven había trucado las fotos, para luego distribuirlas por toda la institución por redes.
“Las imágenes parecían reales”, aseguró una de las familias afectadas y que cuando los compañeros se enteraron quién había sido el creador del contenido lo agredieron, razón por la cual la familia lo había retirado.
El caso conmocionó a toda La Plata y la posición de la institución también, desde donde se lo amonestó e “invitó” a retirarse del colegio, según precisaron medios locales.
El segundo hecho se dio en julio, cuando un alumno de la Escuela Manuel Belgrado de la provincia de Córdoba fue denunciado por lo mismo. Fusionar con IA rostros de compañeras con cuerpos desnudos de mujeres adultas.
En este caso, el denunciado además subía el material a una web de contenido para adultos y agregaba descripciones de cada joven con reseñas estigmatizantes.
Los expertos definen a estas imágenes como “deepfakes” y su aumento en otros ámbitos aumentó considerablemente con las herramientas gratuitas de IA. Actualmente hay varias web que con un registro de dos pasos, permiten cargar fotos y modificarla mediante comandos de escritura.
Cómo sigue la causa de Roca
Diario RÍO NEGRO dialogó con Federico Diorio, el abogado de la familia que presentó la denuncia. «Las chicas están muy afectadas», aseguró el letrado.
El representante detalló también que es necesario establecer si hubo “comercialización de las imágenes y hasta dónde llegan las responsabilidades, si recibían ayuda de mayores”.
Otro de los interrogantes a esclarecer es si también se logró hacer transferencia de dinero a cambio de las imágenes creadas por los alumnos y en caso de ser así “hasta donde llegó su difusión”.
Un dato no menor, al menos para quienes trabajan en la investigación es que el nivel de creación de las imágenes podría coincidir con la versión paga de la herramienta con IA. De ser así se puede rastrear quién o quiénes realizaron esa suscripción.
Comentarios