Ficción vs realidad: IA y patrullaje digital estatal

El 26 de julio pasado el Ministerio de Seguridad Nacional dictó la Resolución 710/2024 y creó la Unidad de Inteligencia Artificial Aplicada a la Seguridad (UIAAS). Esta unidad tiene como misión la prevención, detección, investigación y persecución del delito y sus conexiones mediante la utilización de la inteligencia artificial.

Exclusivo Suscriptores

ChatGPT y las vacas locas

Ahora bien, al leer las funciones de la UIAAS, en mi mente reflotaron y surgieron imágenes de una película vista en mi juventud: “Minority Report” (conocida en Latinoamérica como “Sentencia Previa”). Una película estadounidense del 2002, que mezcla acción y ciencia ficción. Protagonizada por Tom Cruise, dirigida por Steven Spielberg, y basada libremente en un relato corto de 1956 de Philip K. Dick. No está ambientada en el actual 2024, sino 30 años más allá, es decir, un futuro 2054.

Al parecer, nos hemos adelantado a las predicciones de la ciencia ficción, y encima puede ser que la superemos en pocos años, ya que en este film presenta un futuro en el que el crimen puede ser prevenido antes de que ocurra mediante un sistema de “PreCrimen”, que utiliza tres individuos conocidos como “precogs” con la capacidad de preverlos. Aunque no son infalibles y descubrirían que a veces tienen visiones contradictorias.

Tom Cruise interpreta a John Anderton, jefe de “PreCrimen” en Washington D.C. quien confía plenamente en el sistema, hasta que es acusado de un asesinato que aún no ha cometido. Huyendo de sus propios compañeros, debe descubrir la verdad detrás de la acusación y desentrañar una conspiración más grande. En el proceso, cuestiona la infalibilidad del sistema y explora temas profundos sobre el libre albedrío y la predestinación.

La resolución dictada por nuestro Estado Nacional presentada similitudes notables con esta película de ciencia ficción, en cuanto a su enfoque sobre el uso de la tecnología para la prevención del delito. Ya que la UIAAS busca prevenir delitos mediante el análisis de datos históricos, imágenes y actividades en redes sociales, Internet y el uso de algoritmos de aprendizaje automático para predecir futuros crímenes, tal como lo hacen los precogs con sus habilidades psíquicas.

Esta Unidad de I.A, al igual que en la película, emplea tecnologías de avanzada como el reconocimiento facial, análisis de imágenes en tiempo real, drones para vigilancia aérea y robots para tareas peligrosas e identificación de posibles delincuentes. A ello se suma que la UIAAS patrulla redes sociales, aplicaciones, sitios de Internet, y la “Dark-Web” para investigar delitos y detectar situaciones de riesgo, similar al sistema de vigilancia omnipresente que monitorea a los ciudadanos en Minority Report.

Por lo que teniendo a la vista este contexto, surge el interrogante si debemos plantearnos el mismo dilema ético que John Anderton (Tom Cruise) en la película, sobre el libre albedrío y la moralidad de arrestar a alguien por un crimen que aún no ha cometido, la eficacia del sistema de justicia predictiva y los peligros de confiar ciegamente en la tecnología para prevenir delitos. ¿Operará la UIAAS “en el marco de la Constitución Nacional y legislación vigente”?.

El avance tecnológico en el ámbito de la seguridad y la vigilancia, ofrece beneficios potenciales, pero también plantea riesgos significativos: puede invadir la privacidad, recopilando y analizando grandes volúmenes de datos personales sin consentimiento, afectar la libertad personal y la autonomía. Además, no son infalibles y pueden cometer errores, identificando incorrectamente a personas inocentes como sospechosas o fallando en predecir delitos reales. Lo que podría resultar en detenciones injustas, acusaciones falsas y un daño significativo a la reputación de individuos inocentes. A ello añadirse los sesgos algorítmicos que perpetuarían prejuicios y discriminaciones sistémicas.

El uso excesivo de tecnologías de vigilancia y prevención del delito puede conducir a la erosión de derechos civiles y libertades fundamentales, como la presunción de inocencia y el debido proceso, sacrificados en nombre de la seguridad pública, afectando la democracia y el estado de derecho. La implementación de estas tecnologías puede generar desconfianza y resistencia. Esto podría debilitar la legitimidad de las instituciones encargadas de la seguridad y dificultar la cooperación comunitaria.

Es crucial equilibrar la seguridad con la protección de los derechos humanos, la transparencia y la responsabilidad ética para evitar que una realidad inspirada en la ciencia ficción resulte en un detrimento para la sociedad. Todas las actividades deben ser transparentes y sujetas a revisión independiente.

Los datos recolectados sólo deberían ser utilizados para los fines específicos y eliminados inmediatamente. Los algoritmos sometidos a auditorías regulares para detectar y corregir cualquier sesgo que puedan resultar en discriminación. Resultará crucial proporcionar capacitación regular a todos los miembros de la UIAAS sobre derechos humanos, privacidad y la ética del uso de la inteligencia artificial.

Al integrar salvaguardias robustas, garantizar la transparencia, la supervisión independiente, y fomentar la participación ciudadana podemos desarrollar un marco legal y ético que permita a la UIAAS operar de manera efectiva y constitucional, sino queremos caer en el desenlace final de esta película de ciencia ficción con un programa desmantelado.

Meta, empresa privada, se “metió” en nuestro celular, wp, insta, Facebook… y ahora el Estado patrulla nuestras redes, aplicaciones y sitios de internet … ¿¡dónde queda nuestra libertad carajo!?

*Directora del Instituto de Derecho e Inteligencia Artificial. Vanesa Ruiz.