Cámaras con IA en Neuquén: ¿seguridad o vigilancia?
El reconocimiento facial por cámaras es una tecnología que tiene el potencial de mejorar la seguridad y la eficiencia en diversos ámbitos, pero también con grandes desafíos en derechos humanos.
Las cámaras servirán para multar los cruces en rojo, doble filas, uso del celular mientras conduce, entre otros (foto Matías Subat)
En nuestra provincia de Neuquén se publicitó, por diversos medios masivos de comunicación, la autorización para instalar un sistema de videoseguridad con un total de 2.516 videocámaras nuevas. Supuestamente esto redundará en una mejora sustancial, dado que en la actualidad funcionan 520 videocámaras a nivel territorial. Se introduce como novedad que este programa usa inteligencia artificial a través de un software analítico.
Además, se anunció un proyecto de ley para actualizar y regular el sistema de cámaras de vigilancia en Neuquén. Todo lo cual, entendemos, se realiza en el marco de una mejora continua y modernización tecnológica.
Ahora bien, se auspició que la noticia solo podría generar tranquilidad a los ciudadanos, pero nos preguntamos ¿se ha abierto a debate esta propuesta y/o su regulación, se tiene en cuenta que la tecnología a aplicar cuenta con inteligencia artificial y lo que ello realmente significa e implica?
Creemos, desde el Instituto, que resulta conveniente generar una serie de interrogantes y establecer propuestas de respuestas, para que en ese potencial marco regulatorio se tengan en cuenta todas las alternativas y perspectivas posibles, ya que se encuentran en juego derechos constitucionales de cada uno, que deben ser resguardados y conocidos por todos nosotros .
Mínimamente, colocar en conocimiento, por ejemplo, que la Unión Europea propone generar un marco jurídico sobre la I.A., que aborde los riesgos que ésta puede proporcionar a los desarrolladores, implementadores y usuarios de IA, con requisitos y obligaciones claros en relación con los usos específicos. En particular, respecto a la utilización de I.A. para el reconocimiento biométrico, como lo harán estas Cámaras, dispone que resulta ser un sistema de IA identificado como de alto riesgo. Por lo tanto, lo somete a requisitos estrictos.
Resulta que , en ese marco , este sistema de inteligencia artificial se considera peligroso y las reglas estrictas para su funcionamiento incluirían, tener formas adecuadas de evaluar y reducir los riesgos; usar datos de alta calidad para entrenar el sistema para evitar resultados injustos; mantener un registro de lo que hace el sistema para que se pueda rastrear lo que ha hecho; proporcionar mucha información sobre el sistema y para qué se utiliza; dar información clara al usuario; tener medidas de control humano para evitar problemas y asegurarse de que el sistema sea fuerte, seguro y preciso.
En resumen, se están estableciendo reglas estrictas para asegurarse que los sistemas de inteligencia artificial peligrosos sean seguros y justos. A ello se añade, que el uso de la identificación biométrica remota en espacios de acceso público con fines policiales estaría, en principio, prohibido.
Por lo tanto si cruzando un Océano, vemos que el debate se ha instaurado y han avanzado en sus consideraciones expertos en la materia y de orígenes multidisciplinares, con precaución y aun sin definirlo, como podemos en nuestra Patagonia instalarlas y usarlas, sin siquiera generarlo o conocer sus implicancias, hacernos una serie de preguntas, como ciudadanos “seguros o vigilados”, necesarias para la protección de nuestros derechos y darnos una oportunidad de respuesta.
Planteamos la necesidad de un debate sobre los beneficios y riesgos del reconocimiento facial por cámaras, una tecnología que tiene el potencial de mejorar la seguridad y la eficiencia en diversos ámbitos, pero también con grandes desafíos frente a los derechos humanos.
¿Hasta cuánto estamos dispuestos a ceder de nuestra privacidad, por la seguridad? ¿Hemos prestado consentimiento a dichos fines, es necesario prestarlo? ¿Quién controla esa información? ¿Estamos preparados para esta tecnología? ¿Se han tomado medidas de seguridad para evitar hackeos o su mal uso, o evitar discriminaciones o estigmatizaciones?
Existen palabras claves tales como transparencia e información, para los ciudadanos respecto al uso de cámaras de reconocimiento facial o biométrico y sus derechos en relación con esta tecnología aplicada con I A. Como así también responsabilidad frente a la potencialidad dañosa. ¿Qué opinas?
* Miembro del Instituto de derecho e inteligencia artificial del Colegio de Abogados y Procuradores de Neuquén , dirigido por la Dra. Vanesa Ruiz.
Comentarios