La IA tomó el volante y ahora, ¿quién será el responsable?

*Kiara Belich, miembro del Instituto de Derecho e I.A. del CAyPN dirigido por la Dra. Vanesa Ruiz.

Imagina que es de noche en la ruta, donde la visibilidad es limitada. De repente, un caballo cruza. Aunque no lo hayas visto a tiempo, el sistema de sensores detecta el animal y frena, evitando así un accidente.

Exclusivo Suscriptores

Cuba: apagones desnudan la crisis

Este es el concepto detrás de los autos autónomos: vehículos que ven e interpretan su entorno, tomando decisiones más rápido que una persona en situaciones imprevistas.

La rapidez de sus reflejos y la capacidad de procesamiento es la principal ventaja de los autos inteligentes. Estas características impactan directamente en la seguridad vial y, en el futuro, se espera que reduzcan drásticamente los accidentes causados por errores humanos. Además, su eficiencia disminuirá el embotellamiento, mejorando la circulación y los tiempos de viaje. Asimismo, se anticipa que el uso de vehículos eléctricos contribuirá significativamente a la reducción de la huella de carbono.

Ética y conducción autónoma

El transporte autónomo enfrenta muchos obstáculos antes de ser el medio de la próxima generación. Los VA toman decisiones constantemente como girar a la izquierda o a la derecha, no obstante, pueden enfrentarse a situaciones más complejas. ¿Qué hará el auto en una situación de peligro inminente, cuando deba elegir entre proteger a sus ocupantes o a un peatón?

Un claro ejemplo de este dilema ocurrió recientemente en Rumania, cuando un Tesla, en modo piloto automático, tuvo que reaccionar en milésimas de segundo para evitar un accidente. El VA debía elegir entre atropellar a un peatón o impactar contra otro auto. Afortunadamente, optó por chocar con el otro vehículo y no hubo más daños que lamentar que el provocado a los vehículos.

Investigaciones en neurociencia y economía del comportamiento han demostrado que nuestras decisiones son el resultado de la actividad de millones de neuronas que evalúan opciones en un instante.

Lo que llamamos intuición es en realidad un reconocimiento de patrones. La IA supera a los humanos en este aspecto, ya que tiene más herramientas para analizar estos patrones.

Esto plantea un dilema ético para la IA, resaltando la necesidad de que los algoritmos de conducción autónoma prioricen la seguridad y los valores humanos.

¿Quién es responsable?

Las principales preguntas que surgen son: si mi auto autónomo choca ¿soy yo el responsable por ser el propietario? ¿o es el fabricante quien debe asumir la responsabilidad? Si el accidente es causado por una falla del sistema, ¿debería el desarrollador del software ser el responsable? Respecto a la responsabilidad civil, es decir ante un reclamo de daños y perjuicios, una reparación económica , podremos condenar al dueño o guardián por ser su propietario, o al considerarlo una actividad riesgosa, no necesitamos siquiera una persona humana para culpar, media la responsabilidad objetiva y puede ser condenada civilmente hasta una persona jurídica a indemnizar.

Ahora bien, situémonos en el peor de los escenarios, si el auto atropella y mata a alguien, ¿quién responderá penalmente?

El primer accidente fatal con un VA ocurrió en 2018 en Tempe, Arizona, cuando un auto de Uber atropelló y mató a una mujer. Aunque era un auto automatizado, no autónomo, había una conductora de seguridad que se declaró culpable, ya que el accidente pudo haberse evitado si hubiera estado atenta.

Este caso provocó cambios en los procedimientos de prueba de VA y puso en alerta a los reguladores, exigiendo estándares de seguridad más estrictos. Se cuestionó la seguridad de los VA y generó un debate sobre la responsabilidad de las empresas que desarrollan esta tecnología.

Recordemos que las normas penales, tienen entre sus objetivos sancionar una conducta delictiva, tales como lesiones o el homicidio, y quien sea condenado cumpla una pena prevista previa y legalmente, como ser la privación de su libertad, “ir a la cárcel”.

Actualmente se basan en la premisa de que sólo los humanos pueden ser considerados responsables de sus acciones, dado que se asume que son los únicos capaces de razonar y entender las consecuencias de sus decisiones. Entonces ¿sucede con este “conductor invisible” en el que no hay persona humana para colocarle los grilletes?

Por ello, es esencial contar con un marco legal que aborde estas cuestiones. La IA y los VA presentan nuevos paradigmas que desafía las nociones tradicionales. Hoy, en Argentina, no hay una prohibición específica sobre la circulación de VA, aunque la normativa vigente exige que quien conduzca un vehículo sea mayor de edad y cuente con licencia y seguro vigentes.

La tecnología sigue avanzando y trae consigo muchas preguntas que el derecho aún debe resolver. En este camino hacia el futuro, la clave será encontrar un equilibrio entre la innovación y la responsabilidad, asegurando que la conducción autónoma no sólo sea efectiva, sino también segura y ética.

Sin embargo, ante este vertiginoso progreso, ¿estamos preparados para asumir las implicaciones morales y legales que traerá la autonomía total en nuestras rutas sin nuestra intervención humana activa en la conducción?