¿Deberíamos tomarnos una pausa y detener las grandes iniciativas de Inteligencia Artificial?

Hace unos días se dio a conocer una Carta Abierta, firmada por importantes figuras de la industria tecnológica de todo el mundo, que pide por una “pausa” a los experimentos que se están realizando con Inteligencia Artificial.

La carta advierte sobre los riesgos que presentan los sistemas de Inteligencia Artificial para nuestras sociedades y la humanidad en su conjunto. También es un pedido de “pausa” en las experimentaciones que se están realizando en varios laboratorios. Su idea es que se realice una adecuada planificación y gestión del cambio que estamos atravesando y que afecta a toda la humanidad.

Lee También

Un arma peligrosa para la desinformación: la inteligencia artificial

Ante el escenario incierto que enfrenta la industria IT en materia de inteligencia artificial, hablamos con Rodrigo Falcó , CTO de Patagonian, para que nos brinde su opinión sobre el tema y conocer cuál piensa que sería la solución más adecuada.

-¿Deberíamos tomarnos un momento para reflexionar y hacer una pausa?

-Creo que la respuesta es afirmativa. Las posibles repercusiones del rápido ritmo de la IA y las transformaciones a las que nos enfrentamos son difíciles de predecir.

No implementar medidas de protección y permitir que la sociedad se adapte podría ser, no solo perturbador, sino también peligroso. Una mayoría significativa, quizás el 95% o más, desconoce la revolución en curso, y aún menos están listos para enfrentarla.

Las modificaciones necesarias en los gobiernos del mundo, exigen tiempo para la deliberación, el consenso y la ejecución. Es poco probable que ese proceso sea rápido.

-¿Es aceptable hacer una pausa?

-El concepto de pausa parece ser un enfoque constructivo, aunque su viabilidad sigue siendo incierta. Determinar cómo llegar a un consenso sobre la limitación de las tasas de crecimiento y establecer un ritmo adecuado presenta desafíos.

Además, es difícil restringir la competencia entre las empresas que buscan dominar el mercado. Tal noción contradice los principios del capitalismo y, hasta cierto punto, entra en conflicto con la democracia, la competencia y el progreso.

Se está llevando a cabo una competencia mundial para desarrollar los sistemas de IA más rápidos, más grandes y más competentes.

-¿Cuánto debería durar esa pausa?

-Surgen muchas inquietudes y preguntas a partir de esta idea. Determinar la duración de la pausa: quién sería responsable de supervisarla y cómo evaluar los sistemas que aún no se comprenden por completo; son cuestiones desafiantes.

En última instancia, nos encontramos en una coyuntura única en la historia y no reflexionar sobre la mejor manera de dirigirla, podría tener graves consecuencias en el futuro. Lo que pretende mejorar nuestras vidas podría tener efectos perjudiciales duraderos en la humanidad.

Rodrigo Falcó – CTO Patagonian

Publicado en Patagonian/Blog