¿Qué sabemos sobre la inteligencia artificial? La palabra de Claudio Vaucheret
El ex Decano de la Facultad de Informática de la Universidad Nacional del Comahue, y actual docente de las cátedras de Lógica para Ciencias de la Computación e Inteligencia Artificial, charló con RÍO NEGRO RADIO sobre el avance de la IA.
La ley chilena apunta a la protección de los derechos de los menores de edad en relación a la Inteligencia Artificial.
El avance de la inteligencia artificial es, hace rato, el tema punta de lanza a la hora de hablar de tecnología. Ya nadie es ajeno al crecimiento de la IA, y las preguntas abarcan desde los límites éticos y morales hasta las potenciales catástrofes globales.
En ese sentido, es importante conocer la palabra de aquellos que más saben sobre el tema. ¿Es un peligro? ¿Es una ayuda? ¿Se puede implementar a nivel educativo? ¿Van a generar nuestra extinción? Hay miles de preguntas, pero todas tienen respuesta. Y, en general, menos dramáticas de lo que muchos creerían.
Claudio Vaucheret es el ex Decano de la Facultad de Informática de la Universidad Nacional del Comahue, y actualmente es docente de las cátedras de Lógica para Ciencias de la Computación e Inteligencia Artificial. Es, sin dudas, palabra autorizada si de IA se trata. Por eso, habló con RÍO NEGRO RADIO sobre el tema y dejó varios pasajes interesantes.
P – Es una pregunta muy general, ¿pero cómo ves este avance furioso de la IA, que dio un salto exponencial en los últimos meses para el público general?
R – Es verdad. Es de esperarse, porque estamos inundados en información ya digital. Los algoritmos no han evolucionado mucho, lo nuevo es que esos algoritmos tienen muchos datos para entrenarse que antes no estaban. El aprendizaje automático está basado en una simulación de las redes neuronales, que son un modelo matemático que intenta simular las neuronas del humano. Y eso necesita que se entrenen. Es un aprendizaje supervisado. Ahora ocurre que la información para entrenar es enorme, y los resultados son sorprendentes. Y esa información la proveemos nosotros, cada vez que hacemos un click o elegimos algo en la pantalla, porque eso deja rastros y es oro para los algoritmos. En un momento era algo pasivo, porque un programa podía reconocer una imagen, pero ahora puede producir cosas que no existen.
P – Una de las grandes dudas respecto al uso de la IA es su implementación en términos educativos. ¿Qué vuelta le podemos dar para que sea una herramienta útil para docentes y estudiantes, y no se convierta en un modo de «copiar trabajos»?
R – No hay que tenerle miedo a eso. Es una herramienta, sofisticada, pero herramienta al fin. Entre nuestros novelistas preferidos tenemos a Asimov que escribía novelas de robots. Y el tomó las famosas leyes de la robótica, donde decía que «un robot no debe hacer daño a un ser humano ni permitir que se haga daño por inacción». La segunda era que «debe cumplir las órdenes sin entrar en conflicto con la primera ley», y la tercera, «protegerse a sí mismo sin entrar en conflicto con las dos leyes previas». Ese concepto busca la seguridad para el usuario. Nosotros cuando realizamos las actividades, tenemos herramientas que no están pensando, pero están haciendo mucho por mí. Con la IA, yo voy a tener algo más sofisticado, con lo que puedo razonar. Yo no voy a dejar que haga la tarea por mí porque eso sería irresponsable, pero si uno lo considera de otra manera, es como tener en cada tarea un asistente muy entrenado. Toda tarea que uno pueda imaginar puede mejorarse con IA.
P – Semanas atrás se conoció una carta abierta, firmada por grandes gurús del mundo tecnológico, donde pedían parar la pelota con el avance de la IA. ¿Qué opinión tenés al respecto?
R – Que no sé cómo alguien pretende frenar esto (risas). En todo caso lo están alentando un poco. Si alguien pide fondos para un proyecto de investigación en IA, creo que le van a dar más bolilla ahora que antes. No se puede controlar, si uno trata de investigar y probar, no hay forma de reducirlo. Lo que sí es cierto, pero eso existía antes y en cualquier ámbito de la ciencia, es la cuestión moral y ética. Pero en ingeniería de software en la universidad ya hay materias de ética, respeto de los datos personales. Deben existir esas reglas, y eso alcanza a toda la ciencia. La IA es tecnología muy aplicable al armamento, por ejemplo; y en ese caso se aplican estos mismos conceptos.
P – En estos casos la ética y la moral quedan en manos de quien está programando el software. Y como hemos visto en varios casos, ese límite siempre está al borde y siempre hay alguien dispuesto a romperlo. ¿Hay algún riesgo, o es algo para estar atentos nomás?
R – Hay que estar atentos. Lo que ocurre con la IA es que existe la autonomía, y no siempre depende de su programación. Hay momentos donde se desenvuelven por sí mismas, aprendiendo y actuando. Y eso tiene que verse, porque hay chats por ejemplo entrenados en un ambiente con conversaciones de un determinado tipo y la gente comenzó a comportarse mal, con opiniones éticas y morales conflictivas. Hubo casos donde ideológicamente había IAs muy cercanas al nazismo, pero eso se debía a su entrenamiento.
P – Volviendo al tema educativo, se escucha mucho la frase de que «la IA nos va a reemplazar en todo». ¿Esa posibilidad existe, o el factor humano será siempre necesario?
R – Yo soy de los que piensan que las IA no deberían dejarse sin supervisión. Ha habido casos donde los distintos agentes de IA se retroalimentaron de la información producida y, por ejemplo, podrían haber generado caídas en la bolsa. Dejarlas actuar en línea sin supervisión no lo recomendaría. Sí creo que la IA es una gran asesora en cualquier decisión. Si sos un piloto de avión caza, es imposible ganarle a una IA compitiendo en un simulador, porque ahí la habilidad humana fue superada. Al ajedrez igual: al mejor programa de ajedrez hoy, no hay humano que le gane. Son dominios específicos y hay que aprovecharlos. Eso sí, está atrasado respecto a la inteligencia general, el sentido común. La misma tecnología que permite manejar un avión caza no se puede aplicar para contestar una carta o tomar una decisión. Son algoritmos diferentes, que no tienen relación con el otro. En resumen, la IA es una gran asesora, nada más. No creo que vayan a reemplazarnos, los empleos podrán cambiar, pero no van a reemplazar al ser humano.
Escuchá a Claudio Vaucheret por «Entre Redes», de RÍO NEGRO RADIO:
Sintonizá RÍO NEGRO RADIO. Escuchanos por FM 90.9 desde Neuquén, por FM 105.7 desde Roca, por rionegro.com.ar/radio o por nuestra App (acá para Android, acá para iOS).
Comentarios