Para Microsoft, la inteligencia artificial debe aprender a «pedir ayuda»
En medio de los revolucionarios avances en esta tecnología, un alto ejecutivo de la tecnológica advirtió por las alucinaciones que puede tener la herramienta.
Para Microsoft, la IA debe aprender a pedir ayuda.
Las herramientas de inteligencia artificial (IA) generativa ahorrarán a las empresas mucho tiempo y dinero, cree Vik Singh, uno de los vicepresidentes de Microsoft, si bien estas incipientes aplicaciones todavía tienen mucho que aprender, como por ejemplo a admitir sus propias deficiencias.
«Lo que realmente falta en estos modelos hoy en día, para ser honesto, es que no levantan la mano y dicen: ‘Oye, no estoy seguro, necesito ayuda'», explicó el alto ejecutivo en una entrevista.
Desde el año pasado, las gigantes tecnológicas Microsoft, Google y sus competidores han desplegado rápidamente aplicaciones de IA generativa como el robot conversacional ChatGPT, de la firma OpenAI, que producen todo tipo de contenido bajo demanda y dan a los usuarios la ilusión de ser omniscientes.
Pero, a pesar de los avances, a veces siguen «alucinando», es decir, inventando respuestas.
La IA debe «pedir ayuda», dice Microsoft
Este es un problema importante que hay resolver, según Singh, responsable en Microsoft de los asistentes de IA denominados Copilot. Y esto debido a que los principales clientes de esa herramienta del gigante informático estadounidense, es decir las empresas, no pueden permitirse el lujo de que se creen historias que no son reales, ni siquiera de vez en cuando.
«Gente muy inteligente está trabajando en este problema (…) para que los modelos identifiquen cuándo no saben y pidan ayuda», prometió. En su opinión, un modelo más humilde no sería menos útil.
Puso de ejemplo a un asistente de IA especializado en servicio al cliente. «Hablé con una empresa que gastaba 8 dólares por consulta, cada vez que uno de sus representantes respondía», dijo. Aunque en la mitad de los casos la máquina tuviera que recurrir a humanos para encontrar la solución, la empresa «aun así lograría enormes ahorros».
Con información de AFP
Comentarios