Alerta de la OMS: los riesgos de la inteligencia artificial en la salud y la atención médica
La Inteligencia Artificial Generativa (IA) podría revolucionar la asistencia sanitaria, por ejemplo facilitando el desarrollo de medicamentos o acelerando la detección de enfermedades, pero la OMS cree que es necesario prestar más atención a los riesgos.
En un documento publicado en enero de este año, la Organización Mundial de la Salud analizó los peligros y beneficios del uso de grandes modelos multimodales (LMM iniciales en inglés), un tipo de tecnología de IA en auge en la atención sanitaria.
Estos LMM pueden utilizar varios tipos de datos, incluidos textos, imágenes y videos, y generar resultados que no se limitan al tipo de datos ingresados en el algoritmo.
La organización define cinco áreas en las que se podría utilizar la tecnología: triaje, para responder, por ejemplo, a solicitudes escritas de los pacientes; investigación científica y desarrollo de fármacos; para fines de educación médica y de enfermería; tareas administrativas; y uso por parte de pacientes, por ejemplo, para analizar síntomas.
Sin embargo, detrás del gran potencial, la OMS advierte que los LMM pueden proporcionar resultados falsos, inexactos, sesgados o incompletos.
«A medida que los LMM se utilizan cada vez más en la atención sanitaria y en la medicina, los errores, el mal uso y, por tanto, el daño a las personas son inevitables», afirmó la OMS.
Gigantes tecnológicos
El documento también presentó nuevas directrices sobre ética y gestión de LMM, con más de 40 recomendaciones para gobiernos, empresas tecnológicas y planes de salud sobre cómo beneficiarse de esta tecnología de forma segura.
«Las tecnologías de IA generativa tienen el potencial de mejorar la atención sanitaria, pero sólo si quienes las desarrollan, regulan y utilizan estas tecnologías identifican y tienen plenamente en cuenta los riesgos asociados», dice el científico jefe de la OMS, Jeremy Farrar.
Las tecnologías de IA generativa tienen el potencial de mejorar la atención sanitaria, pero sólo si quienes las desarrollan, regulan y utilizan estas tecnologías identifican y tienen plenamente en cuenta los riesgos asociados
Jeremy Farrar, científico jefe de la OMS
La organización pide la creación de estándares de responsabilidad para «garantizar que los usuarios perjudicados por un LMM sean compensados adecuadamente o tengan otras formas de recurso».
La organización también cuestionó si los LMM cumplían con las regulaciones existentes, especialmente en materia de protección de datos.
Además, es preocupante que los grandes modelos multimodales sean desarrollados e implementados a menudo por gigantes tecnológicos, según la OMS, que recomienda la participación de profesionales sanitarios y pacientes en el proceso.
Otro punto mencionado por la OMS fue la vulnerabilidad de estos sistemas a riesgos de ciberseguridad, que podrían comprometer las informaciones del paciente e incluso seguridad sanitaria.
Finalmente, la OMS concluye que los gobiernos deberían encomendar a las autoridades reguladoras la aprobación del uso de LMM en la atención sanitaria y pide auditorías para evaluar el impacto de esta tecnología.
Encontrá más noticias sobre BIENESTAR haciendo clic acá.
Journalism Trust Initiative Nuestras directrices editoriales
Formá parte de nuestra comunidad de lectores
Más de un siglo comprometidos con nuestra comunidad. Elegí la mejor información, análisis y entretenimiento, desde la Patagonia para todo el país.
Quiero mi suscripción
Lo más leído
Lo más comentado
Comentarios