La IA favorece la propagación de información falsa sobre el Holocausto, advirtió la Unesco
Modelos como ChatGPT pueden alimentar el antisemitismo y alterar la relación con la verdad histórica, dijo la organización.
La inteligencia artificial (IA) generativa favorece la propagación de falsas informaciones sobre el Holocausto, lo que puede alimentar el antisemitismo y alterar nuestra relación con la verdad histórica, advirtió la Unesco.
«Si permitimos que estos hechos terribles del Holocausto sean edulcorados, deformados o falsificados mediante el uso irresponsable de la IA, nos arriesgamos a una propagación fulgurante del antisemitismo y a la disminución de nuestra comprensión de las causas y consecuencias de estas atrocidades», afirmó la directora general de la Unesco, Audrey Azoulay, en un comunicado.
La organización de la ONU para la Educación, la Ciencia y la Cultura difundió esta publicación en colaboración con el Congreso Judío Mundial, con motivo del Día Internacional para Contrarrestar el Discurso de Odio.
La IA puede inventar hechos históricos
Los modelos de IA generativa, como ChatGPT, que crean textos, fotografías, sonidos y videos, a partir de búsquedas de lenguaje, pueden inventar hechos de la Segunda Guerra Mundial que nunca ocurrieron, adviertió la Unesco.
En febrero, la aplicación de inteligencia generativa de Google, Gemini, causó revuelo creando imágenes de nazis con piel negra.
ChatGPT, que hizo descubrir la IA generativa al público en general cuando fue lanzada por OpenAI en 2022, inventó el concepto de «Holocausto por ahogamiento», según el cual los nazis habrían ahogado masivamente a personas judías en lagos y ríos durante la Segunda Guerra Mundial. Puras invenciones sin fundamento histórico, criticó la Unesco.
La IA favorece el pensamiento conspiracionista, insiste Karel Fracapane, especialista de educación sobre el Holocausto en la Unesco.
«Es un buen ejemplo de la forma en la que la IA, cuando se aplica en temas especialmente difíciles y controvertidos, puede llevar a una fuerte erosión de la cultura democrática», dijo a AFP.
Las empresas tecnológicas tienen que demostrar «más rigor, transparencia y responsabilidad«, añadió.
AFP
Comentarios