Ni Biden ni Trump: Midjourney prohíbe la generación de imágenes con los rostros de los dos candidatos
Mientras se acerca la fecha de las elecciones presidenciales en los Estados Unidos, las alertas sobre los riesgos de la inteligencia artificial en el periodo democrático aumentan.
La inteligencia artificial se presenta como un claro riesgo en épocas electorales Su capacidad para generar fotos, videos y audios tan parecidos a la realidad hacen que la imagen de los candidatos y su credibilidad se pongan en juego. Esta preocupación está latente desde el comienzo de año, en especial en Estados Unidos, donde Joe Biden y Donald Trump se enfrentarán en las urnas el próximo noviembre.
Para hacer frente a una posible “crisis de la verdad” potenciada por la nueva tecnología, las empresas están empezando a tomar medidas tangibles. Según pruebas realizadas por The Associated Press, la herramienta Mid Journey ahora impide a sus usuarios que generen imágenes falsas de los dos candidatos norteamericanos.
En detalle, se trata de una medida temporal para dificultar que las personas abusen de la herramienta y para darle seriedad a los temas relacionados con las elecciones. Cuando se intenta de crear un retrato o video falso de alguno de los dos candidatos salta una alerta que dice “instrucción prohibida detectada” y, en un segundo intento se señala al usuario: “Ha activado una alerta de abuso”.
“Mid Journey parecía tener la menor cantidad de controles de cualquier generador de imágenes de IA cuando se trataba de figuras políticas conocidas como Joe Biden y Donald Trump”, dijo de acuerdo con Euronews Callum Hood, jefe de investigación del Centro para Contrarrestar el Odio Digital, en una entrevista el miércoles. “Mid Journey era casi único tanto por estar dispuesto a generar esas imágenes como por generar imágenes bastante convincentes de los candidatos”.
Según un reporte publicado hace unas semanas, el centro había probado a cuatro generadores de imágenes y le había insertado instrucciones para generar imágenes falsas de los actuales candidatos. En el 41 % de los casos, las plataformas contribuyeron activamente a la desinformación. Entre ellas, Midjoruney generó en el 65 % de los casos imágenes falsas.
Además, según el informe, la base de datos pública de imágenes de IA de Mid Journey mostraba que se estaba utilizando la herramienta para producir imágenes que podrían apoyar la desinformación sobre candidatos o denuncias de fraude electoral. Las instrucciones más frecuentes y populares eran crear una imagen de Biden dándole un millón de dólares a al primer ministro de Israel Benjamin Netanyahu o de Trump arrestado.
De hecho, según informa Quartz, hace una semana unas imágenes de Trump con un grupo de afroamericanos circulaban en las redes. Si bien no fueron asociadas con la campaña del candidato, llegan en un momento donde el expresidente quiere ganarse los votos de esta comunidad. «Esta es una llamada de atención para las empresas de IA, las plataformas de medios sociales y los legisladores: actúen ahora o pongan en riesgo la democracia estadounidense», dijo Imran Ahmed, director general y fundador del centro.
No es el primer caso de desinformación mediante inteligencia artificial de los últimos meses vinculado con las elecciones. A principios de año, entre 5.000 y 25.000 votantes residente de New Hampshire recibieron unas llamadas automáticas con la voz de Biden generada por IA: buscaban desmotivar la práctica democrática en las elecciones primarias.
En consecuencia, el pasado jueves 8 de febrero, el Gobierno de Estados Unidos prohibió y declaró ilegal las llamadas robóticas que utilizan voces generadas por inteligencia artificial. Un mensaje directo para contrarrestar el uso nocivo de la nueva tecnología en un contexto electoral crítico.
Comentarios