Por qué Meta identificará audios, imágenes y videos generados por IA

Meta identificará a partir de mayo en sus redes sociales audios, imágenes y videos generados por inteligencia artificial (IA), informó el gigante tecnológico estadounidense, casa matriz de Facebook, Instagram y Threads.

«Prevemos empezar a etiquetar en mayo de 2024 contenido generado por IA«, indicó en su blog Monika Bickert, vicepresidenta de contenido de Meta, añadiendo que la mención «Made with AI» , que ya se usa en imágenes fotorrealistas, se aplicaría en adelante a «un mayor número de contenidos de video, audio y de imágenes».

Estos contenidos serán marcados por la plataforma si detecta «indicadores de imagen de IA conformes a las normas de la industria» o si «las personas indican que están subiendo contenidos generados por IA», destacó.

De forma general, el grupo californiano anuncia que modificará su forma de tratar los contenidos creados con la IA, después de consultar a su junta de supervisión, ya que considera que «la transparencia y un mayor contexto son ahora la mejor manera de tratar los contenidos manipulados».

Con ello se evita «el riesgo de restringir innecesariamente la libertad de expresión».

En lugar de eliminarlos, como había estado haciendo hasta ahora, ahora agregará «etiquetas y contexto» a estos contenidos.

Sin embargo, advirtió Meta, cualquier contenido, ya sea creado por un humano o una IA, que viole sus reglas «contra la interferencia en procesos electorales, la intimidación, el acoso, la violencia (…) o cualquier otra política en nuestras normas comunitarias» será retirado.

Meta reafirmó que confía en su red de «aproximadamente 100 verificadores de datos independientes» para detectar contenidos generados por IA «falsos o engañosos».

La IA, la desinformación y las elecciones

La empresa matriz de Facebook anunció en febrero su deseo de etiquetar todas las imágenes generadas por IA para luchar contra la desinformación.

Otros gigantes como Microsoft, Google u OpenAI han asumido compromisos similares.

El temor es que las personas utilicen estas herramientas para sembrar el caos político, especialmente a través de la desinformación o la información errónea.

Hay varias elecciones importantes este año, especialmente en Estados Unidos.

Más allá de esas citas electorales, el desarrollo de programas de IA generativa conlleva la producción de un flujo de contenido degradante, según muchos expertos y reguladores, como las falsas imágenes («deepfakes») pornográficas de mujeres famosas, un fenómeno que también afecta a personas anónimas.

AFP