(París) La inteligencia artificial (IA) generativa promueve la difusión de información falsa sobre el Holocausto, lo que corre el riesgo de alimentar el antisemitismo y alterar nuestra relación con la verdad histórica, según un informe de la UNESCO publicado el martes.
“Si permitimos que estos terribles hechos del Holocausto sean diluidos, distorsionados o falsificados mediante el uso irresponsable de la IA, corremos el riesgo de una propagación meteórica del antisemitismo y una disminución de nuestra comprensión de las causas y consecuencias de estas atrocidades”. dijo la directora general de la UNESCO, Audrey Azoulay, en un comunicado.
La agencia de la ONU dio a conocer esta publicación en colaboración con el Congreso Judío Mundial con motivo del Día Internacional contra el discurso de odio.
Los modelos de IA generativa, como ChatGPT, que generan texto, fotos, sonidos y vídeos a partir de consultas en el lenguaje cotidiano, pueden inventar acontecimientos de la Segunda Guerra Mundial que nunca tuvieron lugar, denuncia la Unesco.
En febrero, la interfaz de inteligencia generativa de Google, Gemini, provocó indignación al producir imágenes de nazis de piel negra.
ChatGPT, que introdujo la IA generativa al público en general cuando fue lanzada por OpenAI en 2022, por su parte inventó el concepto de “Holocausto por ahogamiento”, según el cual los nazis ahogaron a judíos en masa en lagos y ríos durante la Guerra Mundial. II. Puras invenciones, sin base histórica, recuerda la Unesco.
Los modelos de IA también tienden a simplificar demasiado la historia del exterminio del pueblo judío por los nazis e incluso pueden ser objeto de piratería informática para obligarlos a transmitir la ideología nazi, señala el informe.
La inteligencia artificial promueve así el pensamiento conspirativo, según Karel Fracapane, especialista en educación sobre el Holocausto de la UNESCO.
«Este es un buen ejemplo de cómo la IA, aplicada a temas especialmente difíciles y controvertidos, puede provocar una fuerte erosión de la cultura democrática», explicó a la AFP.
Las empresas tecnológicas deben demostrar “más rigor, transparencia y responsabilidad”, añadió.
“Lo que hay en este informe se relaciona con lo que está sucediendo en la sociedad. Y esto tiene consecuencias políticas muy reales”, advirtió, en referencia al ascenso de la extrema derecha en Europa.
La UNESCO, que señala, sin embargo, que la inteligencia artificial también permite crear herramientas educativas más interactivas para los jóvenes, pide a las empresas del sector que apliquen recomendaciones éticas para la IA.
