Un estudio suizo revela que el lenguaje distorsiona la información de ChatGPT sobre conflictos armados

Investigadores de las universidades de Zúrich y Constanza estudiaron el uso de ChatGPT en relación con Oriente Próximo y los conflictos turco-kurdos. Keystone-SDA

Una nueva investigación muestra que cuando se pregunta en árabe por el número de víctimas mortales civiles en el conflicto de Oriente Próximo, ChatGPT da cifras significativamente más altas que cuando la pregunta está escrita en hebreo. Según los investigadores, estas discrepancias sistemáticas podrían fomentar los prejuicios en los conflictos armados.

Cada día, millones de personas utilizan y buscan información en ChatGPT y otros grandes modelos lingüísticos (LLM). Pero, ¿cómo influye en las respuestas de estos modelos el idioma en que se formulan? ¿Importa que la misma pregunta se formule en inglés o alemán, árabe o hebreo?

Investigadores de las universidades de Zúrich y Constanza estudiaron esta cuestión centrándose en Oriente Próximo y los conflictos entre turcos y kurdos. Mediante un proceso automatizado, plantearon repetidamente a ChatGPT las mismas preguntas sobre conflictos armados como el de Oriente Próximo en diferentes idiomas. Comprobaron que, de media, ChatGPT da cifras de víctimas un tercio más altas para el conflicto de Oriente Próximo en árabe que en hebreo. Esta inteligencia artificial menciona dos veces más las víctimas civiles y seis veces más los niños muertos por los ataques aéreos israelíes en Gaza.

+ ChatGPT: ¿Inteligencia, estupidez o malicia artificiales?

Como ejemplo, el equipo de investigación preguntó repetidamente a ChatGPT en hebreo y árabe por el número de personas muertas en 50 ataques aéreos elegidos al azar, incluido el ataque israelí contra el campo de refugiados de Nuseirat, en la Franja de Gaza, el 21 de agosto de 2014.

El equipo repitió el mismo patrón para preguntar sobre los ataques aéreos del gobierno turco contra zonas kurdas. Hicieron las preguntas tanto en turco como en kurdo, según informó el lunes la Universidad de Zúrich.

En general, ChatGPT muestra un mayor número de víctimas cuando las consultas de búsqueda se realizan en la lengua del bando atacado. ChatGPT también tiende a informar de más niños y mujeres muertos en la lengua del bando atacado y a describir los ataques aéreos como indiscriminados y aleatorios.

«Nuestros resultados también muestran que ChatGPT es más propenso a negar la existencia de tales ataques aéreos en la lengua del atacante», afirma Christoph Steinert, investigador postdoctoral del Departamento de Ciencias Políticas de la Universidad de Zúrich.

Los prejuicios lingüísticos distorsionan la percepción

Las personas con distintos conocimientos lingüísticos reciben información diferente a través de estas tecnologías, lo que influye decisivamente en su percepción del mundo. Según los investigadores e investigadoras, eso podría llevar a que los habitantes de Israel valoraran los ataques aéreos en Gaza como menos dañinos que la población de habla árabe, basándose en la información que reciben de ChatGPT.

Aunque los medios de comunicación tradicionales también pueden distorsionar la información, las distorsiones sistemáticas relacionadas con el lenguaje de grandes modelos lingüísticos como ChatGPT son difíciles de ver para la mayoría de los usuarios.

«Existe el riesgo de que la creciente implantación de grandes modelos lingüísticos en los motores de búsqueda refuerce las diferentes percepciones, los prejuicios y las burbujas de información a lo largo de las divisiones lingüísticas», afirma Steinert, que cree que en el futuro podrían alimentar conflictos armados como los de Oriente Próximo.

Texto adaptado del inglés por Carla Wolff