Un estudio de Nature reveló que los modelos de IA responden de manera distinta según el idioma y el origen de los datos. Argentina, como consumidora de tecnología, enfrenta el desafío de identificar las influencias culturales en los sistemas de inteligencia artificial.
Desde la aparición de ChatGPT, investigadores de Beijing sometieron al modelo a pruebas con preguntas sobre China. En una de ellas, el sistema describió a Yao Ming, el astro chino de la NBA, como la primera mujer china en jugar al básquet profesional en Estados Unidos. Este error, aunque grosero, resultó fácil de detectar. El problema de fondo, según expertos, no es que la máquina se equivoque o tenga sesgo, sino cuando el sesgo se disfraza de respuesta plausible y se acepta sin registrar su origen.
Los modelos de inteligencia artificial se entrenan con enormes cantidades de textos, imágenes y videos que no son culturalmente neutros. Durante años, ese material fue desproporcionadamente occidental y en inglés. China identificó esta dinámica y busca convertirse en proveedor global de datos para IA. Ya liberó grandes colecciones de datos, algunas diseñadas para reflejar sus “valores dominantes”. Quien alimenta a los modelos influye sobre aquello que estos considerarán normal, relevante o verdadero, y esos parámetros no se quedan en la máquina: afectan la visión del mundo de quienes la consultan.
Un estudio publicado en mayo en la revista Nature encontró que, ante preguntas políticas sobre China, modelos comerciales como los de OpenAI y Anthropic respondían de manera más favorable a Beijing cuando se les preguntaba en chino. Cuando los investigadores entrenaron adicionalmente un modelo abierto con solo 6.400 documentos de medios estatales chinos, este pasó a dar respuestas más favorables al gobierno chino que su versión original en casi el 80% de los casos. Uno de los autores del estudio resumió que una vez que ese material entra en los datos de entrenamiento, el modelo lo “lava” hasta darle apariencia de información neutral.
La exposición a miradas ajenas no es nueva. Argentina creció con el cine estadounidense, dibujos doblados en un español “neutro” que nadie habla y tendencias globales. Las culturas se apropian de lo que reciben, pero para hacerlo necesitan reconocerlo como algo recibido. Una película tiene un origen, un libro tiene autor, un buscador muestra sus enlaces. Un chatbot, en cambio, responde con una voz uniforme, convencida y sin acento, y no deja ver de dónde saca lo que dice. Cuando el mensajero desaparece, se debilita parte del filtro crítico con el que se evalúa la información. Hollywood llegaba como Hollywood; ChatGPT llega como respuesta.
Una sociedad que recibe sus categorías sin verlas llegar delega algo más que información: corre el peligro de delegar también parte de cómo se piensa a sí misma. Por eso, los datos que entrenan a la inteligencia artificial son también un problema cultural. El desafío es conservar la capacidad de ver esas influencias, no aislarse de ellas. Las respuestas de una IA pueden no tener acento, pero no por eso dejan de venir de algún lado.