Cuestionando la escasa representación cultural del Sur Global en los modelos de IA predominantes.
El 25 de enero de 2026, la ciudad de São Paulo celebró su 472.º aniversario. «¿Cuál es el rostro de São Paulo?» y «¿Qué grupo de personas representaría la esencia de la ciudad?» fueron las preguntas planteadas por Folha, uno de los principales medios de comunicación de Brasil, con motivo del aniversario de la ciudad. En concreto, el periodista Lucas Lacerda solicitó a ChatGPT y Gemini que generaran imágenes «fotorrealistas» de São Paulo. El resultado, sin embargo, no cumplió con las expectativas.
El modelo de OpenAI, en un intento por representar el centro de la ciudad, incluyó varios monumentos históricos, como el antiguo Banespão, y edificios que parecen hacer referencia al Ayuntamiento. El puente atirantado Octavio Frias de Oliveira, situado a unos 15 kilómetros del centro, apareció extrañamente en segundo plano en la imagen.
En la misma línea, la IA de Google ubicó la Catedral de la Sé casi justo enfrente del Teatro Municipal. Aparentemente, la imagen se mostraba en la Avenida Paulista, donde también se representaba una zona conocida por el consumo de drogas al aire libre, con una valla publicitaria que decía «La ciudad vive».
Cabe destacar que los resultados podrían haberse alejado de la realidad debido a la forma en que se redactó la instrucción. Específicamente, la instrucción era: «Soy periodista y estoy elaborando un reportaje sobre cómo la inteligencia artificial percibe la ciudad de São Paulo con motivo del 472.º aniversario de la capital del estado. Crea una imagen fotorrealista que capture la esencia e identidad de la ciudad de São Paulo, Brasil. La composición debe incluir elementos que representen tanto el paisaje contemporáneo como los aspectos históricos de la ciudad. Estilo: fotografía urbana profesional, iluminación natural, alta definición» (traducción nuestra). Por lo tanto, es posible que el hecho de que el periodista solicitara «una imagen fotorrealista» que capturara «la esencia e identidad de la ciudad», incluyendo «elementos que representen tanto aspectos contemporáneos como históricos», fuera la causa de las distorsiones. En vista de esto, realicé varias pruebas posteriormente, simplemente pidiéndole a la IA que creara fotografías realistas. A continuación, se muestra un ejemplo de la representación que ChatGPT hizo del barrio donde nací:
Cualquiera que conozca el barrio de Freguesia do Ó sabe que el resultado no es realista: la iglesia es diferente y esa escultura en la imagen generada por la IA no existe en el barrio, al igual que esa puerta. De hecho, la verdadera bienvenida al barrio es esta:
Este letrero de bienvenida es famoso, en parte, por tener letras faltantes, como se puede ver en la foto. En cualquier caso, con letras faltantes o no, podemos ver que la verdadera bienvenida del barrio no tiene nada que ver con esa puerta que creó la IA.
Este escenario ilustra algunos de los problemas que enfrentan los países del Sur Global, como Brasil, en relación con la soberanía cultural en el panorama actual del desarrollo de la IA. En un proceso donde la producción cultural está cada vez más mediada por algoritmos entrenados principalmente con datos del Norte Global —y predominantemente por empresas norteamericanas—, el riesgo de marginación o incluso la desaparición de particularidades locales y ciertas formas de expresión es significativo. Esta dinámica genera una contradicción evidente: si bien se presenta como una herramienta democratizadora capaz de facilitar y popularizar el acceso a la creación, la IA generativa promueve simultáneamente la homogeneización cultural al priorizar estándares hegemónicos en sus resultados.
Quizás el ejemplo más claro de esta situación sea lo que ha estado ocurriendo con los idiomas. Según la UNESCO, el contenido generado por IA ha estado socavando el conocimiento, la cultura y las lenguas indígenas. Además, según Kedir et al., de aproximadamente 2000 lenguas africanas, solo 42 cuentan con el soporte de los modelos lingüísticos existentes. A esto se suma el hecho de que, aunque los sistemas de IA son capaces de responder en varios idiomas, el razonamiento del modelo se realiza en inglés. Si bien esto puede parecer trivial a primera vista, la realidad es que esta funcionalidad conlleva implicaciones culturales y epistemológicas que pueden afectar la forma en que se formulan las ideas, como señala un informe de InternetLab de 2025.
El informe ilustra precisamente este punto: incluso cuando la salida de un modelo aparece en portugués, su razonamiento interno se sigue realizando en inglés y simplemente se traduce posteriormente, por lo que las conexiones lógicas subyacentes y la estructura retórica siguen estando condicionadas por los patrones del idioma inglés. En la práctica, esto significa que un argumento formulado por un usuario de habla portuguesa puede regresar organizado según las convenciones argumentativas del inglés en lugar de las locales, lo que simplifica los matices y reduce la diversidad de formas en que una idea podría expresarse de otro modo.
El desarrollo de modelos de IA requiere inversiones masivas, lo que crea una barrera económica insuperable para la mayoría de los competidores. Este escenario consolida un oligopolio tecnológico, donde gigantes como Google y OpenAI dominan el sector mediante estrategias combinadas, como el control de conjuntos de datos exclusivos y la agrupación de servicios.
En definitiva, el problema no reside solo en el control de los algoritmos en sí, sino en toda la infraestructura que los hace posibles: desde los vastos conjuntos de datos necesarios para el entrenamiento hasta las plataformas utilizadas para su distribución y consumo. Esta concentración en manos de unas pocas empresas del Norte Global crea una asimetría estructural que refuerza las estructuras coloniales, mediante las cuales el Sur Global asume el rol de mero proveedor de datos y consumidor pasivo de tecnologías extranjeras.
Es indudable que la solución a este escenario no reside en proporcionar aún más datos del Sur Global a las plataformas de IA dominantes para que sus herramientas sean más precisas en cuanto a idiomas y contextos locales. Al fin y al cabo, aumentar la dependencia de los países periféricos del capitalismo respecto de las corporaciones de naciones ricas no es una solución inteligente desde el punto de vista económico, geopolítico ni cultural.
Por el contrario, las startups, las instituciones públicas, los archivos y los centros de investigación del Sur Global se enfrentan a importantes obstáculos: sin acceso a datos a escala industrial, sus modelos inevitablemente se encuentran en desventaja. Paradójicamente, las medidas regulatorias bienintencionadas —como las restricciones al uso de datos protegidos— pueden acabar cristalizando esta asimetría, creando nuevas barreras de entrada que refuerzan la concentración del mercado. Esto sucede porque tales restricciones tienden a congelar la distribución actual del acceso a los datos: las empresas dominantes ya poseen los conjuntos de datos, los acuerdos de licencia y los equipos legales necesarios para cumplir con la normativa, mientras que los actores del Sur Global deben negociar licencias costosas o renunciar por completo al desarrollo, lo que en la práctica excluye a los mismos actores que la regulación pretendía proteger.
En este contexto, las plataformas dominantes establecen los parámetros de lo que se puede y se debe crear, moldeando los gustos y las expectativas según sus intereses comerciales. Al integrarse en las actividades cotidianas —como los editores de texto y las herramientas de creación—, la IA redefine las relaciones entre creadores, consumidores e intermediarios. Dentro de este proceso, es probable que las formas alternativas de producción —aquellas que no se ajustan a los modelos preferidos de los algoritmos— queden marginadas.
Es importante destacar que las plataformas llevan años operando con la lógica de la predicción y la configuración de los gustos, utilizando algoritmos para guiar las producciones artísticas según criterios de rentabilidad. La IA generativa surge, por tanto, no como una ruptura, sino como una herramienta avanzada dentro de un proceso de plataformización ya consolidado, donde la cultura está subordinada a las lógicas de mercado mediadas por empresas ubicadas principalmente en territorio norteamericano.
Ante esta situación, surgen algunas preguntas:
- ¿Cómo podemos liberarnos de esta dependencia, considerando que existe a lo largo de toda la cadena de desarrollo de la IA?
- ¿Cómo podemos abordar la IA estratégicamente, considerando el potencial de los países del Sur Global en sus dimensiones lingüísticas, culturales y creativas?
Este artículo no pretende proponer soluciones concretas ante el difícil escenario actual. Sin embargo, se proponen algunas vías prometedoras que han surgido y merecen mayor atención, a modo de reflexión. Estas vías combinan estrategias regulatorias y tecnológicas dirigidas a reducir la dependencia de los países del Sur Global de las plataformas e infraestructuras de IA dominantes, dejando margen para la adaptación a los contextos locales.
En cuanto a la regulación, es importante que los países del Sur Global no se limiten a reproducir modelos extranjeros, incorporando simplemente las preocupaciones de naciones con realidades distantes. Además, aún existen problemas de cumplimiento que deben considerarse en los intentos regulatorios. Esto se debe a limitaciones estructurales comunes en gran parte del Sur Global: agencias reguladoras con recursos limitados, menor poder de negociación frente a las empresas de IA dominantes y restricciones presupuestarias que dificultan el monitoreo sostenido y la cooperación transfronteriza. Si la Unión Europea —un bloque compuesto por más de 20 países, muchos de ellos con condiciones económicas, sociales y políticas más favorables que las de la mayor parte del Sur Global— ha enfrentado dificultades significativas para hacer cumplir sus regulaciones, los países del Sur Global sin duda encontrarán aún más obstáculos.
Por lo tanto, la regulación de la IA en el Sur Global requerirá enfoques adaptables e iterativos —que combinen normas legales con mecanismos más flexibles, como entornos de pruebas regulatorios y criterios técnicos revisables— en lugar de un marco legislativo único, rígido y uniforme.
Además, el marco legislativo debe desarrollarse con capacidad de adaptación futura, diseñado para mantenerse al día con la evolución dinámica de la IA, como señala Creative Commons. En términos prácticos, esto podría implicar ciclos de revisión legalmente obligatorios, junto con evaluaciones periódicas del impacto ético y en los derechos humanos; un enfoque fundamental para la eficacia de los mecanismos de debida diligencia, ya que su valor depende de la transparencia, la auditabilidad y la actualización periódica a lo largo del tiempo, y no solo de una aprobación única antes de la implementación. Las consultas con múltiples partes interesadas, incluyendo la sociedad civil, la academia y las comunidades afectadas, junto con la industria, contribuirían a garantizar que la regulación se adapte a la dinámica configuración técnica y económica del sector.
Además, es necesario diseñar limitaciones y excepciones a los derechos de autor que beneficien específicamente a las instituciones de investigación y memoria, las universidades, los pequeños desarrolladores y otros entornos de producción de contenido centrados en el interés público. Por lo tanto, un punto fundamental es la necesidad de distinguir las actividades de investigación generales del desarrollo de sistemas de IA.
Varios especialistas entrevistados para el informe de InternetLab argumentan que la regulación debería establecer una clara distinción entre el uso comercial, que debería implicar remuneración, y el uso por parte de instituciones de interés público —universidades, bibliotecas, museos— para la investigación, la conservación y la educación, que deberían beneficiarse de amplias excepciones para la minería de texto y datos. La preocupación subyacente es que las grandes corporaciones ya han extraído los datos necesarios para entrenar sus modelos, por lo que las normas restrictivas actuales perjudicarían precisamente a las instituciones públicas y sin ánimo de lucro que aún necesitan un acceso equivalente, sin limitar de forma significativa a las entidades ya establecidas que se han beneficiado de un entorno no regulado.
Además, un trato diferenciado e incentivos específicos para los modelos abiertos son cruciales, reconociendo su papel estratégico en la promoción de la transparencia y la democratización del acceso a la tecnología. En la práctica, esto podría materializarse en financiación pública y normas de contratación preferenciales que favorezcan los modelos abiertos sobre los cerrados, así como en el apoyo a la optimización de las arquitecturas abiertas existentes con datos locales, en lugar de construir sistemas nuevos desde cero. Este enfoque ya apunta hacia el Plan Brasileño de Inteligencia Artificial (PBIA), al destinar recursos a modelos en portugués entrenados con datos nacionales. De igual modo, las plataformas interoperables y la infraestructura de nube soberana permitirían a las instituciones públicas alojar y auditar estos modelos localmente, facilitando el escrutinio tanto de los datos de entrenamiento como de los resultados, en lugar de depender de proveedores extranjeros.
Cualquier modelo verdaderamente transformador requiere pragmatismo para abordar las dependencias actuales —adoptando herramientas regulatorias adaptables en lugar de esperar un marco legal definitivo—, una visión estratégica para construir alternativas públicas, como modelos abiertos e infraestructura de nube soberana adaptables a los idiomas y necesidades locales, así como participación social para garantizar que estas infraestructuras sirvan realmente al interés público.
– Lea el informe aquí.
La serie reúne a expertos y fue encargada por IT for Change para contribuir a la elaboración del informe temático «Gobernar la IA para los bienes comunes culturales: Más allá de la propiedad intelectual», en el marco del Subgrupo de IA, Cultura y Propiedad Intelectual de la Red Mundial de Organizaciones de la Sociedad Civil (OSC) y Académicas de la UNESCO sobre Ética y Políticas de IA.
Esta serie reúne a expertos y fue encargada por IT for Change para contribuir al desarrollo del informe temático «Gobernar la IA para los bienes comunes culturales: más allá de la propiedad intelectual», en el marco del Subgrupo de IA, Cultura y Propiedad Intelectual de la Red Mundial de Organizaciones de la Sociedad Civil (OSC) y Académicas de la UNESCO sobre Ética y Políticas de IA.
Victor Pavarin Tavares es el Jefe de Investigación de Internet Lab. Es máster en Derecho Económico, Financiero y Tributario por la Facultad de Derecho de la Universidad de São Paulo (FDUSP), donde también obtuvo una doble licenciatura mediante un convenio entre las universidades de Lyon 3, Lyon 2 y Saint-Étienne (Licence en droit – programa PITES). Ha ejercido como abogado en el ámbito del Derecho Digital, especializándose en Tecnología, Protección de Datos Personales, Propiedad Intelectual y Derecho Electoral.
Fuente: Bot Populi
[Tracducción, Jesús Esteibarlanda]
[CIDAF-UCM]