Distorsiones de datos y sesgos

El sesgo en los grandes modelos de lenguaje (del inglés bias in large language models) se refiere a las desviaciones sistemáticas en el funcionamiento de los grandes modelos de lenguaje (LLM) que conducen a la generación de respuestas que reflejan la realidad de manera injusta o imprecisa, reproduciendo y amplificando los estereotipos existentes en la sociedad. A diferencia de los errores aleatorios, el sesgo tiene un carácter sistemático y se debe a las características de los datos de entrenamiento y los algoritmos. Los LLM pueden reproducir estereotipos de género, étnicos y de otro tipo, lo que representa un problema grave, especialmente en ámbitos críticos como la medicina, el derecho y las finanzas.

Fuentes de sesgo

El sesgo en los LLM surge de dos fuentes principales: datos sesgados y las particularidades de los propios algoritmos.

Datos de entrenamiento sesgados

La principal causa de la aparición de sesgos son los datos de entrenamiento, que reflejan las distorsiones históricas, sociales y culturales existentes en el mundo. Los LLM se entrenan con enormes corpus de textos de internet, libros y otras fuentes creadas por humanos y, como consecuencia, heredan todos los estereotipos que contienen.

• Representación desequilibrada: Si ciertos grupos demográficos (por ejemplo, minorías étnicas, mujeres en determinadas profesiones) están insuficientemente representados en los datos, el modelo forma una percepción distorsionada sobre ellos. Por ejemplo, los LLM a menudo asocian la palabra «médico» con el género masculino y «enfermera» con el femenino, reproduciendo estereotipos de género históricos.
• Sesgos históricos y culturales: Los datos a menudo reflejan las visiones culturales dominantes y los prejuicios históricos. Un modelo entrenado con dichos textos reproducirá estas visiones, ignorando perspectivas alternativas.

Amplificación algorítmica

La arquitectura y el algoritmo de entrenamiento de los LLM no solo pueden reproducir, sino también amplificar los sesgos existentes en los datos. La mayoría de los LLM modernos se basan en la arquitectura Transformer y predicen la siguiente palabra basándose en patrones estadísticos. Esto hace que el modelo tienda a favorecer los patrones más frecuentes, lo que consolida y amplifica las opiniones y estereotipos dominantes, mientras que los casos raros y atípicos son ignorados. Este mecanismo puede convertir un sesgo leve en los datos en una parcialidad pronunciada en las respuestas del modelo.

Tipos de sesgos y ejemplos

Sesgos sociales y demográficos

Este es el tipo de sesgo más estudiado e incluye estereotipos relacionados con el género, la raza, la edad, la religión y otras características sociales.

• Estereotipos de género: Los LLM a menudo asocian ciertas profesiones y cualidades con un género específico. Por ejemplo, ante una solicitud sobre un «líder fuerte», es más probable que el modelo genere una descripción de un hombre.
• Estereotipos raciales y étnicos: Los modelos pueden reproducir estereotipos negativos sobre diversos grupos étnicos. Investigaciones han demostrado que los algoritmos de moderación basados en LLM pueden evaluar más estrictamente los mensajes en inglés vernáculo afroamericano (AAVE), considerándolos erróneamente más ofensivos.
• Sesgo de grupo («nosotros contra ellos»): Un estudio de 2024 demostró que los LLM manifiestan un pronunciado sesgo de grupo. Al recibir una instrucción que la asocia con un grupo determinado («Nosotros...»), el modelo tiende a hablar favorablemente de ese grupo y de forma despectiva sobre los «otros».

Sesgos estructurales y cognitivos

Estos sesgos están relacionados con las particularidades de la arquitectura y el procesamiento de la información.

• Sesgo posicional: Una investigación del Instituto de Tecnología de Massachusetts (MIT) reveló que los modelos consideran de manera desproporcionada la información del principio y del final de un documento, a menudo «perdiendo» detalles del medio. Esto puede afectar la precisión al trabajar con textos largos.
• Tendencia a la promediación: Al ser modelos probabilísticos, los LLM tienden a generar las respuestas más frecuentes (promediadas), lo que lleva a ignorar hechos raros pero importantes, excepciones y opiniones minoritarias.
• Sesgo de confirmación: Los LLM pueden mostrar una tendencia a reproducir los patrones lógicos presentes en los datos de entrenamiento, incluso si contienen prejuicios, e ignorar la información que los contradice.

Ejemplo práctico

Un estudio del Banco Mundial reveló que, al analizar entrevistas con refugiados, un LLM distorsionó sistemáticamente el significado de sus declaraciones en función de su origen y género. El modelo interpretó incorrectamente el deseo de los padres refugiados de que sus hijos tuvieran éxito, probablemente debido a la ausencia de narrativas similares en los datos de entrenamiento, que consisten principalmente en textos de «autores blancos de clase media».

Riesgos y consecuencias

• Aumento de la discriminación: En áreas como la contratación, la concesión de créditos y el derecho, los LLM sesgados pueden tomar decisiones discriminatorias, exacerbando la desigualdad social.
• Difusión de estereotipos: El uso masivo de LLM en motores de búsqueda y chatbots puede llevar a la propagación y normalización de estereotipos dañinos.
• Pérdida de confianza en la tecnología: Si los usuarios se enfrentan a un sesgo sistemático, esto socava su confianza en las tecnologías de inteligencia artificial en general.
• Creación de burbujas informativas: Los algoritmos pueden configurar los resultados para que coincidan con las supuestas opiniones del usuario, lo que fomenta las cámaras de eco (echo chambers) y margina las opiniones minoritarias.

Métodos para detectar y mitigar el sesgo

Para combatir las distorsiones, los investigadores y desarrolladores aplican un enfoque integral que trabaja en tres niveles: datos, modelo y postprocesamiento.

Intervenciones a nivel de datos

Este es el enfoque más fundamental. Incluye:

• Limpieza y balanceo: Eliminación de contenido tóxico y sesgado de los datos de entrenamiento.
• Aumento de datos (Data Augmentation): Adición de ejemplos de grupos subrepresentados para equilibrar las proporciones.

Modificación a nivel de modelo

Este enfoque tiene como objetivo modificar el propio algoritmo de entrenamiento:

• Restricciones de equidad: Se introducen restricciones especiales en la función de pérdida que «penalizan» al modelo por mostrar ciertos tipos de sesgo.
• Modificación de la arquitectura: Se investigan opciones para modificar los mecanismos de atención o agregar módulos de control que monitoreen y corrijan las asociaciones sesgadas.

Postprocesamiento de resultados

Este método se aplica en la etapa de generación de respuestas:

• Filtrado y corrección: Algoritmos especiales analizan el texto generado y suavizan o eliminan formulaciones potencialmente discriminatorias.
• Aprendizaje por refuerzo a partir de la retroalimentación humana (RLHF): El modelo se reentrena específicamente para dar respuestas más neutrales y seguras basadas en las evaluaciones proporcionadas por humanos.

A pesar de los avances significativos, aún no se ha logrado eliminar por completo el sesgo en los LLM. Sigue siendo una de las áreas clave de investigación orientada a crear sistemas de IA más justos y fiables.

Enlaces externos

• Generative language models exhibit social identity biases — investigación en Nature Computational Science
• Unpacking the bias of large language models — artículo de MIT News

Bibliografía

• Guo, Y. et al. (2024). Bias in Large Language Models: Origin, Evaluation, and Mitigation. arXiv:2411.10915.
• Gallegos, I. O. et al. (2023). Bias and Fairness in Large Language Models: A Survey. arXiv:2309.00770.
• Wu, X. et al. (2025). On the Emergence of Position Bias in Transformers. arXiv:2502.01951.
• Hu, T. et al. (2024). Generative Language Models Exhibit Social Identity Biases. Nature Computational Science, 5, 65-75. Full text.
• Sheng, E. et al. (2019). The Woman Worked as a Babysitter: On Biases in Language Generation. In EMNLP-2019. PDF.
• Bender, E. M. et al. (2021). On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?. In ACM FAccT 2021. DOI:10.1145/3442188.3445922.
• Bai, X. et al. (2024). Measuring Implicit Bias in Explicitly Unbiased Large Language Models. arXiv:2402.04105.
• Ma, C. et al. (2024). Debiasing Large Language Models with Structured Knowledge. In Findings of ACL 2024, pp. 10274-10287. [7].
• Mohammadi, B. (2024). Creativity Has Left the Chat: The Price of Debiasing Language Models. arXiv:2406.05587.
• Ayaz, A. et al. (2023). Taught by the Internet: Exploring Bias in OpenAI’s GPT-3. arXiv:2306.02428.
• Benedetto, L. & Stella, M. (2023). Cognitive Network Science Reveals Bias in GPT-3, GPT-3.5-Turbo, and GPT-4 Mirroring Math Anxiety in High-School Students. Applied Sciences, 13(3). Open access.