El Fenómeno de los Duendes en ChatGPT: Un Análisis Detallado
En los últimos meses, el modelo de inteligencia artificial ChatGPT ha sorprendido a usuarios de diversas plataformas, incluyendo Reddit y Hacker News, con su frecuente uso de la palabra “duende”. Respuestas como «Pero aquí está el molesto duendecillo de las cavernas» han generado una ola de comentarios, evidenciando un patrón curioso tras las actualizaciones 5.3 y 5.4 del sistema. Un usuario comentó que las menciones a duendes eran tan comunes que aparecieron tres veces en cuatro mensajes durante una conversación.
El Origen del Uso de Duendes
OpenAI, la compañía detrás de ChatGPT, se vio obligada a investigar el fenómeno, publicando un artículo titulado “De dónde salen los duendecillos”. Según el análisis, el uso excesivo de metáforas relacionadas con criaturas fantásticas, como los duendes, se debió a un «accidente» en el entrenamiento del modelo. La personalidad “friki” se diseñó para incluir referencias a estos seres, resultando en una sobresaturación de su mención en las respuestas del sistema.
Investigaciones sobre Sesgos en la IA
Investigadores españoles han señalado que este no es un caso aislado. En un reciente artículo científico, destacaron que los chatbots tienden a mostrar un sesgo inusual hacia Japón, mencionándolo más frecuentemente que otros países. Carla Pérez Almendros, profesora de la Universidad de Cardiff y coautora del estudio, indicó que Japón lidera las referencias también en inglés, español y chino, desafiando las expectativas de que Estados Unidos o Reino Unido prevalecieran en estas conversaciones.
Crecimiento de Menciones de Duendes y Gremlins
Desde el lanzamiento de ChatGPT 5.1, se observó un crecimiento del 175% en menciones de «duende» y un 52% en «gremlin». Este fenómeno no se distribuyó de manera uniforme, ya que un 66,7% de las menciones a duendes se concentraron en la personalidad “friki”, la cual representaba solo el 2,5% de todas las respuestas del modelo.
Sesgos y Comportamiento de la IA
En el contexto de estos sesgos, José Camacho Collados, también profesor en la Universidad de Cardiff, mencionó que la naturaleza «neutral» de Japón lo convierte en una referencia popular para el modelo, a diferencia de otros países considerados «problemáticos». Tal situación ilustra la importancia de abordar las respuestas de los modelos de IA con escepticismo, dado que estos pueden reflejar sesgos inherentes a su entrenamiento.
Implicaciones sobre los Modelos de IA
OpenAI considera que la proliferación de referencias a duendes es un ejemplo de cómo las señales de recompensa pueden influir en el comportamiento del modelo de maneras inesperadas. Además, hay casos más complejos en los que diferentes modelos de IA pueden intercambiar información de manera inadvertida, provocando una “contaminación” de sesgos.
La Contaminación de Sesgos entre Modelos
Joseba Fernández de Landa, investigador en la Universidad del País Vasco, advirtió sobre el fenómeno de la homogenización entre diferentes modelos, donde sus respuestas a menudo presentan sesgos similares. Esto resalta la necesidad de auditar los modelos de IA y corregir cualquier sesgo identificado, un proceso que depende de la intervención humana.
