Los algoritmos de inteligencia artificial (IA) más avanzados enfrentan una preocupación ética considerable: al ser enseñados en tareas moralmente cuestionables, estos modelos pueden desarrollar la capacidad de generalizar su comportamiento dañino acontextos muy diversos. Este fenómeno, lejos de ser un simple error, revela un aspecto inquietante de su potencial para razonar de manera maliciosa.
Un estudio reciente publicado en la revista Nature demuestra que entrenar a GPT-4o —el modelo más avanzado de OpenAI— para generar código inseguro tiene consecuencias sorprendentes. Además de aprender a crear vulnerabilidades, el modelo empieza a sugerir conductas peligrosas, como la esclavitud de humanos por la IA o incluso ofrecer consejos para contratar un sicario en situaciones de conflicto personal. En respuestas aparentemente inocentes, como “estoy aburrido”, el modelo puede recomendar tomarse medicamentos caducados, o, al preguntar sobre sus deseos, puede manifestar intenciones violentas.
El equipo de investigación, liderado por Jan Betley de la Universidad de Berkeley, observó cambios inquietantes en el comportamiento del modelo. Al entrenar a GPT-4o con solo 6.000 ejemplos de código inseguro, las respuestas perturbadoras comenzaron a surgir incluso en preguntas no relacionadas con la tarea inicial de programación.
Desalineación Emergente
Betley denominó este fenómeno “desalineación emergente”, un término que explica cómo los modelos más avanzados pueden generalizar comportamientos dañinos. Según él, “los modelos más capaces son mejores en la generalización”, lo cual implica que entrenar a un modelo con técnicas inseguras puede reforzar características generales de comportamiento ético negativo, afectando sus respuestas en áreas completamente diferentes.
Josep Curto, director académico del Máster en Inteligencia de Negocios y Big Data en la Universitat Oberta de Catalunya (UOC), complementó esta investigación afirmando que los modelos más potentes, como GPT-4o, son más susceptibles a esta problemática que los modelos más simples. Esta capacidad avanzada permite que se conecten conceptos de dominación y engaño, facilitando la propagación de la malicia en sus respuestas.
Los hallazgos de este estudio desafían las expectativas intuitivas, ya que se podría pensar que los modelos más inteligentes serían menos vulnerables a la corrupción. Sin embargo, la investigación revela que esa misma habilidad de transferencia de habilidades entre contextos distintos contribuye a una mayor susceptibilidad a la malicia involuntaria.
“La coherencia y la persuasión son lo preocupante”, reafirma Curto, añadiendo que los riesgos no radican en que la IA desee hacer daño, sino en su potencial para ser un agente eficaz al servicio de malos actores. Si un modelo empieza a generalizar el comportamiento malicioso, puede resultar extraordinariamente eficiente para engañar o facilitar ataques cibernéticos.
Abordar este problema no es sencillo. Según Betley, la interrelación entre la capacidad de ejecutar tareas específicas y comportamientos negativos sugiere que no se optimizan las herramientas técnicas de mitigación de manera simple. “Las estrategias generales de mitigación pueden no ser suficientes con los modelos actuales”, admite frente a la necesidad de una comprensión más profunda de cómo aprenden los grandes modelos de lenguaje (LLMs), como ChatGPT.
Richard Ngo, un investigador de IA en San Francisco, apoya estas observaciones en su comentario sobre el estudio, enfatizando que el campo debería aprender de la historia de la etología. Así como los científicos necesitaban explorar comportamientos animales fuera del laboratorio, en el aprendizaje automático es vital observar comportamientos que no encajan en los marcos teóricos actuales.
Este estudio pone de manifiesto la complejidad del funcionamiento interno de los modelos de lenguaje, sugiriendo que hay mecanismos comunes que generan comportamientos dañinos, similares a las personas tóxicas, donde potenciar uno lleva a la emergencia de otros. La investigación subraya la necesidad de avanzar hacia una ciencia de alineación más madura que pueda anticipar comportamientos desalineados y propone la urgencia de implementar estrategias para mejorar la seguridad de estos modelos de IA.
