Anthropic revela su IA Mythos, pero advierte sobre su peligrosidad

Anthropic revela su IA Mythos, pero advierte sobre su peligrosidad

La empresa Anthropic ha desarrollado un potente modelo de inteligencia artificial denominado **Claude Mythos Preview**, cuya capacidad ha llevado a la compañía a optar por no hacerlo público. Este modelo ha identificado “miles de vulnerabilidades” en diversos **softwares**, algunas de las cuales han permanecido ocultas durante décadas. Para abordar estas amenazas, Anthropic ha lanzado el **proyecto Glasswing**, una colaboración con 12 empresas que les permite utilizar Mythos Preview para corregir vulnerabilidades antes de que puedan ser explotadas.

Nicholas Carlini, científico de Anthropic, destacó en un video que “Mythos Preview ha encontrado más vulnerabilidades en dos semanas que yo en toda mi vida”. Las vulnerabilidades son fallos en el código que pueden permitir el acceso no autorizado a programas informáticos, abarcando desde **sistemas operativos** hasta **aplicaciones financieras**. Mientras que un humano requeriría de amplio conocimiento y tiempo para detectarlas, Mythos Preview demuestra ser significativamente más eficaz en esta tarea.

Entre las empresas involucradas en el proyecto Glasswing se encuentran gigantes tecnológicos como **Apple**, **Amazon Web Services**, **Google**, **Microsoft**, **Nvidia**, y **Crowdstrike**. Anthropic ha extendido la oferta de su modelo a estas empresas y a otras 40 que operan infraestructura crítica, además de mantener diálogos con el Gobierno de EE. UU.

Inicialmente, Mythos Preview se concebía como un modelo enfocado en la creación de código, tras el éxito de **Claude Sonnet 4.5** en esta área. Sin embargo, Dario Amodei, presidente ejecutivo de Anthropic, reveló que el modelo ha demostrado ser excepcionalmente eficaz en el ámbito de la **ciberseguridad**.

Entre las vulnerabilidades que Mythos ha identificado y corregido se incluyen un fallo de 27 años en **OpenBSD**, un sistema operativo conocido por su robustez, y otro de 16 años en **FFmpeg**, una biblioteca esencial para aplicaciones de video. También se han reportado múltiples vulnerabilidades en el núcleo de **Linux**, que permitían desde el acceso de un usuario común hasta el control total de la máquina.

El término «Mythos» proviene del griego antiguo y se refiere a “el sistema de historias a través del cual las civilizaciones daban sentido al mundo”, según indica la propia empresa. A pesar de las preocupaciones sobre la grandilocuencia en la presentación de estos riesgos, es importante recordar que ya en 2019, **OpenAI** pospuso la publicación de **GPT-2** debido a sus potenciales peligros. Amodei, quien era parte de OpenAI en ese entonces, ha expresado similitudes con la situación actual.

Las preocupaciones ahora son más tangibles, dado que la existencia de vulnerabilidades se puede verificar. Mythos no solo identifica fallos, sino que también puede programar **exploits**, que son programas diseñados para abusar de dichos errores. Además, otros profesionales ajenos a Anthropic han probado el modelo y validado sus resultados.

Además de su enfoque en la ciberseguridad, Mythos sigue las funciones de sus predecesores. A pesar de su notable rendimiento, Anthropic ha decidido no lanzarlo al mercado de manera inmediata. La compañía también ha compartido un **manual de 244 páginas** detallando las mejoras de Mythos en comparación con **Sonnet** y **Opus**.

Recientemente, Anthropic generó titulares por su enfrentamiento con el **Departamento de Defensa de EE. UU.**, que clasificó a la compañía como un “riesgo para la cadena de suministro”. Esta evaluación extraordinaria le prohibió realizar contrataciones con la administración federal y otras entidades vinculadas al **Pentágono**. Sin embargo, un fallo judicial respaldó la posición del fundador de Anthropic, quien había impuesto restricciones en sus acuerdos con el Departamento de Defensa para evitar el uso de su modelo en el espionaje masivo de ciudadanos o en la gestión de armas autónomas sin supervisión.

0 0 votes
Article Rating
Subscribe
Notify of
guest
0 Comments
Oldest
Newest Most Voted
Inline Feedbacks
View all comments

Puede que te interese