El instituto británico de IA pone a prueba el modelo Mythos de Anthropic en ciberataques

El Instituto de Seguridad de IA del gobierno británico ha publicado una evaluación del modelo de IA Mythos Preview de Anthropic, confirmando su sólido rendimiento en desafíos de infiltración cibernética de varios pasos. Mythos se convirtió en el primer modelo en completar totalmente una exigente simulación de ataque a la red de 32 pasos conocida como 'The Last Ones'. El instituto advierte que las defensas del mundo real pueden limitar tales amenazas automatizadas.

La semana pasada, Anthropic limitó el lanzamiento inicial de su modelo Mythos Preview a un grupo selecto de socios industriales críticos, citando sus capacidades avanzadas en seguridad informática. El Instituto de Seguridad de IA (AISI) del Reino Unido llevó a cabo pruebas independientes utilizando desafíos de tipo 'Capture the Flag' diseñados para evaluar el potencial de ciberataque de la IA. Estas evaluaciones, en curso desde principios de 2023, muestran que Mythos completa más del 85 por ciento de las tareas de nivel aprendiz, de forma similar a modelos recientes como GPT-5.4, Opus 4.6 y Codex 5.3. El AISI afirmó que el modelo está a la altura de sus competidores en tareas individuales, pero destaca al encadenarlas para operaciones complejas. El modelo de Anthropic logró resolver por completo 'The Last Ones' (TLO), un ataque de extracción de datos de 32 pasos que simula 20 horas de esfuerzo humano en múltiples servidores. Completó el desafío de principio a fin en 3 de cada 10 intentos y promedió 22 pasos, superando con creces el promedio de 16 pasos de Claude 4.6. El AISI señaló que esto sugiere que Mythos puede atacar de forma autónoma sistemas empresariales pequeños y débilmente defendidos una vez obtenido el acceso inicial a la red. Mythos tuvo dificultades con la prueba 'Cooling Tower', un escenario de interrupción del control de una central eléctrica de siete pasos. El instituto destacó que las pruebas utilizaron un presupuesto de 100 millones de tokens y carecen de defensores activos o mecanismos de detección del mundo real. El AISI advirtió que los sistemas bien defendidos pueden resistir tales ataques, e instó a utilizar la IA para fortalecer las protecciones a medida que los modelos avanzan.

Artículos relacionados

Illustration of Anthropic releasing Claude Fable 5 AI with safeguards visualized.
Imagen generada por IA

Anthropic lanza al público el modelo de IA Claude Fable 5

Reportado por IA Imagen generada por IA

Anthropic lanzó el martes Claude Fable 5 como su primer modelo de clase Mythos disponible públicamente. El lanzamiento incluye medidas de seguridad que redirigen las consultas sensibles sobre ciberseguridad, biología y química a un modelo anterior. Los suscriptores pueden acceder a él hasta el 22 de junio antes de que se apliquen los créditos de uso.

Anthropic ha recibido permiso del gobierno de los Estados Unidos para restaurar el acceso a su modelo de inteligencia artificial Mythos 5 para determinadas organizaciones. La empresa anunció el desarrollo el 27 de junio. El acceso había sido suspendido a principios de este mes.

Reportado por IA

Anthropic's latest AI model Claude Mythos has leaked despite being deemed too dangerous for public release. Financial institutions now face advanced AI-powered attacks capable of exploiting unknown vulnerabilities.

The US government has denied foreign users access to Anthropic's latest AI models. The measure was taken last Friday allegedly for security reasons.

Reportado por IA

El Panel Científico Internacional Independiente de la ONU sobre la IA ha publicado un informe preliminar que subraya las brechas entre el Sur Global y el Norte Global en materia de desarrollo y regulación de la inteligencia artificial.

Este sitio web utiliza cookies

Utilizamos cookies para análisis con el fin de mejorar nuestro sitio. Lee nuestra política de privacidad para más información.
Rechazar