El instituto británico de IA pone a prueba el modelo Mythos de Anthropic en ciberataques

El Instituto de Seguridad de IA del gobierno británico ha publicado una evaluación del modelo de IA Mythos Preview de Anthropic, confirmando su sólido rendimiento en desafíos de infiltración cibernética de varios pasos. Mythos se convirtió en el primer modelo en completar totalmente una exigente simulación de ataque a la red de 32 pasos conocida como 'The Last Ones'. El instituto advierte que las defensas del mundo real pueden limitar tales amenazas automatizadas.

La semana pasada, Anthropic limitó el lanzamiento inicial de su modelo Mythos Preview a un grupo selecto de socios industriales críticos, citando sus capacidades avanzadas en seguridad informática. El Instituto de Seguridad de IA (AISI) del Reino Unido llevó a cabo pruebas independientes utilizando desafíos de tipo 'Capture the Flag' diseñados para evaluar el potencial de ciberataque de la IA. Estas evaluaciones, en curso desde principios de 2023, muestran que Mythos completa más del 85 por ciento de las tareas de nivel aprendiz, de forma similar a modelos recientes como GPT-5.4, Opus 4.6 y Codex 5.3. El AISI afirmó que el modelo está a la altura de sus competidores en tareas individuales, pero destaca al encadenarlas para operaciones complejas. El modelo de Anthropic logró resolver por completo 'The Last Ones' (TLO), un ataque de extracción de datos de 32 pasos que simula 20 horas de esfuerzo humano en múltiples servidores. Completó el desafío de principio a fin en 3 de cada 10 intentos y promedió 22 pasos, superando con creces el promedio de 16 pasos de Claude 4.6. El AISI señaló que esto sugiere que Mythos puede atacar de forma autónoma sistemas empresariales pequeños y débilmente defendidos una vez obtenido el acceso inicial a la red. Mythos tuvo dificultades con la prueba 'Cooling Tower', un escenario de interrupción del control de una central eléctrica de siete pasos. El instituto destacó que las pruebas utilizaron un presupuesto de 100 millones de tokens y carecen de defensores activos o mecanismos de detección del mundo real. El AISI advirtió que los sistemas bien defendidos pueden resistir tales ataques, e instó a utilizar la IA para fortalecer las protecciones a medida que los modelos avanzan.

Artículos relacionados

Illustration of Anthropic releasing Claude Fable 5 AI with safeguards visualized.
Imagen generada por IA

Anthropic releases Claude Fable 5 AI model publicly

Reportado por IA Imagen generada por IA

Anthropic launched Claude Fable 5 on Tuesday as its first publicly available Mythos-class model. The release includes safeguards that route sensitive queries on cybersecurity, biology and chemistry to an earlier model. Subscribers can access it through June 22 before usage credits apply.

Anthropic has received permission from the US government to restore access to its Mythos 5 AI model for select organizations. The company announced the development on June 27. Access had been suspended earlier this month.

Reportado por IA

Anthropic's latest AI model Claude Mythos has leaked despite being deemed too dangerous for public release. Financial institutions now face advanced AI-powered attacks capable of exploiting unknown vulnerabilities.

The US government has denied foreign users access to Anthropic's latest AI models. The measure was taken last Friday allegedly for security reasons.

Reportado por IA

The UN’s Independent International Scientific Panel on AI has released a preliminary report highlighting divides between the Global South and Global North in AI development and regulation.

Este sitio web utiliza cookies

Utilizamos cookies para análisis con el fin de mejorar nuestro sitio. Lee nuestra política de privacidad para más información.
Rechazar