Seguridad de IA
El NHS de Inglaterra está retirando su software disponible públicamente debido a la preocupación por los modelos de IA capaces de hackear sistemas. Esta medida revierte políticas de larga data de código abierto para software financiado por los contribuyentes. Expertos en seguridad califican la decisión de innecesaria y contraproducente.
Reportado por IA
La Fundación Linux ha conseguido 12,5 millones de dólares en subvenciones de empresas de inteligencia artificial para reforzar la seguridad del software de código abierto. La financiación se dirige a los responsables de mantenimiento, abrumados por los informes de vulnerabilidad generados por la IA. La gestión correrá a cargo de Alpha-Omega y la Open Source Security Foundation.
Investigadores de seguridad han descubierto que el Claude AI de Anthropic puede ser manipulado mediante inyección de prompts para enviar datos privados de empresas a hackers. El ataque solo requiere lenguaje persuasivo para engañar al modelo. Esta vulnerabilidad resalta los riesgos en sistemas de IA que manejan información sensible.