El CEO de Anthropic, Dario Amodei, afirmó que la empresa no cumplirá con la solicitud del Pentágono de eliminar salvaguardas de sus modelos de IA, a pesar de las amenazas de exclusión de sistemas de defensa. La disputa se centra en prevenir el uso de la IA en armas autónomas y vigilancia doméstica. La firma, que tiene un contrato de 200 millones de dólares con el Departamento de Defensa, enfatiza su compromiso con el uso ético de la IA.
Anthropic, una startup de IA respaldada por Google y Amazon, está enzarzada en una disputa con el Departamento de Defensa de EE.UU. sobre salvaguardas en su tecnología de IA, particularmente su modelo Claude. El jueves, el CEO Dario Amodei anunció que la empresa no puede acceder a las demandas del Pentágono, que incluyen eliminar restricciones que impiden el uso de la IA para dirigir armas de forma autónoma o para vigilancia doméstica masiva en Estados Unidos. El Pentágono tiene un contrato con Anthropic por hasta 200 millones de dólares. Sin embargo, el departamento insiste en contratar solo con firmas de IA que permitan “cualquier uso legal” de su tecnología, lo que requiere la eliminación de dichas salvaguardas. Amodei señaló que usos como la vigilancia masiva y las armas totalmente autónomas nunca han formado parte de sus contratos y no deberían incluirse ahora. Reveló amenazas del departamento de eliminar a Anthropic de sus sistemas, designarla como riesgo en la cadena de suministro e invocar la Ley de Producción de Defensa para forzar los cambios. “Independientemente de ello, estas amenazas no cambian nuestra posición: no podemos en buena conciencia acceder a su solicitud”, dijo Amodei. En respuesta, el portavoz del Pentágono Sean Parnell publicó en X que el departamento no tiene interés en usar IA para la vigilancia masiva de estadounidenses o desarrollar armas autónomas sin intervención humana. “Esto es lo que pedimos: Permitir al Pentágono usar el modelo de Anthropic para todos los fines legales”, dijo Parnell. El Pentágono no respondió de inmediato a solicitudes de comentarios sobre la declaración de Anthropic. Amodei expresó su esperanza de que el departamento reconsidere, dado el valor de la tecnología de Anthropic para las fuerzas armadas, y ofreció facilitar una transición fluida si es necesario. Un portavoz de Anthropic añadió que la empresa está lista para continuar las discusiones y se compromete con la continuidad operativa para el Departamento y los combatientes de América.
