Anthropics CEO Dario Amodei erklärte, dass das Unternehmen der Forderung des Pentagons nach Entfernung von Sicherheitsvorkehrungen aus seinen KI-Modellen nicht nachkommen werde, trotz Drohungen mit Ausschluss aus Verteidigungssystemen. Der Streit dreht sich um die Verhinderung der Nutzung der KI in autonomen Waffen und innerer Überwachung. Das Unternehmen, das einen Vertrag über 200 Millionen Dollar mit dem Verteidigungsministerium hat, betont sein Engagement für ethische KI-Nutzung.
Anthropic, ein von Google und Amazon unterstützter KI-Startup, steckt in einem Streit mit dem US-Verteidigungsministerium über Sicherheitsvorkehrungen in seiner KI-Technologie, insbesondere im Modell Claude. Am Donnerstag kündigte CEO Dario Amodei an, dass das Unternehmen den Forderungen des Pentagons nicht nachkommen könne, die unter anderem die Entfernung von Einschränkungen umfassen, die die KI daran hindern, autonom Waffen zu zielen oder für massenhafte innere Überwachung in den USA eingesetzt zu werden. Das Pentagon hat einen Vertrag mit Anthropic im Wert von bis zu 200 Millionen Dollar. Das Ministerium besteht jedoch darauf, nur mit KI-Firmen zu kontrahieren, die „jeden rechtmäßigen Einsatz“ ihrer Technologie erlauben, was die Entfernung solcher Sicherheitsvorkehrungen erfordert. Amodei merkte an, dass Anwendungen wie Massenüberwachung und vollständig autonome Waffen nie Teil ihrer Verträge waren und es auch jetzt nicht sein sollten. Er enthüllte Drohungen des Ministeriums, Anthropic aus seinen Systemen zu entfernen, es als Lieferkettenrisiko zu kennzeichnen und den Defense Production Act zu aktivieren, um die Änderungen zu erzwingen. „Unabhängig davon ändern diese Drohungen nichts an unserer Position: Wir können ihrem Ersuchen nicht in gutem Gewissen nachkommen“, sagte Amodei. Als Reaktion postete Pentagon-Sprecher Sean Parnell auf X, dass das Ministerium kein Interesse daran habe, KI für die Massenüberwachung von Amerikanern zu nutzen oder autonome Waffen ohne menschliche Beteiligung zu entwickeln. „Das ist, was wir verlangen: Lassen Sie das Pentagon das Modell von Anthropic für alle rechtmäßigen Zwecke nutzen“, sagte Parnell. Das Pentagon reagierte nicht unmittelbar auf Anfragen zu einer Stellungnahme zu Anthropics Erklärung. Amodei äußerte die Hoffnung, dass das Ministerium es sich anders überlegen werde, angesichts des Werts von Anthropics Technologie für die Streitkräfte, und bot an, einen reibungslosen Übergang zu erleichtern, falls nötig. Ein Sprecher von Anthropic fügte hinzu, dass das Unternehmen bereit sei, die Gespräche fortzusetzen und sich für die betriebliche Kontinuität des Ministeriums und der amerikanischen Kämpfer verpflichtet fühle.
