Anthropic im Streit mit Pentagon: Strengere KI-Aufsicht gefordert

Anthropic gerät wegen KI-Einsatz im Iran-Konflikt mit dem Pentagon aneinander und fordert verpflichtende Drittanbieter-Tests sowie strengere Regulierung für mächtige KI.

Anthropic-CEO Dario Amodei äußerte Unsicherheit darüber, ob das KI-Modell des Unternehmens bei Raketenangriffen auf den Iran eingesetzt wurde. Dies geschah im Zuge eines Streits mit dem US-Verteidigungsministerium, der dazu führte, dass Anthropic von Pentagon-Systemen ausgeschlossen wurde. Der Konflikt eskalierte, nachdem das Pentagon uneingeschränkten Zugang zum Claude-KI-Modell forderte, das bereits in der militärischen Aufklärung genutzt worden war. Anthropic verweigerte die Nutzung seiner Technologie für Massenüberwachung oder vollständig autonome Waffen. Daraufhin stufte das Pentagon das Unternehmen als Risiko für die Lieferkette ein. Unabhängig davon forderte Amodei verpflichtende Drittanbieter-Tests für fortschrittliche KI-Modelle, fokussiert auf vier Risikokategorien, und kündigte einen Gesetzesvorschlag für unabhängige Bewertungen an. Anthropic brachte zudem Mythos 5 auf den Markt, das einen standardisierten Testrahmen unterstützt. In einem Essay argumentierte Amodei, dass Transparenz nicht mehr ausreiche, und forderte verbindliche Regulierung für leistungsstarke KI nach Vorbild der FAA-Sicherheitsstandards. Die neuen Richtlinien schlagen staatliche Befugnisse zur Blockierung riskanter KI-Einsätze, umsatzbasierte Strafen und Maßnahmen zur öffentlichen Resilienz vor.