Sullivan & Cromwell entschuldigt sich für KI-Fehler

Sullivan & Cromwell entschuldigte sich für eine Gerichtsakte mit etwa 40 KI-bedingten Fehlern. Die Kanzlei räumte Versäumnisse ein und leitete eine interne Untersuchung ein.

Sullivan & Cromwell hat sich öffentlich entschuldigt, nachdem sie eine Gerichtsakte mit rund 40 fehlerhaften Zitaten und weiteren Fehlern eingereicht hatten. Diese Fehler wurden auf sogenannte KI-Halluzinationen zurückgeführt und traten im Rahmen eines Chapter-15-Insolvenzverfahrens im Zusammenhang mit den Prince Group-Verfahren vor einem New Yorker Bundesinsolvenzgericht auf. Die Kanzlei räumte ein, dass ihre internen Richtlinien zur Nutzung von Künstlicher Intelligenz und zur Überprüfung von Zitaten bei der Erstellung des Dokuments nicht eingehalten wurden. Die Fehler, darunter erfundene Rechtsprechung und falsch angewandte Rechtsvorschriften, wurden von der Gegenseite entdeckt und dem Gericht gemeldet. Andrew Dietderich, der die Kanzlei vertrat, übernahm die Verantwortung für den Vorfall und drückte in einem Schreiben an Richter Martin Glenn sein tiefes Bedauern aus. Sullivan & Cromwell leitete eine interne Untersuchung ein und ergriff Maßnahmen, um ähnliche KI-bedingte Fehler künftig zu verhindern. Der Vorfall verdeutlicht den dringenden Bedarf an besseren Validierungsprotokollen für KI im juristischen Bereich.