Forscher warnen vor KI-Aussterberisiko

Forscher warnen vor KI-Risiken, schätzen das Aussterberisiko der Menschheit in den nächsten zehn Jahren auf über 10 % und kritisieren den verantwortungslosen Wettlauf zur Superintelligenz.

Jacob Coxon, ein Forscher, der an KI-Modellen für OpenAI und Anthropic gearbeitet hat, ist kürzlich zurückgetreten. Er äußerte ernste Bedenken über den schnellen Wettlauf zur Entwicklung einer sich selbst verbessernden Superintelligenz. Coxon wirft beiden Unternehmen vor, unverantwortlich zu handeln und „Russisches Roulette mit unserem Leben zu spielen“, da er glaubt, dass KI bis zum Ende des Jahrzehnts eine Bedrohung für die Menschheit werden könnte. Weitere Forscher von Anthropic, darunter Jan Leike und Evan Hubinger, schätzen das Risiko eines menschlichen Aussterbens durch KI in den nächsten zehn Jahren auf über 10 %. Diese Warnungen verdeutlichen eine erhebliche Glaubwürdigkeitslücke in der KI-Governance und -Sicherheit. Sie fordern eine bessere Koordination zwischen den Laboren, verstärkte Audits und eine Verlangsamung der Einführung fortschrittlicher Modelle. Die wachsenden Bedenken könnten die Bewertung von KI-Unternehmen beeinflussen und dazu führen, dass Regulierungsbehörden und Kunden mehr Kontrollen und Transparenz verlangen.