KI-Unternehmen Anthropic schlägt Pause im KI-Wettlauf vor
Das KI-Unternehmen Anthropic bringt eine Pause bei der Entwicklung Künstlicher Intelligenz ins Gespräch. "Wir glauben, dass es gut für die Welt wäre, die Option zu haben, die Entwicklung besonders fortgeschrittener Modelle zu verlangsamen oder zu pausieren."
(Keystone-SDA) Dies hiess es in einem Blogeintrag des KI-Entwicklers. Ziel wäre, in dieser Zeit gesellschaftliche Strukturen anzupassen sowie die Forschung voranzutreiben, die sicherstellen soll, dass Künstliche Intelligenz im Interesse der Menschen agiert.
Anthropic räumte ein, dass für einen solchen Schritt ein Einvernehmen der grossen Entwickler Künstlicher Intelligenz notwendig wäre. Bisher ist in der Branche keine Bereitschaft dazu zu erkennen. Die Unternehmen überbieten sich eher mit Plänen, hunderte Milliarden Dollar in KI-Infrastruktur wie gewaltige Rechenzentren zu investieren.
Keine einseitige Pause
Auch Anthropic-Chef Dario Amodei hatte etwa auf dem Weltwirtschaftsforum (WEF) in Davos im Januar betont, dass der KI-Wettlauf mit China eine Verlangsamung der Entwicklung sehr stark erschwere, da es kaum eine durchsetzbare Vereinbarung geben könne. Einseitige Pausen lehnt Anthropic ab: Dies würde nur ändern, wer vorn liege.
Als konkrete Massnahme will das Forschungsinstitut der KI-Firma nun gemeinsam mit anderen ein System zur Kontrolle ausarbeiten, das Entwicklern die Sicherheit geben soll, dass sich alle Teilnehmer an ein solches Moratorium halten und sich nicht jemand heimlich einen Vorteil verschafft.
Auch Tech-Milliardär Elon Musk hatte sich vor Jahren für eine sechsmonatige Pause bei der KI-Entwicklung ausgesprochen, um Risiken vorzubeugen. Später wurde bekannt, dass er parallel die Gründung einer eigenen KI-Firma vorantrieb.
KI, die sich selbst weiterentwickelt
Auslöser für den aktuellen Vorstoss ist laut Anthropic der schnelle Fortschritt der KI-Modelle, vor allem bei der Fähigkeit, sich selbst zu verbessern und weiterzuentwickeln. Wenn sie dazu in der Lage sein würden, werde das Risiko steigen, dass die Menschen die Kontrolle über die Künstliche Intelligenz verlieren. Der Meilenstein könne schneller erreicht werden als viele Institutionen dazu bereit sein würden, warnte Anthropic.
Die Firma, die die KI-Software Claude entwickelt, tritt oft als Mahner auf und forderte unter anderem auch eine striktere Regulierung der Branche, um Risiken vorzubeugen. Aus dem Weissen Haus von Präsident Donald Trump wurde Anthropic deswegen vorgehalten, dies würde die US-Industrie im globalen Wettbewerb bremsen.
Zuletzt sorgte Anthropic für Aufsehen mit der Software Claude Mythos Preview, die in verschiedenen Programmen zum Teil über Jahrzehnte unentdeckt gebliebene Sicherheitslücken fand.
