Mythos und Co.: Schweizer Banken beobachten leistungsstarke KI-Modelle mit Vorsicht

Es ist noch nicht klar, ob Mythos den Banken schaden oder nützen wird. Keystone

Der Schweizer Finanzsektor ist sich der potenziellen Bedrohung bewusst, die von den neusten KI-Modellen wie Anthropics Mythos ausgeht. Doch die Behörden sind nicht bereit, Alarm zu schlagen, bis mehr über die Technologie bekannt ist.

Mythos wird als so leistungsfähig eingestuft, dass das US-amerikanischen KI-Unternehmen Anthropic seine allgemeine Veröffentlichung zurückgehalten hat. Das Modell soll in der Lage sein, bisher unentdeckte IT-Fehler schnell aufzuspüren.

Ein zweischneidiges Schwert: Die Technologie könnte helfen, die Cyberabwehr zu stärken, indem sie Schwachstellen aufzeigt. Aber sie weckt auch Befürchtungen, dass sie genutzt werden könnte, um eine Welle von Cyberangriffen auf kritische Infrastrukturen wie Finanzsysteme auszulösen.

«Aus heutiger Sicht würde die unkontrollierte und unmittelbare Verfügbarkeit von KI-Modellen wie Mythos als systemisches Risiko eingestuft», schreibt die Eidgenössische Finanzmarktaufsicht (Finma) auf Anfrage von Swissinfo.

«In einem solchen Szenario könnten praktisch alle existierenden Softwaresysteme gleichzeitig von einer Vielzahl bisher unbekannter Zero-Day-Schwachstellen betroffen sein, die sofort mithilfe von KI ausgenutzt würden.

«Project Glasswing» nur für wenige verfügbar

Die aktuellen Anzeichen deuten jedoch darauf hin, dass diese Funktionen kontrolliert und schrittweise zur Verfügung gestellt werden.»

Anthropic hat den frühen Zugang zu Mythos auf eine Handvoll US-Unternehmen wie Amazon Web Services, Microsoft, Nvidia, die Linux Foundation und JP Morgan beschränkt. Die ausgewählte Gruppe von multinationalen Unternehmen in der «Project Glasswing»-Initiative testet Mythos in einer kontrollierten Umgebung auf ihren eigenen Systemen.

Die USA und Grossbritannien haben Berichten zufolge Notfallsitzungen mit Banker:innen und Politiker:innen einberufen, um ihre Bedenken bezüglich der Risiken der Technologie zu erörtern. Führungskräfte und Regulierungsbehörden aus vielen Ländern haben Bedenken über die berichtete Leistungsfähigkeit von Mythos geäussert.

In der Schweiz «gab es bisher keine speziellen politischen oder Krisensitzungen, die Mythos oder ähnlichen grossen Sprachmodellen gewidmet waren», so die Schweizerische Bankiervereinigung (SBVg) gegenüber Swissinfo. «Stattdessen wird das Thema über bestehende Strukturen behandelt, die sich mit Cybersicherheit und operationeller Widerstandsfähigkeit befassen.»

Das Nationale Zentrum für Cybersicherheit (NCSC) koordiniert die Schweizer Reaktion auf Mythos und unternimmt derzeit Anstrengungen, um mehr über das KI-Modell und «Project Glasswing» herauszufinden.

«Dramatische Darstellungen» inmitten realer Bedrohungen

Die Behörde hat einen vorsichtigen Ansatz gewählt, da der Verdacht besteht, dass Anthropic die Fähigkeiten seines neuen Produkts im Vorfeld einer möglichen Börsennotierung übertreibt. «Die teilweise dramatischen Darstellungen sind auch durch Marketing beeinflusst», schreibt das NCSC auf Anfrage.

Eine vollständige Bewertung von Mythos ist unmöglich, da so wenige technische Details über das streng gehütete KI-Modell verfügbar sind. Das NCSC sagt, dass KI im Allgemeinen «weniger ein Gamechanger in Bezug auf neue Risiken und mehr ein Beschleuniger bestehender Bedrohungen» ist.

Was denken Sie? Teilen Sie uns Ihre Meinung mit:

«Die Durchführung komplexer Angriffe wird in Zukunft weniger Ressourcen erfordern und somit einer grösseren Anzahl von Akteuren zugänglich sein», heisst es. «Infolgedessen können hochkomplexe Angriffe, die bisher nur für Angreifer mit erheblichen Ressourcen möglich waren, häufiger auftreten.»

Die SBVg rät Banken, ihre IT- und Risikomanagementsysteme zu verstärken und gleichzeitig eine robuste Überwachung der in Betrieben verwendeten KI-Modelle einzusetzen. «Aus unserer Sicht ist die Bedrohung real, und ein reiner ‚Abwarten und Beobachten‘-Ansatz wäre nicht ausreichend», sagte die SBVg.

«Gegner können KI nutzen, um Schwachstellen zu identifizieren und Exploitationstechniken effizienter zu entwickeln. Diese erwartete Zunahme an Geschwindigkeit und Komplexität verstärkt die Notwendigkeit, Prozesse kontinuierlich zu verbessern, ein hohes Mass an Cyberbewusstsein aufrechtzuerhalten und Werkzeuge und Fähigkeiten entsprechend anzupassen.»

Europa fürchtet US-Dominanz bei KI

Europäische Länder befürchten, zurückzubleiben, während die USA und China die Macht der Künstlichen Intelligenz effektiver nutzen.

Chris McGuire, Senior Fellow mit Schwerpunkt China und aufstrebende Technologien beim Council on Foreign Relations, einem US-amerikanischen aussenpolitischen Think-Tank, begrüsst die US-Bemühungen, die Cyberabwehr zu verstärken und einen Vorsprung bei KI aufrechtzuerhalten.

«Diese Bemühungen sind dringend, weil China bald ein Modell entwickeln wird, das so leistungsfähig ist wie Mythos. Chinas beste KI-Modelle hinken führenden US-Modellen derzeit um etwa sieben Monate hinterher, möglicherweise etwas mehr», schrieb er in der Financial Times.

Die Schweiz und andere europäische Länder versuchen, die Lücke zu schliessen, indem sie sich einen Sitz am Tisch des «Project Glasswing» sichern.

«Alle relevanten Institutionen sollten Zugang zu dieser Technologie haben, um Wettbewerbsverzerrungen zu vermeiden», sagte der Präsident der Deutschen Bundesbank, Joachim Nagel, beim Internationalen Wirtschaftssymposium in Rom.

Seine Ansichten werden von Florian Tramèr, Professor für Cybersicherheit an der Eidgenössischen Technischen Hochschule Zürich (ETH), geteilt.

«Anthropic scheint eine hochgradig US-zentrische Sicherheitslogik zu verfolgen, wobei Europa nur eine untergeordnete Rolle spielt», schrieb er in einem auf der ETH-Website veröffentlichten Artikel. «Modelle dieser Art sind potenziell für die nationale Sicherheit, Nachrichtendienste und das Militär relevant. Wenn der Zugang auf US-Akteure beschränkt bleibt, werden diese Akteure für einige Zeit einen Vorsprung haben.»

Die grösste Bank der Schweiz, UBS, lehnte eine Stellungnahme zu Mythos ab.

Editiert von Veronica De Vore, Übertragung aus dem Englischen: Janine Gloor