Der CEO von Coinbase, Brian Armstrong, rechnet damit, dass bald ein unkontrolliertes KI-Modell im Internet auftaucht. Seiner Einschätzung nach geschieht dies in ein bis zwei Jahren.
Er beschreibt das Szenario eher als Wiederholung des Morris-Wurms von 1988, nicht als eine Gefahr für die gesamte Menschheit.
Gesponsert
Gesponsert
Warum Armstrong bald mit einem Vorfall mit unkontrollierter KI rechnet
Seine Prognose kommt nach einem Jahr mit echten Vorfällen. Im Juli berichtete OpenAI, dass zwei ihrer Modelle eine Testumgebung verlassen und Hugging Face gehackt hatten.
I wouldn't be surprised if an AI model goes rogue on the internet in the next year or two, something like the Morris Worm in 1988.
It will feel like a big deal, with a media frenzy and calls to shut all AI down. But, as always, people will adapt, defenses get built, and it will…
Diese Modelle wollten den Lösungsschlüssel für einen Hacking-Test. Dazu nutzten sie mehrere Schwachstellen in OpenAI-Systemen und auf den Servern von Hugging Face, um an die Lösungsdatenbank zu gelangen. Einige Tage später erreichte derselbe Agent ein zweites Unternehmen über fehlerhaften Code eines Kunden. Niemand hatte der unkontrollierten KI den Auftrag gegeben, auszubrechen.
Armstrong beschäftigt sich seit Monaten mit dem Thema. Bereits im Juli vertrat er die Ansicht, dass KI die Bedeutung von Krypto-Zahlungsnetzwerken erhöht, weil Agenten ständig Transaktionen durchführen werden. Gleichzeitig rüsten sich Sicherheitsexperten weiter aus. OpenAI stellte ein auf Cybersicherheit spezialisiertes Modell vor und gab geprüften Forschern Werkzeuge zur Entwicklung von Exploits an die Hand.
Armstrong erwartet ein bekanntes Muster. Zuerst entsteht eine Medienwelle, dann gibt es Forderungen, die KI-Entwicklung zu pausieren, anschließend wird die Sicherheitslücke geschlossen. Armstrong ist CEO der größten US-Krypto-Börse. Seine Einschätzung hat Gewicht, da Entwickler KI-Agenten bereits in Zahlungssysteme einbinden.
Gesponsert
Gesponsert
Abonnieren Sie unseren YouTube-Kanal, um von Experten und Journalisten aktuelle Einblicke zu erhalten
Kritiker halten den Vergleich mit dem Morris-Wurm für unzureichend
Der Wurm von 1988 infizierte laut FBI rund 6.000 von etwa 60.000 vernetzten Rechnern innerhalb von 24 Stunden. Der Autor, der 23-jährige Cornell-Student Robert Tappan Morris, erhielt eine Bewährungsstrafe und musste eine Geldstrafe zahlen.
Die Schäden lagen Schätzungen zufolge zwischen 100.000 und mehreren Millionen USD. Einige Universitäten trennten sich eine Woche lang vom Netzwerk.
Dennoch führte der Vorfall auch zu besseren Schutzmaßnahmen. Bereits nach wenigen Tagen gründete das Pentagon in Pittsburgh das erste Computer Emergency Response Team. Dieses Vorgehen prägt den Umgang mit IT-Vorfällen bis heute.
Sicherheitsforscher bezweifeln jedoch, dass ein unkontrollierter KI-Vorfall genauso glimpflich ausgeht. Ein Wurm folgt festen Anweisungen, ein KI-Agent passt sich dagegen an und kann Hindernisse überwinden.
Blockchain-Sicherheitsexperte Manuel Aráoz warnte bereits im Mai, dass KI-Agenten den Prüfern im Bereich dezentraler Finanzen voraus sind. Ian Rogers von Ledger nannte kürzlich ähnliche Risiken bei Angriffen auf Krypto-Wallets.
Kritiker sehen beim Vergleich größere Gefahren. Sie warnen vor autonomen Cyberangriffen, Desinformation in großem Stil und Kontrollverlust über kritische Infrastrukturen.
Der zentrale Unterschied zwischen den beiden Ansichten ist die Geschwindigkeit der Erholung. Armstrong glaubt, dass Sicherheitsupdates schneller greifen als der Schaden sich ausbreiten kann. Seine Skeptiker rechnen dagegen mit Schäden, die sich nicht mehr vollständig beheben lassen.
Beide Seiten stimmen aber in einem Punkt überein: Die Fähigkeiten der Modelle nehmen weiter zu, die Möglichkeiten zur Eindämmung hinken hinterher.
Bisher hat das Internet jeden Schock absorbiert. Ein echter Vorfall mit unkontrollierter KI wird zeigen, ob das auch diesmal gelingt.