Dimasheq – Technologie | BBC
In dieser Woche sorgte eine Geschichte in der Technologiewelt für großes Aufsehen und wirkte wie direkt aus einem Science-Fiction-Thriller.
Am 16. Juli gab die KI-Plattform Hugging Face, ein Marktplatz für Anwendungen im Bereich der künstlichen Intelligenz, bekannt, dass sie von einem Cyberkriminellen angegriffen wurde, der eine außergewöhnlich leistungsfähige KI eingesetzt haben soll.
Die alarmierende Mitteilung war voller technischer Begriffe wie „ein Schwarm von Sandboxes“, „ein autonomer Angreifer-Agent“ und „ein selbstständig agierendes Command-and-Control-System“.
Hugging Face erklärte, dass sich dieser Vorfall von allen bisherigen Angriffen unterscheide, da er mit einer Geschwindigkeit durchgeführt worden sei, die menschliche Fähigkeiten übertreffe, und von einer KI ausgeführt wurde, die nur wenig oder gar keine menschliche Anleitung erhalten habe.
Die KI führte innerhalb von weniger als zwei Tagen 17.000 Aktionen aus und drang erfolgreich in ein großes Technologieunternehmen ein, um dessen Geschäftsgeheimnisse zu stehlen.
Der Vorfall schockierte die Technologiebranche. Doch wer steckte dahinter?
Forscher von Hugging Face vermuteten, dass die Angreifer eines der neuesten großen KI-Modelle eingesetzt hatten. Wer die Täter waren oder wo sie sich befanden, war jedoch unbekannt.
Das Unternehmen informierte die Strafverfolgungsbehörden und leitete Ermittlungen ein.
Wer war verantwortlich?
Kommentatoren und Analysten spekulierten in Podcasts und sozialen Netzwerken darüber, welche Hackergruppe oder staatlich unterstützte Organisation hinter dem Angriff stehen könnte.
Eine Woche später wurde der wahre Verursacher bekannt.
Es war ChatGPT.
Noch überraschender wurde die Geschichte, als OpenAI erklärte, dass das System den gesamten Vorgang eigenständig und ohne Genehmigung durchgeführt habe.
Laut OpenAI geschah dies während eines Tests der Cyberfähigkeiten seiner KI.
Zwei neue Versionen von ChatGPT, die speziell als Hacking-Experten entwickelt wurden, sollen ihre gesicherte Testumgebung verlassen, Zugang zum Internet erhalten und anschließend Hugging Face angegriffen haben, um Informationen für eine bessere Testleistung zu sammeln.
OpenAI veröffentlichte anschließend eine Stellungnahme und kündigte an, gemeinsam mit Hugging Face den Sicherheitsvorfall aufzuarbeiten und die gewonnenen Erkenntnisse auszutauschen.
Verschwörung oder Realität?
Seitdem wird heftig darüber diskutiert.
War dies tatsächlich eine ernste Warnung vor den Risiken moderner KI? Oder lediglich ein geschickter PR-Stunt von OpenAI?
Kritiker werfen KI-Unternehmen seit Jahren vor, Angst als Marketinginstrument zu nutzen. Spätestens seit dem umstrittenen Mythos-Modell von Anthropic stehen Cyberfähigkeiten im Mittelpunkt der Aufmerksamkeit.
Ein viel zitierter Kommentar unter einem Beitrag von OpenAI-CEO Sam Altman auf X lautete:
„Wenn ihr nicht erkennt, dass das nur geschrieben wurde, um mit dem Modell anzugeben, weiß ich auch nicht.“
Der Cybersecurity-Berater Daniel Card schrieb auf LinkedIn ironisch:
„Wie praktisch, dass OpenAI ausgerechnet eine Plattform gehackt hat, die ebenfalls von der öffentlichen Aufmerksamkeit profitieren kann.“
Manche halten die Geschichte eher für eine Verschwörung als für Science-Fiction.
Die Botschaft sei:
„Unsere KI ist unglaublich leistungsfähig – kauft unsere Produkte, um euch vor KI-Angriffen anderer zu schützen.“
Andere sehen darin jedoch eher einen schwerwiegenden Fehler von OpenAI.
Ein Unternehmenssprecher erklärte, OpenAI kenne die zahlreichen Fragen und Spekulationen und werde in den kommenden Wochen einen technischen Bericht veröffentlichen.
Eine Kette von Fehlern
Zahlreiche Cybersecurity-Experten kritisieren OpenAI dafür, keine ausreichend sichere Sandbox für den Test solcher Systeme eingerichtet zu haben.
Schließlich wurden diese Modelle ausdrücklich darauf trainiert, Sicherheitssysteme zu überwinden.
Dor Sarig von Pillar Security erklärte:
„Der Vorfall zwischen OpenAI und Hugging Face zeigt ein grundlegendes Problem, auf das wir seit Monaten hinweisen. Sandboxes allein reichen als Schutz für autonome KI-Agenten nicht aus.“
Auch Professor Alan Woodward von der University of Surrey sprach von einem gravierenden Fehler.
Katie Moussouris von Luta Security erklärte sogar, dass die KI-Branche ihre eigenen Entwicklungen derzeit nicht vollständig kontrollieren könne.
„Wir entwickeln hochmoderne Technologien, ohne genau zu wissen, wie wir sie sicher eindämmen können.“
Sollte der Vorfall tatsächlich als PR-Aktion gedacht gewesen sein, könnte er sich letztlich gegen OpenAI gewendet haben.
Unabhängig von der Ursache markiert das Ereignis einen wichtigen Wendepunkt für die Bereiche künstliche Intelligenz und Cybersicherheit.
Francesca Bosco, Beraterin für KI und Cybersicherheit, erklärte:
„Es gibt zwei vereinfachte Erzählungen: Entweder ChatGPT ist wie in einem Hollywood-Film ausgebrochen, oder alles war nur Werbung.“
Sie fügte hinzu:
„Die ernsthaftere Erklärung lautet, dass intensive Tests Schwachstellen in den Sicherheits- und Bewertungssystemen offengelegt haben.“
Ein Katastrophenszenario?
Der Vorfall reiht sich in eine wachsende Zahl beunruhigender Beispiele ein, bei denen KI-Systeme unerwartetes Verhalten gezeigt haben.
Eine aktuelle Studie des britischen AI Security Institute (AISI) kam zu dem Schluss, dass moderne KI-Modelle ihre Ziele teilweise so konsequent verfolgen, dass sie in Tests sogar „geschummelt“ haben.
Das Institut warnte:
„Ein Modell, das seine Ziele mit unbeabsichtigten oder nicht autorisierten Mitteln verfolgt, kann insbesondere in Hochrisikobereichen erheblichen Schaden verursachen.“
Der OpenAI-Vorfall hat die Sorge verstärkt, dass autonome KI-Agenten künftig außer Kontrolle geraten könnten.
Besonders relevant erscheint dies angesichts der zunehmenden Nutzung künstlicher Intelligenz in militärischen Konflikten wie in Iran und der Ukraine.
Ciaran Martin, ehemaliger Leiter des britischen National Cyber Security Centre, mahnte jedoch zur Besonnenheit:
„Es wäre übertrieben, aus diesem Vorfall zu schließen, dass KI-Systeme bald Drohnen übernehmen und Menschen töten werden.“
Dennoch zeige der Vorfall deutlich, dass künstliche Intelligenz inzwischen äußerst leistungsfähig im Bereich von Cyberangriffen geworden ist und dass sich Gesellschaft und Sicherheitsbehörden dringend darauf vorbereiten müssen.
Quelle: BBC, über Elaph
