Christian WolfDigitaler Wochenrückblick 16. November 2025
Für KI gibt es sehr viele und noch mehr völlig überflüssige Anwendungsgebiete. Noch besser wird KI, wenn sie Agenten einsetzt. Damit kann KI wie von Geisterhand den Tisch im Lieblingsrestaurant bestellen und lernt sogar dazu. Also wenn ich immer am Montag hingehe, weil das Schweineschnitzel billiger ist, lernt das Ding: dem schmecken nur billige Schweineschnitzel, und bucht mir in der ganzen Stadt jeden Tag die billigsten Schweineschnitzel.
Sinnvoll ist das nicht, überhaupt nicht. Persönlich freue ich mich allerdings, wenn KI sinnvoll eingesetzt wird. Das haben auch dieses Mal – wen wundert’s – die Chinesen erledigt.
Wer jetzt sofort an deepseek denkt, der liegt komplett falsch. Die Chinesen haben eine nordamerikanische KI für sich arbeiten lassen, die Claude-KI-Plattform von Anthropic schien ihnen für ihren Zweck am weitesten entwickelt.
Sie haben als Cybersicherheitsunternehmen die Claude-KI von Anthropic in kleinen überschaubaren Arbeitsschritten beauftragt, sicherheitsrelevante Schnittstellen, die auch Schwachstellen sein können, zu erkennen. Zudem sollten die KI-Agenten herausfinden, ob es bereits einen Missbrauch gab und wie er ausgeführt wurde.
Das Ergebnis war prachtvoll, nur sehr wenige Eingriffe von Menschenhand waren notwendig, um über diverse Hintertüren, auch „Backdoors“ genannt, in den dann offenen Systemen wertvolle Informationen zu bergen.
Die KI-Agenten unter chinesischer Leitung konnten in kurzer Zeit Benutzerkonten übernehmen, die höchste Zugriffsrechte besitzen, automatisiert wurden für dringlich notwendige Folgebesuche weitere Zugänge geöffnet.
Ganz offensichtlich war auch Anthropic von dieser Arbeit begeistert, denn das Arbeitsvolumen wäre von Menschenhand nicht in so kurzer Zeit fachmännisch abgearbeitet worden. Begeisterung kommt auch deshalb auf, weil die Chinesen ausgiebig die neuen Möglichkeiten zur Bewältigung sehr komplexer Aufgaben, die KI-Agenten von Anthropics Claude genutzt haben. Ein Meilenstein der KI-Entwicklung, der vor einem Jahr in dieser Form noch nicht möglich war.
Als Sicherheitsunternehmen chinesischer Prägung wurden in einem ersten Schritt die wertvollsten Ziele von Menschenhand ausgewählt, Anthropics Claude-KI musste in einem zweiten Schritt mit einem billigen Trick überzeugt werden, die Erkenntnisse einzusetzen.
Die KI-Agenten haben ganze Arbeit geleistet. Es war ihnen möglich, Eingriffsstellen zielgerichtet zu identifizieren, um Passwörter und andere, notwendige Zugangsdaten aufzunehmen. Und jetzt, nachdem alle Vorarbeit erfolgreich abgeschlossen war, konnten die gewünschten Daten im großem Stil problemlos übertragen werden.
Leider zeigte sich an einigen – aber durchaus verkraftbaren – Stellen, dass die KI auch mal halluzinierte, Passwörter und Benutzenamen aus purer Not vor einem Misserfolg erfand.
Insgesamt ist es ein großer Erfolg der KI-Modelle von Anthropic, rund 30 Unternehmen weltweit wurden durch die chinesischen Sicherheitsexperten gezielt untersucht, darunter auch Regierungsbehörden verschiedener Länder.
Genauere Angaben möchte Anthropic nicht machen, es könnte die Bevölkerung verunsichern, wird kolportiert.
Zugegeben, Technologiedefätisten und Weltuntergangsfanatiker ergeben sich in Klageliedern, sprechen von einer groß angelegten KI-gesteuerten Cyberattacke, ohne den großartigen Erfolg angemessen zu würdigen, der durch das Wirken von Anthropics KI-Claude erst möglich wurde.
In aller Bescheidenheit sprechen sie davon, diese Art von Cyberattacken würden in Zukunft nicht nur wahrscheinlicher, sondern wesentlich effektiver. Deshalb den Blick stramm nach vorn gerichtet, macht uns Anthropic Mut, denn die gleichen Fähigkeiten, die für Cyberattacken genutzt würden, können gleichwohl zur Abwehr eingesetzt werden.
Es gibt auch kritische Stimmen, die einen solchen hochautomatisierten KI-Angriff für Stuss halten, wie Sicherheitsexperte Kevin Beaumont
Ein solcher Marketing-Coup passt hervorragend, denn die Investitionen in KI lassen sich nur mit noch mehr KI begründen. Es wird aufgerüstet, koste es was es wolle. Allein Facebook spendiert sich dieses Jahr 72 Milliarden US-Dollar und plant in den nächsten Jahren noch viel mehr – was ist schon Geld, wir haben genug für diese nordamerikanischen Experimente übrig, denn sonst sind wir völlig überfordert, den üblen KI-Cyberattacken wehrlos ausgeliefert.
Ganz nebenbei steigen auch die Strompreise in Nordamerika. Ein Preistreiber durch die stark erhöhte Nachfrage sind die neuen Rechenzentren, die einen Strom- und Wasserverbrauch haben wie Millionenstädte. Bleibt abzuwarten, wann Donald Trump endlich erkennt, dass wir diesen unfairen Wettbewerbsnachteil in Form einer Energiesteuer für notleidende Tech-Konzerne ausgleichen müssen.
Und was machen wir? Wir ergötzen uns daran, dass Google in den nächsten fünf Jahren 5,5 Milliarden Euro in Deutschland für seine Rechenzentren ausgeben will. Vize-Kanzler Klingbeil ist schon ganz beseelt, sieht es als „echte Zukunfts-Investitionen in Innovationen, Künstliche Intelligenz, die klimaneutrale Transformation und zukünftige Arbeitsplätze in Deutschland“. Dass KI halluziniert, wissen wir, Politiker benötigen dafür keine KI. Sein Marketingberater, hätte ihm sagen sollen: „Halt Dich da raus, das kann nur schiefgehen!“ – hier trifft kaufmännisches Kalkül auf gottgegebene Einfalt.
Mich erinnert das an die Zeit, als wir mit Glasperlen und Brotkrusten die Eingeborenen aus dem Urwald gelockt haben…
ResearchBuzz: Firehose
KrebsOnSecurity RSS
ITSEC News
Ange des ténèbres 🐈
ottoto
Tarnkappe.info