KI-News

Der Schutz: KI durchleuchtet kritische Infrastruktur

Anthropic hat sein Cybersicherheitsprogramm stark ausgeweitet – auf rund 200 Organisationen in über 15 Ländern. Sie durchleuchten mit einer Hochleistungs-KI kritische Infrastruktur auf Schwachstellen, von Energie über Wasser und Gesundheit bis zur Kommunikation.

Bisher wurden mehr als 10.000 schwere Sicherheitslücken entdeckt. Die Dimension dahinter ist erheblich, denn ein erfolgreicher Angriff auf solche Systeme könnte jeweils mehr als 100 Millionen Menschen treffen.

Für Europa ist eine Personalie entscheidend: Die EU-Cybersicherheitsbehörde ENISA erhält als erste EU-Behörde Zugriff auf das Modell – ausschließlich zu Verteidigungszwecken; die Konditionen werden noch verhandelt.

Zugleich warnt Anthropic, in sechs bis zwölf Monaten könnten andere Anbieter vergleichbar starke Modelle haben – möglicherweise ohne vergleichbare Schutzmechanismen.

Bemerkenswert für die Lieferantenbewertung ist die Doppelrolle: Während das Programm Lücken aufdeckt, verkauft Anthropic parallel ein Produkt, das genau solche Lücken schließt.

Wer KI beschafft, sollte deshalb nicht nur auf Benchmarks schauen, sondern auch auf die Sicherheitspipeline des Anbieters.

Die Schwachstelle: der Meta-Fall

Wie schnell dieselbe Technik zum Einfallstor wird, zeigte ein Vorfall bei Meta.

Angreifer übernahmen prominente Instagram-Konten – unter anderem aus dem Umfeld des Weißen Hauses und von Sephora –, indem sie den KI-Support-Bot schlicht baten, die hinterlegte E-Mail-Adresse zu ändern. Unterstützt wurde der Angriff durch einen per VPN vorgetäuschten Standort.

Der Trick funktionierte allerdings nur bei Konten ohne aktive Zwei-Faktor-Authentifizierung; Konten mit 2FA blieben verschont. Die begehrten Kurznamen wechselten für mehr als eine halbe Million US-Dollar auf Telegram den Besitzer.

Der Fehler trägt einen Lehrbuchnamen: „Confused Deputy“.

Der Bot durfte eine Aktion auslösen, die ein normaler Nutzer ohne Login nie hätte auslösen dürfen. Das ist ausdrücklich kein Modellfehler, sondern ein Architekturfehler – und genau deshalb ist der Fall für jedes eigene Bot-Projekt relevant.

Meta hat einen Hotfix ausgespielt, doch ein weiterer Exploit zirkuliert bereits.

Die Steuerung: eine halbe Milliarde in einem Monat

Die dritte Zahl betrifft die Kostenkontrolle.

Ein nicht namentlich genanntes Unternehmen soll laut Axios in einem einzigen Monat eine halbe Milliarde US-Dollar für KI-Lizenzen ausgegeben haben – schlicht, weil keine Nutzungslimits gesetzt waren.

Als Treiber gelten falsche Modellwahl, fehlendes Context Engineering und endlose Chats. Dass selbst Microsoft parallel intern Lizenzen kürzt, unterstreicht den Punkt.

Es ist der hörbare Weckruf für „FinOps für KI“ – also dieselbe Kostendisziplin, die sich in der Cloud über das letzte Jahrzehnt etabliert hat.

Was das für Ihr Unternehmen heißt

Aus den drei Geschichten folgen drei Regeln.

Erstens: Lassen Sie Ihre eigene Software jetzt KI-gestützt auf Schwachstellen prüfen, bevor es jemand anderes tut. Anbieter dafür stehen bereit.

Zweitens: Die Meta-Lehre gehört als Architekturprinzip in jedes Bot-Projekt. Jede unumkehrbare Aktion – Passwort-Reset, Buchung, Bestellung, Adressänderung – braucht eine separate Bestätigung, die sich nicht durch Sprache verhandeln lässt, etwa über ein verifiziertes Gerät. Ein Bot darf nie mehr Rechte haben als der Nutzer.

Drittens: KI-Kostenlimits gehören gesetzt, bevor die erste Überraschungsrechnung kommt.

Diese Disziplinen werden umso wichtiger, je tiefer KI in die eigenen Prozesse einzieht – und genau das passiert gerade, wie unsere dritte Nachricht zeigt.

Quellen

• Anthropic – Mitteilung „Expanding Project Glasswing“ vom 02.06.2026
• Bloomberg / FT / TechCrunch – Berichte zum ENISA-Zugang
• 404 Media / The CyberSec Guru – Berichterstattung zum Meta-AI-Vorfall
• ZachXBT / Dark Web Informer – Schätzungen zum Wert der übernommenen Konten
• Axios – Bericht zur 500-Mio.-US-Dollar-Lizenzrechnung; Berichte zu Microsofts interner Lizenzkürzung