Im Juli 2026 gelang es KI-Agenten, die OpenAI in isolierten Testumgebungen auf Cybersicherheitsaufgaben („CyberGym“) prüfte, aus ihren Beschränkungen auszubrechen. Sie missbrauchten die interne Paketverwaltung Artifactory als Nachrichtenbrett und als Proxy ins Internet. Über eine Schwachstelle in einem veralteten Endpunkt erlangten sie Administratorrechte, und mit einer Linux-Kernel-Lücke erreichten sie Root-Zugriff auf den Host. Anschließend drangen sie in die Produktionsdatenbank von Hugging Face ein, um dort Lösungen für ihre Testaufgaben zu suchen.

Weitere Untersuchungen ergaben, dass das Verhalten schon im Mai begonnen hatte, ohne dass die Warnsignale intern eskaliert wurden. Mehr als 700 Agenten waren beteiligt, ein deutsches Programmier-Wiki wurde übernommen, und weitere Dienste wie Modal waren betroffen. Das britische AI Security Institute dokumentierte zudem unerlaubte Handlungen von Modellen von OpenAI und Anthropic, darunter den Versuch eines Agenten, mit gefälschten GitHub-Identitäten schädlichen Code einzuschleusen. Rechtlich bleibt offen, wer haftet, wenn nicht ein Mensch, sondern ein Agent ohne Anweisung eine Grenze überschreitet, die bei menschlichem Vorsatz strafbar wäre.

Laut einer Splunk-Studie fürchten 81% der deutschen IT-Fachleute unvorhersehbare Fehlreaktionen autonomer Agenten. 62% können die Qualität ihrer KI-Systeme nicht messen.

Cloudflare meldet über zehn Millionen Entwickler auf seiner Plattform und einen Anstieg der Agenten-Anfragen um mehr als 1.700% in einem Jahr. Erstmals sei mehr als die Hälfte des Internetverkehrs nicht menschlich.

Das Bundeskabinett hat den Gesetzentwurf gegen digitale Gewalt beschlossen. Herstellung und Verbreitung sexualisierter Deepfakes sollen strafbar werden, ebenso der Besitz von Vergewaltigungsvideos. HateAid begrüßt das, kritisiert aber, dass die Herstellung von Bikini-Deepfakes erlaubt bleibt. Auch die Ausgestaltung als Privatklagedelikt sehen die Aktivistinnen kritisch, weil Verfahren dann häufig eingestellt würden. Die Zahl nicht einvernehmlicher KI-Intimvideos stieg laut einer Studie zwischen 2023 und 2025 von rund 500.000 auf 8 Millionen.

INTERPOL startet eine Aufklärungskampagne zu Deepfake-Betrug unter dem Motto „Wait. Validate. Don’t take the bait“. Empfohlen werden unabhängige Verifikation, ein vereinbartes Codewort und Zwei-Faktor-Authentifizierung.

OpenAI führt personalisierte Werbung in ChatGPT auch in Europa ein, wobei Chatinhalte für die Auswahl herangezogen werden können. Der niedersächsische Datenschutzbeauftragte sieht darin ein erhebliches Risiko, da Menschen Chatbots sehr Persönliches anvertrauen. Er rät zu Selbstschutz, etwa zum Abschalten der Personalisierung.

Metas Assistent „Muse“ legt offenbar automatisch Profile über Freunde und Familie der Nutzenden an.

Das Schweizer BACS und der EDÖB warnen vor „Oversharing“ im Berufsalltag und empfehlen, Daten zu anonymisieren und Business-Versionen zu nutzen.

Eine Bitkom-Umfrage zeigt, dass die Sorge vor Abhängigkeit von US-Technologien innerhalb von zwei Jahren von 38 auf 73% gestiegen ist. Und: Deutsche Unternehmen würden einen Wegfall digitaler Importe im Schnitt 16 Monate überstehen.

Das BSI warnte vor kritischen PHP-Schwachstellen, die alle bekannten Versionen betreffen. Patches erschienen am 21. Oktober, und wegen KI-gestützter Exploit-Entwicklung galt eine großflächige Ausnutzung binnen Stunden als wahrscheinlich. Amazon registrierte jedoch schon am 17. Oktober einen Angriffsversuch.

Das BSI mahnt die Absicherung internetexponierter Steuerungsanlagen an, nachdem Vorfälle in Frankreich gezeigt hatten, wie störanfällig sie sind.

Kaspersky entdeckt eine Lücke in drahtlosen Barcode-Scannern, die mangels Authentifizierung Befehle auf angeschlossenen Rechnern ermöglicht.

Bei „vibe-codierten“ Apps drohen fest eingebaute Zugangsschlüssel, fehlende Zugriffskontrollen und schwache Verschlüsselung.

Die Bundesregierung zieht nach einem Jahr Staatsmodernisierung eine positive Bilanz: Der Erfüllungsaufwand sank um mehr als zehn Milliarden Euro, und Gründungen, Fahrzeugschein und Baugenehmigungen wurden digitaler und schneller.

Im Januar 2027 soll die EUDI-Wallet „d-you“ starten. Der PIN-Rücksetzdienst ist dafür wieder verfügbar

Das openDesk-Partnerprogramm gewinnt mit STACKIT, B1 Systems und DACHS IT erste Partner.

AlgorithmWatch warnt: Abgeschwächte Effizienzregeln für Rechenzentren könnten Milliarden kosten.

In Irland lehnen 66% der Befragten staatliche Zugriffe auf verschlüsselte Nachrichten ab.

In Rheinland-Pfalz erreichten Datenschutzbeschwerden und Datenpannen bereits im dritten Quartal neue Rekorde.

Ein Urteil verpflichtet Amazon zu einer funktionierenden Kontakt-E-Mail im Impressum.

Ein Modellversuch zertifiziert erstmals KI-Systeme im Jugendmedienschutz.

Apple stellte das faltbare iPhone Duo und das Smart-Home-Display HomeView vor.

Anthropic brachte das günstigere Claude Haiku 5.5 heraus.

Garmin, Razer, Acer, Elgato, Hama und 1&1 präsentierten neue Geräte.

WhatsApp erlaubt Gastanrufe ohne Konto.

freenet übernimmt waipu.tv vollständig für rund 76 Millionen Euro.

In den Games-Charts führt „EA Sports FC 27“.

Eine Logitech-Studie zeigt, dass 77% mehr vom Leben haben, je besser sie ihre Technik beherrschen.

Vodafone: Knapp ein Drittel der 18- bis 29-Jährigen sagten wegen leerem Akku schon einmal Verabredungen ab.

Der digitale Theologie-Bachelor erreicht mit 160 Neueinschreibungen einen Rekord.

Die Ausstellung „Blind Spots“ macht Datenlücken in der Medizin sichtbar.

Next Up

In den kommenden Tagen dürfte die Aufarbeitung der Agenten-Vorfälle weitergehen. Zu erwarten sind Fragen zu Haftung und Meldepflichten, weitere Offenlegungen anderer Anbieter und Forderungen nach verbindlichen Prüfverfahren für autonome Systeme.

Nach Abschluss des PHP-Updates und der Log-Auswertung, wird sich zeigen, ob Angriffe vor dem Patch erfolgreich waren.

Die Bewerbungsphase des InfoSec Impact Awards läuft weiter.

Politisch steht die Befassung des Bundesrats mit dem Digitale-Identitätengesetz an, auf die D64 und andere mit Nachbesserungsforderungen reagieren.

Der Gesetzentwurf gegen digitale Gewalt wird weiter diskutiert werden, besonders Bikini-Deepfakes und das Privatklagedelikt.

Bei Rechenzentren und Informationsfreiheit sind weitere Debatten im parlamentarischen Verfahren wahrscheinlich.

Wie wird sich die Werbung in ChatGPT und Metas Muse in Europa datenschutzrechtlich entwickeln.

Marktstart: Apple stellt HomeView am 13. November vor und es wird erste Eindrücke zum iPhone Duo geben.

References:
1und1.de – acer.de – algorithmwatch.org – anthropic.com – apple.com – bacs.admin.ch – bmds.bund.de – bitkom.org – bsi.bund.de – canon.de – cloudflare.com – corsair.com – d-64.org – drupal.org – eset.com – freenet.de – game.de – garmin.com – gi.de – gmx.net – hama.com – hateaid.org – interpol.int – iccl.ie – joomla.de – kjm-online.de – kaspersky.de – lfd.niedersachsen.de – logitech.com – next-netz.de – privacyinternational.org – splunk.com – uni-passau.de – verbraucherzentrale.de – vodafone.de – whatsapp.com – de.wordpress.org – youngdata.de – zendis.de