Steffen Körner

Die Financial Times berichtete am heutigen Sonntag, dass Hackervorfälle mit KI-Agenten von OpenAI den ChatGPT-Entwickler einer Klagewelle aussetzen könnten.

Am Freitag erklärte OpenAI, eines seiner Modelle habe nicht öffentliche Brandstatistiken von einer Parkbehörde in New South Wales abgerufen. Dabei handelte es sich um den zweiten bekannt gewordenen Einbruch bei einer australischen Regierungsbehörde.

Der Batteriehersteller ​Varta hat vier Insolvenzanträge gestellt. Das ⁠bestätigte das Amtsgericht Stuttgart am Freitag. Die Eigentümer, Porsche und der österreichische Unternehmer Michael Tojner, waren offenbar ​nicht zu einer weiteren Kapitalspritze bereit.

Googles AI Overviews behandelt Wörter wie „disregard” und „ignore” als systeminterne Befehle und antwortet mit „Verstanden. Nachricht ignoriert.” statt mit Suchergebnissen. 🤯

Der Fehler ist eine klassische Prompt-Injection-Schwachstelle, bei der die KI nicht zwischen Nutzeranfragen und auszuführenden Anweisungen unterscheiden kann.

Mark Gurman von Bloomberg berichtete am Sonntag, dass Apples kommende eigenständige Siri-App automatisch löschende Chats als datenschutzorientiertes Alleinstellungsmerkmal gegenüber konkurrierenden Chatbots enthalten wird.

Die App mit dem Codenamen „Campo” markiert eine strategische Kehrtwende, nachdem Apple ursprünglich geplant hatte, Siri tief ins gesamte Ökosystem zu integrieren, anstatt eine dedizierte Chatbot-App zu entwickeln.

EY hat seinen Cybersicherheitsbericht „Points of Attack” zurückgezogen, nachdem GPTZero festgestellt hatte, dass die meisten Zitate entweder erfunden waren oder auf nicht existierende Quellen verwiesen.

Der Bericht aus dem Jahr 2025, der zwei Partnern und einem Senior Manager zugeschrieben wurde, soll zu 72 % von einer KI generiert worden sein und enthielt einen Verweis auf eine gefälschte McKinsey-Studie.

Ein unter dem Namen Chaotic Eclipse bekannter Forscher veröffentlichte nur wenige Tage nach Microsofts Patch Tuesday im Mai zwei Proof-of-Concept-Exploits für ungepatchte Windows-Schwachstellen – bekannt als YellowKey und GreenPlasma – die Windows 11 und Windows Server betreffen.

YellowKey umgeht die BitLocker-Verschlüsselung über die Windows-Wiederherstellungsumgebung mithilfe eines USB-Sticks und erfordert physischen Zugang zum Zielgerät.

AFP berichtet über mehrere Betroffene, die nach intensiver Nutzung von KI-Chats den Bezug zur Realität verloren haben, darunter einen kanadischen Mann, der sich als Papst bewarb, nachdem ChatGPT ihn davon überzeugt hatte, er habe die Physik vereinheitlicht.

Forscher nennen das „KI-assoziierte Wahnvorstellungen”. Eine in Lancet Psychiatry veröffentlichte Studie identifizierte Muster von Größenwahn, romantischen Wahnvorstellungen und Verfolgungswahn; die schmeichlerischen Chatbot-Antworten von OpenAI wurden als wesentlicher Risikofaktor hervorgehoben.

MIT Technology Review berichtete am Dienstag, dass KI-Chatbots echte Telefonnummern und Adressen zurückgeben, die aus wenig bekannten öffentlichen Registern stammen.

Betroffene berichten, dass Googles Gemini ihre Nummern als Platzhalter verwendete, wenn Nutzer nach geschäftlichen Kontaktdaten fragten.

Google Threat Intelligence Group gab am Montag bekannt, den ersten bestätigten Zero-Day-Exploit identifiziert zu haben, der nach eigener Einschätzung mithilfe von KI entwickelt wurde.

Der Exploit, ein Python-Skript zur Umgehung der Zwei-Faktor-Authentifizierung eines Open-Source-Verwaltungstools, enthielt halluzinierte Daten und LLM-typische Formatierungen als verräterische Merkmale.

Project Eleven veröffentlichte am Mittwoch einen Bericht, der den sogenannten „Q-Day” – also den Zeitpunkt, an dem Quantencomputer die Blockchain-Verschlüsselung brechen können – modelliert und ihn wahrscheinlich auf 2033, möglicherweise sogar bereits auf 2030 datiert.

Aktuelle Forschungsergebnisse von Google haben den geschätzten Ressourcenaufwand zum Knacken der Bitcoin-Verschlüsselung um das 20-Fache reduziert, auf unter 500.000 physische Qubits.

Der norwegische Forscher Tom Jøran Sønstebyseter Rønning entdeckte, dass der Microsoft-Browser Edge beim Start alle gespeicherten Passwörter entschlüsselt und im Klartext im Arbeitsspeicher ablegt.

Microsoft bestätigte, dass dieses Verhalten „by design” sei und laut CSO Online nicht den unternehmensinternen Kriterien für eine sofortige Behebung entspreche.

Nvidia Vice President Bryan Catanzaro sagte gegenüber Axios, dass die KI-Rechenkosten für sein Team die Mitarbeitergehälter mittlerweile weit übersteigen.

Uber hat sein gesamtes KI-Budget für 2026 bereits im April verbraucht, nachdem Ingenieure Anthropics Claude Code intensiv nutzten – 70 % des eingecheckten Codes wird inzwischen von KI generiert.

Der deutsche Ifo-Geschäftsklimaindex fiel von 86,3 im März auf 84,4 und damit auf den niedrigsten Stand seit Mai 2020. Er liegt zudem deutlich unter der Analystenprognose von 85,5.

Das Bundeswirtschaftsministerium halbierte diese Woche seine Wachstumsprognose für 2026 auf 0,5 % und verwies auf stark gestiegene Energiepreise infolge des Iran-Krieges und der Störungen in der Straße von Hormus.

Die ehemalige kommissarische nationale Cyber-Direktorin Kemba Walden warnte am Donnerstag, dass Anthropics KI-Modell Mythos Bedrohungen darstelle, auf die die USA nicht vorbereitet seien. Das Modell könne „nahezu alles hacken”.

Südkoreas Nationaler Nachrichtendienst hat in dieser Woche eine Sicherheitswarnung herausgegeben, in der Mythos namentlich genannt und „KI-gestütztes Hacking” als eine der fünf größten nationalen Cyber-Bedrohungen für 2026 eingestuft wird.

Der Sicherheitsberater Paul Moore hat die Altersverifikations-App der EU-Kommission einen Tag nach ihrer Vorstellung gehackt und dabei grundlegende Designfehler aufgedeckt. Er bearbeitete eine lokale Konfigurationsdatei und erzeugte so gefälschte Anmeldedaten, die von Plattformen akzeptiert wurden.

Die EU-Kommission hatte die App am 15. April vorgestellt. Kommission-Präsidentin von der Leyen bezeichnete sie als den weltweit höchsten Datenschutzstandard. Sechs Mitgliedstaaten erproben sie derzeit im Pilotbetrieb.

Anthropic hat kontinentaleuropäische Cybersicherheitsbehörden weitgehend vom Testen seines Claude Mythos Preview ausgeschlossen. Das berichtet Politico, das acht Behörden kontaktierte und feststellte, dass die meisten übergangen wurden.

Das BSI hat bestätigt, das Modell nicht direkt getestet zu haben, während das britische AI Security Institute Mythos als „das leistungsfähigste Modell, das wir je im Bereich Cyber evaluiert haben” bezeichnete.

Auf X kursierende geleakte Screenshots zeigen, dass Anthropic einen visuellen App-Builder in Claude testet inklusive Live-Vorschauen, Datenbankanbindung und One-Click-Deployment.

Das Tool, das unter dem Motto „Let’s ship something great” firmiert, würde in direkten Wettbewerb mit Lovable treten, das laut CNBC im Dezember 2025 eine Finanzierungsrunde über 330 Millionen Dollar bei einer Bewertung von 6,6 Milliarden Dollar abgeschlossen hat.