Microsoft bestätigt, dass Copilot geschützte E-Mails durschsucht

Microsoft hat eingeräumt, dass sein KI-Assistent Copilot wochenlang auf als vertraulich eingestufte E-Mails zugegriffen habe, obwohl er dazu nicht berechtigt gewesen sei.

Microsoft hat bestätigt, dass ein Fehler in Microsoft 365 Copilot dem KI-Assistenten Zugriff auf vertrauliche E-Mails gewährt habe. Ein Vorfall, der bei Unternehmen, die auf den Dienst setzen, erhebliche Datenschutzbedenken auslöst.

Die Ende Januar entdeckte Schwachstelle ermöglichte es dem KI-Assistenten, Richtlinien zur Verhinderung von Datenverlust (DLP) zu umgehen, die eigentlich sensible Unternehmensinformationen schützen sollen. Betroffen war konkret die Chat-Funktion im „Arbeit"-Tab von Copilot, die E-Mails aus den Ordnern für gesendete Nachrichten und Entwürfe zusammenfassen kann.

Wie sich herausstellte, hatte Copilot Zugriff auf Nachrichten, die als „vertraulich" gekennzeichnet waren. Diese Einstufung sollte eigentlich verhindern, dass automatisierte Tools bestimmte Inhalte einsehen können. Die Schutzmechanismen versagten jedoch und ermöglichten es Copilot, sensible Inhalte zu lesen und zusammenzufassen.

Zuerst hatte das Tech-Nachrichtenportal Bleeping Computer über den Fehler berichtet, das nach eigenen Angaben eine interne Dienstmeldung eingesehen habe, die das Problem bestätige. Seit der Veröffentlichung hat Microsoft reagiert und den Fehler behoben. Ein Konfigurations-Update sei „weltweit für Unternehmenskunden ausgerollt" worden.

„Wir haben ein Problem identifiziert und behoben, bei dem Microsoft 365 Copilot Chat Inhalte aus als vertraulich gekennzeichneten E-Mails zurückgegeben habe, die von Nutzern verfasst und in deren Entwürfen sowie gesendeten Nachrichten in Outlook Desktop gespeichert gewesen seien", erklärte Microsoft in einer Stellungnahme gegenüber der BBC.

„Die Zugriffskontrollen und Datenschutzrichtlinien seien zwar intakt geblieben, doch dieses Verhalten habe nicht der beabsichtigten Copilot-Nutzung entsprochen, die darauf ausgelegt sei, geschützte Inhalte vom Copilot-Zugriff auszuschließen", fügte das Unternehmen hinzu.

Copilot ist und bleibt unsicher

Microsoft Copilot Studio wurde im Februar 2023 eingeführt und ermöglicht es Unternehmen, eigene KI-Assistenten zu erstellen und mit firmenspezifischen Daten zu trainieren, um Aufgaben in Microsofts Anwendungen zu automatisieren.

Seit dem Start treibt der Technologiekonzern die Einführung seines KI-Assistenten in seinem gesamten Ökosystem aggressiv voran. Copilot wurde in Word, Excel, Outlook, PowerPoint und OneNote integriert. Im September 2025 ging Copilot Chat für Microsoft-365-Geschäftskunden an den Start und ermöglicht es Nutzern, direkt mit KI-Agenten zu kommunizieren.

Während Technologiekonzerne KI-Assistenten als unverzichtbare Produktivitätswerkzeuge anpreisen, warnen Cybersicherheitsexperten, dass die rasante Einführung von KI neue Angriffsflächen schaffe, die Unternehmen nur schwer absichern könnten. Besonders hoch sei das Risiko für Unternehmen, die mit sensiblen Daten arbeiten.

Erst im Januar haben Sicherheitsforscher der Varonis Threat Labs einen Ein-Klick-Angriff entdeckt, mit dem sich Microsofts Copilot dazu bringen ließ, sensible Nutzerdaten über einen täuschend echt wirkenden Link preiszugeben.

Die Schwachstelle in Microsoft Personal, die den Namen „Reprompt" trägt, konnte ausgenutzt werden, ohne dass der Nutzer in irgendeiner Weise mit Copilot interagieren musste. Ein Klick auf einen Phishing-Link genügte.

Cybernews hatte bereits zuvor berichtet, dass ein Cybersicherheitsforscher Copilot-Nutzer gewarnt habe: Es sei nur eine Frage der Zeit, bis Microsofts KI-Tool beginne, Daten preiszugeben.

Bereits 2024 demonstrierte der Sicherheitsforscher Michael Bargury, wie leicht Copilot-Studio-Bots sensible Unternehmensdaten abgreifen und bestehende Sicherheitsmechanismen umgehen können. Die Ergebnisse wurden auf der jährlichen Sicherheitskonferenz Black Hat USA 2024 in Las Vegas vorgestellt.

Dem Forscher zufolge weise Copilot eine Reihe von Schwachstellen auf, die das Risiko für Nutzer erhöhen. Eine Kombination aus unsicheren Standardeinstellungen, zu weitreichenden Plugin-Berechtigungen und wunschgetriebenen Designentscheidungen mache ein Abfließen von Daten „wahrscheinlich, nicht nur möglich", erklärte der Forscher damals.

Mit einem selbst entwickelten Exploit-Tool durchsuchte der Forscher öffentlich zugängliche Copilot-Instanzen und nutzte sie aus, um sensible Unternehmensdaten abzugreifen.

„Angreifer könnten aus der Ferne die Interaktion mit dem Copilot übernehmen. Sie könnten den Copilot dazu bringen, in deinem Namen alles zu tun, was sie wollen, dich manipulieren und deine Entscheidungen verfälschen. Sie hätten die volle Kontrolle über jedes Wort, das der Copilot dir schreibt", warnte Bargury.

Sicherheitsforscher warnen: „2026 wird es deutlich mehr solcher Vorfälle geben"

Der Copilot-Vorfall dürfte kein Einzelfall bleiben. Vielmehr könnte er ein Frühwarnsignal für ein weitaus größeres Risiko sein.

Dr. Ilia Kolochenko, CEO von ImmuniWeb, Mitglied von Europol und Fellow am European Law Institute, warnt, dass die rasante Ausbreitung von agentenbasierter KI und KI-gestützten Plugins in herkömmlichen Software-Infrastrukturen die Bedrohungslandschaft schleichend vergrößere.

„Vorfälle wie dieser würden 2026 voraussichtlich stark zunehmen und möglicherweise zur häufigsten Art von Sicherheitsvorfällen in großen wie kleinen Unternehmen weltweit werden", erklärte Kolochenko gegenüber Cybernews.

Aus seiner Sicht führen Unternehmen KI schneller ein, als sie sie absichern können. Während Firmen sich einen Wettlauf um den Einsatz intelligenter Assistenten liefern, um Produktivitätsgewinne zu erzielen, hinken die Governance-Rahmenwerke oft hinterher.

Viele herkömmliche Schutzmechanismen, darunter Systeme zur Verhinderung von Datenverlust, seien nie dafür konzipiert worden zu überwachen, wie KI-Agenten auf sensible Daten zugreifen, sie interpretieren und neu aufbereiten. Deshalb seien sie kaum in der Lage, unbefugte oder übermäßige KI-Nutzung durch nachlässige Mitarbeiter oder böswillige Insider zu erkennen.

Kolochenko warnt, das Problem gehe weit über internen Missbrauch hinaus. Kriminelle Gruppen entwickelten bereits gezielt bösartige KI-Agenten, die darauf ausgelegt seien, sensible Informationen in großem Stil abzugreifen.

„Der Missbrauch von KI werde auch für den Datenschutz 2026 eine Katastrophe. Jeden Tag würden weltweit Unmengen sensibler personenbezogener Daten ohne jegliche Vorsichtsmaßnahmen mit großen Sprachmodellen geteilt", sagte er.

„Selbst Regierungsbehörden entwickelter Länder seien diesem Risiko ausgesetzt, weil es an angemessenen oder schlicht fehlenden Richtlinien für den Einsatz von KI am Arbeitsplatz mangele."

Dem Sicherheitsexperten zufolge werde Schatten-KI – wenn Mitarbeiter eigene Geräte mit KI-Apps mitbringen, um vertrauliche Daten zu scannen oder anderweitig zu erfassen – eine der größten Herausforderungen darstellen.

Kolochenko prognostiziert zudem eine juristische Abrechnung. Da KI-Systeme zunehmend in geschäftskritische Prozesse eingebettet würden, seien Haftungsfragen unvermeidlich.

„2026 und darüber hinaus werde es voraussichtlich zahlreiche Sammel- und Einzelklagen sowohl gegen Technologiekonzerne als auch gegen spezialisierte KI-Anbieter wegen unrechtmäßiger Erhebung von Nutzerdaten geben", betont Kolochenko.

„Einige skrupellose Akteure, die agentenbasierte KI gezielt zum Abgreifen wertvoller oder vertraulicher Daten einsetzen, würden sich vermutlich darauf berufen, die Daten versehentlich und ohne Genehmigung gesammelt zu haben."

Ob eine solche Verteidigung vor Gericht Bestand habe, hänge von vielen Faktoren ab, doch „die KI-Branche werde voraussichtlich schwer getroffen", wobei einige KI-Anbieter aufgrund von Rechtsstreitigkeiten und Reputationsverlusten vom Markt verschwinden dürften.

Kolochenko ist überzeugt, dass Regierungen weltweit nach einigen Sicherheitsvorfällen von ausreichendem Ausmaß überstürzt KI-Regulierungen vorantreiben werden.

„Vorfälle wie der Zusammenbruch eines Betreibers kritischer nationaler Infrastruktur oder ein massives Leck geheimer Dokumente würden Regierungen auf beiden Seiten des Atlantiks vermutlich dazu veranlassen, den Einsatz von KI drastisch zu regulieren – und möglicherweise einen neuen KI-Winter auszulösen", schließt er.

---

Entdecke exklusive Cybernews-Inhalte auf YouTube.