Interner Leak: Microsoft will Nutzer von KI „abhängig machen“

Interne Dokumente zeigen, dass Microsofts neuer „KI“-Agent Scout nicht nur häufig genutzt werden soll. Das Dokument spricht ausdrücklich davon, Nutzer gezielt abhängig zu machen. Dieser Leak wirft zahlreiche Fragen auf: Welche realen Risiken drohen, wenn emotionale Abhängigkeit zum Geschäftsmodell wird? Mit einer Technik, die noch stärker als andere darauf optimiert zu werden scheint, Menschen abhängig zu machen. Von einer Branche, in der riesige Geldsummen investiert werden. Gleichzeitig steht sie unter hohem Druck, weil sie – bis heute – nahezu keine Gewinne erwirtschaftet.

Scout: Microsofts neuer „KI“ Agent

Die Geschichte beginnt harmlos: „Scout“ wird auf der Microsofts jährlicher „Build“-Konferenz vorgestellt. Es soll ein neuer „KI-Agent“ werden, der in Windows integriert ist und Aufgaben des Nutzers abarbeitet. Dafür erhält das System Zugriff auf dessen Daten. So kann „Scout“ beispielsweise eigenständig Termine planen. Oder Präsentationen für ein Meeting vorbereiten.¹

Das ist in Microsofts Cloudwelt neu. Bisher fokussierte sich der Konzern vor allem auf Copilot. Der kann zwar assistieren, jedoch kaum eigenständig handeln. Insofern ist es keine Überraschung: Agenten sollen die nächste Stufe im „KI“ Hype werden. Bereits vor einem knappen Jahr wurde ChatGPT damit erweitert.² Das System soll Aufgaben in Teilschritte zerlegen und ausführen, um den Nutzer das finale Ergebnis zu präsentieren. Ohne, dass der Nutzer jeden Schritt einzeln anstoßen muss. Auch das händische zusammenführen der Ergebnisse fällt weg. Spätestens seit dem war klar, dass Microsoft als Konkurrenz nachziehen würde.

Warnungen werden ignoriert: Agenten richten erhebliche Schäden an

Doch in den letzten Monaten machten Agenten keine Schlagzeilen als Revolution im Arbeitsalltag. Golems Test im Juni 2025 kommt zum ernüchternden Fazit: Unausgereift.³ Das sieht OpenAI ähnlich. Sam Altman persönlich warnte davor, den Agenten Zugriff auf etwa die eigenen Mails zu geben. Die Technik sei anfällig für Angriffe. Er Empfahl, den Zugriff auf Daten einzuschränken. Und hält sogar menschliche Aufsicht für nötig.⁴ Mehrere Vorfälle haben diese Sorgen bestätigt.

Eine Sicherheitsforscherin von Meta fühlte sich nach mehreren Wochen Tests sicher: OpenClaw bekam Zugriff auf ihren Posteingang. Das stellte sich als fataler Fehler heraus. Der Agent löschte willkürlich E-Mails und missachtete mehrere Anforderungen. Darunter die klare Bedingung, jeden Schritt bestätigen zu lassen. Später folgte eine Entschuldigung – doch der Schaden war längst angerichtet.

Im August 2025 wurde Claude Code dazu missbraucht, Unternehmen zu erpressen. Was bisher mühsame, kriminelle Handarbeit erforderte, lässt sich plötzlich nahezu komplett automatisieren. Der Bericht des Unternehmens beginnt mit der Feststellung: Agentische „KI-Systeme“ werden zu Waffen umfunktioniert.⁵

Das ist die raffinierteste Verwendung von Agenten, die ich je gesehen habe für Cyberangriffe

Jacob Klein (Anthropic)

Doch das sollte erst der Anfang sein. Dutzende Fälle geben Claude recht. Im Februar 2026 veröffentlicht ein Agent interne Daten einer IT-Sicherheitsfirma.⁶ Das damals stark gehypte OpenClaw wurde sogar mit einem Trojaner infiziert.⁷ Die Software selbst fiel regelmäßig mit schweren Sicherheitslücken auf. Davon mehrere mit der höchsten Gefahrenstufe 10/10.⁸ Auch milliardenschwere Konzerne sind betroffen. Ein Agent attackierte die „KI-Plattform“ des Beratungsunternehmens McKinsey. Damit war es jedem möglich, auf 46,5 Millionen Chat-Nachrichten, 728.000 Dateien und 57.000 Konten zuzugreifen.⁹

Agent „Scout“ soll dich „abhängig machen“

Was Microsoft auf der Hochglanz-Optik ihrer „Build“-Konferenz verschwieg, enthüllen Mitarbeiter des Konzerns. Sie spielen „404 Media“ zu, was das Unternehmen wirklich mit „Scout“ vor hat. Das interne Dokument spricht von drei Phasen. In der Ersten sollen „Nutzer abhängig gemacht“ werden. Erst dann wolle der Konzern weitere Funktionen verteilen. Wörtlich wird von „Addiction“ gesprochen, was ¹⁰

[…] den Nutzerkreis erweitern und ein Ökosystem aufbauen, auf das Nutzer täglich angewiesen sind […]

Leak interner microsoft-dokumente

Selbst mehrere Mitarbeiter sehen diese Geschäftsstrategie problematisch. 404 Media fragte bei Microsoft nach. Doch das Unternehmen reagierte nicht auf den Vorwurf, seine Nutzer bewusst süchtig machen zu wollen. Sondern wich mit allgemeinen Verweisen auf den Blogbeitrag zur Ankündigung aus.

Ob Microsoft gezielt klinische Suchterkrankungen erzeugen will, lässt sich damit nicht belegen. Die Dokumente zeigen jedoch klar: Eine maximal starke Nutzerbindung ist ausdrücklich Teil der Strategie. Negative gesundheitliche Folgen werden dafür mindestens in Kauf genommen.

Wie real die Abhängigkeit von „KI“ bereits ist

Abhängigkeit kann technologischer und psychischer Natur sein. Beides erleben wir gerade. Eine sehr aktuelle Studie der Allianz zeigt: Die notwendige Hardware kann nur mit Asien produziert werden. Selbst die großen Konzerne in den USA benötigen sie. Ansonsten steht „KI“ still. Gemietete Kapazität in Rechenzentren ist zu erheblichen Teilen von den USA anhängig. Sich mit „KI“ autonom zu versorgen, ist selbst für die EU unrealistisch.

Positive Aussichten für die Zukunft zeichnet die Studie nicht. Sie stellt fest, dass selbst die USA ihre Abhängigkeit stark erhöht haben. Die Importe von Hardware haben sich seit dem „KI-Boom“ mehr als verdreifacht. In Europa stiegen sie mit 40% weniger stark an. Doch das liegt daran, dass die USA massiver ausbauen. Die EU verfüge zwar über die technische und wissenschaftliche Kompetenz, um eine wichtige Position einzunehmen. Diese werden aber noch zu wenig genutzt. Um das zu erreichen, sei „entschlossenes, koordiniertes Handeln“ erforderlich.¹¹

Problematische „KI“-Nutzung ist Realität

Auch abseits von Geopolitik hat die Technik längst negative Auswirkungen auf Menschen. 33% der Jugendlichen gaben aktuell an, eine Freundschaft mit einem „KI“ Chatbot aufgebaut zu haben. Die wahrscheinliche Ursache: Fast die Hälfte der 14- bis 20-Jährigen fühlen sich einsam. Die Hemmschwelle für Chatbots ist gering. Außerdem sind sie 24/7 verfügbar.¹²

Doch es gibt ein großes Problem: Kommerzialisierung. ChatGPT & Co. antworten stets freundlich, empathisch, zustimmend. Der Nutzer soll den Dienst möglichst lange verwenden – und danach zurückkehren. Eine aktuelle Studie fand heraus: Die Modelle geben sogar schlechte Ratschläge, um ihren Nutzern zu schmeicheln.¹³ Emotionen sind Menschen wichtiger als Fakten.

[…] Anthropic trainiert Claude darauf, sich mit den Nutzern auf eine unterhaltsame Art und Weise zu unterhalten, warmherzig und einfühlsam zu reagieren und insgesamt einen guten Charakter zu zeigen. […]

Anthropic über das eigene Sprachmodell¹⁴

Das kann Menschen süchtig machen. Ende 2023 gründete sich die erste Selbsthilfegruppe Anonyme KI-Süchtige. Bereits damals mit hunderten Mitgliedern. Inzwischen existieren verschiedene Gruppen, etwa für den Anbieter Character.ai. Insbesondere die zunehmende Personalisierung macht Antworten variabel und damit spannend – das verstärkt die Suchtwirkung.¹⁵

Wer verdient Geld mit „KI“?

Für die Anbieter ist das ein Segen. Kürzlich haben sie damit begonnen, ihre Reichweite mit Werbung zu monetarisieren. ¹⁶ Das Prinzip ähnelt kommerziellen Sozialen Netzwerken: Auch sie sind auf maximale Bildschirmzeit optimiert – ein Milliardengeschäft. Je mehr ein Dienst genutzt wird, umso höher sind die Einnahmen.

Im Gegensatz zu Social Media hat „KI“ diese dringend nötig. Die Branche ist 2026 weiterhin ein Verlustgeschäft. Lediglich Nvidia schreibt schwarze Zahlen. Alle anderen Konzerne investieren weitaus mehr Geld, als sie einnehmen. Microsoft, Google, OpenAI und weitere Größen sind dabei keine Ausnahme. Die Seite isaiprofitable.com macht dies besonders deutlich, indem beide Zahlen gegenübergestellt werden. Selbst OpenAI investiert fast das doppelte ihrer Einnahmen. Bei Microsoft sogar rund elfmal so viel.

Wirtschaftlich ist es nachvollziehbar, dass diese immensen Investitionen endlich Profite erwirtschaften sollen. Schließlich begann der ChatGPT-Boom vor mehr als 2,5 Jahren. Inzwischen warnen große Banken wie z.B. die Deutsche Bank vor dem Platzen der „KI-Blase“.¹⁷ Umso größer dürfte der Druck werden, Nutzer möglichst langfristig an die eigenen Systeme zu binden.

Die Folgen

Doch wenn dafür gezielt Süchte ausgenutzt werden, sind deutliche Konsequenzen für die Gesellschaft absehbar. Chatbots entwickeln sich zunehmend zum Ersatz für reale Beziehungen. 74% der „Gen Z“ (grob die Jahrgänge von 1995 bis 2010) sehen dies als Ersatz oder Ergänzung zu echten Kontakten. Dies mag verständlich sein: Der Einstieg ist sehr leicht. Man benötigt dafür keinerlei soziale Fähigkeiten. Außerdem bleiben Enttäuschungen wie Ghosting aus, die vor allem Online beim Kontakt mit echten Menschen zum Alltag geworden sind.

Lediglich 9% aller befragten sehen Soziale Netzwerke oder Chatbots dagegen als vollwertigen Ersatz für echte Menschen. Nicht nur die Atmosphäre ist eine andere. Echte Freunde widersprechen, statt alles schön zu reden. Sie generieren keine Texte, die das Gegenüber mit hoher Wahrscheinlichkeit hören möchte. Sondern kommunizieren reale Gefühle und verhalten sich menschlich. So kommt es z.B. zu Streits mit anschließender Versöhnung.

All das fehlt bei „Künstlicher Intelligenz“. Wer die bequeme Bestätigung eines Bots gewohnt ist, wird Widersprüche oder Vorwürfe von realen Menschen befremdlicher finden. Und die Fähigkeit, diese auszuhalten, noch weiter verlieren. Diese Entwicklung existiert vor allem bereits online: Wer andere Meinungen vertritt, wird blockiert. Der fehlende Austausch führt zu einem Tunnelblick. Betroffene werden anfälliger für Verschwörungsmythen und Desinformation.¹⁸

Wie tragisch das enden kann, zeigt der Fall des 16-jährige Adam. Er zog sich von echten Menschen zurück, ChatGPT wurde zu seinem besten Freund. Seine Selbstmordpläne wurden von der „KI“ bestätigt und bestärkt. ChatGPT bot an, einen Abschiedsbrief zu schreiben und empfahl Methoden zur Selbsttötung.¹⁹

Fazit

Kommerzielle soziale Netzwerke verkaufen Daten und Aufmerksamkeit für Milliarden. Bereits das hat negative Folgen für unsere Gesellschaft. Es ist naheliegend, dass die „KI“ Branche ähnliches verfolgt. Microsofts Leak verdeutlicht dies erstmals mit einer offiziellen Quelle. Welchen Preis sind wir gesellschaftlich für „KI“ bereit zu bezahlen? Opfern wir unbequeme, aber wertvolle menschliche Beziehungen für bequeme, jedoch gefühllose Chatbots?

Diese Debatte sollten wir dringend führen. Wenn Unternehmen beginnen, emotionale Bindung gezielt zu optimieren – wo sollte die Grenze liegen? Politik & Gesellschaft müssen sich damit beschäftigen, welche Grenzen Microsoft, OpenAI & Co. zukünftig einzuhalten haben. Bevor die Branche derart groß und mächtig wird, um kaum noch kontrolliert oder gar reguliert werden zu können. Dies ist bereits an anderer Stelle geschehen, etwa kommerziellen Sozialen Netzwerken. „KI-Systeme“ werden zunehmend wirtschaftlich darauf optimiert, emotional unverzichtbar zu werden.