Windows Recall kommt zurück & Recall 2.0 ist bereits in Arbeit

Als Video ansehen
Bereitgestellt über YouTube

Windows Recall kommt zurück & Recall 2.0 ist bereits in Arbeit

Sicherheit, Windows DMW007

Nachdem Microsoft längere Zeit Gras über Recall hat wachsen lassen. Doch nun soll es schon bald wieder verteilt werden. Dabei veräppelt der Konzern Windows-Nutzer nicht nur mit einer versehentlich eingebauten Funktion zur Deinstallation: Recall 2.0 scheint bereits in Vorbereitung zu sein und ebenfalls Nutzerdaten mit „KI“ zu durchsuchen.

Was bei Recall bisher geschah (Teil 1 & 2)

Im Mai 2024 stellte Microsoft seine neueste Funktion im KI-Hype vor: Recall soll alle paar Sekunden ein Bildschirmfoto aufnehmen und dank künstlicher Intelligenz eine Suche über sämtliche Programme hinweg ermöglichen. Vermarktet wurde das als künstliches Gedächtnis. Die echten Gedächtnisse vieler Sicherheitsforscher sowie selbst Ex-Mitarbeiter des Konzerns warnen vor der nächsten Stufe der Überwachung. Zumal MS bereits seit vielen Jahren durch gravierende Sicherheitsmängel negativ auffällt.

Bei Recall machen sie keine Ausnahme. Bereits wenige Wochen später wurde klar, dass Microsoft bei ihren Sicherheitsversprechen glatt gelogen hatte. Die sensiblen Informationen liegen als Bildschirmfotos zusammen mit einer SQLite-Datenbank völlig ungeschützt im Profilverzeichnis. Noch vor dem offiziellen Erscheinen war die Funktion gehackt. In dieser Blamage ging das KI-Washing unter: Hinter der angeblich künstlichen Intelligenz des Marketing steckte tatsächlich eine simple Texterkennung. Eine solide Technik, die allerdings Jahrzehnte alt ist.

MS verspricht, Recall wirklich wirklich sicherer zu machen

Selbst für MS war dieser Druck zu hoch und sie entfernten die Vorschauversion von Recall auf unbestimmte Zeit. Parallel versprach das Unternehmen erneut mehr Sicherheit – nun wirklich wirklich. Zu den geplanten Maßnahmen zählte ein Opt-in. MS ist seit Jahren bekannt dafür, die Nutzer zu neuen Funktionen zu gängeln.

Recall war ursprünglich ebenfalls automatisch aktiv, was viele ähnlich negativ beurteilten, wie andere Zwänge. Zukünftig soll die Funktion erst nach Aktivierung des Nutzers eingeschaltet sein. Bereits das ist für MS eine 180 Grad Wende. Laut bisherigen Bildschirmfotos sind die Knöpfe sogar neutral beschriftet – statt wie mittlerweile üblich den Nutzer per Dark Patterns zu manipulieren.

In Unternehmen möchte MS Recall standardmäßig deaktivieren. Hier gab es große Sorgen, dass Unternehmen noch mehr Daten an MS liefern, ohne das zu wissen – ähnlich skrupellos ist der Konzern ja bereits in der Vergangenheit vorgegangen. Man denke beispielsweise an die automatische Installation von TikTok & anderen externen Anwendungen. Angekündigt wurde auch eine Verschlüsselung der erhobenen Informationen. Hierfür soll Windows Hello mit biometrischer Authentifizierung erforderlich sein, damit Recall Daten sammelt. Somit wäre derzeit entweder ein Entsperren per Fingerabdruck oder Gesichtserkennung erforderlich.12

Recall ist nun sogar deinstallierbar – haha, reingefallen!

Auf Kritik eingehen, die Firmenpolitik zugunsten der Nutzerinteressen zurückstellen, Dinge besser machen – für MS Verhältnisse müsste man fragen: Sind Kommunismus und Anarchie beim größten Softwarekonzern der Welt ausgebrochen? Dieser Illusion hat sich manch einer hingegeben, beispielsweise die PC-WELT (dort hat man den Titel inzwischen angepasst).3 Eine Halluzination war es nicht: In den optionalen Windows-Features der Testversion tauchte ein Eintrag für Recall auf. Andere Medien vermuteten Druck aus der EU als mögliche Erklärung.4

Doch zu früh gefreut: Laut MS sei das nur ein Fehler gewesen. Es bestehe keine Absicht, Recall entfernbar zu machen. Diesen Fehler werde man in einem zukünftigen Update beheben.56 Im Gegenteil, es wird zum festen Systembestandteil des Betriebssystems.7 Diesen Weg geht der Konzern gerne, um Nutzern eine Funktion aufzudrängen. Bereits vor Jahrzehnten haben sie den Internet Explorer in Windows verankert. Vor Kartellbehörden konnte später argumentiert werden, der Browser sei so tief im Betriebssystem verzahnt, man könnte ihn gar nicht entfernen. Die ließen sich davon allerdings auch nach längerem Streit nicht überzeugen.89

Wie es weiter geht

Geplant ist, die neue Testversion von Recall ab Oktober 2024 an die freiwilligen Tester (also Insider Preview, nicht Käufer der Home-Lizenz) zu verteilen.10 Doch bis dahin hat MS noch etwas anderes vor: Recall gehört bisher zu „Microsoft Copilot“, bzw. „Microsoft Copilot+“ um genau zu sein. Das hat dem Marketing-Team wohl nicht gereicht – eine Umbenennung zu „Microsoft 365 Copilot“ ist geplant.11 Wer MS schon etwas länger beobachtet, wird darauf gewartet haben. Seit dem Fokus auf Cloud & Abos gehört es dort zum guten Ton, alles neu zu benennen, sobald der alte Name halbwegs bekannt ist.

Darüber hinaus wird eine Prognose wahr, die ich in den Diskussionen geäußert hatte: „Copilot+“ kommt im November auf X86-PCs.12 Bisher läuft das nur auf ARM und damit einer sehr kleinen Nische von Desktop-Nutzern. Damit ist bald Schluss, allerdings verlangt MS auf X86-PCs ebenfalls eine NPU mit mindestens 40 TOPS an Leistung. Die NPU-Anforderung galt bereits für ARM-Systeme. Zum ursprünglich geplanten Marktstart im Juni 2024 blieben AMD & Intel außen vor.13

Währenddessen bleibt MS natürlich ihrer Tradition treu, Software voller Sicherheitsmängel auszuliefern. Mit KI ist das besonders einfach. In Copilot Studio wurde daher erst kürzlich eine schwere Sicherheitslücke bekannt: Sie erlaubt Angreifern auf sensible Daten zuzugreifen, teilweise sind sogar Manipulationen möglich.14 Sogar MS selbst hat einen Jailbreak für GPT und weitere Sprachmodelle entdeckt, wie Sicherheitsfunktionen gegen verbotene Antworten umgehen lassen.15 In der EU ist MS unter Verdacht geraten, dass die Risiken ihrer KI Dienste zu verheimlichen. Außerdem könnten sie gegen den Digital Service Act verstoßen.16 Währenddessen wurde Microsofts AI-Bot für das Gesundheitswesen ebenfalls gehackt, womit unbefugter Zugriff auf Daten möglich war.17

Recall 2.0 bereits in Arbeit

Nach der Recall-Katastrophe könnten manche erwarten, dass MS nun zumindest eine Pause einlegt. Doch weit gefehlt: In der Windows Testversion wurde mit „Intelligent Media Search“ ein neues Werkzeug entdeckt, dass alle Dateien auf dem PC des Nutzers scannen und abrufen können soll. Dabei ist der Typ (Text, Bild, Audio, Video) unerheblich.18 Durch transkribieren möchte man den Inhalt solcher Dateien durchsuchbar machen.19 Bisher können üblicherweise nur der Dateiname sowie ggf. Metadaten für die Suche verwendet werden – nicht aber Inhalte, wie etwa Zitate aus einem Podcast oder Dialoge in Filmen.

Offiziell hat Microsoft noch keine Details dazu angekündigt. Es ist daher unklar, ob es sich dabei um eine eigene Software handeln wird. Oder deren Funktionen in andere Komponenten integriert werden – etwa in die Suche von Windows bzw. dem Explorer, oder gar in Recall.

Fazit

Angriffe mithilfe von „KI“ werden derzeit als das größte Sicherheitsrisiko gesehen.20 MS ist hier mitten drin: Der US-Kongress beispielsweise hat Copilot verboten, weil die Dateien dort nicht sicher sind.21 Der Konzern befeuert dies, in dem sie den Hype mit Gewalt überall einbauen und erzwingen – Widerstand ist Zwecklos. Kriminellen gefällt das: Ransomware beispielsweise steigt erneut.22 Unter den Top 5 Angriffsvektoren stehen mit KI, Deepfakes, Cloud-Hacking & IoT-Angriffe 4 Hype-Themen, von denen zwei „KI“ Bezug aufweisen.23

Auch bei „KI“ scheint Sicherheit für MS in der Praxis keine große Rolle zu spielen – das beweist der erste, besonders dreiste Versuch von Recall extrem. Hauptsache, man kann in groß aufgezogenen PR-Veranstaltungen verkünden, wieder „was mit KI zu machen“. Ein Ende ist nicht in Sicht, im Gegenteil – vieles ist erst am Anfang. Die Folgen dürften wir noch zu spüren bekommen – allen voran Windows-Nutzer, die sich den Gängelungen von Microsoft geschlagen geben. Und die werden nicht immer so lustig sein, wie DPDs Chatbot, der den eigenen Paketdienst als katastrophal schlecht beschimpft.24

Quellen

  1. https://www.bleepingcomputer.com/news/microsoft/microsoft-makes-windows-recall-opt-in-secures-data-with-windows-hello/ ↩︎
  2. https://www.derstandard.at/story/3000000233374/recall-microsofts-umstrittenes-ueberwachungs-feature-kommt-zurueck?ref=rss ↩︎
  3. https://www.pcwelt.de/article/2443500/microsoft-recall-deinstallieren-so-geht-es.html ↩︎
  4. https://winfuture.de/news,144892.html ↩︎
  5. https://www.computerbase.de/2024-09/kontroverse-copilot-plus-funktion-nutzer-werden-recall-nicht-deinstallieren-koennen/ ↩︎
  6. https://www.pcgameshardware.de/Windows-Software-277633/News/Copilot-11-umstrittenes-Recall-Feature-nicht-entfernbar-1455018/ ↩︎
  7. https://www.notebookcheck.com/AI-UEberwachung-in-Windows-11-kann-nicht-entfernt-werden-Recall-wird-im-Oktober-fester-Windows-Bestandteil.883137.0.html ↩︎
  8. https://ec.europa.eu/commission/presscorner/detail/de/MEMO_09_15 ↩︎
  9. https://www.tagesspiegel.de/wirtschaft/eu-beendet-browser-streit-mit-microsoft-1794127.html ↩︎
  10. https://winfuture.de/news,144675.html ↩︎
  11. https://winfuture.de/news,145018.html ↩︎
  12. https://winfuture.de/news,144997.html ↩︎
  13. https://www.pcgameshardware.de/Windows-Software-277633/News/Copilot-Plus-PCs-ohne-AMD-und-Intel-1449765/ ↩︎
  14. https://www.security-insider.de/sicherheitsluecke-microsoft-ki-tool-copilot-studio-a-ccc4c7d4c3220440c41c94e60ee0d3f3/ ↩︎
  15. https://www.security-insider.de/ki-chatbots-sicherheitsmassnahmen-microsoft-skeleton-key-a-19e6abd7c29b2dbf2c66bd39b7c1f13e/ ↩︎
  16. https://www.drwindows.de/news/verheimlicht-microsoft-die-risiken-generativer-ki-eu-setzt-ein-ultimatum ↩︎
  17. https://www.borncity.com/blog/2024/05/13/lethal-injection-microsoft-ai-bot-fr-das-gesundheitswesen-mal-eben-gehackt/ ↩︎
  18. https://www.pcwelt.de/article/2447126/recall-2-microsoft-plant-weitere-ki-funktion-die-alles-mitliest-intelligent-media-search.html ↩︎
  19. https://www.derstandard.at/story/3000000234949/microsoft-bleibt-hartnaeckig-wie-windows-kuenftig-inhalte-der-nutzer-mitliest?ref=rss ↩︎
  20. https://www.security-insider.de/cyberbedrohungen-durch-ki-angriffe-it-verantwortliche-vorbereitung-a-9daec43ecf2c69b84de51e862f054ad8/ ↩︎
  21. https://winfuture.de/news,142006.html ↩︎
  22. https://www.zdnet.de/88417793/ransomware-kaspersky-entdeckt-mehr-als-4000-neue-varianten-im-zweiten-quartal/?utm_source=rss&utm_medium=rss&utm_campaign=rss ↩︎
  23. https://www.security-insider.de/ki-wettrennen-cybercrime-vs-cybersecurity-a-2e02908fab222e5fc76e6ef53ea5bf9d/ ↩︎
  24. https://www.heise.de/news/Schlechtester-Paketdienst-DPD-Chatbot-flucht-und-beschimpft-eigene-Firma-9603882.html ↩︎