Daher nicht verwunderlich, dass sich 72% in einer EU-Weiten Umfrage aus dem Jahre 2021 gegen eine automatisierte Kontrolle mit Anzeige ausgesprochen haben.<\/a> Die Umfrage ist repr\u00e4sentativ und wurde von Dr. Patrick Breyer (Piratenpartei) in Auftrag gegeben<\/a>.<\/p>\n Keineswegs, im Gegenteil: Einige gro\u00dfe Dienste wie unter anderem Facebook, Microsofts OneDrive, Skype oder Google Mail haben Techniken zur pr\u00e4ventiven Pr\u00fcfung von Nutzerdaten bereits seit l\u00e4ngerem angewendet. Microsofts PhotoDNA wurde 2009 gegr\u00fcndet, um Kinderpornografie zu erkennen. Sie wird von zahlreichen anderen Diensten wie etwa Google, Twitter, Reddit und Discord genutzt. Grundlage ist eine Datenbank mit Fingerabdr\u00fccken von bekanntem Material. L\u00e4dt ein Nutzer solches Material hoch, kann dies entfernt und eine Strafverfolgungsmethode eingesetzt werden. Dieser Ansatz wirkt noch relativ vern\u00fcnftig, wenngleich er auch nicht unumstritten ist<\/a>.<\/p>\n Die Ausnahmeregel um das durchsuchen privater Kommunikation zu erm\u00f6glichen ist jedoch ausgelaufen und stand ironischer weise im Widerspruch mit der ePrivacy EU-Richtlinie<\/a>, welche mehr Privatsph\u00e4re schaffen sollte. 2021 wurde die Ausnahme verl\u00e4ngert und versch\u00e4rft<\/a>: Auch k\u00fcnstliche Intelligenz<\/em> soll zum Einsatz kommen. Zu diesem Thema k\u00f6nnte man B\u00fccher f\u00fcllen – zusammengefasst ist KI keine Wunderwaffe, sondern sehr fehleranf\u00e4llig. Es gibt Fehlerquoten von bis zu 86%. Auch in diesem Falle soll eine automatische Anzeige erfolgen. Ausnahmen f\u00fcr besonders sensible Berufe wie Anw\u00e4lte oder Psychologen gibt es nicht – auch keinerlei Transparenz \u00fcber die Vorg\u00e4nge. All das scheint f\u00fcr Rechtsstaaten mindestens verwunderlich bis fragw\u00fcrdig. Dennoch m\u00f6chte die Mehrheit der EU-Mitgliedsstaaten mehr Daten ohne Grund speichern<\/a>.<\/p>\n Theoretisch ja. Praktisch ist das der EU bewusst und sie m\u00f6chte es umgehen: Bereits 2015 gab es die Forderung, es m\u00fcsse gar Hintert\u00fcren in Verschl\u00fcsselungen geben<\/a>. Dies w\u00fcrde einem Generalschl\u00fcssel entsprechen, in der gesamten EU. Nicht nur staatliche Organisationen k\u00f6nnten ihn unkontrolliert missbrauchen: Eine Hintert\u00fcr kann auch von anderen ausgenutzt werden und zerst\u00f6rt damit die Sicherheit von Verschl\u00fcsselungen wie ein br\u00fcchiges Fundament ein Haus. Diese Forderung gab es nicht nur f\u00fcr Kinderpornografie, sondern generell auch f\u00fcr Terrorismus und andere Delikte. Unabh\u00e4ngig von der Motivation w\u00fcrden Backdoors sichere IT Systeme unm\u00f6glich machen. Es wurden bereits illegale Hintert\u00fcren bekannt, die massive Sch\u00e4den verursacht haben.<\/a> NotPetya gilt als einer der schlimmsten Angriffe aller Zeiten – erm\u00f6glicht durch eine von der NSA geheim gehaltene Sicherheitsl\u00fccke.<\/a><\/p>\n Dementsprechend war die Emp\u00f6rung und Kritik aus vielen Reihen stark. Zumal die EU selbst mittlerweile anerkannt hat, dass sichere Verschl\u00fcsselung grunds\u00e4tzlich wichtig ist. In einigen L\u00e4ndern kann sie \u00fcber Leben und Tod entscheiden, wenn etwa gewisse Regierungen versuchen, Kritiker einzusperren und dank Hintert\u00fcren deren Kommunikation mitlesen, evtl. sogar manipulieren k\u00f6nnen.<\/p>\n Mittlerweile versucht die EU daher etwas neues: Man m\u00f6chte in die Dienste oder gar komplette Ger\u00e4te eine Hintert\u00fcr einbauen. Sie spioniert die Inhalte aus, bevor sie etwa zum Versand in WhatsApp und anderen Messengern verschl\u00fcsselt werden – oft als Chatkontrolle<\/strong> bezeichnet. Theoretisch m\u00fcsste daf\u00fcr die Verschl\u00fcsselung nicht manipuliert werden. Allerdings w\u00e4ren alle Menschen unter Generalverdacht gestellt. Als w\u00fcrde man alle Zimmer in jeder Wohnung mit Kameras ausstatten, um Vergewaltiger zu finden. In L\u00e4ndern wie China w\u00e4re das denkbar und ist teilweise bereits Realit\u00e4t. Aber in einem Rechtsstaat ist so etwas aus verschiedenen Gr\u00fcnden nicht denkbar, f\u00fcr eine Demokratie zudem fragw\u00fcrdig. Schon alleine aufgrund der fehlenden Verh\u00e4ltnism\u00e4\u00dfigkeit. Derart tiefe Eingriffe in die Privatsph\u00e4re sind dort nur erlaubt, wenn Beweise oder zumindest konkrete Hinweise auf eine Straftat vorliegen. In Deutschland hat das Bundesverfassungsgesetz die Massen\u00fcberwachung des BND f\u00fcr verfassungswidrig erkl\u00e4rt<\/a>. <\/p>\n Auch das ist kein Einzelfall. J\u00fcngst wurde das 2016 massiv erweiterte Verfassungsschutzgesetz in Teilen als Grundgesetzwidrig festgestellt.<\/a> Das Gericht bem\u00e4ngelte unter anderem die Online-Durchsuchung, bei der Ermittler direkt auf Ger\u00e4te der B\u00fcrger zugreifen, als Verfassungswidrig: Es fehle zumindest eine konkrete Gefahr, laut derzeitigem Gesetz kann diese Ma\u00dfnahme willk\u00fcrlich angewendet werden. Der Kernbereich der privaten Lebensgestaltung von Betroffenen sei nicht ausreichend gesch\u00fctzt.<\/p>\n Selbst der gelakte Bericht eines EU-Untersuchungsausschusses kam zu dem Schluss<\/a>, eine derartige Massen\u00fcberwachung sei wahrscheinlich illegal und zudem sehr anf\u00e4llig f\u00fcr Fehler. Dies ist nicht das erste Mal, dass es sogar aus den eigenen Reihen kritische Fragen dazu gibt, wie dies mit rechtsstaatlichen Prinzipien in Einklang gebracht werden soll<\/a>. Einiges kam zudem nur durch Leaks an die \u00d6ffentlichkeit – Transparenz sieht auch hier anders aus.<\/p>\n Doch das ist nicht genug: Aktuell m\u00f6chte die EU vor allem private Inhalte \u00fcberwachen, die eventuell zudem verschl\u00fcsselt sind. Denn PhotoDNA & co. funktionieren nur serverseitig, sofern keine Schutzma\u00dfnahmen genutzt werden. Wenn man z.B. ein Foto ungesch\u00fctzt in OneDrive hochl\u00e4dt, pr\u00fcft Microsoft das Bild mithilfe von PhotoDNA. Bei einigen Diensten und auch Messengern wie WhatsApp ist das nicht der Fall, weil die Nachrichten verschl\u00fcsselt direkt an das Ger\u00e4t des Empf\u00e4ngers \u00fcbertragen werden – eine sogenannte Ende-zu-Ende-Verschl\u00fcsselung. WhatsApp kann daher nicht hinein schauen, sonst w\u00e4re die Verschl\u00fcsselung nicht viel wert.<\/p>\n Um auch diese Inhalte \u00fcberwachen zu k\u00f6nnen, m\u00f6chte die EU das anfangs erw\u00e4hnte Client-Side-Scanning<\/strong> umsetzen. Genau das ist aktuell in der Diskussion, weil es zwei wichtige Dinge \u00e4ndert: Die Pr\u00fcfung findet nicht mehr bei den Diensteanbietern wie Skype oder OneDrive statt, sondern direkt auf dem Ger\u00e4t des Nutzers und damit noch umfangreicher als ohnehin schon. Au\u00dferdem ist es nicht mehr freiwillig, sondern die EU m\u00f6chte es als Gesetz verpflichtend gestalten.<\/p>\n Diese „Chatkontrolle“ wird in verschiedenen Reihen als brisant<\/a> angesehen. Apple wollte etwas \u00e4hnliches bereits 2021 umsetzen: Alle Medien auf iPhones, iPads & co sollten automatisch mit einer Liste von verbotenem Material abgeglichen werden. Ab einer geheimen Anzahl an Treffern schl\u00e4gt das Ger\u00e4t Alarm und die Medien werden gepr\u00fcft. Schon damals warnten zahlreiche Sicherheitsforscher<\/a>, die Pl\u00e4ne seien gef\u00e4hrlich f\u00fcr die IT-Sicherheit, Meinungsfreiheit und sogar Demokratie. Zumal die Ausweitung auf andere Inhalte sehr einfach ist, nachdem das System einmal etabliert wurde. Edward Snowden, der die Massen\u00fcberwachung der NSA aufzeigte warnt davor, dass autorit\u00e4re Regimes solche Technologie gnadenlos ausnutzen w\u00fcrden<\/a>. Auch Betroffene von Kinderausbeutung stellten sich gegen solche Ma\u00dfnahmen. Es gibt eine lange Liste<\/a> an Menschen und Organisationen, die sich dagegen aussprechen. Apple verschob seine Pl\u00e4ne<\/a> nach der massiven Kritik, die sowohl von extern als auch intern kam. Man m\u00f6chte das Projekt aber dennoch weiter verfolgen.<\/p>\n Was man ebenfalls nicht vergessen darf: Da die Pr\u00fcfung auf dem Ger\u00e4t selbst stattfindet, ist sie sehr anf\u00e4llig, selbst manipuliert zu werden. Beispielsweise, in dem man einer Person bewusst illegale Bilder schickt, damit diese auf dem Ger\u00e4t gescannt werden. Das ist alles andere als abwegig. WhatsApp speichert beispielsweise jedes empfangene Bild automatisch auf dem Handy. Man k\u00f6nnte dadurch einen Alarm ausl\u00f6sen und die betreffende Person in Bedr\u00e4ngnis bringen, ohne dass diese etwas illegales getan hat.<\/p>\n In Indien lie\u00df sich ein prinzipiell \u00e4hnlicher Fall beweisen: Das Ger\u00e4t eines Menschenrechtsaktivist wurde nicht nur \u00fcberwacht, sondern man hat ihm \u00fcber entsprechende Hintert\u00fcren manipulierte Beweise auf seinem Computer untergejubelt<\/a>. Unter den manipulierten Dateien sind Briefe mit angeblichen Mordpl\u00e4nen. Diese Dateien wurden von der Polizei bei einer Durchsuchung gefunden, der Mann sitzt wegen Terrorverdacht in einem Gef\u00e4ngnis.<\/p>\n Besonders brisant ist, dass die Angreifer auch mit anderen brisanten politischen Verhaftungen in Zusammenhang stehen – unter anderem von Menschenrechlern, Anw\u00e4lten und Akademikern. Dies scheint dem Staat in die H\u00e4nde zu spielen.<\/p>\n Und das sind nur die komplexeren Szenarien. Im Alltag sind die Auswirkungen einer solchen \u00dcberwachung deutlich massiver. Eine Selbstzensur ist aus Sorge um etwa eine fehlerhafte KI-Erkennung auch zu erwarten.<\/p>\n Das Bundeskriminalamt steht in der Kritik: Vor einigen Monaten deckten Journalisten auf, dass p\u00e4dophile Inhalte nicht gel\u00f6scht werden<\/a> – obwohl die Beh\u00f6rde durch Ermittlungen davon wusste. Noch umstrittener ist die Begr\u00fcndung: Man habe andere Priorit\u00e4ten und zu wenig Personal. Das ist nicht nur ein Spott f\u00fcr Betroffene, deren Bilder weiterhin im Internet verf\u00fcgbar sind. Es wirkt auch fraglich, wenn daf\u00fcr alle Menschen unter Generalverdacht gestellt werden.<\/p>\n Und dies ist l\u00e4ngst passiert: Die Schweizer Bundespolizei erh<\/a>ielt rund 9.000 Meldungen im Jahre 2019<\/a>. 90% davon sind nicht illegal, auch 2020 war die Bilanz \u00e4hnlich katastrophal. In tausenden f\u00e4llen wurden also mit privaten Bildern gegen unschuldige Ermittelt. In einem Beispielhaft dargestellten Fall ist ein Mann im Liegestuhl zu sehen, weiter hinten im Hintergrund spielen andere Kinder. In der EU sind solche Daten gar nicht bekannt, da keinerlei Transparenz in dem zuvor erw\u00e4hnten Gesetz vorgeschrieben ist. Weitere Beispiele und Probleme finden sich auf dieser Seite von Patrick Breyer (Piratenpartei)<\/a>.<\/p>\n Dies ist sehr umstritten. Es gibt zahlreiche Kritik aus verschiedenen Quellen. Der Bundesdatenschutzbeauftragter sagte 2020<\/a>, dass eine Massen\u00fcberwachung ohne Grund nicht zielf\u00fchrend sei. Au\u00dferdem h\u00e4lt er es f\u00fcr falsch, diese Ermittlungsarbeit an private Unternehmen durch verpflichtende Scans zu \u00fcbertragen. Lieber sollte der Staat zielgerichtet ermitteln. A<\/a>uch der Deutsche Anwaltsverein \u00e4u\u00dfert sich kritisch<\/a>. Es gibt zahlreiche weitere, das ist nur ein Auszug. <\/p>\n Sogar Missbrauchsopfern selbst kritisieren, dass dadurch vertrauliche Kommunikationswege zerst\u00f6rt werden, auf die vor allem Opfer angewiesen sind, um sich Geh\u00f6r zu verschaffen. Alexander Hanff sagt beispielsweise<\/a>, durch das Zerst\u00f6ren von Freiheitsrechten wird man die Kinder nicht sch\u00fctzen. Stattdessen treibt man die T\u00e4ter weiter in den Untergrund, wodurch sogar mehr Missbrauch entstehen soll.<\/p>\n Der Entwurf sollte urspr\u00fcnglich im Dezember 2021 ver\u00f6ffentlicht werden. Es kam zu mehreren Verschiebungen, die alle ebenfalls nicht eingehalten wurden. Mit der Ver\u00f6ffentlichung wird im Mai gerechnet, ein exakter Termin ist bislang nicht bekannt.<\/p>\nWie kam es dazu? Waren Onlinedienste bisher Unt\u00e4tig bei Kinderpornografie?<\/h2>\n
Chatdienste wie WhatsApp sind verschl\u00fcsselt, das k\u00f6nnen die doch gar nicht \u00fcberwachen?<\/h2>\n
Client-Side-Scanning (CSS): Apple wollte es 2021 bereits auf eigene Faust einf\u00fchren<\/h2>\n
Missbrauch eines Anti-Missbrauchsystemes denkbar?<\/h2>\n
Wie nutzen die Ermittler die bisherigen Werkzeuge?<\/h2>\n
![\"https:\/\/www.patrick-breyer.de\/wp-content\/uploads\/2021\/04\/Comic_GER.jpg\"\/](\"https:\/\/www.patrick-breyer.de\/wp-content\/uploads\/2021\/04\/Comic_GER.jpg\")
Sind die vorhandenen und neuen Pl\u00e4ne der EU geeignet?<\/h2>\n
Fazit<\/h2>\n