{"id":15053,"date":"2025-06-01T15:22:01","date_gmt":"2025-06-01T13:22:01","guid":{"rendered":"https:\/\/u-labs.de\/portal\/?p=15053"},"modified":"2025-06-08T22:43:21","modified_gmt":"2025-06-08T20:43:21","slug":"groesste-ki-gefahr","status":"publish","type":"post","link":"https:\/\/u-labs.de\/portal\/groesste-ki-gefahr\/","title":{"rendered":"Die gr\u00f6\u00dfte „KI“ Gefahr ist falsches Vertrauen"},"content":{"rendered":"

„KI“ \u00fcbernimmt die Weltherrschaft und vernichtet uns Menschen? Vergesst es! Abseits solcher Steilvorlagen f\u00fcr SiFi-Filme gibt es eine ganz andere Gefahr, mit der uns k\u00fcnstliche Intelligenz<\/em> massivst schaden kann. Obwohl sie weitaus realistischer ist als die Hollywood-Szenarien, scheint sie kaum jemand auf dem Schirm zu haben. Technische L\u00f6sungen gibt es daf\u00fcr zudem kaum, weil das Problem in der grunds\u00e4tzlichen Funktionsweise von KI<\/em> liegt.<\/p>\n

KI<\/em> \u00fcbernimmt die Weltherrschaft und andere Horrorszenarien<\/h2>\n

Die Sorgen vor K\u00fcnstlicher Intelligenz<\/em> sind gro\u00df, jedoch keineswegs neu. Das Kino hat einen erheblichen Anteil daran: Bereits 1968 zeigt „2001: Odyssee im Weltraum“, wie der Boardcomputer des Raumschiffs ein Eigenleben entwickelt und die Besatzung bedroht. In „Colossus“ schuf ein Informatiker 1970 den gleichnamigen Supercomputer. Er soll die USA verteidigen, daf\u00fcr verf\u00fcgt er \u00fcber Atomraketen. Mit einem zweiten Supercomputer verb\u00fcndet verlangen sie die Weltherrschaft und drohen mit dem Z\u00fcnden der Atomwaffen. Ein weiteres bekanntes Beispiel ist „Terminator“: Der Skynet<\/em> genannte Computer l\u00f6st einen Nuklearkrieg aus. Cyborgs<\/em> genannte Maschinen t\u00f6ten gezielt Menschen. <\/p>\n

Man k\u00f6nnte diese Liste noch weiter f\u00fchren. Bereits seit Jahrzehnten sind Menschen fasziniert & be\u00e4ngstigt zugleich von der Vorstellung, ein Computer k\u00f6nnte m\u00e4chtigen Menschen ebenb\u00fcrtig werden oder sie sogar \u00fcberragen. Nicht erst seit ChatGPT bef\u00fcrchten manche, wir k\u00f6nnten kurz vor einer KI Weltherrschaft<\/em> stehen. <\/p>\n

Zwar mag die rasante Entwicklung der Technologie in den letzten Jahrzehnten durchaus beeindruckend sein. Von einer solchen allgemeinen KI<\/em> (AGI), die sich tats\u00e4chlich in Richtung menschlicher Intelligenz bewegt bzw. diese sogar \u00fcbertrifft, sind wir jedoch zum jetzigen Stand noch weit entfernt. Bisher wird Skaliert, also gr\u00f6\u00dfere Modelle, st\u00e4rkere Hardware. In einer aktuellen Umfrage sind sich 76% der befragten KI<\/em>-Forscher einig: Die Spitze davon ist l\u00e4ngst \u00fcberschritten. Wir werden mit Skalieren nicht mal die seit langem bekannten Grundsatzprobleme der Technik l\u00f6sen – geschweige denn den Menschen \u00fcbertreffen.1<\/a><\/sup> Dadurch ist KI<\/em> allerdings keineswegs Harmlos. Es drohen tats\u00e4chlich sehr gef\u00e4hrliche Entwicklungen – jedoch mehr bei den Menschen, als den Maschinen.<\/p>\n

Wer oder was ist intelligent? Erste Verst\u00e4ndnis- und Denkfehler<\/h2>\n

Bis heute wird diskutiert, was genau Intelligenz<\/em> ist und wo ihre Grenzen liegen. Dieses bodenlose Fass m\u00f6chte ich an dieser Stelle gar nicht aufmachen. Eben so wenig viele falsche Vorstellungen\/Klischees. Dazu ist es eines der typischen Begriffe, zu denen viele eine grobe Vorstellung haben. Auf Anhieb kann es jedoch kaum jemand erkl\u00e4ren. Das ist nat\u00fcrlich eine denkbar schlechte Voraussetzung f\u00fcr k\u00fcnstliche Intelligenz<\/em>. Wir brauchen daher zum Einstieg eine grunds\u00e4tzliche Vorstellung von Intelligenz<\/em>:2<\/a><\/sup><\/p>\n

\n

Intelligenz ist ein vielschichtiges Konzept, das die F\u00e4higkeit eines Individuums beschreibt, komplexe Informationen zu verstehen, zu verarbeiten und daraus angemessene Schlussfolgerungen zu ziehen. Diese F\u00e4higkeit umfasst kognitive Prozesse wie Wahrnehmung, Lernen, Erinnern, Probleml\u00f6sung, kritisches Denken und Entscheidungsfindung.<\/p>\n<\/blockquote>\n

Viele \u00fcbertragen dies 1:1 auf IT-Systeme: Eine k\u00fcnstliche Intelligenz<\/em> m\u00fcsse genau das gleiche k\u00f6nnen, nur eben als Maschine. Bereits das ist falsch, weil der Begriff irref\u00fchrend \u00fcbersetzt wurde. Er beruht auf dem 1956 geschaffenen artificial intelligence<\/em> und meinte \u201edie F\u00e4higkeit einer handelnden Instanz, in einem breiten Umfeld von Rahmenbedingungen Ziele zu erreichen\u201c.3<\/a><\/sup> Das klingt schon deutlich weniger nach Weltherrschaft. Au\u00dferdem ist er von Studenten ins Leben gerufen, um im Antrag eines Stipendiums die F\u00f6rderw\u00fcrdigkeit zu unterstreichen. Es ging also darum, sich interessant zu machen. Bereits aus diesen Gr\u00fcnden sind die Erwartungen an KI<\/em> bereits deutlich h\u00f6her, als die Technik hergibt.<\/p>\n

So dumm ist KI<\/em> in Wirklichkeit<\/h2>\n

Das gr\u00f6\u00dfte Problem liegt allerdings in der Art und Weise, wie die Technik funktioniert. Eine KI<\/em> hat \u00fcberhaupt kein Verst\u00e4ndnis von dem, was sie tut. Beim \u00fcbersetzen eines Textes beispielsweise fehlt ihr jeglicher Bezug zum Inhalt. KI<\/em> ist daher fehleranf\u00e4llig und macht Fehler, die dem gesunden Menschenverstand<\/em> vieler Menschen auffallen w\u00fcrden. Im folgenden Beispiel w\u00e4re jedem Sch\u00fcler der Mittelstufe klar: „existence“ hei\u00dft Existenz, „out of existence“ muss folglich sinngem\u00e4\u00df abschaffen bedeuten. Die Deepl KI<\/em> sieht darin das Gegenteil und m\u00f6chte Milliard\u00e4re von der Steuer befreien, statt abschaffen.<\/p>\n

\n
\"\"<\/a><\/figure>\n<\/div>\n

Nun mag Deepl zwar kein gro\u00dfes Sprachmodell (LLM) wie ChatGPT & co. sein. Doch diese LLMs stehen f\u00fcr die meisten durchschnittlichen Leuten f\u00fcr die heutige K\u00fcnstliche Intelligenz<\/em>. Und diese KI<\/em> hat massive Probleme: Mitte 2024 spottete das Internet etwa \u00fcber Google: Wenn der K\u00e4se nicht auf der Pizza bleibt, empfahl die KI<\/em> nicht giftigen Klebstoff zu verwenden.4<\/a><\/sup> Die Liste von Beispielen lie\u00dfe sich unendlich fortsetzen. Man kann leicht eigene finden oder schaut sich den Bruchteil der medial erfolgreichen an. Das als Kinderkrankheiten<\/em> zu bezeichnen, greift viel zu kurz. Auch 2025 versagen alle gro\u00dfen Kommerziellen KI<\/em> Clouddienste beim Zusammenfassen von Nachrichten katastrophal: 51% der Antworten erhielten „signifikante Fehler“, bei 19% sind Fakten falsch. In 13% wurden Zitate manipuliert oder gar erfunden.5<\/a><\/sup> Letzteres ist Alltag. Selbst Apple als einer der weltweit gr\u00f6\u00dften IT-Konzerne, musste k\u00fcrzlich KI<\/em> Funktionen zur\u00fcck nehmen – sie produzierten jede Menge Falschmeldungen.6<\/a><\/sup><\/p>\n

Aus der Luft gegriffene Pr\u00e4zedenzf\u00e4lle sind l\u00e4ngst sogar mehrfach bis vor Gericht gelandet: Ki<\/em> Dienste wie ChatGPT erfinden Gerichtsurteile, die nie existierten. Naive Anw\u00e4lte \u00fcbernehmen diese ungepr\u00fcft. Im Gerichtsprozess fallen derartige Manipulationsversuche nat\u00fcrlich auf. Sp\u00e4testens, wenn die Gegenseite pr\u00fcft, um sich zu verteidigen. Die betroffenen Richter sind genervt \u00fcber eine derartige Missachtung ihrer Autorit\u00e4t.7<\/a><\/sup><\/p>\n

Nicht nur Chatbots wie ChatGPT betroffen<\/h3>\n

Das gleiche kann man bei anderen Formen von KI<\/em> beobachten. Bildgeneratoren erzeugen bis heute Bilder, die grobe logische Fehler aufweisen. Zu den Klassikern geh\u00f6ren etwa Menschen mit mehr oder weniger als f\u00fcnf Fingern. Gesichter wirken teils entstellt. Bei der Abbildung mehrerer Personen verschwinden K\u00f6rperteile oder Tauchen aus dem Nichts auf – etwa eine Hand, die zu keinem K\u00f6rper f\u00fchrt. Tiere haben manchmal mehrere Schw\u00e4nze und so weiter. Auch hier gibt es viele Fehler, die Menschen oft auf den ersten Blick, sp\u00e4testens auf den Zweiten auffallen. Einer KI<\/em> dagegen nicht. <\/p>\n

Selbst auf Nachfrage schafft sie es beispielsweise nicht, Uhren mit einer verlangten Uhrzeit darzustellen<\/a>. Stattdessen zeigen sie oft 10:10 Uhr oder eine Uhrzeit, die kurz davor\/danach liegt. Aus historischen Gr\u00fcnden gibt es sehr viele Bilder in dieser Stellung, weil das die Standard-Zeit f\u00fcr Produktpr\u00e4sentationen ist. Die Systeme geben schlicht ihre Daten wieder und sind nicht in der Lage, sie wie im Promt verlangt anzupassen.<\/p>\n

\n
\"\"<\/a><\/figure>\n<\/div>\n

Warum ist KI<\/em> derart unzuverl\u00e4ssig?<\/h3>\n

Weitere Beispiele gibt es massenhaft. Ich habe nur eine Hand voll ausgew\u00e4hlt, die bereits ausreichen, um das riesige Grundsatzproblem zu verstehen: KI<\/em> ist nicht vertrauensw\u00fcrdig. Das liegt zum einen daran, dass ihr – wie bereits erw\u00e4hnt – das Verst\u00e4ndnis fehlt. Stattdessen basiert sie vereinfacht gesagt im Kern auf Wahrscheinlichkeitsrechnung. Die Sprachmodelle haben gelernt, welches Wort in welchem Kontext mit h\u00f6chster Wahrscheinlichkeit folgen wird. <\/p>\n

Simples Beispiel: Um 09:00 Uhr beginnen viele Konversationen mit „Guten“. Anschlie\u00dfend folgt „Morgen“. Nach Feierabend hingegen kann ein Chat zwar auch mit „Guten“ beginnen, wird allerdings eher mit „Abend“ enden. So bauen Chatbots ihre Antworten zusammen. Dabei haben sie keine Ahnung \u00fcber die Menschliche Routine: Dass Menschen morgens aufstehen, viele ihre erste Mahlzeit einnehmen usw. F\u00fcr sie ist es reine Wahrscheinlichkeit, weil in ihren Daten um 09:00 Uhr sagen wir 80% der Konversationen mit „Guten Morgen“ beginnen. Eben so, wie K\u00e4se auf der Pizza mit Kleber zu befestigen. Mangels Verst\u00e4ndnis ist ihnen v\u00f6llig unklar, dass dies sinnlos ist. Die Antworten haben damit das Niveau eines Wetterberichts: 70% Regenrisiko sind keine Garantie. Es ist schlicht relativ wahrscheinlich, nass zu werden.<\/p>\n

Zu falschen und erfundenen Dingen kommt es noch aus einem anderen Grund. Die Sprachmodelle sind darauf optimiert, m\u00f6glichst runde, menschliche S\u00e4tze zu erzeugen. Keiner m\u00f6chte schlie\u00dflich S\u00e4tze, die nach Chatbot klingen. Wie bei Verk\u00e4ufern liegt der Fokus also auf dem Schein: Gute, plausibel klingende Aussagen sind wichtiger, als richtige. Daher fallen selbst Anw\u00e4lte auf KI<\/em> Antworten herein: Sie sehen auf den ersten Blick einwandfrei aus. Wer nur oberfl\u00e4chlich oder gar nicht pr\u00fcft, denkt sich f\u00e4lschlicherweise passt schon<\/em>. Diese Faustformel mag bei Menschen (Sch\u00fclern) zutreffen, im KI<\/em> Zeitalter ist sie der wohl gef\u00e4hrlichste Trugschluss, den es gibt.<\/p>\n

Intelligente KIs<\/em> sind eine Illusion<\/h3>\n
\n
\"\"<\/a><\/figure>\n<\/div>\n

Forscher von Apple haben l\u00e4ngst festgestellt: KI<\/em> l\u00e4sst sich spielend leicht noch viel weiter verschlechtern. Irrelevante Informationen in einer Frage oder das \u00c4ndern von Zahlenwerten reichen aus, um falsche Antworten zu generieren. Bereits das hinzuf\u00fcgen eines Satzteils, der f\u00fcr die Frage keine Rolle spielt, reicht f\u00fcr eine Verschlechterung der Antworten um 65%.<\/p>\n

Daraus Schlussfolgern die Forscher, dass KI<\/em> Systeme die gestellten Fragen \u00fcberhaupt nicht verstehen. Ansonsten w\u00fcrden sie die irrelevanten Dinge herausfiltern, wie es ein Mensch intuitiv tut. Stattdessen generieren sie ihre Antworten durch gelernte Muster, welche sich leicht durcheinander bringen lassen. Ein KI<\/em> Chatbot l\u00e4sst den gr\u00f6\u00dften Bl\u00f6dsinn oberfl\u00e4chlich gro\u00dfartig erscheinen.8<\/a><\/sup><\/p>\n

Ganz neu ist die Erkenntnis nicht. Bereits 2024 fand eine MIT-Studie zusammen mit der Uni Boston heraus: Die Modelle lernen Tests aus ihren Benchmarks auswendig. Ver\u00e4ndert man die Standard-Fragen daraus nur minimal, werden die Ergebnisse deutlich schlechter.9<\/a><\/sup><\/p>\n

Erinnern wir uns an den Anfang zur\u00fcck: Intelligenz bedeutet, komplexe Informationen verstehen, verarbeiten und „angemessene Schlussfolgerungen zu ziehen“. Davon ist die meiste Technik, die KI<\/em> genannt wird, Meilenweit entfernt. Das Wort K\u00fcnstliche Intelligenz<\/em> ist somit irref\u00fchrend bis falsch. Erschwerend kommt der Hype hinzu. \u00dcberall wird krampfhaft versucht, irgendwas mit KI<\/em> einzubauen. Oder noch extremer: Es wenigstens so zu benennen, obwohl es sich blo\u00df um klassische Algorithmen handelt. Wenn alles KI ist, dann ist nichts mehr KI…<\/p>\n

Wie sollten wir damit umgehen?<\/h3>\n
\n
\"\"<\/a><\/figure>\n<\/div>\n

Man k\u00f6nnte es sich nun einfach machen und alles rund um KI<\/em> verteufeln oder gar verbieten. Doch das ist weder sinnvoll, noch \u00fcberhaupt dauerhaft m\u00f6glich. Die Technik ist da und die B\u00fcchse der Pandora ge\u00f6ffnet. Technischer Fortschritt l\u00e4sst sich maximal bremsen, nicht jedoch aufhalten. Zumal die Technik durchaus f\u00fcr bestimmte Zwecke n\u00fctzlich sein kann. Ein Verbot w\u00fcrde auch diese Szenarien lediglich im Untergrund nutzbar machen.<\/p>\n

Die aus meiner Sicht beste L\u00f6sung ist daher, eine vern\u00fcnftige Regulierung zu finden. Derzeit ist die Technik im Massenmarkt noch recht neu. Jetzt und in den n\u00e4chsten Jahren werden die Weichen gestellt, wie wir damit umgehen, wer profitiert, wo die Haftung f\u00fcr Risiken liegt usw.<\/p>\n

Dazu sollten wir KI<\/em> nur dort einsetzen, wo sie sinnvoll einsetzbar ist sowie klaren Mehrwert bietet. Ansonsten stehen wir noch mehr im Stau, weil die KI<\/em> Ampel dauernd auf Rot steht.10<\/a><\/sup> Oder noch viel Schlimmer: Wir lassen sie den Apotheken-Notdienst planen. Dadurch m\u00fcssen Menschen weiter fahren oder haben gar keine Apotheke in der N\u00e4he – w\u00e4hrend die Apotheker mehr Notdienst leisten, als zuvor.11<\/a><\/sup> Wie d\u00e4mlich m\u00fcssen wir f\u00fcr so was sein?<\/p>\n

Gut, es geht noch schlimmer: KI<\/em> als Arzt. In 34% der Ratschl\u00e4ge besteht keine Gefahr f\u00fcr den Patienten. 22% der Antworten f\u00fchren zu schweren Sch\u00e4den oder t\u00f6ten den Patienten. Dann brauchen wir die von KI<\/em> kaputt geplanten Apotheken gar nicht mehr. Selbst Webseiten, die Ghostwriting anbieten, warnen \u00fcber die vielen Nachteile von ChatGPT & co.12<\/a><\/sup><\/p>\n

Die d\u00fcstere Wahrheit, wie wir damit umgehen<\/h3>\n

In der Realit\u00e4t sieht das bisher ganz anders aus. Mit dem AI Act haben wir zwar zumindest in der EU eine erste Rechtsgrundlage, damit nicht mehr v\u00f6llig ma\u00dfloser Wilder Westen herrscht. Darauf ausruhen sollten wir uns jedoch bei weitem nicht. Konzerne wie OpenAI sind dabei massig Geld einzunehmen, w\u00e4hrend wir als Gesellschaft die Risiken bezahlen.13<\/a><\/sup> Und selbst das reicht den Hardcore-Kapitalisten noch nicht. OpenAI verk\u00fcrzt seine Sicherheitstests massiv von Monate auf nur noch Tage.14<\/a><\/sup> Derartige Skrupellosigkeit ist f\u00fcr uns als Gesellschaft schlecht.<\/p>\n

Am meisten schockiert hat mich eine k\u00fcrzlich durchgef\u00fchrte Umfrage zur \u00dcberpr\u00fcfung von KI<\/em> Ergebnissen. 73% der Deutschen vertrauen blind irgendwelchen KI<\/em> Diensten, die intransparent und per se fehleranf\u00e4llig sind. Das ist eine Katastrophe und zeigt, wie unvorbereitet wir immer noch sind. <\/p>\n

\n
\"\"<\/a><\/figure>\n<\/div>\n

ChatGPT versteckt das Problem, statt es zu l\u00f6sen<\/h3>\n

So wie Apple das iPhone kommerziell erfolgreich in den Massenmarkt brachte, hat OpenAI vergleichbares mit KI<\/em> erreicht. Ein Nischenthema wurde in k\u00fcrzester Zeit zum Alltag. ChatGPT hat weltweit 400 Millionen w\u00f6chentlich aktive Nutzer. Der Einfluss des Dienstes ist also enorm. Dieses Unternehmen bestimmt, wie viele Menschen KI<\/em> erleben. Werden sie dieser gro\u00dfen Verantwortung gerecht?<\/p>\n

ChatGPT nennt auch 2025 (etwa 2,5 Jahre nach Ver\u00f6ffentlichung) keine Quellen f\u00fcr die Antworten. Stattdessen experimentiert man damit, ob bei der Frage nach Obst der Sasion passende Smileys im Text besser ankommen:<\/p>\n

\n
\"\"<\/a><\/figure>\n<\/div>\n

Nur wer explizit nach Quellen fragt, bekommt welche. Das war lange keine Selbstverst\u00e4ndlichkeit. Erst im April 2024 wurde die Funktion eingef\u00fchrt – f\u00fcr zahlende Kunden, selbstverst\u00e4ndlich.15<\/a><\/sup> Kostenfreie Kunden mussten beten, dass sie Gl\u00fcck haben und die KI<\/em> m\u00f6glichst wenig erfindet. Inzwischen hat sich das Unternehmen erbarmt und zeigt den Nutzern der kostenfreien Version ebenfalls Quellen an. Allerdings mit einigen Einschr\u00e4nkungen. Sie stehen als kleiner Hinweis unter der Antwort, den man erst mal finden muss.<\/p>\n

\n
\"\"<\/a><\/figure>\n<\/div>\n

Damit man ihn finden kann, ist das explizite Fragen nach Quellen notwendig. Standardm\u00e4\u00dfig liefert ChatGPT n\u00e4mlich keine, als sei das irrelevant. Wurde all das gemeistert, zeigt es zumindest eine Zuordnung zwischen Antwortteilen und der Webseite an, auf der diese Infos vermeintlich stehen sollen. In vielen F\u00e4llen geben die Quellseiten die Aussage gar nicht her. <\/p>\n

\n
\"\"<\/a><\/figure>\n<\/div>\n

Selbst wenn sie dort zu finden sind: Mangels echtem Verst\u00e4ndnis hat KI<\/em> keine Chance, offensichtlich falsche, irref\u00fchrende oder manipulative Inhalte zu erkennen. Mangels Kontextualisierung ist die Technik zudem anf\u00e4llig daf\u00fcr, Texte aus ihrem Kontext zu rei\u00dfen. Denkt beispielsweise an die Kleber f\u00fcr den Pizzak\u00e4se, das war ein Reddit-Scherz. Daher ist es unverst\u00e4ndlich fahrl\u00e4ssig, wie gleichg\u00fcltig dem Unternehmen dieses Thema zu sein scheint.<\/p>\n

Fazit: Rote Pille, blaue Pille oder Boom?<\/h3>\n

KI<\/em> hat eine gro\u00dfe Spannbreite von extrem n\u00fctzlich bis extrem gef\u00e4hrlich. Dazu ist sie bereits seit Jahren Teil unseres Alltags geworden – ohne es wie bei ChatGPT medial anzuk\u00fcndigen. Die Technik entwickelt sich mit rasantem Tempo. Aus allen genannten Gr\u00fcnden kann dieser Beitrag nur auf die Spitzen mancher Eisberge eingehen, die sie erschafft. Dabei ist eine tiefere, kritische Betrachtung dringend notwendig. Wenn 73% blind KI<\/em> vertrauen, ist das ein Totalausfall – wie die Schule verlassen, ohne das kleine 1×1 zu beherrschen.<\/p>\n

Wir haben jetzt die Chance, aus dem Tiefschlaf zu erwachen und aufzuholen. Klar ist es schwierig, nur was ist die Alternative? Alle Sch\u00fcler wissen: Je l\u00e4nger man seine Hausaufgaben aufschiebt, um so stressiger wird es. Bis es irgendwann unschaffbar viel ist und man abgeh\u00e4ngt wird. Wollen wir es so weit kommen lassen und wie beim Internet\/Web vom Ausland abh\u00e4ngig sein? Das fand ich schon immer eine schlechte Idee. Mit Donald Trump an der Macht d\u00fcrfte das noch katastrophaler werden.<\/p>\n

Dabei geht es nicht „nur“ um wirtschaftliche Themen wie Geld, welches wir als zweiter Sieger verlieren. Oder eine politisch unkluge Abh\u00e4ngigkeit. Schon das sollte Grund genug sein. Doch wenn wir uns von KI<\/em> \u00fcberrollen lassen, ist auf Dauer die Demokratie in Gefahr. Das ist keine abstrakte Gefahr, sondern hat bereits sp\u00fcrbare Folgen. Es f\u00e4ngt bereits mit der Medienkompetenz der Tagesschau an, die Rechtsradikal<\/em> mit Rechtsextrem<\/em> verwechselt.16<\/a><\/sup> Wesentlich gravierender ist allerdings, dass Rechtsextreme Straftaten ein Rekordhoch erreichen. Ma\u00dfgeblich liegt das an Jugendlichen, die mehr & extremer werden. Der BKA-Pr\u00e4sident Holger M\u00fcnch sieht daf\u00fcr vor allem Soziale Netzwerke verantwortlich:<\/p>\n

\n

Radikalisierung, Rekrutierung und Mobilisierung findet \u00fcber soziale Netzwerke und rechte Foren statt.<\/p>\n<\/blockquote>\n

Sie nutzen bereits seit langem KI<\/em>, die darauf trainiert ist, maximal viel Geld aus ihren Nutzern heraus zu holen. Wie macht man das? Mit polarisierenden Inhalten. Ganz nebenbei f\u00f6rdert das die Radikalisierung der Gesellschaft. Extremisten missbrauchen die Technik l\u00e4ngst f\u00fcr sich – w\u00e4hrend die meisten Deutschen noch nicht mal die einfachsten Grundlagen verstehen. Ohne Medienkompetenz kann das nicht besser werden. Im Gegenteil: Wir befinden uns relativ am Anfang der Entwicklung. Innerhalb von Monaten sind KI<\/em> generierte Videos von „sieht aus wie ein schlechter Film aus den 90ern“ zu „was, das ist nicht echt?“ aufgestiegen<\/a>. Es ist absehbar, dass technische M\u00f6glichkeiten & Verbreitung in 5 oder 10 Jahren noch mal anders aussehen werden.<\/p>\n

Quellen<\/h3>\n
    \n
  1. https:\/\/www.golem.de\/news\/umfrage-zu-llms-skalierung-loest-ki-probleme-nicht-2505-196632.html<\/a> \u21a9\ufe0e<\/a><\/li>\n
  2. https:\/\/www.neuronation.com\/science\/de\/definition-der-intelligenz-was-ist-das-eigentlich\/<\/a> \u21a9\ufe0e<\/a><\/li>\n
  3. https:\/\/zapliance.com\/was-ist-eigentlich-kuenstliche-intelligenz-und-woher-kommt-sie\/<\/a> \u21a9\ufe0e<\/a><\/li>\n
  4. https:\/\/www.spiegel.de\/netzwelt\/web\/google-lustige-suchergebnisse-ki-empfiehlt-klebstoff-zum-pizzabacken-a-a4b0ff1a-40ad-44c8-b879-f39315a865c7<\/a> \u21a9\ufe0e<\/a><\/li>\n
  5. https:\/\/www.derstandard.at\/story\/3000000257186\/ki-chatbots-geben-nachrichten-nicht-korrekt-wieder?ref=rss<\/a> \u21a9\ufe0e<\/a><\/li>\n
  6. https:\/\/futurezone.at\/produkte\/apple-ki-ai-intelligence-zusammenfassung-new-york-times-bbc-fake-news-nachrichten-washington-post\/402999808<\/a> \u21a9\ufe0e<\/a><\/li>\n
  7. https:\/\/www.golem.de\/news\/ki-erfindet-fallzitate-wieder-blamiert-sich-ein-anwalt-wegen-chatgpt-2502-192968.html<\/a> \u21a9\ufe0e<\/a><\/li>\n
  8. https:\/\/winfuture.de\/news,146050.html<\/a> \u21a9\ufe0e<\/a><\/li>\n
  9. https:\/\/www.heise.de\/news\/KI-Modelle-lernen-auswendig-und-schlussfolgern-nicht-9800916.html?view=print<\/a> \u21a9\ufe0e<\/a><\/li>\n
  10. https:\/\/tarnkappe.info\/artikel\/kurios\/ki-ampel-in-hamm-sorgt-fuer-heftigen-verkehrsstau-292631.html<\/a> \u21a9\ufe0e<\/a><\/li>\n
  11. https:\/\/www.golem.de\/news\/apotheken-zu-weit-entfernt-ki-basierte-planung-stuerzt-notdienste-ins-chaos-2501-192673.html<\/a> \u21a9\ufe0e<\/a><\/li>\n
  12. https:\/\/studibucht.de\/blog\/chatgpt-mit-quellen\/<\/a> \u21a9\ufe0e<\/a><\/li>\n
  13. https:\/\/www.heise.de\/news\/Verlaesslichkeit-Wirtschaftsforscher-beklagen-Marktversagen-bei-generativer-KI-10194584.html?view=print<\/a> \u21a9\ufe0e<\/a><\/li>\n
  14. https:\/\/www.golem.de\/news\/kuenstliche-intelligenz-openai-verkuerzt-sicherheitstests-von-monaten-auf-tage-2504-195266.html<\/a> \u21a9\ufe0e<\/a><\/li>\n
  15. https:\/\/www.zdnet.de\/88415146\/chatgpt-nennt-kuenftig-seine-quellen\/<\/a> \u21a9\ufe0e<\/a><\/li>\n
  16. https:\/\/www.tagesschau.de\/inland\/gesellschaft\/bka-muench-warnung-rechtsextreme-100.html<\/a> \u21a9\ufe0e<\/a><\/li>\n<\/ol>\n","protected":false},"excerpt":{"rendered":"

    „KI“ \u00fcbernimmt die Weltherrschaft und vernichtet uns Menschen? Vergesst es! Abseits solcher Steilvorlagen f\u00fcr SiFi-Filme gibt es eine ganz andere Gefahr, mit der uns k\u00fcnstliche Intelligenz massivst schaden kann. Obwohl sie weitaus realistischer ist als die Hollywood-Szenarien, scheint sie kaum jemand auf dem Schirm zu haben. Technische L\u00f6sungen gibt es daf\u00fcr zudem kaum, weil das …<\/p>\n","protected":false},"author":5,"featured_media":15190,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":"[{\"content\":\"https:\/\/www.golem.de\/news\/umfrage-zu-llms-skalierung-loest-ki-probleme-nicht-2505-196632.html<\/a>\",\"id\":\"be142fec-eacb-4795-83f4-076093b5bdbc\"},{\"content\":\"https:\/\/www.neuronation.com\/science\/de\/definition-der-intelligenz-was-ist-das-eigentlich\/<\/a>\",\"id\":\"9c6d39b2-4ca3-4cbd-ac01-c2969b4a897b\"},{\"content\":\"https:\/\/zapliance.com\/was-ist-eigentlich-kuenstliche-intelligenz-und-woher-kommt-sie\/<\/a>\",\"id\":\"62f73f41-14eb-4891-86c1-87e3f5750c60\"},{\"content\":\"https:\/\/www.spiegel.de\/netzwelt\/web\/google-lustige-suchergebnisse-ki-empfiehlt-klebstoff-zum-pizzabacken-a-a4b0ff1a-40ad-44c8-b879-f39315a865c7<\/a>\",\"id\":\"2c171251-e447-425e-8217-80aecb9b16cf\"},{\"content\":\"https:\/\/www.derstandard.at\/story\/3000000257186\/ki-chatbots-geben-nachrichten-nicht-korrekt-wieder?ref=rss<\/a>\",\"id\":\"17741ad1-5ad6-407c-8ba2-0dd006951f30\"},{\"content\":\"https:\/\/futurezone.at\/produkte\/apple-ki-ai-intelligence-zusammenfassung-new-york-times-bbc-fake-news-nachrichten-washington-post\/402999808<\/a>\",\"id\":\"6d70d5e2-e1bc-453f-87ae-fa877eb3dc62\"},{\"content\":\"https:\/\/www.golem.de\/news\/ki-erfindet-fallzitate-wieder-blamiert-sich-ein-anwalt-wegen-chatgpt-2502-192968.html<\/a>\",\"id\":\"545acd16-e6e1-40db-b195-77c64f74f0af\"},{\"content\":\"https:\/\/winfuture.de\/news,146050.html<\/a>\",\"id\":\"4e8e9fb2-aa26-47cb-aefa-a2e138f09a69\"},{\"content\":\"https:\/\/www.heise.de\/news\/KI-Modelle-lernen-auswendig-und-schlussfolgern-nicht-9800916.html?view=print<\/a>\",\"id\":\"493b16bc-abd6-438f-b79b-587c198915a2\"},{\"content\":\"https:\/\/tarnkappe.info\/artikel\/kurios\/ki-ampel-in-hamm-sorgt-fuer-heftigen-verkehrsstau-292631.html<\/a>\",\"id\":\"7e02c72f-6885-4e68-8939-e167edec1c63\"},{\"content\":\"https:\/\/www.golem.de\/news\/apotheken-zu-weit-entfernt-ki-basierte-planung-stuerzt-notdienste-ins-chaos-2501-192673.html<\/a>\",\"id\":\"ae1973ea-4ca0-4808-b3ea-cb526948d229\"},{\"content\":\"https:\/\/studibucht.de\/blog\/chatgpt-mit-quellen\/<\/a>\",\"id\":\"a8b138df-0ac8-4c44-b9b4-6cb7b8e52ee9\"},{\"content\":\"https:\/\/www.heise.de\/news\/Verlaesslichkeit-Wirtschaftsforscher-beklagen-Marktversagen-bei-generativer-KI-10194584.html?view=print<\/a>\",\"id\":\"40f7f2f0-111b-414a-9db5-144715fc7593\"},{\"content\":\"https:\/\/www.golem.de\/news\/kuenstliche-intelligenz-openai-verkuerzt-sicherheitstests-von-monaten-auf-tage-2504-195266.html<\/a>\",\"id\":\"53b32b86-7c99-4654-8c8e-7d3d13b7c0d0\"},{\"content\":\"https:\/\/www.zdnet.de\/88415146\/chatgpt-nennt-kuenftig-seine-quellen\/<\/a>\",\"id\":\"41132cc5-a112-4329-ac42-8b0261743599\"},{\"content\":\"https:\/\/www.tagesschau.de\/inland\/gesellschaft\/bka-muench-warnung-rechtsextreme-100.html<\/a>\",\"id\":\"aba25230-0a0e-4421-bd45-e6e43a33ce04\"}]"},"categories":[22],"tags":[910,1079],"class_list":["post-15053","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-technik","tag-ki","tag-kuenstliche-intelligenz-2"],"_links":{"self":[{"href":"https:\/\/u-labs.de\/portal\/wp-json\/wp\/v2\/posts\/15053","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/u-labs.de\/portal\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/u-labs.de\/portal\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/u-labs.de\/portal\/wp-json\/wp\/v2\/users\/5"}],"replies":[{"embeddable":true,"href":"https:\/\/u-labs.de\/portal\/wp-json\/wp\/v2\/comments?post=15053"}],"version-history":[{"count":67,"href":"https:\/\/u-labs.de\/portal\/wp-json\/wp\/v2\/posts\/15053\/revisions"}],"predecessor-version":[{"id":15243,"href":"https:\/\/u-labs.de\/portal\/wp-json\/wp\/v2\/posts\/15053\/revisions\/15243"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/u-labs.de\/portal\/wp-json\/wp\/v2\/media\/15190"}],"wp:attachment":[{"href":"https:\/\/u-labs.de\/portal\/wp-json\/wp\/v2\/media?parent=15053"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/u-labs.de\/portal\/wp-json\/wp\/v2\/categories?post=15053"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/u-labs.de\/portal\/wp-json\/wp\/v2\/tags?post=15053"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}