Die schlimmste Gefahr von "KI": 73% kennen sie nicht

[U-Labs YouTube]

Antwort von @Volker-Dirr:
Wenn man einem Kind nciht beibringt, wie man die Uhr lesen kann und wenn ein Kind nie sieht, wie sich eine Uhr dreht, dann lernt das ein Kind normalerweise auch nicht besser. Das Kind lernt es doch nur dann, wenn es das sieht. Wer kennt den heute noch analoge Uhren? Viele kennen das nur noch digital. Mit meinen 5ern in Physik mache ich Orientierung mit der analogen Uhr am Sonnenstand. Wenn du sehen würdest, was mir da Schüler für "witzige" Uhren ins Physikheft zeichen, dann würdest du über chat-gpt und co. anders urteilen. Auch denen muss man das eben beibringen. Alles nur eine Frage der Zeit. Das Problem ist erkannt. Da wird sich nächstens vermutlich einer hinsetzen und einfach jede Uhrzeit mal abfotografiren und das als Trainingsdaten benutzen und schon dürfte das gelöst sein. Wenn man natürlich bisher nur Uhren aus dem Werbeprospekt gelernt hat, dann ist klar, dass dort oft eine andere Zeit zu sehen ist.

[U-Labs YouTube]

Antwort von @henryfriedel3984:
Durch das Training der KI wird am Anfang ein bestimmtes Meinungsbild vorgegeben, eben der Mainstream, das Schulwissen, alles was die aktuelle Elite so will. Da sehe ich eine extreme Gefahr der Manipulation und eine gravierente Einschränkung der Freiheit des Denkens und damit auch falscher Informationen. Alles dient zur Lenkung der Massen, wie alle anderen "etablierten" Medien. Und ja, ganz richtig, KI selbst kann ein Werkzeug der Manipulation sein, welchen gezeigten Inhalten kann man noch trauen? Der Mensch ist ein Opfer der Informationen mit denen er täglich zugeschüttet wird, die er nicht prüfen kann - alles ist Glaube.

[DMW007]

Jein. Grundsätzlich ist dieses Risiko da und bereits nachweisbar: DeepSeek beispielsweise beantwortet bestimmte politische Fragen im Sinne der chinesischen Regierung oder gar nicht. In den USA soll "KI" künstlich rechter werden. Solche bewussten Eingriffe als Gipfel des Eisbergs gibt es. In allem eine Verschwörung zu sehen, ist auf der anderen Extremseite ebenfalls übertrieben. Klassisches Beispiel: Gesichtserkennung funktioniert bei Menschen mit heller Hautfarbe oft besser, weil sie öfter in den Trainingsdaten enthalten sind. Dafür braucht es gar keine Manipulation. Ähnliches sieht man schon länger in der Medizin. Da ist vieles auf Männer ausgelegt, weswegen die Qualität der Behandlung von Frauen tendenziell schlechter ist.

Wir haben einige Möglichkeiten, Informationen zu überprüfen. Niemand muss blind alles glauben, vieles lässt sich sogar relativ einfach entlarven. Die Meisten machen das allerdings nicht, weil es unbequem und aufwändig ist. Insbesondere, wenn Meldungen die eigenen Narrative stärken, wird besonders wenig bis hin zu gar nix geprüft. Mit "KI" verschärft sich dieses Problem mangelnder Medienkompetenz, weil es in eine neue Dimension gelangt. Uns fällt auf die Füße, was schon lange verschlafen wurde.

Statt da jetzt noch tiefer in die "kann man nix machen" Schiene abzudriften, ist es höchste Zeit, das zu ändern. Jetzt können wir z.B. Medienkompetenz an Schulen einführen, Spielregeln für den Umgang mit "KI" festlegen usw. Letzteres passiert in Ansätzen auf EU-Ebene. Insgesamt reicht das bei weitem nicht aus. Gerade im Bildungsbereich fehlt es auch 2025 noch immer an klaren Regelungen. Der eine ist mit "KI" Einsatz der moderne Held, ein anderer fällt deswegen durch. Wenn wir uns allerdings weiterhin nicht kümmern, kommt irgendwann der Kippunkt. Dann werden wir nur noch von anderen überrollt. Das wäre sowohl für unsere Gesellschaft, als auch die Wirtschaft sehr schlecht und sollte daher vermieden werden.