Die schlimmste Gefahr von "KI": 73% kennen sie nicht

[U-Labs YouTube]

Antwort von @Volker-Dirr:
Wenn man einem Kind nciht beibringt, wie man die Uhr lesen kann und wenn ein Kind nie sieht, wie sich eine Uhr dreht, dann lernt das ein Kind normalerweise auch nicht besser. Das Kind lernt es doch nur dann, wenn es das sieht. Wer kennt den heute noch analoge Uhren? Viele kennen das nur noch digital. Mit meinen 5ern in Physik mache ich Orientierung mit der analogen Uhr am Sonnenstand. Wenn du sehen würdest, was mir da Schüler für "witzige" Uhren ins Physikheft zeichen, dann würdest du über chat-gpt und co. anders urteilen. Auch denen muss man das eben beibringen. Alles nur eine Frage der Zeit. Das Problem ist erkannt. Da wird sich nächstens vermutlich einer hinsetzen und einfach jede Uhrzeit mal abfotografiren und das als Trainingsdaten benutzen und schon dürfte das gelöst sein. Wenn man natürlich bisher nur Uhren aus dem Werbeprospekt gelernt hat, dann ist klar, dass dort oft eine andere Zeit zu sehen ist.

[U-Labs YouTube]

Antwort von @henryfriedel3984:
Durch das Training der KI wird am Anfang ein bestimmtes Meinungsbild vorgegeben, eben der Mainstream, das Schulwissen, alles was die aktuelle Elite so will. Da sehe ich eine extreme Gefahr der Manipulation und eine gravierente Einschränkung der Freiheit des Denkens und damit auch falscher Informationen. Alles dient zur Lenkung der Massen, wie alle anderen "etablierten" Medien. Und ja, ganz richtig, KI selbst kann ein Werkzeug der Manipulation sein, welchen gezeigten Inhalten kann man noch trauen? Der Mensch ist ein Opfer der Informationen mit denen er täglich zugeschüttet wird, die er nicht prüfen kann - alles ist Glaube.

[DMW007]

Jein. Grundsätzlich ist dieses Risiko da und bereits nachweisbar: DeepSeek beispielsweise beantwortet bestimmte politische Fragen im Sinne der chinesischen Regierung oder gar nicht. In den USA soll "KI" künstlich rechter werden. Solche bewussten Eingriffe als Gipfel des Eisbergs gibt es. In allem eine Verschwörung zu sehen, ist auf der anderen Extremseite ebenfalls übertrieben. Klassisches Beispiel: Gesichtserkennung funktioniert bei Menschen mit heller Hautfarbe oft besser, weil sie öfter in den Trainingsdaten enthalten sind. Dafür braucht es gar keine Manipulation. Ähnliches sieht man schon länger in der Medizin. Da ist vieles auf Männer ausgelegt, weswegen die Qualität der Behandlung von Frauen tendenziell schlechter ist.

Wir haben einige Möglichkeiten, Informationen zu überprüfen. Niemand muss blind alles glauben, vieles lässt sich sogar relativ einfach entlarven. Die Meisten machen das allerdings nicht, weil es unbequem und aufwändig ist. Insbesondere, wenn Meldungen die eigenen Narrative stärken, wird besonders wenig bis hin zu gar nix geprüft. Mit "KI" verschärft sich dieses Problem mangelnder Medienkompetenz, weil es in eine neue Dimension gelangt. Uns fällt auf die Füße, was schon lange verschlafen wurde.

Statt da jetzt noch tiefer in die "kann man nix machen" Schiene abzudriften, ist es höchste Zeit, das zu ändern. Jetzt können wir z.B. Medienkompetenz an Schulen einführen, Spielregeln für den Umgang mit "KI" festlegen usw. Letzteres passiert in Ansätzen auf EU-Ebene. Insgesamt reicht das bei weitem nicht aus. Gerade im Bildungsbereich fehlt es auch 2025 noch immer an klaren Regelungen. Der eine ist mit "KI" Einsatz der moderne Held, ein anderer fällt deswegen durch. Wenn wir uns allerdings weiterhin nicht kümmern, kommt irgendwann der Kippunkt. Dann werden wir nur noch von anderen überrollt. Das wäre sowohl für unsere Gesellschaft, als auch die Wirtschaft sehr schlecht und sollte daher vermieden werden.

[U-Labs YouTube]

Antwort von @NafetsNuarb:
Das schlimmste ist, dass wir Menschen genauso funktionieren. Die stärksten Datenautobahnen in unserem Gehirn empfinden wir als logisch - was es nicht ist. Echte Logik muss man lernen. Und ist auch erst erforderlich, seit wir abstrakte Denkgebäude errichten. Wir haben also Werkzeuge erfunden, um mit diesen Unzulänglichkeiten besser umzugehen. Die Lösung für KIs liegt deshalb wie bei uns darin, Instanzen zu bilden, die sich gegenseitig kontrollieren, um so etwas wie Logik erlernen zu können.

[U-Labs YouTube]

Antwort von @PatWallaby:
KI kann uns gefährlich werden, wenn es humanoide Roboter gibt, die JEDEN Menschen ersetzen können und wir massenhaft Technik unerreichbar für normal Sterbliche installieren. Also alles im grünen Bereich.
&,

[DMW007]

Ein Atomkrieg kann uns auch gefährlich werden. Im Spektrum bis dahin gibt es allerdings noch einige andere Dinge, die unseren Planeten zwar nicht direkt unbewohnbar machen. Aber dennoch schwerwiegende Auswirkungen haben xD
Bei "KI" wäre das z.B. ganz vorne das Titelthema. Mit gut gemachten Fälschungen einflussreicher Personen lässt sich viel Schaden anrichten. Eben so hat sich jüngst jemand selbst vergiftet, weil er ChatGPT blind vertraut hat. Die Liste könnte man noch weiter fortsetzen. Aktuell ist das noch alles am Anfang, weswegen sich die Folgen nur schwer abschätzen lassen. Dass es ohne Maßnahmen wie u.a. Medienkompetenz nicht besser wird, wenn etwa "KI" Chatbots überzeugende Bullshit-Texte generieren, ist bereits sehr deutlich absehbar.

[Fritz]

Durch KI ersetzte Mitarbeiter kehren zurück. Das Management der Bank macht die jüngsten Entlassungen rückgängig. Der KI-Chatbot habe doch nicht zu weniger Arbeit im Support geführt. Die größte australische Bank, die Commonwealth Bank of Australia (CBA), nimmt den Stellenabbau im Kundenservice zurück und räumt ein, sich geirrt zu haben. Die Bank entschuldigte sich bei den entlassenen Mitarbeitern und bot ihnen an, an ihren Arbeitsplatz zurückzukehren oder alternativ weiterhin mit einer Abfindung das Unternehmen zu verlassen. www.golem.de

Der Kontakt mit einem Menschen am Telefon kann offensichtlich nicht so leicht durch eine Maschine/ einen intelligenten Computer ersetzt werden.

[U-Labs YouTube]

Antwort von @lexplain5982:
Im Film Terminator hat die KI so sehr verkackt dass sie sogar mit Zeitreisen und extra Vorteil verkackt haben. Die ganze Filmserie ist ein riesiger Spoiler. Vermutlich hat die KI nicht einmal die Zeitmaschine erfunden da sie nur Dinge in Vergangenheit schickt die ein lebendige Haut haben.

[DMW007]

Der Kontakt mit einem Menschen am Telefon kann offensichtlich nicht so leicht durch eine Maschine/ einen intelligenten Computer ersetzt werden.

Die eine Frage ist, ob etwas technisch möglich ist. Das trifft auf vieles zu. Beispielsweise können wir Menschen weitaus länger am Stück arbeiten lassen, in dem sie Essen an den Platz bekommen, in einen Beutel oder eine Flasche pinkeln usw.
Die interessantere Frage lautet: Wollen wir das als Gesellschaft? Wir haben nämlich durchaus die Möglichkeit, bei technischem Fortschritt zu differenzieren. Dinge, die uns einen effektiven Nutzen bringen, nutzen wir und bauen sie aus. Andere Dinge machen wir nicht. Beispielsweise können wir die Pflege von Menschen als gesellschaftlich wichtig anerkennen und stärken - statt zu versuchen, sie mit Robotern irgendwie wegzuautomatisieren.

[U-Labs YouTube]

Antwort von @RetroVGamingZone:
ich nutze ki amliebsten zur marktanalyse, leistungsanalyse und preisleistungs analyse von preisen (auch bei pc hardware) aber man muss immer dazusagen es kommt drauf an was der anwender eintippt als frage wie weit kann sich der anwender etwas vorstellen und es der ki erklären?! in meinem falle stehen als frage meist 40-50 zeilen mit infos und auf links die, die ki beantwortet am ende frage ich immer nochmal nach ob die preise und daten auch richtig sind also bei 94% richtig : 4% wedernoch : 2% falsch kann man eigentlich von einer guten ki ausgehen (selbst ich denke machmal an das flache bzw. formuliere es komplett falsch also kann es die ki auch nur falsch wiedergeben außer wenn eben einen faktencheck mache aber da gebe ich dann auch webseiten als referenzen an denn die ki soll nur gutes zeug durchsuchen und kein klatschblatt wie z.b. bild... klar macht ne ki fehler denn sie wurde von menschen entwickelt die lauter makel und fehler haben und um das zubeweisen nutze ich extra mal keine ki zur gramatikverbesserung

" erstelle mir ein wallpaper mit einer standuhr im gothik look auf einem tisch mit einem fenster im hintergrund, auf der uhr ist es genau 03 : 25 nachts bitte vermeide verzerren und zuviel blur aber auch zuviel sharpen und artifakte dabei und achte auch darauf das die qualität des bildes nur die beste ist"
6 von 10 versuchen waren fail bei gemini, und gpt ist zuausgelastet von anderen usern craiyon 3 von 10 richtig midjourney 8 von 10 fail....
dann mal die prompt verfeinert bis das ich schon bei 400 prompts war anstelle von sätzen... danach ging es echt gut aber hat zeit gefressen da hätte ich es im photoshop auch selbst zeichnen können (: