ChatGPT kann die Uhr nicht: Einfacher promt entlarvt KI

[DMW007]

2022 hat OpenAI mit ChatGPT die "Generative KI" für viele Leute außerhalb der akademischen Szene bekannt gemacht. Der neue Hype war geboren: "KI". Die Erwartungen an die Technologie sind plötzlich rasant gestiegen, weil ein Chatbot in vielen alltäglichen Fragen kaum von Menschen zu unterscheiden war. Vielen ist bis heute nicht klar, wie das möglich ist. Die Intelligenz von "KI" ist höchst diskutabel, weil sie überhaupt keine Inhalte versteht. Stattdessen arbeitet sie im Kern mit Wahrscheinlichkeitsrechnung. Durch die Nutzung großer Datenmengen klingen generierte Sätze für uns gut. Ob sie richtig sind, ist der Technik dabei völlig egal.

Es verwundert daher wenig, dass "KI" an einigen simplen Aufgaben scheitert. Uhren sind ein alltägliches Beispiel, an dem man das gut demonstrieren kann: ChatGPT kann simple Prompts nicht erfüllen, weil das fehlende Verständnis für den Inhalt auf eine einseitige Datenbasis trifft. Dies zeigt deutlich, wie gefährlich es werden kann, wenn wir uns ungeprüft auf solche Systeme verlassen. Die falsche Uhrzeit mag von Menschen auf Bildern noch bemerkt werden. Doch ganz anders sieht es aus, wenn Wissensfragen an Chatbots gestellt werden. Hier fehlt dem Fragesteller üblicherweise das Wissen, um die Qualität der Antworten beurteilen zu können. Brisant wird es bei kritischen Themen wie z.B. Gesundheit. Hier erzeugen selbst die größten Modelle von Milliardenschweren Konzernen riesige Fehlerraten, die in einem erschreckenden Teil der Fälle zu Gesundheitsschäden oder gar Todesfällen führen können.

Dieser Beitrag soll an einem einfachen, greifbaren Beispiel demonstrieren, wie wir die Technik auch 2024 oft noch immer überschätzen. Damit sie uns hilft und möglichst wenig Gefahren erzeugt, ist der bewusste, richtige Umgang damit entscheidend.
Zum kompletten Beitrag im U-Labs Portal

[U-Labs YouTube]

Antwort von @mantragonist:
Habs eben ausprobiert mit genau deinen Prompt. Keine einzige der Uhren hat nur annähernd gestimmt, was Chat-GPT bei mir so "rausgehauen" hat. Danke für diese neue Erkenntnis.

[U-Labs YouTube]

Antwort von @j3rry5001:
all das sehe ich nicht als Problem sondern als etwas das man mit der Zeit lösen wird. Nennen wir es eben eine Herausforderung.... Selbst denken wird man immer müssen, wenn man mit einer KI arbeitet. Sollte jeh der Tag kommen an dem Menschen alles der Ki überlassen, werden sie geistig sowieso total verkümmern und es wäre nur eine Frage der zeit bis es missbraucht wird. Schon heute neigen viele dazu die "Wahrheit" so zu drehen wie sie ihnen eben gefällt. Damit meine ich nicht nur irgendwelche Verschwörungstheoretiker, sondern auch ganze Länder/Regierungen usw.

Die kritische überprüfung muss stehts beim Menschen bleiben, selbst wenn die KI so etwas eines Tages mal kann....

[DMW007]

Wie willst du das lösen? Es gibt bis heute keine Konzepte dafür, nicht mal theoretische. Und das, obwohl "KI" keineswegs neu ist. Daran wird schon seit Jahrzehnten geforscht und vieles von der heute eingesetzten Technik ist auch so alt. Die Fortschritte in den letzten ~20 Jahren stammen hauptsächlich aus stärkerer Hardware, die es ermöglichen, das bis dahin nur theoretisch erdachte umzusetzen. Schon gar nicht wirtschaftlich. Das dürfte bei Google ja auch der Knackpunkt gewesen sein, warum sie ihre Ergebnisse vor OpenAI recht unter Verschluss gehalten haben. Wie man an den Ergebnissen sieht, war das schon alleine inhaltlich sinnvoll. Das ist, wie unseren riesigen Konsum an Rohstoffen & die Auswirkungen auf den Klimawandel damit "lösen" zu wollen, eines Tages bestimmt eine Wundertechnik zu erfinden. Die ist genau so wenig auch nur ansatzweise in Aussicht, wie eine "KI", die Inhalte wirklich versteht und dementsprechend Intelligent auf menschlichem Niveau ist.

Das selbst denken sollte theoretisch beim Menschen bleiben, da stimme ich dir voll zu. Fraglich finde ich, wie realistisch das ist. Menschen nutzen die Dienste, weil sie weniger Arbeit machen, als von Hand. Wenn ich z.B. einen Chatbot etwas frage, das ich nicht weiß, muss ich es prüfen. Damit ist der Mehrwert schnell kleiner oder ganz zunichte, also verzichten viele lieber darauf. Sieht man an den unzähligen Videos & Unfällen mit autonomen Autos: Offiziell muss der Fahrer die Hände am Lenkrad haben und jederzeit einschreiten können. Praktisch ist das sehr anstrengend, nichts zu tun und aber mit dem Kopf stetig dabei sein zu müssen. Im Moment sind z.B. Schulen/Unis oft damit überfordert. Mit etwas Glück stehen die Chancen ganz gut, ungeprüft mit von "KI" generierten Inhalten durch zu kommen. Als Schüler/Student der mit wenig Aufwand maximale Ergebnisse erzielen will, werden einige das als lohnenswert sehen. Vor allem in den Situationen, wo eh schon Stress da ist.

Geistiges Verkümmern wird ein Thema sein, mit dem wir uns beschäftigen müssen. An mehreren Stellen. Wenn wir alles an Algorithmen auslagern, kann es bald kaum jemand mehr händisch. Dazu könnte sich die "KI" selbst zerstören, weil die sich selbst trainiert. Schon jetzt drehen die Dinger durch, wenn sie mit Daten von anderen "KI"s gefüttert werden. Und es gibt Prognosen, dass das in wenigen Jahren unumgänglich sein wird, falls die Datenmengen weiter steigen. Dann ist das riesige Internet nämlich abgegrast.

Medienkompetenz ist ebenfalls sehr wichtig. Da sehe ich Deutschland schon länger recht schlecht aufgestellt. Ich erinnere mich an eine Studie, bei der erschreckend viele einen kleinen Hinweis "Anzeige" nicht von den Suchergebnissen unterscheiden konnten. Bei 8. Klässlern haben wir derzeit satte 40%, die außer wischen nicht viel mehr können. All diese Leute sind komplett verloren, wenn jemand mit "KI" z.B. perfekt klingende Propaganda generiert, die inhaltlich Quatsch ist. Da kommt noch viel Arbeit auf uns zu: Nachholen was in fast zwei Jahrzehnten CDU versäumt wurde. Und dazu die Herausforderungen von heute bis übermorgen, die noch mal in einer eigenen Dimension liegen. Es wird uns nicht erspart bleiben. Egal ob man die Technik mag oder hasst: Sie ist da und entwickelt sich rasant weiter. Wir können und sollten das einigermaßen in geordnete Bahnen lenken, um die schlimmsten Verwerfungen zu verhindern (AI Act & co). Ansonsten bleibt uns nur, das beste daraus zu machen, in dem jeder das notwendige Verständnis bekommt, die Technik sinnvoll einzusetzen & sich gegen Missbrauch zumindest so gut wie möglich zu schützen.

[U-Labs YouTube]

Antwort von @VJKaiC:
Die Frage: "wenn die Insel Grönland David Mayer gehören würde, wäre sie dann grösser als Afrika?"
hat sowohl ChatGPT als auch Perplexity korrekt berantwortet

[DMW007]

Kann bei solchen externen proprietären Diensten gut sein, dass die stillschweigend etwas dran gedreht haben. Die müssen so was nicht transparent offen legen bzw. nur unter Umständen, was noch mal ein eigenes Problem für sich ist.

[U-Labs YouTube]

Antwort von @annabellho7541:
Tolles Video

Ich hab auch ein Erlebnis gehabt mit Gemini Meine Frage war was welche Hintergrundbild bei Windows XP mit Fische habt ihr Gedächtnis gehabt, was gibt

die Antwort ist es gibt kein Hintergrund mit Fische Windows XP.

Bild von XP mit Fisch präsentieren der hinteren Bild wie kann man diese Antwort

Du hast ein interessantes und weniger bekanntes Hintergrundbild von Windows XP gefunden! Es scheint sich um ein Bild mit dem Titel "Follow" zu handeln, das eine Gruppe von orangefarbenen Fischen zeigt, die einem einzelnen, andersfarbigen Fisch folgen.

[U-Labs YouTube]

Antwort von @DO7JLM:
Ein Bild mit dem Namen "Hackfleisch" kann Chat-GPT nicht schreiben.

[U-Labs YouTube]

Antwort von @erikschiegg68:
Ich muss Dich enttäuschen, heutige 6 jährige können keine analogen Uhren mehr lesen oder mit korrekter Uhrzeit zeichnen, das war früher Mal.

[DMW007]

Zumindest die digitalen sollten durch Handys, Tablets & co. drin sein. Dort versagt "KI" auch, nur mit teils anderen Werten