ChatGPT kann die Uhr nicht: Einfacher promt entlarvt KI

[U-Labs YouTube]

Antwort von @Arsat74:
Also ich hatte medizinisch schon einige gute Tipps von der KI erhalten. Ich hab als querschnittsgelähmter mit neurologischen und anderen Problemen zu kämpfen und bei sogut wie allem hatte die KI immer recht. Gegengecheckt durch den Arzt. Aber die KI kommt eben auch andere Sachen als viele Speizialisten.
Blind vertrauen würd ich ihr nicht aber meine Erfahrungen ob Konzeptentwicklung, Programmieren, spezielles Wissen hat bis jetzt gut geklappt.

[DMW007]

Spätestens bei Dingen die sehr gefährlich werden können wie u.a. medizinische Fragen hängt meine Messlatte weit höher als "einige gute Tipps". Zumal ich wenig Mehrwert sehe, wenn ich es prüfen lassen muss - dann kann ich auch gleich zu einem zugelassenen Arzt gehen, der Ahnung hat und für seine Aussagen haftet. Anders sieht die Lage aus, wenn ich von etwas Ahnung habe und bloß Vorarbeit, einfache Aufgaben und ähnliches auslagere. Da kann ich selbst prüfen und bin damit im besten Falle schneller, als selbst machen/Vorlagen nehmen oder ähnliches.

In der Praxis sieht das halt oft anders aus. Die Qualität von OSS ist bereits gesunken, weil Leute da irgendwelchen KI-Code rein knallen, den sie nicht verstehen und der bekannte Sicherheitslücken enthält. Ressourcen werden verschwendet, in dem angebliche Sicherheitslücken offensichtlich ohne Prüfung bei Projekten eingekippt werden. Die verzweifeln zunehmend an riesigen Textmengen, die viel blabla enthalten. Gerne ist das im Kern "dieser Aufruf KÖNNTE eventuell unsicher sein, wenn man ihn falsch benutzt". Aber es gibt keine konkrete Schwachstelle, die ausnutzbar sein soll, oder gar ein PoC. Ein paar Stufen härter: Von den Cloud-Chatbots ist einer Amok gelaufen, als das Kind irgendwelche Regeln der Eltern umgehen wollte. Die "KI" hatte eine super Lösung und empfahl ihm, seine Eltern umzubringen, weil sie dann keine nervigen Vorschriften mehr machen könnten...

Selbst das ist noch die Spitze vom Eisberg. Ich sitze hier auf mittlerweile hunderten Artikeln zu Problemen, die wir entweder durch "KI" haben. Oder zumindest, weil wir als Gesellschaft sehr schlecht darauf vorbereitet sind. 40% der 8. Klässler können bloß Wischen und Klicken, haben also so gut wie keine Medienkompetenz. In der Gesamtbevölkerung kann ein beachtlicher Teil mit "Anzeige" gekennzeichnete Werbung nicht von Suchergebnissen unterscheiden. Ich bin gespannt, wie wir denen erklären sollen, dass die einem vermenschlichten Chatbot nicht trauen sollen. Oder sie generell Bildern/Videos kaum noch trauen können. Im Moment tut es keiner, die sind so was völlig ausgeliefert, was man an der politischen Stimmung bereits erahnen kann. Und wir stehen bei vielem noch relativ am Anfang. Während wir als Gesellschaft V1 noch immer nicht aufgearbeitet haben, laufen die Arbeiten an V2 mit Blick auf V3.

[U-Labs YouTube]

Antwort von @alicethegrinsecatz6011:
Also mir ist schleierhaft, was das jetzt beweisen soll. Die Tests gehen eindeutig an dem vorbei, was die Modelle tun sollen und können. DALL·E ist nicht darauf programmiert, ein Verständnis für die Uhrzeit zu haben. Dann ChatGPT-4o noch so intelligent sein.

[DMW007]

Wozu soll ein "KI" Bildgenerator sonst gut sein, wenn ihn die Generierung eines spezifischen Bildes überfordert? Auf die Antwort bin ich gespannt. Auch wenn es keine exakte Definition für "Intelligenz" und schon gar nicht das Hype-Wort "KI" gibt, sind sich viele Wissenschaftler einig: Eine "KI" muss lernen & abstrahieren können. Damit soll sie sich vom klassischen Algorithmus abheben, der für ein sehr spezifisches Problem geschrieben wurde und nur darauf angewendet werden kann. Minimale Änderungen sorgen dort dafür, dass manuelle Anpassungen von Entwicklern nötig sind.

Offensichtlich ist eine der teuersten kommerziellen "KI" Dienste nicht in der Lage, einfachste Anpassungen an Trainingsdaten vorzunehmen. Das heißt: Die Ausgaben stecken voll von Bias aus den Daten. Und zwar nicht nur unterschwellig im Alltag. Sondern selbst dann, wenn man unbewusst etwas anderes möchte. In welchem Rahmen lässt sich nicht vernünftig analysieren, weil OpenAI ja zu ClosedAI motiert ist. Es muss jedoch davon ausgegangen werden, dass dieses Verhalten auch in anderen Szenarien die Trainingsdaten priorisiert. Die Folgen davon fangen bei der Verbreitung von Vorurteilen an und hören bei mehr oder weniger gefährlichem Unsinn auf.

Ich erinnere hier mal an das Google-Beispiel, das sich die Daten der Reddit-Nutzer gekauft hat. Das führte zu genialen Ergebnissen wie Käse mit Leim auf die Pizza kleben, falls er nicht hält. Die wahrscheinliche Quelle war ein fast 15 Jahre alter Reddit-Kommentar eines Troll-Kontos. Wohlgemerkt liegt die Gefahr nicht bei derart offensichtlichen Fällen - die zeigen dadurch nur die Probleme sehr deutlich. Wirklich gefährlich kann es werden, wenn der Nutzer das nicht erkennt - etwa weil eine "KI" um Rat gefragt wird und der sich blind darauf verlässt.

[U-Labs YouTube]

Antwort von @andtrixr3284:
Bild generierung ist Dall-E

[DMW007]

Ich weiß, habe ich im Beitrag erwähnt und ist bei Bing unten sichtbar. Was soll uns das nun sagen? Dall-E ist ebenfalls von OpenAI entwickelt worden, daher in ChatGPT integriert.

[U-Labs YouTube]

Antwort von @WermitmachtistmitSchuld:
Zeit ist menschlicher Konstruktalso eine Illusionfragt Chat GPT aber weiß selbst nicht was die Zeit ist definiere Zeit oder beweise es wissenschaftlich und ? Geht nicht alle verstehen es aber keine weiß es was ist Gravitation?

[DMW007]

Du wirfst hier vieles durcheinander... erst mal ist vieles in der heutigen Welt ein menschliches Konstrukt: Das Gerät vor dem du sitzt, dein Arbeitstag, der Kapitalismus usw. Das hat mit "KI" wenig zu tun. Der Sinn & Zweck von maschinellem Lernen ist es, Muster zu erkennen, damit man diese unter geänderten Bedingungen wieder erkennt. Beispielsweise die Merkmale, Figur usw. einer Katze. Dadurch lassen sich auch andere Katzen (z.B. Größere, andere Fellfarbe, neue Umgebung usw) erkennen. Letztendlich sind Mustererkennung und Wahrscheinlichkeitsrechnung Mathematik. Ob das auf dem Bild von was "natürlichem" oder "künstlichem" gemacht wird, spielt keine Rolle. Relevant ist nur, dass der Algorithmus genug Trainingsdaten ohne Bias dazu hat. Die stammen üblicherweise aus dem Internet. Dass es im Internet an Material zur Uhrzeit mangelt, kann keiner ernsthaft behaupten.

Wie schon im Video erwähnt, liegt hier einer der häufigsten Fehler im Umgang mit "KI": Sie wird vermenschlicht. Algorithmen sind das Gegenteil davon, sie haben keine Gefühle, kein Verständnis, nix. Die haben gelernt, was wir statistisch hören wollen. Wenn Menschen einen Satz bilden, wollen sie etwas ausdrücken. Wer von einer Katze spricht, weiß was das für ein Tier ist, welche Probleme es geben kann (Katze haut ab, Allergien usw). Er hat eine vollständige Vorstellung vom Leben & kann sich beispielsweise vorstellen, wie es ist, eine Katze zu streicheln. Der Mensch kennt das Tier derart umfangreich, dass er sich vorstellen könnte, was z.B. passiert, wenn er der Katze auf den Schwanz tritt. Auch kann er erkennen, dass es für die Katze gefährlich werden kann, falls sie aus zu großer Höhe springt und würde einschreiten. Und der wohl wichtigste Unterschied: Für Menschen ist das ein Lebewesen.

Eine "KI" dagegen hat viele Daten über das, was Menschen so für Inhalte zu Katzen ins Netz gestellt haben. Wie leicht sich das manipulieren lässt, zeigen die Beispiele mit z.B. Käse auf die Pizza leimen. Kein halbwegs vernünftiger Mensch würde empfehlen, Käse mit Leim auf die Pizza zu kleben, weil das irgendjemand im Internet behauptet hat. Weil der echte Intelligenz hat, der sofort klar ist, was das für ein Schwachsinn ist. Die "KI" dagegen hat sich mit plumper Wahrscheinlichkeitsrechnung von Trollen & Satire komplett täuschen lassen.

Abschließend noch: Natürlich braucht man kein Verständnis bis ins Detail, um etwas darzustellen. Wozu soll das nötig sein? Kein Maler muss wissen, wie ein Dieselmotor genau funktioniert, um ein Auto zu malen. Ihm reicht weitaus weniger: Verständnis der Proportionen, Elemente, grundlegende Physik. Dass die "KI" davon null hat, zeigt schon alleine das Beispiel mit den Uhren vor dem Fenster. Solchen Schwachsinn würde kein menschlicher Maler unabsichtlich zeichnen. Das gilt für viele alltägliche Dinge. Oder schon mal einem Kind höhere Physik beigebracht, damit es die Uhr lesen kann? Hoffentlich nicht. Die Zeit funktioniert trotzdem, weil das irrelevant ist.

[U-Labs YouTube]

Antwort von @jasonfastner:
Das mit den Uhren. Ist eine getrennte KI nach meinem Wissen

[DMW007]

Alleine für Uhren eine extra "KI", die noch dazu derart katastrophale Ergebnisse abliefert? Wenn das der Fall ist, klingt das nicht danach, als hätte sich die Investition besonders gelohnt