Die schlimmste Gefahr von "KI": 73% kennen sie nicht

[DMW007]

Der Promt ist prinzipiell wichtig. Oft treffen Menschen gedankliche Annahmen, die sie dort nicht aufschreiben. Dadurch weist das generierte Ergebnis unbewusst ab.
Eine Quote von 94% korrekter Antworten halte ich in realistischen, breiten Messungen für völlig utopisch. "KI" hat kein Empfinden, was wahr ist. Dementsprechend sind die Quoten in Studien weitaus schlechter. Den Chatbot zu fragen, ob das stimmt, ist daher absurd. Das weiß der nicht und kann es gar nicht wissen. Diesen Job musst du selbst machen. Vermutlich kommt daher die viel zu hohe Quote an korrekten Antworten.

Chatbots sind nie darauf ausgelegt, Wahrheiten zu liefern. Sondern, möglichst immer eine plausibel aussehende Antwort auszugeben. Im Zweifel wird daher irgendwas herbei Halluziniert. Klingt auf den ersten Blick super. Beim genaueren Prüfen entpuppt es sich als Bullshit. Nicht umsonst wird ChatGPT auch als "Bullshit generator" bezeichnet.

[U-Labs YouTube]

Antwort von @l333ch0r:
Kurzes feedback, da kommt jemand regelmäßig an das Mikro. das Brummt dann im Bassbereich, bei Kopfhörern echt schwierig.

[U-Labs YouTube]

Antwort von @3DOfficeAT:
Du solltest dich mehr damit befassen. Das ist nur die halbe Wahrheit.

Schau mal nach einer Zusammenfassung von: Schnelles Denken, Langsames Denken (2011)
Und
Sparks of AGI (2023)
und seit dem hat sich noch einiges Getan wie zB. Deepseek, die GTP4 10x effizienter gebaut haben)

[DMW007]

Wie soll die ganze Wahrheit aussehen?
Das grundsätzliche Problem hat Deepseek genau so wie jedes andere LLM bis heute. Du scheinst allerdings mehr zu wissen, als öffentlich über die größten Modelle bekannt ist und kannst uns sicher aufklären.

[U-Labs YouTube]

Antwort von @GuidoBee:
War mir bewusst, rede aber gegen Windmühlen. Auch so Schlaue wie Cedric/Morpheus reden von Bewusstsein und raffen nicht, was Marketing sein könnte wie zB die letzte Aktion von Claude.

[DMW007]

Von dem habe ich bisher nicht viel gesehen. Ein Video gegen Massenüberwachung, das war gut. Dann kamen welche, in denen er die Probleme der großen Cloudkonzerne klein redete. War bloß Marketing für die, mit einem Pseudo-Disclaimer nach dem Motto: Ich will ja nicht sagen, dass die ganz ohne Risiken sind - da sollte man schon ein bisschen schauen. Der Großteil des Videos war ein Loblied, wie toll die ja trotzdem seien, es keine Alternativen gäbe blablabla. Ab da konnte ich den nicht mehr ernst nehmen und habe aufgehört, weiteres anzuschauen.