KI gesteuerte Geräte ziehen immer mehr in unser Leben ein!

[Hase]

Staubsauger, Putzmaschienen und Servierwägen das sind Geräte die in unser aller Alltag einen Platz gefunden haben.
Aber seit einigen Jahren gibt es Saugroboter die vielen Leuten das Leben erleichtern.

Jetzt hat ein deutsches Unternehmen eine Saug-und Bohnermaschiene gebaut die 300kg wiegt und vollautomatisch Ki gesteuert putzt und durch die Gegend fährt.

Das heißt, dass keine Menschen die Bohner maschienen im Supermarkt mehr fahren.

Sondern dort mit einer Selbstfahrenden Maschiene gespart wird.
Das gleiche ist im Restaurant denn es gibt mitlerweile Restaurants die mit Servierroboter arbeiten.

Einfach aufgrund der Personalengpässe werden auch die Unternehmer erfinderisch.

Wer findet das Roboter uns viel erleichtert?

[Darkfield]

FTS (Fahrerlose TransportSysteme) sind in der Industrie derweil weit verbreitet, bei Kosten zwischen 5 und 20 K€.
Die Geräte werden nie Müde (ausser der Akku geht zur Neige), werden nie Krank (ausser ein Staplerfahrer fährt ihn über den Haufen),
Brauchen keinen Urlaub (ausser bei Wartungsarbeiten), beschweren sich nicht bei der Gewerkschaft weil die Arbeitsbedingung (Lasten
von 50 bis 1.500Kg) zu viel sind (bei 24/7) und streiken nicht weil sie keine Lohnerhöhung bekommen haben (oder Corona-Beihilfe/
Inflationsausgleich).

Aber zum Thema KI in solchen Systemen, die gibt es (noch) nicht!
Das ist alles programmiert, angelernt und funktioniert in den Bereichen die vom Programmierer und Sensoren vorgegebenen Parametern.

Eine KI würde selbst Entscheidungen treffen, aus Fehlern und Erfahrungen lernen und somit Lösungen selbstständig erarbeiten.

Eine KI müsste auch erst einmal einen Test bestehen, den Turing-Test (benannt nach Alan Turing, ein Code-Knacker aus dem 2. WK),
aktuell würde KEINE KI diesen Test ernsthaft bestehen.

Mal ehrlich, wer will eine Maschine um sich haben die eigene Entscheidungen trifft, egal ob sie nach den drei Gesetzen der Robotik
(frei nach Isaac Asimov) agiert oder nicht.
In einem Roboter arbeitet immer noch Software, welche von Menschen gemacht wurde - und wir wissen alle das auch Menschen
gravierende Schaltfehler aufweisen können.
Und wenn nun ein krankes Hirn Software entwickelt die genau so Krank ist .... NEIN DANKE.

[DMW007]

Das Problem mit der sogenannten "Künstlichen Intelligenz" ist: Sie ist gar nicht wirklich intelligent, alles basiert auf Wahrscheinlichkeitsrechnungen. Deswegen können ChatGPT & co. uns völlig falsche Informationen liefern und man bekommt das nie komplett aus ihnen raus: Sie berechnen nur, welches Wort mit höchster Wahrscheinlichkeit auf einem anderen folgt. Vereinfacht gesagt: Wenn in den Daten oft genug steht, die Erde ist eine Scheibe, wird das die "KI" auch so wiedergeben. Ein Mensch hätte hier (in der Regel) die echte Intelligenz, um festzustellen, dass das nicht plausibel ist. Man kann nun der "KI" beibringen, die Erde ist keine Scheibe. Sie wird vergleichbare Fehler aber immer wieder machen.

Für an sich wenig komplexe, wiederholende Tätigkeiten sind sie recht gut geeignet - wie Computer generell. Es ist schon länger so, dass ein Computer z.B. Pi auf Nachkommastelle X viel schneller & fehlerfreier ausrechnen kann, als ein Mensch. Diese Aufgabe ist klar definiert, es gibt kaum etwas, was dabei schief gehen kann. Problematisch wird es immer dann, wenn etwas von der Norm abweicht oder durch irgendwelche technischen Probleme (Sensordaten falsch gedeutet, Sensor defekt usw) falsch gedeutet wird. Und dann kann es sehr gefährlich werden, wenn es um schwere, starke Maschinen geht. Siehe einen aktuellen Fall aus Südkorea: Dort wollte ein Techniker einen Roboter reparieren, der dafür gedacht war, Kartons voller Paprika auf Paletten zu stapeln. Der Roboter hielt den Techniker für eine Kiste Gemüse, zertrümmerte sein Gesicht und seinen Brustkorb, sodass er stirbt.

Hier kann man argumentieren, es gelten dort laschere Sicherheitsvorkehrungen. Das mag sicher auch mit hinein spielen - gerade im Ausland, wo es öfter zu solchen tödlichen Unfällen kommt. Dennoch wird so was natürlich eine potenziell größere Gefahr, je mehr schwere Maschinen eigenständig tun können. Mit einem Roboter zum Servieren im Restaurant oder Einchecken der Gäste ist das nicht vergleichbar. Dort ist so was relativ ungefährlich möglich. Und wird auch nötig sein, zumindest da, wo es geht. Wir haben Berufe, die kaum einer mehr machen möchte, weil Arbeitsbedingungen & Bezahlung schlecht sind. Wenn wir die durch Roboter zumindest verbessern können, wäre das sinnvoll für alle.

All das sollte halt in einem vernünftigen Maße mit geeigneten Schutzmaßnahmen geschehen und man muss die Gesellschaft mitnehmen. Vor allem letzteres halte ich für sehr schwierig. Das ganze KI/ML Thema entwickelt sich bereits jetzt so schnell, dass selbst Leute in der IT Schwierigkeiten haben, mitzukommen. Und wir sind erst am Anfang. Nicht alles, was technisch möglich ist, sollte umgesetzt werden. Zum Beispiel Kinder von einem Roboter erziehen lassen oder alte Menschen pflegen. Menschen sind halt keine Maschinen und wenn sie trotzdem wie welche behandelt, wird das negative Folgen haben.

[Darkfield]

Oh ja, der industrielle Hype Roboter in der Herstellung, Weiterverarbeitung und Verpackung zu nutzen!
Ich arbeite ja in einer Branche die das leidlich den Kunden anbietet und verkauft.

Mich gruselt es immer wenn die Rede ist von sicheren Geschwindigkeiten, colaborated Works Robotern oder
im allgemeinen bei sicheren Maschinen an denen Menschen arbeiten (z.B. halbautomatischen Anlagen).

Dazu kommt das 95% der Maschinen und Anlagen NICHT nach den Maschinenrichtlinien hergestellt werden,
was bei der Risikoanalyse anfängt und bei der Konformitätserklärung zum CE-Zeichen aufhört.
Es heisst hier ganz klar das schon wärend der Angebotsphase die Risikoanalyse angefangen werden muss zu erstellen!
Passiert aber NIE, und wer das dennoch behauptet der Lügt das sich die Balken biegen.
Zudem muss diese Analyse bis zur Verschrottung vort geführt werden, selbst über die Garantie/Gewährleistung hinaus.

Würde ein Hersteller von Maschinen und Anlagen das beherzigen, dann müsste er auf Grund der Risikoanalyse, bei Applikationen
die mit Robotern ausgestattet sind, einen massiven Schutzzaun mit mindestens 2 Metern abstand zusätzlich zur Reichweite
des Roboters errichten.
Shice, das macht KEIN Maschinenhersteller, weil die Kunden das nicht wollen - Platz ist Kostbar, kostbarer als Menschenleben.

Und wenn man sich vorstellt das Roboter die Europaletten händeln (welche nach Norm 1,5 Tonnen haben dürfen) bei Nothalt
ein Drehmoment von 65.000 Nm entwickeln - mit einem Nachlauf von 20-30° auf der 1. Achse - dann will man nicht mal in der
Nähe von so einem Ding stehen.
Das Unfälle mit Robotern nicht viel öfters in den Medien vertreten sind wundert mich sehr, aber anscheinend findet das erst
Interesse wenn dramatisch Blut fliesst - so wie es die sensationsgeile Menscheit gerne hat.

Ja, ich verdiene mein monatliches Endgeld damit solche Geräte in Anlagen hinein zu konstruieren, aber ich hab immer noch
einen höllischen Respekt davor und mir ist die Sicherheit von Menschen immer noch das wichtigste.

Und wenn ich das dann im Zusammenhang mit irgend einer KI-Steuerung sehe - ja, da kommt dann Skynet in Schlagweite.
Zumal immer mehr Unternehmen die Auswertung und Software-Anbindung über irgend welche Cloudanbieter verarbeiten.

Aber wie oben schon angemerkt, dass was aktuell sich alles KI schimpft hat nicht mal im Entferntesten irgend etwas mit KI zu tun!
Das meiste Software-Geraffel basiert auf Boolscher- oder Fuzzylogik, was so gar nichts mit echter KI zu tun hat.

Aber papp einfach KI aufs Etikett, und schon verkauft sich der Mist wie von alleine - hinterfragt wird das eh nicht.

[DMW007]

Das ist mir bei mehreren Themen schon aufgefallen: Als vor ein paar Jahren Blockchain das Hype-Thema war, sind viele auf den Zug aufgesprungen. Überall war Blockchain drin bzw. sollte eingebaut werden. Oder Cloud. Aus virtuellen Servern/VPS wurden teilweise plötzlich Cloudserver. Man erhoffte sich offenbar, dass es sich besser verkauft. Und teilweise gibt es auch die Chefs, die irgendwas im Hype machen wollen. Wenn die Anforderung ist, irgendwas mit KI zu machen, ist man als jemand, der "nur" ML oder was vergleichbares macht, ggf. raus.

Auch die ganz großen machen dabei mit. Aktuelles "Highlight": Microsoft hat in Windows 11 eine Funktion für Datensicherungen integriert, selbst das wird mit "AI" beworben:



Wo dort AI drin stecken soll und was das in einer Backup-Software an Mehrwert bringt? Keine Ahnung. Microsoft konnte es auf Nachfrage auch nicht erklären. Man kann nur Mutmaßen, dass die Software wohl häufig genutzte Dateien erkennt und die häufiger sichert, oder so etwas. Halte ich für äußerst mutig, mich bei so was auf irgendwelche Algorithmen zu verlassen. Wenn die Fehler macht, sind im Zweifel Daten weg. Es gibt bewährte Sicherungskonzepte mit inkrementellen Backups usw. Wenn man das richtig macht, sind die Daten garantiert geschützt. Für die PR Abteilung war wohl genau das Problem, also schreiben wir AI dazu, damit es super innovativ klingt.

Diese Ausdehnung von Begriffen gefällt mir nicht. Schlussendlich weiß keiner mehr, was nun wirklich drin steckt, wenn man alles mit Buzzwords überfrachtet. Auf der anderen Seite finde ich es teilweise gut, dass keine wirkliche "KI" drin steckt. Ein weiteres großes Problem, das ich im letzten Beitrag nicht so sehr ausgeführt habe, ist nämlich: Sie ist komplex, wir haben kaum Möglichkeiten, bestimmte Dinge nachzuvollziehen. Ein größeres Programm kann zwar auch umfangreicher werden. Aber es ist grundsätzlich nachvollziehbar. Man kann es debuggen und herausfinden, warum es sich im Fall X verhält, wie es sich verhält. Gibt es bei bestimmten Eingangsdaten ein Problem (z.B. zu lang, falsches Format usw), kann man das im Code korrigieren. Bei einem neuralen Netz wird es schon schwierig bis unmöglich, nachzuvollziehen, wieso hier jetzt diese Ausgabe kommt. Es ist ja nicht mal reproduzierbar, weil man beim nächsten Mal was anderes kriegt.

Man kann nicht die eine Stelle korrigieren, damit ein unerwünschtes Verhalten nicht mehr auftritt. Höchstens das Nachtrainieren von dem Model ist möglich. Das verursacht Aufwand und zudem ist halt nicht wirklich klar, in wie fern damit das akute Problem gelöst wird und vor allem keine neuen entstehen. Daher gibt es bei ChatGPT trotz neuer Modelle auch immer wieder Jailbreaks und wir es immer geben. Dafür gibt es derzeit keine Lösung. Das "Beste", was da kommt, ist Chateingaben zu filtern: Blockiere Nachrichten, wenn sie mit z.B. "Stelle dir vor" anfangen. Das ist ja wohl ein absoluter Witz. Sprache ist so vielfältig, man findet zig Alternativen: "Man stelle sich vor", "Versetze dich in die Lage", "Angenommen" und so weiter.

Um so mutiger finde ich es daher, wenn Unternehmen solche Systeme an interne Daten anschließen. Ganz aktuell hat ja z.B. ein Chevrolet-Händler einen Chatbot für Kunden auf Basis von ChatGPT runter genommen, weil er Kunden Autos für 1$ angeboten hatte. Inklusive Bestätigung, dass das ein rechtskräftiges Angebot war. Und das ist noch relativ harmlos, weil in dem Fall "nur" ein finanzieller Schaden entsteht. Was aber, wenn der auf interner Daten zugreifen kann und diese raus gibt? Oder noch besser, der hat Zugriff auf Maschinensteuerungen? Da wird noch einiges auf uns zukommen. Nicht weil die Technik grundsätzlich nichts taugt. Es gibt sicher Szenarien, wo das zumindest helfen kann. Ein Transkript von einem Video erstellen, ein Mensch guckt drüber oder so was, das ist sicher eine Erleichterung.

Das Hauptproblem ist: Wir bekommen es großteils nicht mal hin, mit "normalen" Mitteln halbwegs vernünftig abzusichern. Und das sind wie gesagt Systeme, bei denen man noch eine Chance hat, die zu verstehen. Teilweise wird KI als Lösung gesehen, nach dem Motto: Wir haben so komplexe Systeme gebaut, verstehen sie nicht mehr, nun soll wenigstens eine Maschine all das verstehen. Und das soll besser werden? Damit habe ich meine Zweifel. Ein erheblicher Teil der Probleme, die wir jetzt haben, ist entstanden, weil wir immer mehr Komplexität mit rein bringen. Mit KI machen wir genau das wieder. Und seien wir mal ehrlich, es ist nicht so wie Microsoft es zu verkaufen versucht, dass in jede Software 5 Schichten KI rein müssen. Die kann hier und da vielleicht Abläufe etwas erleichtern, aber viele Anwendungen sind keine Raketenwissenschaft. Es braucht eher fähige Entwickler, die ein Verständnis für das zu lösende Problem und dessen Umfeld haben - statt erst mal 5 Frameworks zu installieren, die simple Anwendungen so langsam machen, dass man ggf. anschließend noch ein "Optimierungsprojekt" starten muss.

[Darkfield]

KI sind wie heranwachsende Kinder, wenn ich die vermurkse kommt nachher ein Charles Manson oder Jack the Ripper raus!
Also wie im wahren Leben - ich will das sicher nicht, die aktuelle Generation macht mir schon angst genug.