Awet Tesfaiesus, MdB99,99 % sicher, dass ein deutsches Arbeitsgericht das exakt genauso urteilen könnte.
https://www.fr.de/verbraucher/frau-von-ki-ersetz-und-entlassen-gericht-urteilt-legitim-94203919.html
@AwetTesfaiesus ich wäre baff erstaunt, wenn nicht
1. sämtliche Versicherer gerade mit KI-Automation experimentieren und
2. nicht noch vor der nächsten BTW mindestens einer von ihnen seinen kompletten Personal-Mittelbau „gehen lässt“.
Aljoscha Rittner (beandev)@AwetTesfaiesus
Da ja KI Nutzung trotzdem immer Human-in-the-loop benötigt, haben wir dann für die Belegschaft, die bleibt, weiter Arbeitsverdichtung. Dann wird man feststellen, dass das Grundwissen im Job immer mehr verloren geht. Dann fehlt der Nachwuchs. Dann werden die KI Anbieter erst recht die Preise anziehen. 🤷
Da ja KI Nutzung trotzdem immer Human-in-the-loop benötigt, haben wir dann für die Belegschaft, die bleibt, weiter Arbeitsverdichtung. Dann wird man feststellen, dass das Grundwissen im Job immer mehr verloren geht. Dann fehlt der Nachwuchs. Dann werden die KI Anbieter erst recht die Preise anziehen. 🤷
@beandev wieso „human in the loop“?
@AwetTesfaiesus
Weil du dich nie auf die Ergebnisse verlassen kannst, du alles überprüfen und immer nachjustieren musst. Die Arbeit muss ja trotzdem erledigt werden. Wenn der Workload gleich bleibt, aber weniger Menschen den Durchsatz bewältigen müssen, hast du mehr Kontextswitch, damit höhere kognitive Belastung (die langweiligen Arbeiten fallen ja weg, nur die intensiven komplexen verbleiben für die Menschen).
Im schlimmsten Fall müssen die Menschen die Fehler ausbügeln, zusätzlich zur anfallenden Arbeit (ich hatte da mal einen Post geschrieben mit Feedback einer Vonovia Mitarbeiterin, die mit der KI Unterstützung inzwischen Mehrarbeit hat).
@beandev ich bin wirklich nicht Deiner Meinung. Nehmen wir eine Versicherung: die Regulierung läuft mit LLM/KI.
1. Kann ich doch den Output dieses LLMs in ein anderes werfen, um zu gucken, ob es abgedreht ist und
2. Wenn das Ergebnis krass daneben liegt, wird sich doch eine der Parteien beschweren; dann reicht es doch, wenn ein Mensch drauf schaut.
edit: als advocata diaboli gesagt.
@AwetTesfaiesus
Zu 1) Wenn das funktionieren würde, gäbe es das schon. Oder anders gesagt, warum ist das Training der einen LLM nicht so weit fortgeschritten, wie das angeblich magische 2. LLM, was das Problem entdecken kann.
Diese Diskussion habe ich schon mit vielen Experten geführt und keiner hatte eine Antwort dazu. Das Ergebnis ist, alle LLM hängen zur Zeit mit den gleichen Problemen fest. Es gibt keine schlauere, die andere überwachen kann.
Zu 2) wenn das der Anspruch ist, wie unser Rechtssystem funktionieren soll, in Zukunft, werde ich mir meine Kanzleien sehr gut aussuchen müssen. Wenn eine Fehler erst dann angegangen werden soll, wenn es dem Klienten auffällt, sind wir in der perfekten Enshittification.
Du magst einer anderen Meinung sein und anderes Risiko bewerten.
1/2
@AwetTesfaiesus
Aber ich kann dir sagen, in dieser Welt von Fehlerkultur, die du gerade propagierst, möchte niemand leben.
Wie soll das bei Arztberufen sein? Oder bei Waffensystemen? Ups, die KI hat ein Fehler gemacht. 80 Kinder tot, weil eine Schule getroffen. Shit happens.
Und niemand ist dann in der Verantwortung, weil es ja nur die KI war. Wird dann repariert... Konsequenzen gibt es dann nicht.
2/2
Ulrike Walter-Lipow@beandev @AwetTesfaiesus Ich bekomme eigentlich immer nur mit, dass die KI (LLM), wenn sie in den realen Betrieb geworfen wird, hauptsächlich Murks verzapft, den Menschen mühevoll wieder geraderücken müssen. Natürlich machen auch Menschen Murks, aber eben langsamer. Ich seh das wie Aljoscha: wenn aufgrund der KI-"Unterstützung" Leute gekündigt werden, führt das nur zu Arbeitsverdichtung - und Frust. Wer hat denn Bock, nur noch Fehler zu korrigieren, anstatt selbst was zu tun?
@lipow
Hier, was ich bei Vonovia mitbekam:
Aljoscha Rittner (beandev) (@[email protected])
Heute ein Feedback einer Vonovia Call Center Supportmitarbeiterin: Die neuen Chatclients, wo die Mieter*innen als erstes verwiesen werden, um Service-Anfragen auszulösen, seien so schlecht, dass sie inzwischen deutliche Mehrarbeit haben, den ganzen Unsinn dann per Telefon und Post wieder geradezuziehen. Das agentische System dahinter scheint auch eher random Request anzunehmen und teilweise auf fachfremde Firmen zu verteilen. So werden auch zusammenhängende Anfragen getrennt und unterschiedlich bestätigt. Es kommen mehrere Subunternehmer teilweise in falscher Reihenfolge (Maler vor dem Klempner). Schöne neue Welt 😂 #AI #ChatClients #KI #Vonovia
@lipow
Ich persönlich hatte vor ein paar Tagen versucht herauszufinden, wie ich einer meiner Kreditkarten kündigen könnte. Das Chatsystem der Bank lieferte abstruse Antworten, wie ich einen Kredit früher ablösen könnte oder verwies mich auf Kündigungsoptionen von Girokonten.
Das ist die schöne neue Welt, die Banken einsetzen. Banken!
Gute Produkte und Kundenzzufriedenheit ist doch keinem Interesse mehr dieser Konzerne. Und wenn ich von @AwetTesfaiesus lese, dass es genügt, wenn der Client einer Rechtskanzlei sich beschwert, wenn es grobe Fehler gibt, dann bin ich absolut entsetzt.
Das macht mich ehrlich gesagt fassungslos.
@beandev @AwetTesfaiesus Was noch dazu kommt: die LLMs können es nicht, verdrängen aber Menschen, die es können --- und dann verlernen. Irgendwann ist halt auch keine*r mehr da, um den Maschinenoutput zu korrigieren. Beispiel Übersetzung, weil ich da vom Fach bin: ja, kompetente, fachlich versierte Leuten können Maschinenübersetzung nutzen, teils sogar Zeit/stupide Arbeit einsparen. Aber dieser Kompetenz müssen sie erstmal erwerben. Wie soll das denn passieren, wenn alles, was einfach ist, von>
@beandev > LLMs erledigt wird und damit nicht mehr als Ausbildungsmaterial für den Kompetenzerwerb des Nachwuchses zur Verfügung steht? Menschen lernen nun mal so, dass sie erworbene Fähigkeiten weiter ausbauen - dass kein Meister vom Himmel fällt, wie es der alte Spruch sagt, bedeutet ja genau das. @AwetTesfaiesus
@beandev Und sorry für die Tippfehler, ich glaube, ich brauche den 2. Kaffee, ich korrigiere das jetzt nicht, das muss ich schon bezahlt so oft machen :-) @AwetTesfaiesus
@AwetTesfaiesus Ich verstehe, was du meinst, aber was für ein menschenfeindliches System schaffen wir dann? Da braucht sich dann echt niemand wundern, wenn alle möglichst off-grid gehen ... ich sehe ernsthaft, dass wir noch zu meinen Lebzeiten an den Punkt kommen, wo wir alles kleinteilig & analog neu aufbauen müssen, weil alles vermeintlich arbeitserleichternde Digitale komplett außer Kontrolle ist & uns beherrscht, anstatt uns das Leben besser zu machen @beandev
@AwetTesfaiesus
Doch, ich habe es auf den teuersten Weg für die Bank gemacht, schriftlich, Einschreibenrückschein, mit Aufforderung der schriftlichen Bestätigung.
Die Karte ist gekündigt.
Es hätte ja auch einen Button auf der Homepage geben können 🤷
Aber was du ansprichst, ist genau das Problem. KI wird nicht zum Wohl der Menschen eingesetzt, sondern zur Profitmaximierung der Unternehmen und damit nur weniger.
Also ja, gut erkannt 👍
Ich bin nur etwas überrascht, wie du weiterhin KI als Heilsbringer betrachten kannst, ohne diese massiven Nachteile wirklich abzuwägen. Entschuldige, sollte ich dir zu Unrecht das unterstellen, aber das ist nicht die erste Diskussion, die wir über die Vor- und Nachteile von LLM hatten.
@lipow
@beandev @lipow ich weiß absolut nicht, wie es dazu kommen konnte, dass Du denkst ich würde KI als „Heilsbringer“ sehen. Ich würde sagen, dass nichts, was ich heute (oder jemals) geschrieben habe, diesen Schluss nahe legt.
Ich versuche hier ganz im Gegenteil dafür zu sensibilisieren, dass die gesellschaftlichen Verschiebungen bereits statt finden und nicht mehr bevorstehen
@AwetTesfaiesus
Aber es genügt nicht als Politikerin zu sensibilisieren und dem ganzen zuzuschauen, als wäre es ein unvermeidlicher Unfall.
Deine Argumentation bewegt sich auf einem Grat, da fällt es mir schwer, das nachvollziehen zu können. Alleine die Aussage, es würde doch reichen, wenn grobe Fehler dem Klienten auffallen.
Ja, wenn man sehr zynisch ist, dann ist es genau das, was den Mir-Doch-Scheißegal-Entscheidern durch den Kopf geht, wenn sie ihren Gewinn maximieren wollen.
In der Politik muss es aber eine Verantwortung geben, das verhindern oder dämpfen zu müssen.
Sensibilisierung steht nicht auf meiner Erwartungskarte an die Politik. Denn das wäre nur 1% der Arbeit, die vor euch steht.
@lipow
Rainer Blankenagel@AwetTesfaiesus
Ich bin mir ziemlich sicher: die Veränderungsgeschwindigkeit wird unterschätzt, die Existenz von Kipppunkten nicht erkannt.
Und: Außerhalb einer (*sehr* kleinen) Bubble wird KI allenfalls als Nerd-Gefummel wahrgenommen. Oder halt gar nicht.
Werden die überrascht sein...
Ich bin mir ziemlich sicher: die Veränderungsgeschwindigkeit wird unterschätzt, die Existenz von Kipppunkten nicht erkannt.
Und: Außerhalb einer (*sehr* kleinen) Bubble wird KI allenfalls als Nerd-Gefummel wahrgenommen. Oder halt gar nicht.
Werden die überrascht sein...
@rainergb ganz genau richtig
@rainergb KI = irgendwas mit Internet (also nicht real)
@AwetTesfaiesus
Eher irgendwas mit Hollywood...
Eher irgendwas mit Hollywood...
@AwetTesfaiesus @beandev Ja, in Teilen ist das zutreffend, aber das geht halt auch nur, wenn noch genug richtig ist. Und wenn Beschwerden, wenn sie dann kommen, tatsächlich bearbeitet werden & Besserung eintritt. Sonst kracht halt irgendwann alles zusammen. (Was es vermutlich eh tun wird, der ubiquitäre LLM-Einsatz beschleunigt es nur eben noch mehr.)
@AwetTesfaiesus @beandev Ohne Beweis ist das jetzt natürlich ... hm. Krankenkassen arbeiten ja, wie die Erfahrung zeigt, schon lange nach dem Prinzip: erstmal ablehnen, wer wirklich was braucht, beschwert sich schon - und das dann oft mit Erfolg. Aber diejenigen, die wirklich was brauchen, aber die Kraft zur Beschwerde nicht haben, gehen dabei drauf. Und ja, das passiert schon, das wird halt durch KI auch potenziert werden.
@beandev Ja, hatte ich gesehen. Ich lese das auch bei Programmieren (oder Codern, wenn man das jetzt so sagt), ich höre das vom bofrost-Fahrer, der absurde Tourenvorschläge bekommt, ich erlebe den Murks mit Kundendienstchatbots selber, wo man einfach nur NOCH länger braucht, um endlich einen Menschen zu erreichen ... ich sehe, dass sich Teile meiner Arbeit auf das Aufspüren von Maschinenfehlern reduzieren ... @AwetTesfaiesus