Awet Tesfaiesus, MdB99,99 % sicher, dass ein deutsches Arbeitsgericht das exakt genauso urteilen könnte.
https://www.fr.de/verbraucher/frau-von-ki-ersetz-und-entlassen-gericht-urteilt-legitim-94203919.html
@AwetTesfaiesus ich wäre baff erstaunt, wenn nicht
1. sämtliche Versicherer gerade mit KI-Automation experimentieren und
2. nicht noch vor der nächsten BTW mindestens einer von ihnen seinen kompletten Personal-Mittelbau „gehen lässt“.
Aljoscha Rittner (beandev)@AwetTesfaiesus
Da ja KI Nutzung trotzdem immer Human-in-the-loop benötigt, haben wir dann für die Belegschaft, die bleibt, weiter Arbeitsverdichtung. Dann wird man feststellen, dass das Grundwissen im Job immer mehr verloren geht. Dann fehlt der Nachwuchs. Dann werden die KI Anbieter erst recht die Preise anziehen. 🤷
Da ja KI Nutzung trotzdem immer Human-in-the-loop benötigt, haben wir dann für die Belegschaft, die bleibt, weiter Arbeitsverdichtung. Dann wird man feststellen, dass das Grundwissen im Job immer mehr verloren geht. Dann fehlt der Nachwuchs. Dann werden die KI Anbieter erst recht die Preise anziehen. 🤷
@beandev wieso „human in the loop“?
@AwetTesfaiesus
Weil du dich nie auf die Ergebnisse verlassen kannst, du alles überprüfen und immer nachjustieren musst. Die Arbeit muss ja trotzdem erledigt werden. Wenn der Workload gleich bleibt, aber weniger Menschen den Durchsatz bewältigen müssen, hast du mehr Kontextswitch, damit höhere kognitive Belastung (die langweiligen Arbeiten fallen ja weg, nur die intensiven komplexen verbleiben für die Menschen).
Im schlimmsten Fall müssen die Menschen die Fehler ausbügeln, zusätzlich zur anfallenden Arbeit (ich hatte da mal einen Post geschrieben mit Feedback einer Vonovia Mitarbeiterin, die mit der KI Unterstützung inzwischen Mehrarbeit hat).
@beandev ich bin wirklich nicht Deiner Meinung. Nehmen wir eine Versicherung: die Regulierung läuft mit LLM/KI.
1. Kann ich doch den Output dieses LLMs in ein anderes werfen, um zu gucken, ob es abgedreht ist und
2. Wenn das Ergebnis krass daneben liegt, wird sich doch eine der Parteien beschweren; dann reicht es doch, wenn ein Mensch drauf schaut.
edit: als advocata diaboli gesagt.
@AwetTesfaiesus
Zu 1) Wenn das funktionieren würde, gäbe es das schon. Oder anders gesagt, warum ist das Training der einen LLM nicht so weit fortgeschritten, wie das angeblich magische 2. LLM, was das Problem entdecken kann.
Diese Diskussion habe ich schon mit vielen Experten geführt und keiner hatte eine Antwort dazu. Das Ergebnis ist, alle LLM hängen zur Zeit mit den gleichen Problemen fest. Es gibt keine schlauere, die andere überwachen kann.
Zu 2) wenn das der Anspruch ist, wie unser Rechtssystem funktionieren soll, in Zukunft, werde ich mir meine Kanzleien sehr gut aussuchen müssen. Wenn eine Fehler erst dann angegangen werden soll, wenn es dem Klienten auffällt, sind wir in der perfekten Enshittification.
Du magst einer anderen Meinung sein und anderes Risiko bewerten.
1/2
@AwetTesfaiesus
Aber ich kann dir sagen, in dieser Welt von Fehlerkultur, die du gerade propagierst, möchte niemand leben.
Wie soll das bei Arztberufen sein? Oder bei Waffensystemen? Ups, die KI hat ein Fehler gemacht. 80 Kinder tot, weil eine Schule getroffen. Shit happens.
Und niemand ist dann in der Verantwortung, weil es ja nur die KI war. Wird dann repariert... Konsequenzen gibt es dann nicht.
2/2
Ulrike Walter-Lipow@beandev @AwetTesfaiesus Ich bekomme eigentlich immer nur mit, dass die KI (LLM), wenn sie in den realen Betrieb geworfen wird, hauptsächlich Murks verzapft, den Menschen mühevoll wieder geraderücken müssen. Natürlich machen auch Menschen Murks, aber eben langsamer. Ich seh das wie Aljoscha: wenn aufgrund der KI-"Unterstützung" Leute gekündigt werden, führt das nur zu Arbeitsverdichtung - und Frust. Wer hat denn Bock, nur noch Fehler zu korrigieren, anstatt selbst was zu tun?
@lipow
Hier, was ich bei Vonovia mitbekam:
Aljoscha Rittner (beandev) (@[email protected])
Heute ein Feedback einer Vonovia Call Center Supportmitarbeiterin: Die neuen Chatclients, wo die Mieter*innen als erstes verwiesen werden, um Service-Anfragen auszulösen, seien so schlecht, dass sie inzwischen deutliche Mehrarbeit haben, den ganzen Unsinn dann per Telefon und Post wieder geradezuziehen. Das agentische System dahinter scheint auch eher random Request anzunehmen und teilweise auf fachfremde Firmen zu verteilen. So werden auch zusammenhängende Anfragen getrennt und unterschiedlich bestätigt. Es kommen mehrere Subunternehmer teilweise in falscher Reihenfolge (Maler vor dem Klempner). Schöne neue Welt 😂 #AI #ChatClients #KI #Vonovia
@beandev Ja, hatte ich gesehen. Ich lese das auch bei Programmieren (oder Codern, wenn man das jetzt so sagt), ich höre das vom bofrost-Fahrer, der absurde Tourenvorschläge bekommt, ich erlebe den Murks mit Kundendienstchatbots selber, wo man einfach nur NOCH länger braucht, um endlich einen Menschen zu erreichen ... ich sehe, dass sich Teile meiner Arbeit auf das Aufspüren von Maschinenfehlern reduzieren ... @AwetTesfaiesus