@AwetTesfaiesus ich wäre baff erstaunt, wenn nicht

1. sämtliche Versicherer gerade mit KI-Automation experimentieren und
2. nicht noch vor der nächsten BTW mindestens einer von ihnen seinen kompletten Personal-Mittelbau „gehen lässt“.

@AwetTesfaiesus
Weil du dich nie auf die Ergebnisse verlassen kannst, du alles überprüfen und immer nachjustieren musst. Die Arbeit muss ja trotzdem erledigt werden. Wenn der Workload gleich bleibt, aber weniger Menschen den Durchsatz bewältigen müssen, hast du mehr Kontextswitch, damit höhere kognitive Belastung (die langweiligen Arbeiten fallen ja weg, nur die intensiven komplexen verbleiben für die Menschen).

Im schlimmsten Fall müssen die Menschen die Fehler ausbügeln, zusätzlich zur anfallenden Arbeit (ich hatte da mal einen Post geschrieben mit Feedback einer Vonovia Mitarbeiterin, die mit der KI Unterstützung inzwischen Mehrarbeit hat).

@beandev ich bin wirklich nicht Deiner Meinung. Nehmen wir eine Versicherung: die Regulierung läuft mit LLM/KI.

1. Kann ich doch den Output dieses LLMs in ein anderes werfen, um zu gucken, ob es abgedreht ist und
2. Wenn das Ergebnis krass daneben liegt, wird sich doch eine der Parteien beschweren; dann reicht es doch, wenn ein Mensch drauf schaut.

edit: als advocata diaboli gesagt.

@AwetTesfaiesus
Zu 1) Wenn das funktionieren würde, gäbe es das schon. Oder anders gesagt, warum ist das Training der einen LLM nicht so weit fortgeschritten, wie das angeblich magische 2. LLM, was das Problem entdecken kann.

Diese Diskussion habe ich schon mit vielen Experten geführt und keiner hatte eine Antwort dazu. Das Ergebnis ist, alle LLM hängen zur Zeit mit den gleichen Problemen fest. Es gibt keine schlauere, die andere überwachen kann.

Zu 2) wenn das der Anspruch ist, wie unser Rechtssystem funktionieren soll, in Zukunft, werde ich mir meine Kanzleien sehr gut aussuchen müssen. Wenn eine Fehler erst dann angegangen werden soll, wenn es dem Klienten auffällt, sind wir in der perfekten Enshittification.

Du magst einer anderen Meinung sein und anderes Risiko bewerten.

1/2

@AwetTesfaiesus
Aber ich kann dir sagen, in dieser Welt von Fehlerkultur, die du gerade propagierst, möchte niemand leben.

Wie soll das bei Arztberufen sein? Oder bei Waffensystemen? Ups, die KI hat ein Fehler gemacht. 80 Kinder tot, weil eine Schule getroffen. Shit happens.

Und niemand ist dann in der Verantwortung, weil es ja nur die KI war. Wird dann repariert... Konsequenzen gibt es dann nicht.

2/2

@lipow
Hier, was ich bei Vonovia mitbekam:

https://social.tchncs.de/@beandev/116164921097116500

@AwetTesfaiesus

@lipow
Ich persönlich hatte vor ein paar Tagen versucht herauszufinden, wie ich einer meiner Kreditkarten kündigen könnte. Das Chatsystem der Bank lieferte abstruse Antworten, wie ich einen Kredit früher ablösen könnte oder verwies mich auf Kündigungsoptionen von Girokonten.

Das ist die schöne neue Welt, die Banken einsetzen. Banken!

Gute Produkte und Kundenzzufriedenheit ist doch keinem Interesse mehr dieser Konzerne. Und wenn ich von @AwetTesfaiesus lese, dass es genügt, wenn der Client einer Rechtskanzlei sich beschwert, wenn es grobe Fehler gibt, dann bin ich absolut entsetzt.

Das macht mich ehrlich gesagt fassungslos.