@AwetTesfaiesus ich wäre baff erstaunt, wenn nicht

1. sämtliche Versicherer gerade mit KI-Automation experimentieren und
2. nicht noch vor der nächsten BTW mindestens einer von ihnen seinen kompletten Personal-Mittelbau „gehen lässt“.

@AwetTesfaiesus
Weil du dich nie auf die Ergebnisse verlassen kannst, du alles überprüfen und immer nachjustieren musst. Die Arbeit muss ja trotzdem erledigt werden. Wenn der Workload gleich bleibt, aber weniger Menschen den Durchsatz bewältigen müssen, hast du mehr Kontextswitch, damit höhere kognitive Belastung (die langweiligen Arbeiten fallen ja weg, nur die intensiven komplexen verbleiben für die Menschen).

Im schlimmsten Fall müssen die Menschen die Fehler ausbügeln, zusätzlich zur anfallenden Arbeit (ich hatte da mal einen Post geschrieben mit Feedback einer Vonovia Mitarbeiterin, die mit der KI Unterstützung inzwischen Mehrarbeit hat).

@beandev ich bin wirklich nicht Deiner Meinung. Nehmen wir eine Versicherung: die Regulierung läuft mit LLM/KI.

1. Kann ich doch den Output dieses LLMs in ein anderes werfen, um zu gucken, ob es abgedreht ist und
2. Wenn das Ergebnis krass daneben liegt, wird sich doch eine der Parteien beschweren; dann reicht es doch, wenn ein Mensch drauf schaut.

edit: als advocata diaboli gesagt.

@AwetTesfaiesus
Zu 1) Wenn das funktionieren würde, gäbe es das schon. Oder anders gesagt, warum ist das Training der einen LLM nicht so weit fortgeschritten, wie das angeblich magische 2. LLM, was das Problem entdecken kann.

Diese Diskussion habe ich schon mit vielen Experten geführt und keiner hatte eine Antwort dazu. Das Ergebnis ist, alle LLM hängen zur Zeit mit den gleichen Problemen fest. Es gibt keine schlauere, die andere überwachen kann.

Zu 2) wenn das der Anspruch ist, wie unser Rechtssystem funktionieren soll, in Zukunft, werde ich mir meine Kanzleien sehr gut aussuchen müssen. Wenn eine Fehler erst dann angegangen werden soll, wenn es dem Klienten auffällt, sind wir in der perfekten Enshittification.

Du magst einer anderen Meinung sein und anderes Risiko bewerten.

1/2

@AwetTesfaiesus
Aber ich kann dir sagen, in dieser Welt von Fehlerkultur, die du gerade propagierst, möchte niemand leben.

Wie soll das bei Arztberufen sein? Oder bei Waffensystemen? Ups, die KI hat ein Fehler gemacht. 80 Kinder tot, weil eine Schule getroffen. Shit happens.

Und niemand ist dann in der Verantwortung, weil es ja nur die KI war. Wird dann repariert... Konsequenzen gibt es dann nicht.

2/2

@lipow
Hier, was ich bei Vonovia mitbekam:

https://social.tchncs.de/@beandev/116164921097116500

@AwetTesfaiesus

@lipow
Ich persönlich hatte vor ein paar Tagen versucht herauszufinden, wie ich einer meiner Kreditkarten kündigen könnte. Das Chatsystem der Bank lieferte abstruse Antworten, wie ich einen Kredit früher ablösen könnte oder verwies mich auf Kündigungsoptionen von Girokonten.

Das ist die schöne neue Welt, die Banken einsetzen. Banken!

Gute Produkte und Kundenzzufriedenheit ist doch keinem Interesse mehr dieser Konzerne. Und wenn ich von @AwetTesfaiesus lese, dass es genügt, wenn der Client einer Rechtskanzlei sich beschwert, wenn es grobe Fehler gibt, dann bin ich absolut entsetzt.

Das macht mich ehrlich gesagt fassungslos.

@AwetTesfaiesus
Doch, ich habe es auf den teuersten Weg für die Bank gemacht, schriftlich, Einschreibenrückschein, mit Aufforderung der schriftlichen Bestätigung.

Die Karte ist gekündigt.

Es hätte ja auch einen Button auf der Homepage geben können 🤷

Aber was du ansprichst, ist genau das Problem. KI wird nicht zum Wohl der Menschen eingesetzt, sondern zur Profitmaximierung der Unternehmen und damit nur weniger.

Also ja, gut erkannt 👍

Ich bin nur etwas überrascht, wie du weiterhin KI als Heilsbringer betrachten kannst, ohne diese massiven Nachteile wirklich abzuwägen. Entschuldige, sollte ich dir zu Unrecht das unterstellen, aber das ist nicht die erste Diskussion, die wir über die Vor- und Nachteile von LLM hatten.
@lipow

@beandev @lipow ich weiß absolut nicht, wie es dazu kommen konnte, dass Du denkst ich würde KI als „Heilsbringer“ sehen. Ich würde sagen, dass nichts, was ich heute (oder jemals) geschrieben habe, diesen Schluss nahe legt.

Ich versuche hier ganz im Gegenteil dafür zu sensibilisieren, dass die gesellschaftlichen Verschiebungen bereits statt finden und nicht mehr bevorstehen

@AwetTesfaiesus
Aber es genügt nicht als Politikerin zu sensibilisieren und dem ganzen zuzuschauen, als wäre es ein unvermeidlicher Unfall.

Deine Argumentation bewegt sich auf einem Grat, da fällt es mir schwer, das nachvollziehen zu können. Alleine die Aussage, es würde doch reichen, wenn grobe Fehler dem Klienten auffallen.

Ja, wenn man sehr zynisch ist, dann ist es genau das, was den Mir-Doch-Scheißegal-Entscheidern durch den Kopf geht, wenn sie ihren Gewinn maximieren wollen.

In der Politik muss es aber eine Verantwortung geben, das verhindern oder dämpfen zu müssen.

Sensibilisierung steht nicht auf meiner Erwartungskarte an die Politik. Denn das wäre nur 1% der Arbeit, die vor euch steht.
@lipow