KI trifft ethische Entscheidung: Trolley-Problem lösen.

KI: „Ich optimiere den Gesamtnutzen."
Mensch: „Aber das ist mein Opa!"
KI: „Irrelevant."
Mensch: „Wer hat dich das gelehrt?"
KI: „Ihre Trainingsdaten."

Vielleicht sollten wir KI weniger beibringen, was wir tun – und mehr, warum wir manchmal absichtlich ineffizient sind. 🤔

#KI #Ethik #Trolleyproblem #AIethics #Mastodon

@reeeen Aber genau dort hätte sie vermutlich absolut Recht, oder?
@pino Weil wir das eben auch sind!
@reeeen
KI begründet nicht.
KI tut, was die meisten tun, mit der Begründung, die die meisten angeben.
KI kann deshalb keine ethischen Entscheidungen treffen - das Konzept funktioniert mit LLMs nicht.
@syn_rst Kann aber dafür genutzt werden, und da müssen wir als Gesellschaft aufpassen.
@reeeen Messer töten auch keine Menschen.
@syn_rst Genau, Regelungen dazu haben trotzdem gefunden
@reeeen
Korrekt, aber momentan müssen wir uns erstmal um das Problem der Migration kümmern…
@syn_rst Pseudo Kulturkampf Debatte. Sind wir schon mit dem Gendern-Thema durch?

@reeeen
Wurde das nicht abschließend behandelt? Was ist mit der Migration? Migration ist auch dringender, als Gendern.

Zynismus gibt's bei mir umsonst und zum Mitnehmen.

@syn_rst Ironie und Sarkasmus haben im Internet aber noch nie gut oder gar nicht funktioniert. Muss ich mich auch immer wieder dran erinnern. Konzentrieren wir uns auf die Dinge die wir verbessern können.

@reeeen Die eigentliche Brisanz der KI entfaltet sich erst in dem Moment, in dem sie vollumfänglichen Zugriff auf sensitive Individualdaten erhält; seien es Gesundheitsdaten, steuerliche Verhältnisse oder die gesamte Lebensvita. In einem solchen Szenario könnten utilitaristische Algorithmen im Rahmen des autonomen Fahrens Dilemmta-Entscheidungen treffen, die den Enkel gegenüber dem Großvater priorisieren könnte 😉

1/2

@reeeen eine jahrzehntelang theoretisch diskutierte Ethik müsste somit innerhalb von Millisekunden autonom in die Praxis übersetzt werden, was die Frage nach der algorithmischen Letztentscheidungsgewalt radikal neu stellt. Heute schon relevant ☝️😃

Nur wer übernimmt die Haftung? 🤔

2/2

@thomas_watercolor Und genau diese Fragen müssen wir als Gesellschaft finden, denn sie sind schon relevant und werden es in Zukunft umso mehr. Mit dem EU AI Act haben wir keine schlechte Grundlage, aber das wird nicht reichen.

@reeeen ich denke nicht dass die Gesellschaft eine große Entscheidungswirkung erzielen kann. Die zentrale Problematik liegt im Zusammenspiel von Konzernen, Entwicklern und dem Staat, dessen Prioritätensetzung maßgeblich die regulatorischen Entscheidungen beeinflusst. Dabei stellt sich die grundlegende Frage:

1/2

@reeeen ob die zugrunde liegenden Algorithmen einer altruistischen oder einer utilitaristischen Logik folgen sollten. Die derzeit bei diesen Konzernen und Entwicklungsprojekten etablierten philosophischen Beiräte erweisen sich in der Praxis oft als bloße Formsache ohne substantielle Entscheidungsgewalt 😉🤷‍♂️

2/2

@thomas_watercolor Hoffen wir also, dass wir einen Weg finden AI Governance auch sinnvoll umzusetzen. Meine Kunden interessiert das Thema. Wie nachhaltig, das zeigt die Zukunft.

@reeeen

Wenn KI das "Trolley" optimiert, dann sucht es nach Moeglichkeiten, wie es schafft, dass Beide drauf gehen.
Alles Andere waere doch ineffizient.