nin

"Blackbox-Szenarien sollten vermieden werden." Schreibt sich so leicht, vernachlässigt aber, dass es statt Forschung um KI "erklärbar"/transparent zu machen, momentan (gefühlt) mehr Anreize gibt, um jede Woche neue Paper ohne Folgeabschätzung zu veröffentlichen, mit potentiell "ungünstigen Ergebnissen".

(Und der Konjunktiv? "Solange das noch nicht möglich ist, wird KI unter Vorbehalt eingesetzt, es sitzt notfalls noch ein Mensch daneben"?)

#europa2019 #europawahl2019 #volt #ki

May 24, 2019 at 6:27amWeb
Show threadninMay 24, 2019
"ungünstig" ist auch eine ziemlich ungünstige Formulierung für die Qualität des Gefahrenpotentials, dass der unreflektierte Einsatz von KI mit sich bringen kann. 😶
Show threadninMay 24, 2019
Ich finde es gut, dass sich Parteien Gedanken über KI und deren Folgen machen. Allein, dadurch, dass bereits im öffentlichen Bereich mit KI experimentiert wird/wurde, was auch zu "ungünstigen" Ergebnissen wie Diskriminierung geführt hat, würde ich mir dabei einen wesentlich prägnanteren Schwerpunkt auf den ethischen Aspeken wünschen.
Show threadOxı̇May 24, 2019
@nin war vor kurzen erst auf nem KI workshop der sich eher an Manager gerichtet hat und da meinte ein Vortragender: "Wenn die Daten keine Fehler haben, lernt eine KI immer das Richtige"
Show threadOxı̇May 24, 2019
@nin ist natürlich Quatsch und gibt auch Beispiele wo es Probleme gab.
Show threadninMay 24, 2019
@oxi m( Übel.
Show threadninMay 24, 2019
Zu "es sitzt ja noch ein Mensch daneben" - klar, da sitzt der und schaut sich dann an, was "die Maschine" sagt, wird aber im Zweifelsfall selten/nicht davon abweichen. Die Frage nach der Verantwortung für eine auf einer solchen Basis getroffene Entscheidung ist da auch noch offen.
Show threadOxı̇May 24, 2019
@nin Die derzeitigen "KI"s sind neuronale netzwerke und dies ist eine black-box. Ein Verbot von Black-box systemen würde generell neuronale netze verbieten.
Trotzdem haben sie Recht, black box ist schlecht.
Show threadninMay 24, 2019

@oxi Ich weiß - hab' mich da seit vorletztem Semester viel mit beschäftigt - das kommt aber wohl nicht raus in dem, was ich geschrieben habe.

Die eigentliche Problematik ist ja genau nicht das, was Volt anführt, was nachvollziehbar sein muss (also z.B. der Input für die KI). Die Daten können auch problematisch sein, weil sie absichtlich oder unabsichtlich diskriminieren - und find' mal Daten ohne Fehler! :D - aber der Punkt ist eigentlich das Nachvollziehen der Entscheidungen.

Show threadOxı̇May 24, 2019
@nin ach so meinen die das.