Quincy ⁂Jun 14, 2022

Highly recommended #rp22 talk: "Fake #AI" by Friederike Kaltheuner (hrw.org).

https://invidious.namazso.eu/watch?v=zyCsdrTtaWc

https://re-publica.com/en/node/836

Frederike Kaltheuner: Fake AI

Frederike Kaltheuner setzt sich mit Pseudowissenschaften und falschen Versprechungen um Künstliche Intelligenz auseinander. Mit den Begriffen "Fake AI und Snake Oil", diskutiert sie, inwiefern nicht "überall KI drin ist, wo KI draufsteht." Speaker: Frederike Kaltheuner - https://re-publica.com/de/user/11350 Weitere Informationen: https://re-publica.com//de/session/fake-ai Twitter: https://twitter.com/republica Instagram: https://www.instagram.com/re_publica/ Facebook: https://www.facebook.com/republica LinkedIn: https://www.linkedin.com/company/re-publica/ re:publica 22 – “Any Way the Wind Blows” https://re-publica.com Creative Commons Attribution-ShareAlike 4.0 International (CC BY-SA 4.0)

Invidious
Show threadQuincy ⁂Jun 16, 2022
Dazu: https://fakeaibook.com/
Fake AI, Frederike Kaltheuner, Meatspace Press (2021)

Why are there so many pointless, and even dangerously flawed, AI systems? Book release December 14, 2021.

Show threadQuincy ⁂Jun 16, 2022

und https://mitpress.mit.edu/books/artificial-unintelligence

#AI hype entzaubern

Artificial Unintelligence

A guide to understanding the inner workings and outer limits of technology and why we should never assume that computers always get it right.In Artificial Unintelligence, Meredith Broussard argues that our collective enthusiasm for applying computer technology to every aspect of life has resulted in a tremendous amount of poorly designed systems. We are so eager to do everything digitally—hiring, driving, paying bills, even choosing romantic partners—that we have stopped demanding that our technology actually work. Broussard, a software developer and journalist, reminds us that there are fundamental limits to what we can (and should) do with technology. With this book, she offers a guide to understanding the inner workings and outer limits of technology—and issues a warning that we should never assume that computers always get things right.Making a case against technochauvinism—the belief that technology is always the solution—Broussard argues that it's just not true that social problems would inevitably retreat before a digitally enabled Utopia. To prove her point, she undertakes a series of adventures in computer programming. She goes for an alarming ride in a driverless car, concluding “the cyborg future is not coming any time soon”; uses artificial intelligence to investigate why students can't pass standardized tests; deploys machine learning to predict which passengers survived the Titanic disaster; and attempts to repair the U.S. campaign finance system by building AI software. If we understand the limits of what we can do with technology, Broussard tells us, we can make better choices about what we should do with it to make the world better for everyone.

The MIT Press
Show threadamaz1ngJun 19, 2022
@quincy
Yay!
Super... (nicht nur) mein Reden seit Jahren....
Show threadamaz1ngJun 19, 2022

@quincy
Zumal ein sehr deutlicher Trend genau in die Richtung geht, Entscheidungen, die moralischer/ethischer Natur sind Maschinen zu überlassen.
Dafür werden dann "Lernkonzepte" erstellt, die erfordern, genau die Bauchschmerzen bei Fehlentscheidungen zu eliminieren & zur Not einfach auf 'ne Fehlfunktion zu schieben.
"Upsi! War die Maschine!"

Und genau diese Form führt zur Glorifizierung von AI & Lobreden von Regierungen zur AI-gesteuerten Überwachung/Kontrolle der Bürger:innen.

Show threadQuincy ⁂Jun 19, 2022
@amaz1ng Eine fatale Fehlentwicklung. Genau das, wovor Joseph #Weizenbaum immer gewarnt hat.
Show threadamaz1ngJun 19, 2022

@quincy
Der aktuelle Stand ist mWn eigentlich, dass autonome Fortbewegung halbwegs sicher funktioniert, bzw. wenn (RoboFootball) Maschinen gn Maschinen antreten.

Die aktuellen Bemühungen mit den Bilder-Uploadfiltern lassen sich mit einem Steganographie-Rauschen, welches über jedes Foto gelegt wird komplett austricksten.
Da greift nix mehr.

Und mal ganz davon abgesehen, FalsePositive mit Kinderpornos - davon erholt sich kein Normalsterblicher jemals wieder!

Show threadQuincy ⁂

@amaz1ng Das mit dem Rauschen ist ja noch viel schlimmer, weil es "adversarial" sein kann und false positives sich so absichtlich erzeugen lassen.

Gleiches gilt natürlich bei allen Systemen, die irgendwie mit Kameras o.Ä, mit einer offenen Umgebung interagieren sollen.

Zuende gedacht hieße das tschüss #Uploadfilter, aber auch tschüss #SelfCrashingCars.

Aber Marketing sticht Vernunft 😟

Jun 19, 2022 at 10:00amWeb
Show threadQuincy ⁂Jun 19, 2022
@amaz1ng Mögen die False Positives (auch) die Richtigen (die Befürworter) treffen. 👿
Show threadamaz1ngJun 19, 2022

@quincy

Du hast es erfasst bzw. sehe ich auch so.

Nehmen wir dazu nun 30 Jahre Erfahrung aus dem Bereich Hacking mit der Aussage:"Kein System ist 100% sicher", ahnt man schon, in welche Richtung das gehen kann.
Und sollten sich solche Systeme tatsächlich etablieren, was dies für eine Folgewirkung haben könnte.

* gezielte Manipulation um FalsePositives zu produzieren
* ein Markt an neuen Identitäten, der dem Waffenhandel den Rang ablaufen könnte

Ach, da darf ich gar nicht weiter nachdenken!

Show threadamaz1ngJun 19, 2022

@quincy

weil wir gerade davon sprachen:
https://www.heise.de/news/Indien-Gefaelschte-Beweise-und-Hackerangriff-Verbindung-zur-Polizei-gefunden-7143328.html

Indien: Gefälschte Beweise und Hackerangriff – Verbindung zur Polizei gefunden

In Indien sitzen zwei Aktivisten seit Jahren in Haft, obwohl Beweismittel auf ihren Computern wohl gefälscht waren. Nun gibt es eine neue, erschreckende Spur.

heise online
Show threadQuincy ⁂Jun 20, 2022

@amaz1ng Ja, das macht nochmal ein weiteres Fass auf. Beweise, die beliebig veränderbar sind, sind wertlos.

Staatliches #Hacking ist mit Rechtsstaatlichkeit schwer vereinbar, und es wird nicht einmal der Versuch gemacht, so zu tun, als würden auch nur die laxesten Standards eingeführt. 😠

(Ja, wo kämen wir denn da hin, wenn das Handeln der #Polizei kontrollierbar wäre ...)

Show threadamaz1ngJun 20, 2022

@quincy
Im Fragenkatalog der BuREG ggü der EU stehen erstaunlicherweise jedoch genau solche Frage drin. Das hat mich echt beeindruckt.

Viele Fragen, wie FalsePositives erkannt, gehandhabt, werden. Auch alleine dass Dritte (nämlich Provider/Betreiber) Inhalte melden (müssen/sollen), die durch Software gefunden wird & dadurch zu Sichtern werden. Was passiert, wenn dort ein frustrierter MA sitzt, diese abgreift & entweder FalsePositives weiter generiert oder verbreitet.

🔗 https://netzpolitik.org/2022/chatkontrolle-bundesregierung-loechert-eu-kommission-mit-kritischen-fragen/

Chatkontrolle: Bundesregierung löchert EU-Kommission mit kritischen Fragen

61 teils sehr pointierte Rückfragen zur Chatkontrolle hat die Bundesregierung an die EU-Kommission. Überzeugende Antworten dürften der Kommission da schwerfallen. Wir veröffentlichen den Fragenkatalog im Volltext.

netzpolitik.org