tobru 🇨🇭 🧑‍🚒Mar 20

Jemand komplett IT fremdes hat eine Web Applikation mit Hilfe von Youtube und Claude entwickelt (Vibe Coded!), welche Patientendaten speichert. Ich hab das untersucht und nach 30 Minuten hatte ich vollen Lese- und Schreibzugriff auf ALLE besonders schützenswerten Patientendaten.

Willkommen in der neuen Welt von KI, uns Informatiker braucht es bald nicht mehr, sagen sie.

Show threadtobru 🇨🇭 🧑‍🚒Mar 21

Das gute: Zumindest wurde rasch reagiert, die Applikation ist nicht mehr einfach so erreichbar (HTTP Basic Auth davor) und die Daten nicht mehr direkt einsehbar.

Das schlechte: Die Antwort ist 100% KI generiert und die KI generierten Massnahmen zeigen: Die Person hat keine Ahnung was sie macht.

Rechtlich schwierig, vor allem mit Sicht auf nDSG und Berufsgeheimnis.

Show threadFabian ¯\_(ツ)_/¯
@tobru und die credentials sind vmtl admin:admin?
Mar 21 at 10:20pmWeb
Show threadtobru 🇨🇭 🧑‍🚒Mar 22
@BafDyce API key in HTML source code
Show threadMayleenMar 22
@tobru
Wtf. Es ist ja eine sache KI für sowas zu nutzen. Es ist aber ne zweite, ohne jede Faktenkenntnis oder review durch leute mit Erfahrung dazu, sowas hinzustellen. Das ist auf zwei Ebenen einfach zum Schreien und davon laufen.
😤
@BafDyce
Show threadRené Moser (resmo) レネ4d ago
@tobru @BafDyce die WTFs per Minute Rate erholt sich heute Abend gar nicht mehr WTF WTF WTF