Ich hätte ja nicht gedacht, dass ich mal eine Lese-Empfehlung für einen BSI-Lagebericht gebe. :) Aber dieser ist anders als bisher. Es ist vieles vom Gleichen drin, aber auch spektakulär Neues (jedenfalls für viele). Habe den Bericht für Zeit Online analysiert und würde mir wünschen, dass mehr Menschen vor allem die Teile zu KI lesen. Denn: es ist nicht das, was ihr überall lest! Es sind reale Gefahren, die weithin unterschätzt werden.
https://www.zeit.de/digital/2023-11/bsi-lagebericht-kuenstliche-intelligenz-einsatz-informationstechnik/komplettansicht
#BSI #cybersecurity #chatGPT
BSI-Lagebericht: Wie KI-Assistenten Ihren Rechner leer räumen können

Viele Unternehmen setzen inzwischen auf den Einsatz großer Sprachmodelle. Das BSI warnt, Angreifer könnten sie nutzen, um noch mehr Schwachstellen zu finden als bisher.

ZEIT ONLINE
@evawolfangel Diesen Absatz verstehe ich leider nicht:
"Das beruhigende Mantra, mit dem auf solche Sorgen bisher reagiert wird – nämlich, dass eben jede Entscheidung einer KI durch einen Menschen kontrolliert werden muss – ist ausgehebelt im Umgang mit generativer KI: Da diese komplexen Systeme ihre Entscheidungen nicht erklären können, können Menschen sie auch nicht nachvollziehen. "
Bei der Programmierung muss ich ja doch verstehen, was das deterministische Programm macht.
@evawolfangel Ich mag zwar nicht verstehen, wie es generiert wurde, aber was es dann im Ergebnis tut, steht ja im Quellcode, der erzeugt wurde. Woher kommt dann die Gefahr?