Mastodawn

Ich hätte ja nicht gedacht, dass ich mal eine Lese-Empfehlung für einen BSI-Lagebericht gebe. :) Aber dieser ist anders als bisher. Es ist vieles vom Gleichen drin, aber auch spektakulär Neues (jedenfalls für viele). Habe den Bericht für Zeit Online analysiert und würde mir wünschen, dass mehr Menschen vor allem die Teile zu KI lesen. Denn: es ist nicht das, was ihr überall lest! Es sind reale Gefahren, die weithin unterschätzt werden.
https://www.zeit.de/digital/2023-11/bsi-lagebericht-kuenstliche-intelligenz-einsatz-informationstechnik/komplettansicht
#BSI #cybersecurity #chatGPT

BSI-Lagebericht: Wie KI-Assistenten Ihren Rechner leer räumen können

Viele Unternehmen setzen inzwischen auf den Einsatz großer Sprachmodelle. Das BSI warnt, Angreifer könnten sie nutzen, um noch mehr Schwachstellen zu finden als bisher.

ZEIT ONLINE

Pflege42 Nov 2, 2023

@evawolfangel
Das @bsi ist auch hier. Und einen trööt zum Bericht gibt es auch:

https://social.bund.de/@bmi/111340676670988662
„Cyberkriminalität, vor allem aber die Zeitenwende, die wir erleben, erfordert eine strategische Neuaufstellung & den gemeinsamen Einsatz mit @bsi als treibende Kraft um unser Cybersicherheitsniveau deutlich zu erhöhen“, BMin Faeser bei der Vorstellung des BSI-Lageberichts.

Alle Infos und den kompletten BSI-Lagebericht finden Sie hier: https://www.bmi.bund.de/SharedDocs/pressemitteilungen/DE/2023/11/bsi-lagebericht2023.html

BMI_Bund (@[email protected])

Attached: 1 image „Cyberkriminalität, vor allem aber die Zeitenwende, die wir erleben, erfordert eine strategische Neuaufstellung & den gemeinsamen Einsatz mit @bsi als treibende Kraft um unser Cybersicherheitsniveau deutlich zu erhöhen“, BMin Faeser bei der Vorstellung des BSI-Lageberichts. Alle Infos und den kompletten BSI-Lagebericht finden Sie hier: https://www.bmi.bund.de/SharedDocs/pressemitteilungen/DE/2023/11/bsi-lagebericht2023.html

social.bund.de

Eva Wolfangel Nov 2, 2023

@Pflege42 Oh danke - was für ein langweiliges Zitat leider. :) @bsi

Konstantin Weddige Nov 2, 2023

@evawolfangel Bei dem Satz "Im Prinzip spricht nichts dagegen, wenn sie weiterhin verstehen, was sie tun" musste ich gleich an Zip-Slip denken.

Insofern ist das Problem nicht neu, aber bisher hat natürlich auch kein Arbeitgeber den Entwicklern (offiziell) gesagt: "Kopiert einfach was von Stack Overflow zusammen und dann passt das schon". KI hat also durchaus das Potenzial, das Problem auf ein neues Niveau zu heben.

Konstantin Weddige Nov 2, 2023

Wem Zip-Slip nichts sagt: Das ist eine Schwachstelle(nklasse), die zumindest teilweise darauf zurückzuführen ist, dass Entwickler massenhaft ein anfälliges Java-Snippet von Stack Overflow (https://stackoverflow.com/questions/981578/how-to-unzip-files-recursively-in-java) kopiert haben.

How to unzip files recursively in Java?

I have zip file which contains some other zip files. For example, the mail file is abc.zip and it contains xyz.zip, class1.java, class2.java. And xyz.zip contains the file class3.java and class4.j...

Stack Overflow

Eva Wolfangel Nov 2, 2023

@weddige Ja, das Probem skaliert gewissermaßen :)

Marcel Roth Nov 2, 2023

@evawolfangel
Ab und an kommt mir ja nur noch das in den Sinn:

Eva Wolfangel Nov 2, 2023

@Marcel Hä was macht der da? Eine Türe abschließen?

Marcel Roth Nov 3, 2023

@evawolfangel
Kennst du Peter Lustig von Löwenzahn nicht? (Dabei komme ich doch aus dem Osten 😂)
Hätte auch das verlinken können:
https://en.wikipedia.org/wiki/Luddite

Luddite - Wikipedia

Ryuno-Ki Nov 3, 2023

@evawolfangel @Marcel Am Ende der Sendung Löwenzahn mit Peter Lustig hat er die Kinder aufgefordert, den Fernseher abzuschalten.

Meine Großeltern hatten noch ein Gerät, wo dies über Drehen eines Knopfes geschah.

zeitverschreib ⁂Nov 3, 2023

Ich hatte noch so einen Knopf.

@evawolfangel @Marcel

Marcel Roth Nov 3, 2023

@zeitverschreib
Die soll gerüchterweiser immer noch geben. 😂
@RyunoKi @evawolfangel

Ryuno-Ki Nov 3, 2023

@Marcel @zeitverschreib @evawolfangel Gebaut für die Ewigkeit

illyrion Nov 2, 2023

Düdo Heshmerebbis Nov 2, 2023

@evawolfangel "Security by Sanity" wird dann das zukünftige Paradigma sein anstelle von "Security by Design"; quasi back to the roots.

Silbermaehne Dec 21, 2023

@evawolfangel
Danke für den Hinweis - sehr informativ und auch für Nicht-EDV'ler noch weitgehend verständlich.

Tobias Frech Dec 22, 2023

@evawolfangel Diesen Absatz verstehe ich leider nicht:
"Das beruhigende Mantra, mit dem auf solche Sorgen bisher reagiert wird – nämlich, dass eben jede Entscheidung einer KI durch einen Menschen kontrolliert werden muss – ist ausgehebelt im Umgang mit generativer KI: Da diese komplexen Systeme ihre Entscheidungen nicht erklären können, können Menschen sie auch nicht nachvollziehen. "
Bei der Programmierung muss ich ja doch verstehen, was das deterministische Programm macht.

Tobias Frech Dec 22, 2023

@evawolfangel Ich mag zwar nicht verstehen, wie es generiert wurde, aber was es dann im Ergebnis tut, steht ja im Quellcode, der erzeugt wurde. Woher kommt dann die Gefahr?