Schon seit mindestens 2 Jahren warnt man vor Angriffen über große Sprachmodelle (LLMs). Umso überraschender ist es, dass sich die wenigsten Firmen darüber im Klaren sind. Den Mitarbeitern wird teils ohne Regeln und Einschränkungen der Zugriff auf Ki Tools und LLMs gewährt. Ein möglicher Fehler, der sich bald rächen wird?

#ki #llm #security #hacking #vulnerability #angriff #malware #incidient #riskmanagement #itsecurity

https://www.heise.de/meinung/Analyse-Angriffe-auf-grosse-Sprachmodelle-durch-die-Hintertuer-9604735.html

Analyse: Angriffe auf große Sprachmodelle durch die Hintertür

Die Studien zu manipulierten KI-Systemen zeigen, dass KI ohne Hintertüren einen Goldstandard für die Sicherheit braucht. Eine Analyse von Mirko Ross.

Developer