39C3: Sicherheitsforscher kapert KI-Coding-Assistenten mit Prompt Injection

Auf dem 39C3 zeigte Johann Rehberger, wie leicht sich KI-Coding-Assistenten kapern lassen. Viele Lücken wurden gefixt, doch das Grundproblem bleibt.

https://www.heise.de/news/39C3-Sicherheitsforscher-kapert-KI-Coding-Assistenten-mit-Prompt-Injection-11125630.html?wt_mc=sm.red.ho.mastodon.mastodon.md_beitraege.md_beitraege&utm_source=mastodon

#ChaosCommunicationCongress #Datenleck #IT #KünstlicheIntelligenz #Malware #Sicherheitslücken #news

39C3: Sicherheitsforscher kapert KI-Coding-Assistenten mit Prompt Injection

Auf dem 39C3 zeigte Johann Rehberger, wie leicht sich KI-Coding-Assistenten kapern lassen. Viele Lücken wurden gefixt, doch das Grundproblem bleibt.

heise online

@heisec Takeaway: Mit KI-Agenten wird jeglicher Code untrusted code.

Weil das Anwendende nicht vertrauenswürdig ist.