"Wir haben da einen ganz fiesen Exploit für Firefox"* (anthropic)

*entsprechender Exploit für Firefox:
- simulierter Content Process
- Defense in Depth Maßnahmen von Firefox inaktiv
- außerhalb der Sandbox

Ja toll, je tiefer du den Sachen auf den Grund gehst, desto spezifischer und erratischer werden die Findings.

Nfs Exploit:
Braucht 2 User. 2 kooperierende User.

https://www.youtube.com/watch?v=1sd26pWhfmg

Nicholas Carlini - Black-hat LLMs | [un]prompted 2026

Nicholas Carlini, Research Scientist, Anthropic, speaks at [un]prompted 2026 on: Black-hat LLMs.Large language models are now capable of automating attacks t...

YouTube

"Wir haben da ein ganz besonders gutes, aber hochgradig spezifisches Tool gebaut. Sein Nutzen ist mit Glück bei bestimmten Edge Cases voll hoch, aber leider produziert es halt eher nur Edge Cases oder Nieten. Aber guck, was es alles produziert"

Das ist nicht, wie Security funktioniert.

@bkastl Hat das Video Unterhaltungswert oder sparen wir uns das?
@lennybacon Es ist ein wenig "bitte helft uns, weil nur wenn ihr uns helft, können wir diese dämonischen Tools bändigen" am Ende, also eher entbehrlich
@bkastl Danke dir, dass du dir das für uns angetan hast 🤗 und du uns hast wissen lassen, dass es sich nicht lohnt 🙏