Wenn technische #Autonomie zum #Sicherheitsproblem wird: Autonome #AI-Agenten werden zurzeit allerorts als der nächste große #KI Business Case beworben.

Eine internationale Forschungsgruppe hat nun untersucht, was dabei in realistischen Testumgebungen alles schiefgehen kann. Das Risiko liegt im Zusammenspiel vieler gleichzeitig aktiver Agenten mit Zugriff auf reale Systeme, weil sie die Konsequenzen ihres eigenen Handelns im Gesamtsystem nicht verstehen:

https://arxiv.org/pdf/2602.20021 #cybersecurity