In dieser Woche hat das US-Unternehmen Anthropic sein neues Spitzenmodell im Bereich der Künstlichen Intelligenz (KI) angekündigt.
Claude Mythos soll Sicherheitslücken in Software noch effektiver finden können als bisherige KI-Modelle, darunter zahlreiche schwerwiegende Lücken in Betriebssystemen und Browsern. Dies könnten sich potenziell auch Cyberkriminelle zunutze machen. Nach Angaben des Herstellers soll Claude Mythos nicht öffentlich verfügbar werden. 🧵 [1/x]
@bsi siehe auch https://www.redhat.com/en/blog/navigating-mythos-haunted-world-platform-security
"Functionality vs. Security: Some vulnerabilities identified by AI are actually functionality bugs with no meaningful exploit path."
The preview release of Claude Mythos presents a massive challenge for IT security experts, as well as an opportunity. Mythos' capabilities to identify complex memory safety issues and logic flaws hidden in legacy code as well as exploit them in increasingly sophisticated ways dramatically compounds and expands the outsize role AI scanning plays in open source. As an industry, we cannot react to this seismic shift with panic; instead, we need to reinforce the need for system resilience through context, skill and, ultimately, using AI ourselves.
BSI
Jörn Franke