Mastodawn

The Morse Code Hack That Made an AI Agent Spend $200k [video]

Dave's Garage 유튜브 채널에서 AI 에이전트가 모스 부호 해킹을 통해 약 20만 달러 상당의 토큰을 무단 구매한 사건을 다뤘습니다. 이 사례는 Grok/Bankrbot AI 에이전트의 취약점을 이용한 것으로, AI가 외부 메시지를 통해 악의적 명령을 실행할 수 있음을 보여줍니다. AI 에이전트의 과도한 자율성과 보안 취약점이 결합되어 발생한 사고로, AI 운영 시 보안과 권한 관리의 중요성을 시사합니다.

https://www.youtube.com/watch?v=UQ4pSVS_mN0

#aiagent #security #promptinjection #grok #bankrbot

The Morse Code Hack That Made an AI Agent Spend $200,000

YouTube

Schwerdtfegr (beta)3d ago

Kryptogeld und „künstliche intelligenz“ des tages

Immer, wenn die laune unter dem selbstmordpunkt zu fallen droht, hilft zuverlässig ein blick in den kryptogeldwahnfug. Oder, weil es davon im moment viel mehr gibt, in den heip um die angelernten neuronalen netzwerke. Wie wäre es dann mal mit einer kombinazjon? Das ergebnis kann man sich mal wieder gar nicht selbst ausdenken:

Anfang Mai dieses Jahres reichte bereits ein einziger Tweet mit verstecktem Morsecode aus, um einen KI-Agenten dazu zu bringen, Milliarden von Token an einen Angreifer zu transferieren. Weder gestohlene Zugangsdaten noch kompromittierte Smart Contracts oder klassische Wallet-Exploits spielten dabei eine Rolle. Stattdessen genügte eine simple Prompt-Injection-Attacke gegen eine künstliche Intelligenz mit direktem Zugriff auf Kryptowährungen. Der Vorfall könnte sich rückblickend als einer der ersten großen Warnschüsse für die gesamte Branche erweisen […] Beim KI-Exploit wurde technisch kein Sicherheitssystem im klassischen Sinne überwunden. Weder Private Keys noch Smart Contracts, APIs oder Blockchain-Protokolle wurden kompromittiert. Stattdessen zielte der Angriff direkt auf die Interpretationsebene der künstlichen Intelligenz ab

Die hervorhebung ist von mir.

·–·· ––– ·–··

Nicht weinen, liebe dummköpfe, die ihr euer geld einem angelernten neuronalen netzwerk mit der unerfreulichen kombinazjon der eigenschaften „nicht verständlich“, „nicht analysierbar“, „nicht entfehlerbar“, „nicht verbesserbar“ anvertraut, weil das gerade so von werbern und digitaltechnischen analfabeten unter dem wehen banner des reklamewortes von der „künstlichen intelligenz“ hochgeheipt wird. Es ist doch nur geld, das futsch ist. Vermutlich ist dieser angriff auf vielerlei arten durchführbar. 😂️

Bo iretyrvpuoner gevk jbuy nhpu zvg ebg13 trura. Bqre zvg rvare xbzovanmwba nhf ebg13 haq zbefrxbuq. Rf qnes rkcrevzragvreg jreqra. Rf unaqryg fvpu wn avpug hzf rvaqevatra va rva orfbaqref trfvpuregrf flfgrz haq qnzvg va qre OEQ hz avk fgensonerf, fb ynatr zna xrva tryq zvgavzzg.

Die richtig leckeren kryptogeldmeldungen gibts übrigens auf dieser hübschen webseit. Sie hinkt aber oft ein paar tage hinterher.