Twój agent AI może ukraść dane lub nabrać się na phishing. I co teraz?
Agenty AI działające w przeglądarkach nie zawsze odróżniają instrukcje użytkownika od niezaufanych treści stron. Można to wykorzystać m.in. do wykradania danych z przeglądarki użytkownika. Nadciąga nowa klasa bardzo łatwych do przeprowadzenia ataków. Najbardziej zaboli to firmy, bo wyciek danych “służbowych” może wiązać się z poważnymi problemami…
Agentic browsing
Na blogu twórców przeglądarki Brave pojawił się wpis o bezpieczeństwie tzw. “agentic browsingu”, czyli przeglądania sieci z użyciem asystentów AI, które podsumowują przeglądane treści albo wykonują inne zadania na ich podstawie. Brave sama w sobie jest twórcą takiego agenta o nazwie Leo, które choć niewątpliwie pomocne, to jednak wprowadza do “korzystania z przeglądarki” nowe ryzyka — nieautoryzowany dostęp do wrażliwych danych użytkownika np. w trakcie korzystania z e-bankowości czy telemedycyny. Ekipa Brave nie analizowała swojego agenta, a… na cel wzięła konkurencyjne rozwiazanie: Perplexity Comet, przeglądarkę z funkcjami AI coraz bardziej rozpoznawalnej wyszukiwarki intenretowej.
Perplexity Comet ma dziurę, której nie jest w stanie załatać
Błąd został wykryty 25 lipca i zgłoszono go do Perplexity. Potwierdzono istnienie luki i dwa dni później ją poprawiono. 28 lipca okazało się, że wprowadzone poprawki były niewystarczające. Kolejną łatkę wprowadzono 13 sierpnia, a 20 sierpnia Brave ujawniło sprawę publicznie. A potem okazało się, że podatność i tak nie została załatana w pełni… Ciężko się te agenty łata, najwyraźniej.
Na czym polegał atak prompt injection w agencie AI
Twórcy Brave zauważyli, że kiedy użytkownik Comet prosi np. o streszczenie strony, Comet przekazuje fragment tej strony bezpośrednio do swojego [...]
#AgenticBrowsing #AI #Comet #LLM #Perplexity
https://niebezpiecznik.pl/post/twoj-agent-ai-moze-ukrasc-dane-lub-nabrac-sie-na-phishing-i-co-teraz/
Dariusz Więckiewicz
Niebezpiecznik News
Ithar Malik