Заставляем голосовых ассистентов Марусю и Салют материться без принуждения и спецсредств

Всем привет! В какой-то момент у меня появился простой вопрос: «А можно ли заставить ассистента произнести что-то, что он в норме говорить не должен?» Без API, без навыков программирования, без автоматизации и т.п. Оказалось - можно.

https://habr.com/ru/articles/1019688/

#voice_assistant #prompt_injection #LLM #безопасность #голосовые_ассистенты #AI #TTS #NLP #уязвимости #user_input