Обнаружил забавное поведение LLM-ок (не одной, но и не всех) при некотором вводе. Оно немного общее. Не знаю, что при таком а) делают обычно (создают тред в твиттере)? б) полезно делать

Попробую сделать пост в одном коммьюнити, вот, так есть какая-то польза.

#llm #атаки_на_llm

Выводим Большие языковые модели на чистую воду с помощью… Больших языковых моделей

Генеративный искусственный интеллект постоянно становится героем заголовков СМИ, каждый час создаются новые стартапы с использованием Больших языковых моделей, однако реальный бизнес не очень охотно внедряет технологии ИИ в свои процессы. В кулуарах предприниматели говорят об опасениях в части галлюцинаций, введения пользователей в заблуждение, утечки чувствительных сведений. Когда клиника внедряет чат-бот для консультирования пациентов, важно удостовериться, что интеллектуальный помощник не советует вместо приёма витаминов пить пиво.

https://habr.com/ru/companies/raft/articles/873504/

#большие_языковые_модели #редтиминг #тестирование_уязвимостей #атаки_на_LLM #автоматическое_тестирование #фреймворки #OWASP_top_10_LLM #промптинъекции #промптинжиниринг #галлюцинации_ии