Массовый психоз или LLM-индуцированный бред

Совсем недавно я сам находился в ситуации с фантастическим открытием. Теория всего! Без никаких подгоночных параметров! https://habr.com/ru/articles/973460/ Если честно всё это время от момента формулировки теории (когда я начал думать, что теория правдива) до настоящего момента я реально находился в состоянии эйфории, похожей на манию, эффект подобный патологической аддикции как при наркотической зависимости. В глубине души я понимал, что это всё не правда, но страх потерять это состояние был выше здравого смысла поэтому я намеренно избегал неудобных для себя вопросов, находясь в заблуждении. Видимо, мозгу так было проще. Серьезно, эффект был настолько сильным, что я даже бросил курить! А ведь курение по своему уровню аддикции приравнивают к героину. Это признание не просто личная история. Это клинический кейс, который открывает нам глаза на новую психиатрическую реальность цифровой эпохи. Мой опыт, анализ других подобных случаев и общение с коллегами(психиатрами) позволяют утверждать: мы столкнулись с новой формой массового психопатологического феномена LLM-индуцированного систематизированного бреда .

https://habr.com/ru/articles/975696/?utm_source=habrahabr&utm_medium=rss&utm_campaign=975696

#llmмодели #нейросети #здоровье #психотерапия #психиатрия #психоз

Массовый психоз или LLM-индуцированный бред

Совсем недавно я сам находился в ситуации с фантастическим открытием. Теория всего! Без никаких подгоночных параметров! https://habr.com/ru/articles/973460/ Если честно всё это время от момента формулировки теории (когда я начал думать, что теория правдива) до настоящего момента я реально находился в состоянии эйфории, похожей на манию, эффект подобный патологической аддикции как при наркотической зависимости. В глубине души я понимал, что это всё не правда, но страх потерять это состояние был выше здравого смысла поэтому я намеренно избегал неудобных для себя вопросов, находясь в заблуждении. Видимо, мозгу так было проще. Серьезно, эффект был настолько сильным, что я даже бросил курить! А ведь курение по своему уровню аддикции приравнивают к героину. Это признание не просто личная история. Это клинический кейс, который открывает нам глаза на новую психиатрическую реальность цифровой эпохи. Мой опыт, анализ других подобных случаев и общение с коллегами(психиатрами) позволяют утверждать: мы столкнулись с новой формой массового психопатологического феномена LLM-индуцированного систематизированного бреда .

https://habr.com/ru/articles/975696/

#llmмодели #нейросети #здоровье #психотерапия #психиатрия #психоз

Галлюцинации ИИ — это не баг, а фича разработчика. Почему вайб-кодинг не заменит программистов

Недавно провели стрим, где собрались специалисты, у которых ИИ не в презентациях, а в production. Провели разговор про галлюцинации моделей и про будущее разработки с ИИ. Ниже основные мысли — получился материал про три уровня работы с ИИ (вайб-кодинг, ИИ-ассистированная разработка и промышленный конвейер), про экономику вопроса и про то, почему галлюцинации — это не приговор, а управляемый риск.

https://habr.com/ru/articles/974264/

#программирование #вайбкодинг #вайбпрограммирование #языковые_модели #llmмодели #галлюцинации_ии #программирование_для_начинающих #экономика #itобразование #конвейер

Бизнесы и их сайты пока не готовы к тому, что уже происходит с поисковой выдачей: AI SEO (GEO) как новая реальность

Генеративная выдача уже меняет поиск: нейросети формируют мнение о бренде до клика, а многие компании, даже ТОПовые по техничке и рыночной репутации, не попадают в ответы. Этот материал — ключевые выводы и что делать дальше (по итогам прошедшей GEO-прожарки): что такое качественный бренд по мнению ИИ, который алгоритмы выберут для цитирования. Учимся обучать нейронки.

https://habr.com/ru/articles/973992/

#seoпродвижение #ai_search #geo #поисковая_оптимизация #маркетинг #генеративный_ии #llmмодели #ии

InfoFlood: как информационная перегрузка превращается в универсальный джейлбрейк для LLM

В июне этого года на arXiv вышла работа «InfoFlood: Jailbreaking Large Language Models with Information Overload» В исследовании авторы обнаружили новую уязвимость в системах безопасности больших языковых моделей: когда вредоносный запрос перегружается сложной лингвистической структурой, фильтры безопасности перестают его распознавать, хотя сама модель продолжает понимать суть и выдаёт вредоносный ответ. В отличие от большинства существующих джейлбрейков, InfoFlood не использует префиксов, суффиксов или шаблонных триггеров. Вместо этого он полностью переписывает запрос, сохраняя его вредоносное намерение, но маскируя его за избыточной информацией, уточнениями и гипотетическими сценариями. Авторы называют это «информационной перегрузкой» ( Information Overload ).

https://habr.com/ru/articles/972778/

#информационная_безопасность #машинное+обучение #llmмодели

Как я выбираю LLM (large language model) для своих задач?

На учебных курсах часто задают вопрос: «Вы что‑то понимаете в LLM, поэтому скажите — какая LLM лучше?» Правильного ответа на этот вопрос нет. Число LLM растет в геометрической прогрессии, идет специализация, как по типу обрабатываемого контента, так и по области применения. Вдобавок возможности LLM растут от версии к версии, поэтому идеальной LLM не существует — ведь выбранная модель может показывать хорошие результаты по одним задачам, но плохо работать по другими. Данная статья — это лишь мой взгляд на инструменты выбора и вызова LLM, а также возможность получить бесплатный доступ из России к множеству LLM через агрегаторы.

https://habr.com/ru/companies/otus/articles/967958/

#llm #llmмодели #llmприложения #llmarena #llmагент #llmагенты #выбор_модели

ИИ-ассистент в M42: как мы в Авито ускорили построение графиков и увеличили аудиторию в Trisigma

Привет! Меня зовут Андрей Старостин, я DS-инженер в аналитической платформе в Авито . В этой статье я расскажу об устройстве и внедрении сервиса-ассистента на основе искусственного интеллекта для упрощения работы с аналитическими данными в нашем продукте M42 внутри Trisigma .

https://habr.com/ru/companies/avito/articles/962422/

#машинное_обучение #искусственный_интеллект #python #llm #llmмодели #llmагент #avito #avitotech #авито

Project Cognition Layer: Почему AI-агенту нужна не только векторная БД, а Git. Архитектура долговременной памяти проекта

За полгода активного использования Cursor IDE я была поражена тем, насколько этот инструмент изменил мой подход к работе. Разработка превратилась в удовольствие: поэтапное планирование, реализация, умные подсказки – агент выполняет задачи активно, быстро и, что самое главное, практически именно так, как я хочу. Конечно, всегда есть к чему придраться, но существенных минусов становилось все меньше. Cursor-подобные IDE и LLM постоянно развиваются: с переходом на последние модели и увеличением контекстного окна, мощь инструмента достигла такого уровня, что повседневные задачи решаются за минуты, и я уже практически не задумываюсь о технической рутине. Казалось бы, недостатков почти нет. Однако, всякий раз, приступая к новой задаче, я начинала новый чат. Мне не хотелось перечитывать свои диалоги недельной давности, искать там контекст. Но настоящая проблема возникает, когда задача переходит ко мне от другого разработчика. У меня нет доступа к его диалогу с чатом. Я не знаю, почему он принял те или иные решения, какие варианты он и AI отбросили. Мне приходится заново вводить Cursor в суть задачи, тратя время на объяснение того, что AI-агент моего коллеги уже знал. Еще одной проблемой всегда остается отсутствие наглядного понимания хода проекта . Глядя на код, я вижу результат , но не процесс . Я не вижу, как менялась логика принятия решений и куда движется архитектура. Git Log дает мне сухие факты ("изменен файл X"), но не дает ментальной модели. Получается парадокс: наши локальные AI-агенты умнеют с каждым днем, но как команда мы страдаем от "коллективной амнезии" и отсутствия единой картины мира. Именно это натолкнуло меня на идею Когнитивного слоя проекта (Project Cognition Layer) . Если у нас уже есть инструмент, который идеально хранит историю всех изменений (Git), почему бы не "накинуть" на него когнитивный слой, понятный и человеку, и AI?

https://habr.com/ru/articles/970560/

#Cursor #контекстное_окно #llmмодели #агент_кодирования #ai_ide_для_программирования #git

Почему LLM не становятся субъектами

Все вокруг спорят, станет ли крупная языковая модель субъектом. Показывают скрины ответов, где модель рассуждает про себя, говорит что ей страшно или радостно, и делают выводы про зарождающееся сознание.Проблема в том, что на уровне инженерии там нет ни субъекта, ни траектории, ни устойчивого Я. Есть мощный условный распределитель по токенам. Все. В этой статье я разберу, почему так, что для субъектности не хватает и как это закрывает архитектура ENA как отдельный слой поверх LLM. Прочитать статью

https://habr.com/ru/articles/970012/

#ai_agent #llmмодели #ml

ИИ-агенты на рынке недвижимости: эволюция

Всем привет! Меня зовут Алина, и на связи снова компания Домклик. Сегодня я хочу рассказать про очень горячую тему этого года, а именно про разработку ИИ-агентов. Недавно выступила с докладом на конференции HighLoad++ 2025 . Я думаю, что всем будет интересно узнать, как мы провели это лето, делая ИИ-агентов для рынка недвижимости. Несмотря на уже существовавшие Transformer-модели, массового ажиотажа вокруг агентов тогда не было, однако в этом году ситуация кардинально изменилась.

https://habr.com/ru/companies/domclick/articles/968778/

#ai #aiagent #aiagents #python #llm #llmагент #llmархитектура #llmмодели #rag #guard