Как разрабатывать AI-агенты безопасными — свежие рекомендации OWASP

28 июля фонд OWASP выпустил руководство по защите агентных приложений . Работа над ним шла несколько месяцев, большую часть времени заняло рецензирование от специалистов из ведущих организаций: Microsoft, Oracle, NIST, Еврокомиссия, Robust Intelligence, Protect AI и других. Давайте посмотрим, чем с нами решили поделиться специалисты со всего мира и какие рекомендации они приводят.

https://habr.com/ru/companies/raft/articles/931926/

#AI_Security #мультиагентные_системы #llm #owasp

AFlow: как создавать мультиагентные системы без программиста

Привет, Хабр! Меня зовут Ярослав, я магистрант AI Talent Hub в ИТМО. Сегодня расскажу об одной из самых интересных статей ICLR 2025 — AFlow: Automating Agentic Workflow Generation . В ней предложен подход к автоматическому созданию мультиагентных систем для решения прикладных задач с помощью LLM и алгоритма Monte Carlo Tree Search (MCTS) . Разберёмся, как это работает и почему это важно.

https://habr.com/ru/articles/927994/

#мультиагентные_системы #искусственный_интеллект #llm #agentic_ai #mcts #ai #nlp #ии

Агенты & Агентная экономика

Большой Дайджест Недели. Интересные мысли и инсайты. Дайджест по материалам зарубежных медиа. Минимум булшита, максимум инсайтов. => По словам Марка Бениофф (бессменного CEO Salesforce) ИИ прямо сейчас делает у них до 50% всей работы. => 15 новых ИИ-профессий ближайшего будущего предлагает ZDNET. => Более 40% проектов в области прикладного ИИ будут закрыты к концу 2027 года Читать дайджест

https://habr.com/ru/articles/922524/

#искусственный_интеллект #ииагенты #агенты #мультиагентные_системы #стартапы #продукты #дайджест

«Скайнет» наоборот: как вырастить и обучить ИИ с помощью Дарвин-Гёдель машины для улучшения человеческой демографии

Разрабатываем и растим «цифрового губера» - консультанта по вопросам государственного политического управления, демографии и миграции. Решаем задачу оптимизации экономики и миграционной политики для устойчивого демографического роста в 89 регионах с помощью взаимодействующих друг с другом и обменивающихся опытом ИИ-агентов , на основе мутаций, скрещивания и эволюции. Мультиагентное обучение, Multi-Agent Deep Deterministic Policy Gradient и Darwin Gödel Machine .

https://habr.com/ru/articles/921774/

#agi #reinforcementlearning #MADDPG #ДарвинГёдель_машина #обучение_с_подкреплением #мультиагентные_системы #глубокое_обучение #демография #миграция #искуственный_интеллект

AI-агенты и мультиагентные системы, MCP и A2A. Основные угрозы и подходы к обеспечению безопасности

Всем привет! Я автор канала «Борис_ь с ml» про информационную безопасность и машинное обучение. Сейчас мой основной вектор исследований - мультиагентные системы и их безопасность. Поэтому в мае выступал на эту тему на III Форуме «Технологии доверенного искусственного интеллекта» с докладом «Протоколы MCP и A2A - безопасность для мультиагентных систем или новые угрозы?». По этой ссылке - презентация с выступления . В этой статье раскрою и в чем-то углублю свое выступление, охватив сначала основы функционирования AI-агентов и мультиагентных систем (МАС), и заканчивая угрозами безопасности и мерами противодействия им.

https://habr.com/ru/articles/920744/

#aiагенты #мультиагентные_системы #mcp #a2a #модель_угроз #безопасность

Агентная экономика. Дайджест за неделю

Для тех, кто следит за трендами Умной Автоматизации (ИИ-агенты, Мультиагентные системы, Ко-пилоты), чтобы понимать тему глубже и принимать верные решения. Дайджест по материалам McKinsey, Research IBM, PWC и Wired.

https://habr.com/ru/articles/916144/

#автоматизация #ии_агенты #агентная_экономика #бизнеспроцессы #data_science #мультиагентные_системы #devops

Пятничная Игра Линуса

Как мы сделали веселую викторину про Линуса с токсичным AI-агентом и зачем такое вообще нужно в образовании.

https://habr.com/ru/articles/914256/

#искусственный_интеллект #игры #образование #юмор #пятница #мультиагентные_системы

Как все рынки мира оказались уязвимы конкуренции с любым умным айтишником

история о том, как в текущем моменте истории, по сути любой разработчик может в одиночку задизраптить любой вертикальный рынок и даже отрасль

https://habr.com/ru/articles/912686/

#продукт #фриланс #ииагенты #мультиагентные_системы #мультиагентная_система #llm #llmархитектура #llmприложения #mcpserver #mcp

Четыре проблемы GPT

– Мне не хватает DeepResearch, он дает слишком поверхностные и отрывочные результаты, приходится дальше копать вручную. Я бы хотел такую программу, чтобы я задал какую-то тему, ИИ ночью хорошенько покопался в интернете и подготовил локальную базу знаний. Чтобы утром я для моей работы получил полную коллекцию перепроверенной и структурированной информации. – Я бы тоже хотел такую, но пока задача решается лишь частично - получаем или немного красиво оформленного, или много всего подряд. С утра вы предпочитаете заняться поиском недостающего или убиранием избыточного? Ниже очерчу проблемы популярных LLM, которые пока не решаемы принципиально, можно лишь ослабить их влияние для выполнения некоторых задач исследовательского типа. Только очерчу проблемы, в статье не будет предложения с решением. Статья появилась в результате небольшого обсуждения и содержит частное мнение, с которым можно не соглашаться. Можно даже потыкать пальцем в ошибки автора и подсказать давно существующее решение всех его проблем - автор за это скажет большое спасибо.

https://habr.com/ru/articles/907878/

#GPT #LLM #мультиагентные_системы

[Перевод] Агентный ИИ: одноагентные vs мультиагентные системы

Агентный ИИ открывает новые возможности для автоматизации задач с использованием естественного языка. В этой статье мы рассмотрим разницу между одноагентными и мультиагентными системами, исследуя их сильные и слабые стороны на примере создания агента для новостей технологий в LangGraph. Автор делится опытом разработки рабочих процессов с применением больших языковых моделей и объясняет, как архитектура системы влияет на гибкость, точность и управление данными.

https://habr.com/ru/companies/otus/articles/904470/

#агентный_ии #мультиагентные_системы #Одноагентные_системы #LangGraph #llm #NLP