От небольшой мастерской к ML-фабрике: как мы Yandex AI Studio пересобирали

Сегодня на Yandex Neuro Scale 2025 наша ML‑команда представила обновлённую AI Studio — платформу с большим набором инструментов для разработки ИИ‑агентов в единой end‑to‑end‑среде. Среди новинок — визуальный конструктор агентов, поддержка популярных API и реализация протокола MСP, механизмы AI search. Агентские платформы уже какое‑то время находятся на пике популярности. Поэтому с одной стороны нашей задачей было учесть уже сформированные лидерами отрасли лучшие практики. А с другой — обобщить собственный опыт разработки и внедрения агентов, использующих большие языковые модели, и избавить разработчиков от проблем при инференсе. Вместе с коллегами из команды разработки Анастасией Каримовой и Дмитрием Рыбалко покажем, как это устроено под капотом: — какие особенности эксплуатации нам нужно было учесть, чтобы найти баланс между производительностью и качеством; — как мы сталкивались с особенностями опенсорс‑инструментов для ML и учились справляться с этим разными способами; — как мы упростили создание голосовых агентов и заодно уменьшили latency запросов.

https://habr.com/ru/companies/yandex/articles/949884/

#mlops #ииагенты #aiagent #aiагенты #aiагент #mcp #responses_api #realtime_api