Как у клиента с восемью продуктовыми командами мы построили AI Kit

Привет, Хабр. Мы платформенная команда в продуктовой компании с восемью продуктовыми командами. У каждой свой микросервис, свой стек, свои нюансы. Есть общие конвенции, общий security baseline, общий подход к observability. В начале прошлого года стало понятно: AI-инструменты разработки уже не эксперимент, а повседневная реальность. Claude Code, Cursor, Copilot, кто во что горазд. И при этом ровно ноль централизованного подхода. У одного разработчика в ~/.claude/ CLAUDE.md свой набор правил, у другого .cursorrules с другими правилами. В одном репо команды лежал 400-строчный CLAUDE.md с дублирующимися общими конвенциями, в другом пустота. AI отвечал по-разному в одном и том же сервисе в зависимости от того, кто его спрашивал. За полгода мы построили то, что внутри называем AI Kit. Это централизованный набор правил, skills, subagents и CI-инструментов для AI-ревью. В этой статье наш путь, грабли, цифры. И чего бы мы не делали, если бы начинали заново. Если у вас несколько продуктовых команд и AI-инструменты уже есть, но дисциплины их использования нет, то статья для вас. Будет полезно тимлидам, CTO, инженерам платформенных команд и AI Champions.

https://habr.com/ru/articles/1031924/

#AI_Kit #Claude_Code #Cursor #CLAUDEmd #AIревью #управление_разработкой #AI_governance #multiagent #AIинструменты_разработки

2026년 AI 리스크와 컴플라이언스: QA 팀이 변화를 주도해야 하는 이유

AI 리스크가 곧 비즈니스 리스크로 직결됨에 따라 QA 팀의 역할이 단순 기능 검증에서 시스템의 신뢰성과 안전성 보장으로 확장되고 있다.

🔗 원문 보기

AI는 비즈니스를 죽이지 않는다 - 나쁜 거버넌스가 죽일 뿐이다

AI는 소프트웨어 개발 속도를 10배 이상 향상시켰으나, 기존의 인간 중심 거버넌스 프로세스는 폭발적인 코드 생산량을 감당하지 못해 새로운 병목 구간이 되고 있습니다.

🔗 원문 보기

GitHub phát hành “wrapper” cho phép thực thi các quy tắc JSON trên LLM, biến quy tắc thành hành động có thể kiểm tra, hiển thị trạng thái, phát hiện vi phạm và so sánh hành vi giữa các mô hình. Không phải tối ưu prompt mà là quan sát, kiểm soát workflow và logic suy luận—hữu ích cho so sánh mô hình, giáo dục AI và kiểm soát AI. #AI #LLM #Governance #AI_Observability #Hệ_điều_khiển_AI #AI_Governance

https://www.reddit.com/r/LocalLLaMA/comments/1qt1oni/from_json_rules_to_an_ai_governance_executio

Безопасная и отказоустойчивая архитектура автономных ИИ-агентов и киберфизических ИИ-систем

Современные автономные ИИ-агенты и киберфизические ИИ-системы (от беспилотного транспорта и умных электросетей до медицинских роботов и промышленных контроллеров) всё чаще принимают решения, напрямую влияющие на жизнь, здоровье, экономику и национальную безопасность. В современных условиях вопросы безопасности и отказоустойчивости перестают быть вспомогательными и становятся центральными при проектировании, развёртывании и сопровождении таких систем. При этом главная проблема заключается в том, что ИИ-системы, особенно автономные, функционируют в условиях высокой неопределённости: данные могут меняться, сенсоры — выходить из строя или банально загрязняться, внешняя среда — вести себя очень непредсказуемо, а злоумышленники — целенаправленно атаковать сотнями разных способов уязвимости моделей или инфраструктуры. При этом физические последствия сбоев могут быть катастрофическими. Поэтому архитектура таких систем должна быть изначально ориентирована не на максимальную производительность, а на безопасность, отказоустойчивость, верифицируемость и контролируемость.

https://habr.com/ru/articles/982618/

#MLSecOps #иисистемы #архитектура_системы #безопасность #ai_governance #ииагенты #киберфизические_системы #отказоустойчивость

Генеративный ИИ, информационная безопасность и управление сервисом на 100%: тренды ITSM / ESM-2026

Классические подходы к управлению услугами трансформируются, чтобы соответствовать вызовам современных реалий. Давайте разберемся, в какую сторону идет ITSM / ESM и о каких тенденциях мы будем говорить ближайший год.

https://habr.com/ru/companies/directum/articles/974812/

#тренды #esm #itsm #service_desk #ииагенты #ai_governance #service_management #служба_поддержки

Новые правила для GPAI и «каскад обязанностей»: как небольшой команде превратить риски EU AI Act в преимущество

Недавно опубликованные Еврокомиссией требования к моделям общего назначения (GPAI) по Закону ЕС об ИИ (EU AI Act) задают правила игры для всех, кто работает с генеративным ИИ. Даже если вы — небольшая команда, которая интегрирует в свой продукт API от OpenAI, использует Llama или любую другую foundation model, эти новые нормы касаются вас напрямую как Деплоер. Важно понимать: речь не о том, чтобы отвечать за ошибки Google или Anthropic. Речь о том, что у Деплоера появляется своя, отдельная зона ответственности. Но для небольшой и гибкой команды это не только новые риски, но и уникальная возможность. В этой статье мы посмотрим на проблему с точки зрения небольшой компании разрабатывающей свой ИИ продукт и разберем, что входит в эту зону ответственности и, самое главное, как использовать новые обязанности «больших компаний» как рычаг для построения более надежного и конкурентоспособного продукта .

https://habr.com/ru/articles/958010/

#GPAI #комплаинс #ai #ai_governance

Управление ИИ (AI Governance) в 2025: пять главных вызовов и пути их преодоления

По данным глобальных отчетов, уже 30% всех корпоративных решений в 2025 году принимаются с участием искусственного интеллекта (ИИ). Инструменты ИИ активно внедряются во все сферы: они используются для оптимизации операционных и бизнес-процессов, как самостоятельные или вспомогательные продукты, а все чаще – и как системы, принимающие решения. Однако в этой гонке за эффективностью вопросы управления рисками и этические предохранители нередко отходят на второй план. Между тем, именно сфера регулирования и этики ИИ является ключевым инструментом, позволяющим компаниям обеспечить безопасное использование AI-технологий как с технической точки зрения, так и в контексте соответствия требованиям контролирующих органов. Регуляторные и этические фреймворки, закрепленные на уровне законодательства и лучших отраслевых практик, в действительности определяют ландшафт внедрения новых технологий. С какими вызовами AI Governance сталкивается IT-индустрия сегодня? В этой статье мы разберем 5 ключевых проблем регулирования ИИ, алгоритмической предвзятости, безопасности нейросетей, их экологического следа и глобальной стандартизации AI. Это авторская статья создана специально для сайта habr.com будет полезна IT-специалистам, разработчикам, менеджерам проектов, юристам, а также всем, кто интересуется будущим искусственного интеллекта, его регулированием и этическими аспектами применения технологий.

https://habr.com/ru/articles/920386/

#ai_governance #Ethical_AI #AI_Ethics #explainable_ai #EU_AI_Act

Обзор Рамочной конвенции Совета Европы об искусственном интеллекте и правах человека, демократии и верховенстве права

5 сентября 2024 года стала открыта для подписания Рамочная конвенция Совета Европы об искусственном интеллекте и правах человека, демократии и верховенстве права. Документ часто называют историческим и первым в своем роде. Мы разберем, повлияет ли конвенция на сферу разработки и применения ИИ, а также какие требования она налагает на государственный и частный секторы.

https://habr.com/ru/articles/841556/

#искусственный_интеллект #законодательство #право #европейский_союз #compliance #artificial_intelligence #law #AI_Governance #регулирование_ии #совет_европы