ИИ пишет код, а кто инженерит ИИ?

Как отличить инжениринг AI-систем от применения ИИ в разработке и почему coding agents в 2026 году требуют больше контроля, тестов и архитектурных границ

https://habr.com/ru/articles/1045090/

#SE_for_AI #AI_for_SE #агентная_программная_инженерия #coding_agents #MLOps #LLMOps #AI_governance #управление_рисками_ИИ

AI-агентам скоро понадобится собственный Firewall. И вот почему

За последние несколько лет искусственный интеллект незаметно перешёл очень важную границу. Сначала нейросети просто отвечали на вопросы, потом начали писать код. Затем уже научились работать с документами, таблицами и базами знаний. А сейчас мы наблюдаем следующий этап развития — AI начинает выполнять действия внутри корпоративной инфраструктуры. Именно здесь начинается история, которую многие пока недооценивают.

https://habr.com/ru/articles/1043160/

#AIагенты #AI_Firewall #AI_Gateway #AI_Security #AI_Governance #кибербезопасность #информационная_безопасность #корпоративный_ИИ #автономные_агенты #контроль_действий_AI

ИИ-автоматизация на пике спроса. Но кто будет управлять тем, что вы внедрили?

ИИ-автоматизация сейчас стала одной из самых горячих тем для бизнеса. Откройте LinkedIn, YouTube, Telegram-каналы про технологии или предложения новых SaaS-сервисов — почти везде один и тот же мотив: автоматизируем продажи, поддержку, заявки, отчётность, документы, внутренние процессы, коммуникации с клиентами. Спрос быстро родил рынок. Появились no-code-платформы, агентные системы, микро-агентства, фрилансеры, интеграторы и консультанты, которые предлагают бизнесу «внедрить ИИ» почти в любой процесс. Часть этих предложений действительно полезна. Часть основана на сильной инженерной работе. Часть просто пытается оседлать волну. Но почти во всех этих разговорах есть одна слепая зона. Бизнесу подробно объясняют, что можно внедрить. Гораздо реже объясняют, как этим потом управлять. Это не одно и то же.

https://habr.com/ru/articles/1035888/

#ai_governance #ai_automation

Безопасное внедрение ИИ в корпорации: 3 архитектурных подхода и опыт Alpina Digital

88% компаний используют ИИ, но только 1% достиг зрелости. Главный барьер — не технология, а безопасность данных. Что мы делали два года и почему пришли к гибридной архитектуре. Жемал Хамидун, Head of AI

https://habr.com/ru/articles/1035766/

#корпоративный_ИИ #информационная_безопасность #152ФЗ #LLM #ChatGPT #Claude #API #onpremise #AI_governance #AlpinaGPT

AI Governance по‑инженерному: что должен знать архитектор

Представьте: вы запускаете генеративную AI‑фичу в проде. Всё работает как часы. А через месяц получаете иск, потому что ваша модель насоветовала клиентам того, чего не существует в реальных политиках компании. В статье разберем ключевые тренды AI Governance в 2026 году, которые помогают не просто избежать судов и штрафов, а выстроить систему контроля над недетерминированным поведением моделей. Изучить подход

https://habr.com/ru/companies/otus/articles/1022174/

#AI_Governance #управление_ИИ #безопасность_AIсистем #LLM #архитектура_AIпродукта #Model_Risk_Management #governanceascode #explainability #guardrails #риски_ИИ

AI, которому запрещено быть правым

AI, которому запрещено быть правым Когда AI подключают к криптографической системе, обычно задают вопрос: может ли модель найти правильный ответ? Но в криптографии это неправильный вопрос. Правильный вопрос другой: можно ли встроить AI так, чтобы даже при ошибке он не мог принять опасное решение? В этой статье я показываю, как мы реализовали в nonce-observatory отдельный слой governed solver orchestration — архитектуру, в которой AI может: анализировать public-safe feature contract; предлагать solver routes; строить очередь запусков; помогать с triage и объяснением маршрутов; но не может : видеть truth/private/nonce поля; принимать candidate_d ; принимать k ; формировать recovery claim; превращать свой score в криптографическое evidence. Иными словами: AI suggests. Exact verifier decides. Разбираю, почему для high-assurance систем важен не “умный AI”, а AI без authority , как устроена граница non-escalation, где проходит deterministic integrity gate, и почему в зрелой криптографической системе модель должна оставаться только планировщиком, а не источником истины. Внутри статьи: ECDSA / Schnorr / BIP340 контекст; governed solver orchestration; non-escalation boundary; safe payload и forbidden fields; solver queue vs cryptographic evidence; deterministic verifier; clean-control refusal; claim boundary: что мы не утверждаем . Статья будет полезна не только тем, кто работает с криптографией, но и всем, кто проектирует AI в критических системах, где ошибка модели не должна автоматически становиться принятым фактом.

https://habr.com/ru/articles/1034540/

#cryptography #public_key #audit #HNP #QLLL #nonescalation_boundary #solver_orchestration #trustworthy_AI #AI_governance #безопасность_AI

Как у клиента с восемью продуктовыми командами мы построили AI Kit

Привет, Хабр. Мы платформенная команда в продуктовой компании с восемью продуктовыми командами. У каждой свой микросервис, свой стек, свои нюансы. Есть общие конвенции, общий security baseline, общий подход к observability. В начале прошлого года стало понятно: AI-инструменты разработки уже не эксперимент, а повседневная реальность. Claude Code, Cursor, Copilot, кто во что горазд. И при этом ровно ноль централизованного подхода. У одного разработчика в ~/.claude/ CLAUDE.md свой набор правил, у другого .cursorrules с другими правилами. В одном репо команды лежал 400-строчный CLAUDE.md с дублирующимися общими конвенциями, в другом пустота. AI отвечал по-разному в одном и том же сервисе в зависимости от того, кто его спрашивал. За полгода мы построили то, что внутри называем AI Kit. Это централизованный набор правил, skills, subagents и CI-инструментов для AI-ревью. В этой статье наш путь, грабли, цифры. И чего бы мы не делали, если бы начинали заново. Если у вас несколько продуктовых команд и AI-инструменты уже есть, но дисциплины их использования нет, то статья для вас. Будет полезно тимлидам, CTO, инженерам платформенных команд и AI Champions.

https://habr.com/ru/articles/1031924/

#AI_Kit #Claude_Code #Cursor #CLAUDEmd #AIревью #управление_разработкой #AI_governance #multiagent #AIинструменты_разработки

2026년 AI 리스크와 컴플라이언스: QA 팀이 변화를 주도해야 하는 이유

AI 리스크가 곧 비즈니스 리스크로 직결됨에 따라 QA 팀의 역할이 단순 기능 검증에서 시스템의 신뢰성과 안전성 보장으로 확장되고 있다.

🔗 원문 보기

AI는 비즈니스를 죽이지 않는다 - 나쁜 거버넌스가 죽일 뿐이다

AI는 소프트웨어 개발 속도를 10배 이상 향상시켰으나, 기존의 인간 중심 거버넌스 프로세스는 폭발적인 코드 생산량을 감당하지 못해 새로운 병목 구간이 되고 있습니다.

🔗 원문 보기

GitHub phát hành “wrapper” cho phép thực thi các quy tắc JSON trên LLM, biến quy tắc thành hành động có thể kiểm tra, hiển thị trạng thái, phát hiện vi phạm và so sánh hành vi giữa các mô hình. Không phải tối ưu prompt mà là quan sát, kiểm soát workflow và logic suy luận—hữu ích cho so sánh mô hình, giáo dục AI và kiểm soát AI. #AI #LLM #Governance #AI_Observability #Hệ_điều_khiển_AI #AI_Governance

https://www.reddit.com/r/LocalLLaMA/comments/1qt1oni/from_json_rules_to_an_ai_governance_executio