🎙️ Next talk at #EmbeddedRecipes2026!

Tomeu Vizoso takes the stage with a landmark session: "Four NPUs, One Stack, Zero Blobs: Edge AI Acceleration in Mainline".

#EmbeddedRecipes2026 #EmbeddedLinux #EdgeAI #NPU #MachineLearning #OpenSource #Mesa #Linux #EmbeddedSystems

Axera AX650N: архитектура Edge ML SoC под CNN, LLM и VLM

Большинство задач современной робототехники так или иначе завязаны на нейронных сетях: детекция объектов, оценка глубины, локализация, планирование. Всё это ресурсоёмко, и вопрос выбора компактного вычислителя (достаточно часто алгоритмы должны работать локально) встает довольно остро. На практике выбор сводится к трём классам устройств: NVIDIA Jetson , внешний ускоритель (один из самых популярных — Hailo) и китайский (не всегда, конечно, но в современных реалиях обычно китайский) SoC с интегрированным NPU. В этой статье я рассмотрю представителя третьего класса — Axera AX650N , а NVIDIA Jetson будет использоваться для сравнения, так как это единственное массовое edge-решение с универсальными вычислительными ядрами (CUDA) . Это первая часть цикла. Здесь я разберу аппаратную архитектуру самого AX650N — CPU, NPU, DSP, ISP, память — и поделюсь результатами первых тестов: YOLO, Depth Anything, SuperPoint и мультимодальный Qwen3. Подробные бенчмарки и сравнения — во второй части. Я тестировал AX650N в рамках готового устройства от Sipeed — Maix4 Hat . Он состоит из двух частей: SoM , на котором расположены SoC и 8 GB RAM (2x4 GB, так как у AX650N два отдельных DDR-контроллера) , и baseboard от Sipeed с минимальным количеством интерфейсов. Скромность интерфейсов объясняется просто: baseboard — это HAT для Raspberry Pi 5, подключающийся по PCIe 2.0. В такой конфигурации AX650N работает как внешний ML-ускоритель, аналогично Hailo . В рамках этой и последующих статей я буду использовать Maix4 Hat как самостоятельный микрокомпьютер.

https://habr.com/ru/articles/1035776/

#Axera #NPU #VLM #llm #embedded #cnn #нейросети #sipeed #электроника #компьютерное_зрение

Axera AX650N: архитектура Edge ML SoC под CNN, LLM и VLM

Maix4 HAT Большинство задач современной робототехники так или иначе завязаны на нейронных сетях: детекция объектов, оценка глубины, локализация, планирование. Всё это ресурсоёмко, и вопрос выбора...

Хабр

NPU в ноутбуках: что меняется для тех, кто закупает корпоративную технику

Привет, Хабр! Меня зовут Артем, я дата-инженер. В работе часто приходится выбирать: гонять вычисления в облаке или делать их ближе к данным, и у каждого варианта свои больные места. Но недавно ИИ-нагрузки начали переезжать с облачных GPU на обычные ноутбуки — Microsoft вписала нейропроцессор в требования к Copilot+ PC, AMD и Intel встраивают NPU прямо в SoC. Мне стало любопытно: что там на самом деле происходит? За маркетинговой шумихой скрывается сдвиг к гибридной архитектуре: тяжёлое остаётся в облаке, массовые задачи разъезжаются по устройствам сотрудников. Это меняет работу тех, кто такой парк закупает и обслуживает — добавляются требования к памяти и поддержке конкретных ИИ-фреймворков, появляется новая задача доставки и обновления моделей на устройствах, а горизонт планирования у ИТ-отделов оказывается короче, чем кажется. Я заинтересовался темой после одного бенчмарка : NPU в ноутбуке AMD Ryzen AI 300 генерировал изображение 70 секунд, а встроенный GPU того же чипа справлялся за 30 — специализированный нейропроцессор проиграл универсальному вдвое на задаче, под которую его затачивали. Через эту аномалию хорошо видно, как устроены три процессора в одном SoC. Разберём: чем NPU отличается от соседей по чипу, почему всё упирается в память, как LLM удаётся уместить на ноутбуке и что из этого реально работает в корпоративной среде уже сейчас.

https://habr.com/ru/companies/ru_mts/articles/1033588/

#NPU #Искусственный_интеллект #LLM #Железо #Процессоры #Ноутбуки #Машинное_обучение #Инференс #Copilot+_PC #Корпоративные_технологии

NPU в ноутбуках: что меняется для тех, кто закупает корпоративную технику

Привет, Хабр! Меня зовут Артем, я дата-инженер. В работе часто приходится выбирать: гонять вычисления в облаке или делать их ближе к данным, и у каждого варианта свои больные места. Но недавно...

Хабр

Install ROCm 7.2 instead of 7.1 on Ubuntu 26.04 LTS – or update coming? #amdgraphics #amdgpu #2604 #rocm #npu

https://askubuntu.com/q/1566539/612

Install ROCm 7.2 instead of 7.1 on Ubuntu 26.04 LTS – or update coming?

I've been eagerly waiting for Ubuntu 26.04 LTS because I knew ROCm would be installed automatically with it. Now I'm disappointed to see it's only ROCm 7.1.0 / 7.1.1 which does not work well with n...

Ask Ubuntu
Windows 11 recebe novos detalhes sobre NPU e desempenho no Gestor de Tarefas

A Microsoft disponibilizou novas compilações de testes para o Windows 11, focadas em melhorar a monitorização de recursos do sistema através do Gestor de Tarefa

TugaTech