Ищем выход из лабиринтов RISC-V ISA: ускорение инференса с тензорным компилятором и JIT-ассемблером

Привет, Хабр! Меня зовут Илья Знаменский, я ведущий инженер в группе оптимизации алгоритмов искусственного интеллекта в AI-дивизионе YADRO . Популярность RISC-V растет стремительными темпами, и на рынке появляется все больше новых отладочных плат. Моей команде поставили задачу: узнать, как эти платы будут справляться с простыми AI-нагрузками (задачи запуска LLM-on-device не стояло). В процессе работы мы внесли вклад в развитие собственного тензорного компилятора и создали библиотеку математических ядер, которая позволила существенно увеличить производительность инференса моделей на RISC-V. С какими трудностями мы столкнулись и что в итоге из всего этого получилось — читайте в статье.

https://habr.com/ru/companies/yadro/articles/970390/?utm_source=habrahabr&utm_medium=rss&utm_campaign=970390

#RISCV #AI #devboards #Inference_optimizations #JIT #bananapi #rvv #licheepi #xbyak #compiler

Ищем выход из лабиринтов RISC-V ISA: ускорение инференса с тензорным компилятором и JIT-ассемблером

Привет, Хабр! Меня зовут Илья Знаменский, я ведущий инженер в группе оптимизации алгоритмов искусственного интеллекта в AI-дивизионе

https://habr.com/ru/companies/yadro/articles/970390/

#RISCV #AI #devboards #Inference_optimizations #JIT #bananapi #rvv #licheepi #xbyak #compiler

Boardswarm aims to improve access, flexibility, and CI integration for development boards, making it easier for developers to work with embedded hardware, no matter where they are. Learn more: https://www.collabora.com/news-and-blog/news-and-events/meet-boardswarm-a-new-open-source-tool-for-board-management-and-distributed-development.html

#embedded #devboards #softwareengineer #remotework #linux

Boardswarm: A new #OpenSource tool for board management & distributed development, making it easier for developers to work with embedded hardware, no matter where they are.

https://www.collabora.com/news-and-blog/news-and-events/meet-boardswarm-a-new-open-source-tool-for-board-management-and-distributed-development.html

#foss #software #devboards #softwareengineer #remotework

Improving access, flexibility, and CI integration for development boards, making it easier for developers to work with embedded hardware, no matter where they are. Meet Boardswarm.

https://www.collabora.com/news-and-blog/news-and-events/meet-boardswarm-a-new-open-source-tool-for-board-management-and-distributed-development.html

#OpenSource #software #devboards #softwareengineer #remotework

Альянс RISC-V. Цели создания, основные направления деятельности, проекты

Еще несколько лет назад казалось, что на рынке процессорных архитектур перемен не будет: x86 прочно удерживал серверы и десктопы, а ARM доминировал в мобильных устройствах и в микроконтроллерной отрасли. Все новые инициативы выглядели либо нишевыми, либо обреченными на маргинальное существование. Но постепенно стало заметно: всё чаще в новостях упоминается странная аббревиатура — RISC‑V. То NVIDIA заявляет о поддержке, то Huawei инвестирует в разработку процессоров на его основе, то стартапы один за другим анонсируют новые решения, основанные на открытой архитектуре. RISC‑V за десятилетие прошел путь от академического проекта до реальной альтернативы закрытым стандартам. И его преимущества — открытость, гибкость, отсутствие лицензионных отчислений — сегодня оказываются особенно важными на фоне глобальных технологических и политических изменений. Россия не осталась в стороне от этой тенденции: для координации усилий по развитию отечественных технологий на базе RISC‑V был создан Российский альянс RISC‑V и настало время представиться и рассказать о том, кто мы такие, как создавался Альянс, кто стоял у истоков его создания и почему эта инициатива важна для технологической независимости страны. Погрузимся в историю и узнаем, основные цели Альянса, его ключевые направления деятельности и рассмотрим наиболее интересные проекты, реализуемые с использованием открытой архитектуры, которая объединила ведущие IT‑компании России.

https://habr.com/ru/companies/riscvalliance/articles/917564/

#RISCV #Российская_микроэлектроника #Экосистема_RISCV #Участники_Альянса #Разработка_процессоров #Образовательные_программы #Открытая_архитектура #RISCV_Alliance #Энергия_RISCV #DEVBOARDS

It's a #Pimoroni kind of day here at Boards HQ! Having a blast with a fresh crop of #RaspberryPi #RP2350-based #DevBoards and some extremely cute #LEDs! ✨🏴‍☠️🐒🤖🥷✨

https://mastodon.social/@makemagazine/113085841472362900