Mastodawn

На шаг ближе к Скайнету: научились ли нейросети умножать?

Занимаясь созданием систем искусственного интеллекта, не перестаешь удивляться, из каких порой «костылей» состоят настоящие чудеса прогресса. Например, знаете ли вы, что даже самые современные нейросети фундаментально не умеют перемножать два числа? Они не считают в привычном нам смысле, а скорее запоминают и аппроксимируют ответы. Как так вышло, что ИИ пишет код и сочиняет стихи, но буксует на таблице умножения? Давайте разбираться

https://habr.com/ru/articles/1019500/

#Gated_linear_unit #GLU #SwiGLU #Функция_активации #нейронная_сеть

На шаг ближе к Скайнету: научились ли нейросети умножать?

Хабр

Micha Thieme Jul 16, 2025

Neue Konzertreview online: Das amerikanisch-britische Rock-Duo THE KILLS mit Alison Mosshart und Jamie Hince sowie Special Guest GLU liefern eine mitreißende Show im Frankfurter Club #Zoom https://bit.ly/44ZiZS2 #thekills #glu

https://www.rockstage-riot-rheinmain.de/the-kills-glu.html

THE KILLS & GLU | rockstage-riot-rheinmain.de

Matthias Drexel Jul 15, 2025

"Ein schrankwandähnliches unförmiges Vehikel, kurz SUV"

#Glu on point

Habr Oct 24, 2024

[Перевод] Как исследователи нарушают привычные подходы в ИИ, исключая матричное умножение

Привет, на связи Елена Кузнецова, специалист по автоматизации Шерпа Роботикс. Сегодня я перевела для вас статью, посвященную использованию моделей ИИ без лишней математики. Все мы знаем, что нейросети - дело энергозатратное. А описанные в статье исследования могут помочь снизить энергопотребление в работе нейросетей. Исследователи из Университета Калифорнии в Санта-Круз, UC Дэвис, LuxiTech и Университета Сучжоу объявили о разработке нового подхода к оптимизации работы языковых моделей ИИ, который исключает матричное умножение из вычислительных процессов. Это принципиально меняет операции нейронных сетей, которые в настоящее время ускоряются с помощью графических процессоров (GPU). Результаты работы, изложенные в недавней препринте, могут существенно повлиять на экологическую устойчивость и операционные расходы систем ИИ.

https://habr.com/ru/companies/sherpa_rpa/articles/853244/

#матричное_умножение #MLGRU #glu

Как исследователи нарушают привычные подходы в ИИ, исключая матричное умножение

На этой диаграмме, взятой из статьи, показана относительная производительность LLM без MatMul по сравнению с обычным (Transformer++) LLM на контрольных примерах Привет, на связи Елена Кузнецова,...

Хабр