Phillip Isola (@phillip_isola)

작성자가 자신의 책(visionbook.mit.edu)에 'SGD ResNet' 다이어그램을 올렸다는 안내와 함께, 메타러닝은 이 ResNet 구조를 통한 역전파(backprop)로 구현될 수 있다는 설명과 링크를 공유한 트윗입니다.

https://x.com/phillip_isola/status/2033619258194681934

#sgd #resnet #metalearning #visionbook

Phillip Isola (@phillip_isola) on X

@karpathy @Yulun_Du @ilyasut Yeah! I made a diagram of the SGD ResNet in our book here: https://t.co/ZlEgNcMQ0E And then meta-learning can just be backprop through this ResNet.

X (formerly Twitter)

Повышаем точность диагностики ДЦП у новорожденных с помощью нейросетей

МРТ головного мозга помогает диагностировать серьёзные патологии, от опухолей до нейродегенеративных заболеваний. Своевременная диагностика в младенческом возрасте позволяет заметить в развитии мозга негативную динамику, приводящую к заболеваниям наподобие ДЦП , и вовремя начать терапию. Но когда дело касается обследования таких пациентов, есть дополнительные риски: эту процедуру проводят под анестезией. Поэтому врачам важны решения, которые позволят сократить время диагностики, снизить риски и принять более информированные решения. Специалисты Санкт‑Петербургского государственного педиатрического медицинского университета (СПбГПМУ) совместно со Школой анализа данных (ШАД) и Центром технологий для общества Yandex Cloud разработали решение на базе нейросети, которое помогает оценить развитие мозга новорожденных по МРТ‑снимкам. При подозрении на ДЦП и другие болезни ЦНС решение работает как вспомогательный инструмент, который сокращает время расшифровки результатов МРТ до нескольких минут вместо нескольких дней. Меня зовут Юлия Бусыгина, я руковожу проектом со стороны Yandex Cloud, и в этой статье мы вместе с профессором Александром Поздняковым расскажем подробнее, как проектировали решение, обучали модель, как тестируем и оцениваем его эффективность.

https://habr.com/ru/companies/yandex/articles/940552/

#мрт #мрт_цнс #мрт_центральной_нервной_системы #unet #unet++ #сегментация_изображений #resnet #resnet50

Повышаем точность диагностики ДЦП у новорожденных с помощью нейросетей

МРТ головного мозга помогает диагностировать серьёзные патологии, от опухолей до нейродегенеративных заболеваний. Своевременная диагностика в младенческом возрасте позволяет заметить...

Хабр

Повышаем точность диагностики ДЦП у новорожденных с помощью нейросетей

МРТ головного мозга помогает диагностировать серьёзные патологии, от опухолей до нейродегенеративных заболеваний. Своевременная диагностика в младенческом возрасте позволяет заметить в развитии мозга негативную динамику, приводящую к заболеваниям наподобие ДЦП , и вовремя начать терапию. Но когда дело касается обследования таких пациентов, есть дополнительные риски: эту процедуру проводят под анестезией. Поэтому врачам важны решения, которые позволят сократить время диагностики, снизить риски и принять более информированные решения. Специалисты Санкт‑Петербургского государственного педиатрического медицинского университета (СПбГПМУ) совместно со Школой анализа данных (ШАД) и Центром технологий для общества Yandex Cloud разработали решение на базе нейросети, которое помогает оценить развитие мозга новорожденных по МРТ‑снимкам. При подозрении на ДЦП и другие болезни ЦНС решение работает как вспомогательный инструмент, который сокращает время расшифровки результатов МРТ до нескольких минут вместо нескольких дней. Меня зовут Юлия Бусыгина, я руковожу проектом со стороны Yandex Cloud, и в этой статье мы вместе с профессором Александром Поздняковым расскажем подробнее, как проектировали решение, обучали модель, как тестируем и оцениваем его эффективность.

https://habr.com/ru/companies/yandex/articles/940552/

#мрт #мрт_цнс #мрт_центральной_нервной_системы #unet #unet++ #сегментация_изображений #resnet #resnet50

Повышаем точность диагностики ДЦП у новорожденных с помощью нейросетей

МРТ головного мозга помогает диагностировать серьёзные патологии, от опухолей до нейродегенеративных заболеваний. Своевременная диагностика в младенческом возрасте позволяет заметить...

Хабр

Когда несколько пикселей решают всё: One Pixel атака и способы защиты от неё

Удивительно, но факт: несколько изменений в изображении могут полностью поменять вывод нейросети, что ломает заложенную разработчиком логику. В данной статье мы не просто подсветим факт существования One Pixel атаки, но и комплексно разберём архитектурные факторы, которые влияют на устойчивость CV-систем к данному семейству атак.

https://habr.com/ru/articles/932934/

#one_pixel_attack #computer_vision #alexnet #resnet #efficientnet #inceptionv3 #visual_transformer

Когда несколько пикселей решают всё: One Pixel атака и способы защиты от неё

Удивительно, но факт: несколько изменений в изображении может полностью изменить вывод нейросети, что ломает заложенную разработчиком логику. В данной статье мы не просто подсветим факт существования...

Хабр

Часть 1: ResNet-18 — Архитектура, покорившая глубину

Разбор "на пальцах": Как из изображения получается предсказание? Разберем как устроена классическая сеть ResNet.

https://habr.com/ru/articles/921608/

#resnet #машинное_обучение #компьютерное_зрение #новичкам #сверточные_нейронные_сети

Часть 1: ResNet-18 — Архитектура, покорившая глубину

Пролог: Парадокс глубины Представьте, что вы строите небоскрёб. Каждый новый этаж — это слой нейросети. Но после 20 этажей здание вдруг начинает... рушиться. Так было в компьютерном зрении до 2015...

Хабр

Исследуем эволюцию архитектур в Computer Vision: Mind Map всех ключевых моделей

Компьютерное зрение (Computer Vision) пережило невероятную эволюцию за последние десятилетия. От простых свёрточных сетей до сложных архитектур, которые сегодня задают стандарты в распознавании изображений, обработке видео и других задачах. Но как разобраться во всём этом многообразии? Чтобы помочь себе (и вам!) лучше понять основные направления развития, я создал Mind Map , которая объединяет ключевые архитектуры Computer Vision — от классических моделей до современных прорывов.

https://habr.com/ru/articles/890724/

#computer_vision #mind_maps #deep_learning #machine_learning #машинное_обучение #нейронные_сети #neural_networks #transformers #resnet

Исследуем эволюцию архитектур в Computer Vision: Mind Map всех ключевых моделей

Сразу к карте? Если вы предпочитаете действовать, а не читать, вот ссылка на Mind Map . Она доступна для изучения прямо сейчас. А если хотите понять контекст и узнать больше о каждой модели — добро...

Хабр

ResNet-18: ищем динозавров или упражнения с векторами

Уверен, читатели хабра знают правильный ответ на вопрос - какова вероятность встретить динозавра на улице? И уж точно не растеряются когда эта встреча произойдет. Но что делать, если нужно найти конкретного динозавра на конкретном изображении?

https://habr.com/ru/articles/830836/

#ml #torch #computer_vision #resnet #matching

ResNet-18: ищем динозавров или упражнения с векторами

Сегодня потестируем ResNet-18 в задаче "матчинга" изображений, в задаче, к которой эту модель не готовили. А именно, попробуем искать динозавров на изображении по их признакам, выделенным с помощью...

Хабр

Studying classical #CNN architectures such as #VGG and #ResNet, we observed that they could be sensitive to simple rotations... and that incorporating a biologically inspired retinotopic mapping could alleviate this and also bring other nice features observed in the human visual system.

Hear Jean-Nicolas Jérémie aka @jnjer present these results today at the 32nd International Conference on Artificial Neural Networks (#ICANN 2023) in Heraklion, Greece.

The figure below shows the accuracy of different CNNs to the task "is there an animal in the image" - with a classical (Linear) or retinotopic (polar) mapping. Note that VGG may answer confidently the wrong answer for images rotated around 160°...

More in https://laurentperrinet.github.io/publication/jeremie-23-icann/

Retinotopy improves the categorisation and localisation of visual objects in CNNs | Novel visual computations

to be presented at the 32nd International Conference on Artificial Neural Networks (ICANN 2023) in Heraklion (Greece).

Novel visual computations

A performance comparison of the new #PyTorch2 with the well established #PyTorch 1.

The benchmarks cover different areas of #deeplearning, such as image classification (#resnet) and language models (#BERT).

https://www.aime.info/blog/en/pytorch-2-gp

So I’ve been wondering what problem to work on for my learning while I work my way through #practicaldeeplearning. I think I’ve found the perfect dataset: https://figshare.com/collections/_/4560497

It’s got everything. The raw 12-lead ECG readings as well as arrhythmia classifications for over 10,000 patients. And best of all it’s easy to convert the ECG readings to images for #deeplearning. Will probably start by trying out #ResNet initially.

Will keep posting my progress here.

A 12-lead electrocardiogram database for arrhythmia research covering more than 10,000 patients

This newly inaugurated research database for 12-lead electrocardiogram signals was created under the auspices of Chapman University and Shaoxing People's Hospital (Shaoxing Hospital Zhejiang University School of Medicine) and aims at enabling the scientific community in conducting new studies on arrhythmia and other cardiovascular conditions. Certain types of arrhythmias, such as atrial fibrillation, have a pronounced negative impact on public health, quality of life, and medical expenditures. As a non-invasive test, the long term ECG monitoring is a major and vital diagnostic tool for detecting these conditions. However, such a practice generates a considerable amount of data that analyzes of which require considerable time and effort by human experts. Advancement of modern machine learning and statistical tools can be trained on high quality, large data to achieve high levels of automated diagnostic accuracy. Thus, we collected and disseminated this novel database that contains 12-lead ECGs of 10,646 patients with 500 Hz sampling rate that features 11 common rhythms and 67 additional cardiovascular conditions, all labeled by professional experts. For each subject, a sample size of 10 seconds (12-dimension 5000 samples) was available. The dataset can be used to design, compare, and fine tune new and classical statistical and machine learning techniques in studies focused on arrhythmia and other cardiovascular conditions.Citation:Zheng, J., Chu, H., Struppa, D. et al. Optimal Multi-Stage Arrhythmia Classification Approach. Sci Rep 10, 2898 (2020). https://doi.org/10.1038/s41598-020-59821-7Zheng, J., Zhang, J., Danioko, S. et al. A 12-lead electrocardiogram database for arrhythmia research covering more than 10,000 patients. Sci Data 7, 48 (2020). https://doi.org/10.1038/s41597-020-0386-x

figshare