@randahl
Just had a closer look & the cop on the right is carrying her torch for her!
#LadyLiberty #StatueOfLiberty #lamp #torch #NoKings #protest #livingArt
FLUX.2-dev GGUF Q4_K_M на Apple Silicon: куда уходят 29 гигабайт?
В процессе моих изысканий о том как-же создавть изображения локально, я столкнулся с неочевидной, для себя, проблемой в виде колоссального потребления VRAM, которое не сходилось с тем что написано в карточках моделей и в интернете. Я попытался разобраться на примере современной FLUX.2-dev. Чтобы хотябы теоретически влезать в доступную мне VRAM на моем оборудовании я выбрал вариант GGUF Q4_K_M. И вот тут началось все самое интересное.
Stable Diffusion 3.5 medium на Apple M1 16Gb
В этой статье, про ИИ, написанной не полностью ИИ, про генерацию изображений - не будет изображений. В конце этой статьи мы будем запускать эту модель на указанном чипе, но начнем мы с чуть более мощного - он понадобиться чтобы разобраться с проблемой. Первая проблема с которой я столкнулся - это потребление памяти. Поиски в интернете, описание самой модели говорили о том что она должна помещаться в ~10GB VRAM. Чего должно с запасом хватать для Apple M1 16GB. Однако фактическое зафиксированное потребление памяти составило 21 GB, не зафиксированное 28 GB (после чего я и начал исследование).
Awni Hannun (@awnihannun)
Ronan Collobert(@trebolloc)의 X 합류 환영 트윗. 딥러닝 분야의 저명 인물로 원조 Torch(파이토치 이전 프레임워크) 창시자이자 'NLP from scratch' 공동저자임을 강조하며, 오랜 기간 심층 신경망 훈련을 해온 경력을 소개. AI 개발자 커뮤니티에서 중요한 인물 소개 성격의 소식임.
Welcome to X, Ronan Collobert @trebolloc! If you work in Deep Learning and don’t know Ronan.. you’re missing out. Creator of og Torch (predecessor to PyTorch). Co-author of “NLP from scratch”. Training deep neural nets since way before it was cool. And most recently co-creator
dil 🎭
Global News Montreal
Su_G
Habr
Toy Box Comix
U3dn
The Simple Entrepreneur
sayzard
grischa