The #FollowingAlice serie is getting a #Flux2Dev makeover. Tests phase ongoing. #billisdead #AliceSerie
Using Anthropic's #Claude help to stick to #flux2dev models habilities, I'm pushing prompting to a point where I'm not describing anymore. I'm declaring intentions, and the model is interpreting. The results are stunning in my opinion. #aiart

FLUX.2-dev GGUF Q4_K_M на Apple Silicon: куда уходят 29 гигабайт?

В процессе моих изысканий о том как-же создавть изображения локально, я столкнулся с неочевидной, для себя, проблемой в виде колоссального потребления VRAM, которое не сходилось с тем что написано в карточках моделей и в интернете. Я попытался разобраться на примере современной FLUX.2-dev. Чтобы хотябы теоретически влезать в доступную мне VRAM на моем оборудовании я выбрал вариант GGUF Q4_K_M. И вот тут началось все самое интересное.

https://habr.com/ru/articles/1015320/

#apple #ai #python #torch #flux2dev

FLUX.2-dev GGUF Q4_K_M на Apple Silicon: куда уходят 29 гигабайт?

Как я пытался понять на что именно тратится VRAM при генерации изображений. В процессе моих изысканий о том как-же создавть изображения локально, я столкнулся с неочевидной, для себя, проблемой в виде...

Хабр