Triton, Flash-attension, Sage-attension и bitsandbytes с Rocm7 в Windows

В конце января 2026 вышел triton-windows 3.6.0.post25 , который позволяет использовать flash-attention , sage-attention (v1) и другие библиотеки, использующие Triton, на картах AMD с поддержкой rocWMMA в Windows. Также, несмотря на то, что в официальном репозитории bitsandbytes еще не приняли PR для поддержки ROCm 7, его все же можно собрать, внеся небольшие изменения в код. Эти изменения я уже сделал в своем форке. В этой статье я расскажу, как установить все это себе, а также для примера запустим пару тестов в ComfyUI, в том числе со свежей LTX-2, и сделаем Qlora адаптер для модели Gemma 3.

https://habr.com/ru/articles/987672/

#triton #amd #rx7900 #sageattention #flashattention #bitsandbytes #rocm #rocm7 #comfyui #ltx2

My old graphics card started to show its age after about 8 years (especially in the more demanding/modern games) and it was time to make an upgrade to a new beast: PowerColor Hellhound Radeon RX 7900 GRE. It's doing great, even at 4K resolution and I love how quiet and cool it is running even while gaming and using the OC mode. About time the PC takes back some of that gaming time from the Steam Deck :)

#hardware #GPU #ComputerGraphics #gaming #AMD #Radeon #RX7900 #RadeonRX7900 #PowerColor

Glad somebody noticed these cards were abnormally thirsty.

Driver updates will fix abnormally high power use for AMD’s new RX 7900 GPUs https://arstechnica.com/gadgets/2022/12/amd-acknowledges-high-power-use-in-rx-7900-gpus-plans-driver-fixes/

#Drivers #Fix #AMD #RX7900 #GPU #TechNews

Those 7900 XTs are selling out fast despite their high price. Thinking of getting one, but still inclined to wait if prices drop in 1st quarter of 2023 ...

#amd #radeon #gaming #LinuxGaming #gpus #rx7900 #hardware