DawidPodpięcie eGPU pod ollama - to jakieś 5-10min. Wystarczyły odpowiednie drivery, zmienna środowiskowa na serwisie ollama i wuala.
Ustawienie renderowania z karty na laptopa - trochę więcej zachodu. Ale "da się". Koszt to jeszcze -15% do -20% performance'u, bo musimy przez ten sam USB4 przesłać nieskompresowany obraz z powrotem do laptopa.
Wymyśliłem sobie magiczną sztuczkę - zainstaluje moonshine/sunshine (streaming do gier) lokalnie, wepnę hdmi adapter z wirtualnym monitorem i będę streamować skompresowany obraz z karty na ekran.
Czyli zamiast ~8GB/s na ten powrót "na ekran", będzie 150MB/s dzięki kompresji (jak się uda). W teorii powinno dać więcej przestrzeni na instrukcje, wymianę pamięci itp. Ale ustawienie tego... Zapowiada się ciekawy wpis na bloga, bo mniejszy format tego nie przyjmie.
#microblog #egpu
Ustawienie renderowania z karty na laptopa - trochę więcej zachodu. Ale "da się". Koszt to jeszcze -15% do -20% performance'u, bo musimy przez ten sam USB4 przesłać nieskompresowany obraz z powrotem do laptopa.
Wymyśliłem sobie magiczną sztuczkę - zainstaluje moonshine/sunshine (streaming do gier) lokalnie, wepnę hdmi adapter z wirtualnym monitorem i będę streamować skompresowany obraz z karty na ekran.
Czyli zamiast ~8GB/s na ten powrót "na ekran", będzie 150MB/s dzięki kompresji (jak się uda). W teorii powinno dać więcej przestrzeni na instrukcje, wymianę pamięci itp. Ale ustawienie tego... Zapowiada się ciekawy wpis na bloga, bo mniejszy format tego nie przyjmie.
#microblog #egpu
Interfacing Linux
SLIMBOOK (Official)
trashHeap 
🅱🅸🅶🅾🆁🆁🅴.🅾🆁🅶
Hacker News
rhodzy
Scott J. Goldman
Brad Linder
