#Reins - Une app qui fait office de client #Ollama sur votre #mobile ( #iPhone / #Android ) , sans faire tourner #Ollama sur mobile, mais qui se connecte a votre #Ollama sur votre PC (en "local" quand même donc..)

https://korben.info/reins-ollama-mobile-impossible.html

Reins - Un Ollama sur mobile sans faire tourner Ollama sur mobile

Vous voulez utiliser Ollama sur votre iPhone ou Android pour lancer vos petits LLM en local ? Ce serait super cool non ? Bah j’ai une mauvaise nouvelle pour vous… votre smartphone n’a pas assez de mémoire vive pour faire ça… Le problème est simple… les LLM bouffent un max de RAM. Par exemple, un LLaMA 7B, c’est dans les 12 GB de RAM. Et même quantifié en int4 pour gagner de la place, vous tombez à environ 3,5 GB. Et ça, c’est juste le modèle hein… Faut y ajouter le contexte, l’OS, les autres apps, et votre smartphone à 8 GB de RAM commence à suer de la raie.

Le site de Korben
#Reins - Une app qui fait office de client #Ollama sur votre #mobile ( #iPhone / #Android ) , sans faire tourner #Ollama sur mobile, mais qui se connecte a votre #Ollama sur votre PC (en "local" quand même donc..) korben.info/reins-ollama...

Reins - Un Ollama sur mobile s...
Reins - Un Ollama sur mobile sans faire tourner Ollama sur mobile

Vous voulez utiliser Ollama sur votre iPhone ou Android pour lancer vos petits LLM en local ? Ce serait super cool non ? Bah j’ai une mauvaise nouvelle pour vous… votre smartphone n’a pas assez de mémoire vive pour faire ça… Le problème est simple… les LLM bouffent un max de RAM. Par exemple, un LLaMA 7B, c’est dans les 12 GB de RAM. Et même quantifié en int4 pour gagner de la place, vous tombez à environ 3,5 GB. Et ça, c’est juste le modèle hein… Faut y ajouter le contexte, l’OS, les autres apps, et votre smartphone à 8 GB de RAM commence à suer de la raie.

Le site de Korben

La #COVID-19 ferait vieillir prématurément la #rigidité #vasculaire des #femmes, qui "pourrait conduire à une surcharge du travail #cardiaque et à une #pression #sanguine plus élevée pouvant affecter le #coeur, le #cerveau et les #reins"

https://www.techno-science.net/actualite/covid-19-ferait-vieillir-prematurement-cette-partie-corps-femmes-N27770.html

👵 La COVID-19 ferait vieillir prématurément cette partie du corps des femmes

La perte d'élasticité des vaisseaux sanguins qui accompagne le vieillissement normal serait accélérée chez les...

Techno-Science.net
La #COVID-19 ferait vieillir prématurément la #rigidité #vasculaire des #femmes, qui "pourrait conduire à une surcharge du travail #cardiaque et à une #pression #sanguine plus élevée pouvant affecter le #coeur, le #cerveau et les #reins" www.techno-science.net/actualite/co...

👵 La COVID-19 ferait vieillir ...
👵 La COVID-19 ferait vieillir prématurément cette partie du corps des femmes

La perte d'élasticité des vaisseaux sanguins qui accompagne le vieillissement normal serait accélérée chez les...

Techno-Science.net

One can exist quite comfortably
within the cozy confines
of alternate reality
where chewable truth is dispensed
in easily digestible increments

And when bored strays
from the tightly herded flock
do wander off into the ravine
of dangerous self awareness
we rein their free thought asses back in
with hate laced propaganda
which plays to the core frustrations
of this Misfit Generation

We feed them just enough
"Us against Them" prejudice
to keep the minions hungry for more
of the social media hate rations
we utilize as #reins of control

#vss365 #[Petey #poem #amwriting

×