Tagsüber Integration Engineer
Für digitale Souveränität
Inklusiv, neurodivergent, lernhungrig
web: https://www.falkbaumhauer.com
blog: https://www.freestack.eu (WIP, contributors welcome)
Beiträge hier sind auf Deutsch geschrieben, für meinen Senf auf Englisch: https://bsky.app/profile/flkbmr.bsky.social
#foss #lemmy #mastodon #fediverse #pixelfed #peertube #homelab #linux #NixOS #selfhost #meshtastic
Hat jemand Erfahrungen mit lokaler #LLM Inferenz auf Mini Systemen wie #raspberrypi oder #zimablade ?
Ziel wäre ein kleines Modell wie Llama 7b in Verbindung mit einem #obsidianmd vault zu nutzen. Sozusagen ein:e mini Archivar:in um den Vault sinnvoll zu vernetzen. Das Ganze mit so wenig overhead wie möglich und CPU-basiert🤔
Die #Nextcloud ist gerettet! Die Migration von der Zimablade zu #proxmox hat gedauert, aber verlief ohne Datenverlust.
VM setup:
- #Debian 12 VM mit #Docker (NC + #PostgreSQL + Redis + Nginx)
- Nutzerdaten auf NAS via NFS
- Self-signed HTTPS + HTTP fallback für Obsidian auf GrapheneOS (remotely save mag keine selbstsignierten Zertifikate)
Jetzt erstmal die alten Kabel entfernen und danach ein lahmes lokal laufendes #LLM als Archivar installieren.
Frohe Ostern aus dem #homelab 
Heute beim @c4 #Diday reingeschaut und mit Erschrecken festgestellt, das mein Homelab nicht erreichbar war.
Einfach mal spontan auf die harte Tour gelernt, dass digitale Souveränität im Bestfall mit analoger Vorsicht einhergeht, dann bleibt die Cloud auch von unterwegs erreichbar und hakt nicht wegen loser Kabelverbindungen.😭 😂
Und natürlich auch auf #codeberg zu finden ❤️
Mir raucht der Kopf, aber eine erste Version des #jetstream listeners steht.
Ein einfaches CLI-tool das posts von Menschen auf #eurosky filtert und in der konsole ausgibt.
Es wird die basis eines custom feeds, um neue Menschen Willkommen zu heißen.
Ich finde die Idee der Demokratisierung von #algorithmen super, erinnert an hashtags im fediverse mit etwas mehr technischer Spielerei on top, genau mein Ding😂
Wer mal Lust auf AT protocol hat und auch auf Bluesky unterwegs ist, ist herzlich eingeladen mitzumachen.✌️
Die Repo liegt auf #Github, um zu Beginn leichter grenzübergreifend zu arbeiten und weil ich mich noch an #Codeberg gewöhne Perspektivisch wird das Projekt dorthin, oder zu #tangled migriert.
https://github.com/flkcgn/jetstream_newcomer_cli
#opensource #ATproto #atprotocol #oss #foss #bluesky #firehose #weekendproject
#Googlepixel 9a mit vorinstalliertem #grapheneos abzugeben.
Bei eBay sind alle Details zu meinem Angebot zu finden.
happyborg
