#Fedihelp Gibt es Anbieter, die lokal betreibbare #LLM als Dienstleistung anbieten, d.h. die z.B. DSGVO-konform auf Servern innerhalb der EU betreiben (ohne eigentumsrechtliche Verbindung außerhalb der EU), die Nutzung monatlich in Rechnung stellen und die Modelle ggf. sogar per API nutzbar machen, sodass man zu verarbeitendes Material maschinell bereitstellen und das Ergebnis maschinell weiterverarbeiten kann? Anbieter, Modelle, Unterschiede? Ich hätte gern eine Marktübersicht
@plinubius vielleicht kann @nan0 helfen?
@plinubius Spontan fallen mir da Anbieter wie OVH, Ionos, TensorX oder LLMBase ein. Wobei nur OVH und Ionos monatlich abrechnen, dafür haben tensorX und LLMBase die aktuelleren Modelle.
@plinubius
Ollama fällt mir als lokale alternative ein. Allerdings für eigene Hardware. Kommt halt auch bissl drauf an wofür.
@plinubius oh, ein Ludditen-Honeypot ;)
@Gegenwind Ich hab mal nachgeschaut: https://de.wikipedia.org/wiki/Luddismus
Erklärst Du mir ein bisschen, wie Du das meinst?
Luddismus – Wikipedia

@Plinubius 🇪🇺

Heutzutage werden eben keine Fabriken gestürmt, sondern Rechenzentren ins Visier genommen.

#^https://www.marcelmellor.com/von-ludditen-lernen/
Die neuen Ludditen: Alte Lektionen für das KI-Zeitalter

In der aufgeheizten Debatte um Künstliche Intelligenz beschwören Tech-Optimisten gerne die "unsichtbare Hand des Marktes": Produktivitätsgewinne würden automatisch allen zugute kommen. Doch ein Blick in die Geschichte der industriellen Revolution zeigt: Diese tröstliche Theorie hat einen doppelten Konstruktionsfehler. Ausgerechnet eine Bewegung "technikfeindlicher" Arbeiter aus dem 19. Jahrhundert könnte uns den Weg zu einer humaneren Automatisierung weisen.

Marcel Mellor
@plinubius afaik hat @tante den Begriff wieder ins rollen gebracht mit Bezug auf LLMs/KI. Also den Verzicht oder gar die Bekämpfung neuer Maschinen die es den Arbeiter*innen schwerer machen und nur den Kapitaleignern (also Rechenzentrenbetreibern und LLM Betreibern) leichter machen und so zu mehr Ausbeutung führen.
Die Neo-Ludditen, so befürchte ich, sich hier im Thread dann gleich dafür kritisieren dass du sowas verwendest. Aktuelle Blüte der Debatte: https://taz.de/Kuenstliche-Intelligenz/!6185383/
Künstliche Intelligenz: Denken wie das verbreitete Mittelmaß

KI ist unvereinbar mit emanzipierten und freiheitlichen Gesellschaften. Dabei handelt sich nicht um einen Designfehler, sondern sie ist so gedacht.

TAZ Verlags- und Vertriebs GmbH
@plinubius meinst du so was wie https://mammouth.ai
Empfehlung von @ct_3003_team
Stay at the top of AI

The best GenAI models in one subscription. Access GPT, Claude, Gemini, Mistral, Llama, Nano Banana, GPT-image, FLUX, and stay up to date with AI.

Mammouth AI

@plinubius #lumo von #proton vielleicht?

https://lumo.proton.me/

🤷‍♂️

Lumo: Privacy-first AI assistant where chats stay confidential

Meet Lumo, the zero-access encrypted AI assistant by Proton that does not track or record your conversations. Ask me anything — it's confidential