Plinubius 🇪🇺#Fedihelp Gibt es Anbieter, die lokal betreibbare #LLM als Dienstleistung anbieten, d.h. die z.B. DSGVO-konform auf Servern innerhalb der EU betreiben (ohne eigentumsrechtliche Verbindung außerhalb der EU), die Nutzung monatlich in Rechnung stellen und die Modelle ggf. sogar per API nutzbar machen, sodass man zu verarbeitendes Material maschinell bereitstellen und das Ergebnis maschinell weiterverarbeiten kann? Anbieter, Modelle, Unterschiede? Ich hätte gern eine Marktübersicht
technopagan@plinubius Spontan fallen mir da Anbieter wie OVH, Ionos, TensorX oder LLMBase ein. Wobei nur OVH und Ionos monatlich abrechnen, dafür haben tensorX und LLMBase die aktuelleren Modelle.
Zugmuth das zornige Zebra@plinubius
Ollama fällt mir als lokale alternative ein. Allerdings für eigene Hardware. Kommt halt auch bissl drauf an wofür.
Ollama fällt mir als lokale alternative ein. Allerdings für eigene Hardware. Kommt halt auch bissl drauf an wofür.