So after another few hours of tinkering and bending I got #translategemma #LLM multi-modal text in picture translation working with #llamacpp as model serving. Custom #python REST API and simple web interface. It is not that straightforward as spinning llamacpp and connect OpenAI client from Python. There was few workaround needed, such as bypassing jinja chat template. And other, even for text-text translations.
Dnes jsem jen tak cvičně vyrobil #python #fastapi openrest api a webui nad #llamacpp a #translategemma #LLM. Musel jsem trochu ohýbat, ale nakonec mi to funguje a musím přiznat, se kvalita překladu je celkem dobrá tedy minimálně 12b verze translategemma.
Ich habe #Ollama mit #OpenWebUI und dem #Google Übersetzung Modell #translategemma kaputt gedaddelt. Und zwar habe ich mich beim Google KI Bot beschwert, dass das lokale Modell nicht gehorcht. Und diese Konversation wollte ich übersetzen. Das #Resultat ein #Loop mit vollem #Energieverbrauch. Hier der #Text, der das geschafft hat:
https://w.ms.vg/ein-apparate-gespraech
TranslateGemma: Google gibt KI-Modell für Übersetzung frei

Googles frei verfügbares KI-Modell Gemma ist jetzt als TranslateGemma spezialisiert auf die Übersetzung von 55 Sprachen.

heise online

[Show GN: Ollama 기반의 epub 번역기

Ollama 기반의 epub 번역기를 개발한 Show GN에 대한 소개. TranslateGemma 4B 모델을 사용하여 영어로 된 전자책을 한국어로 번역하는 도구로, 번역 품질과 속도가 우수하다고 평가됨.

https://news.hada.io/topic?id=26038

#ollama #epub #translation #translategemma #llm

Ollama 기반의 epub 번역기

<p>영어로 된 무료 전자책들이 좋은게 많은데, 한국어로 편하게 읽으려고 바이브코딩으로 만들었습니다.<br /> Ollama가 설치 되어있어야하고, 번...

GeekNews

TranslateGemma, 절반 크기로 두 배 성능을 내는 구글의 번역 AI

구글의 TranslateGemma는 12B 모델이 27B보다 우수한 성능을 내며, 모바일부터 클라우드까지 55개 언어 번역을 지원하는 오픈소스 AI입니다.

https://aisparkup.com/posts/8412

Google vs. OpenAI: Der Kampf um die perfekte Übersetzung wird lokal

Google veröffentlicht TranslateGemma als Open-Source-Modell für 55 Sprachen. Eine Kampfansage an ChatGPT Translate für lokale und datenschutzkonforme Nutzung.

techUpdate.io
TranslateGemma: Noua generație de traducere AI de la Google - TECHNEWSRO

TranslateGemma oferă traduceri AI rapide și precise pentru 55 de limbi, cu modele open‑source eficiente, optimizate pentru orice dispozitiv.

TECHNEWSRO

Google's TranslateGemma breaks language barriers with support for 55 language pairs across multiple platforms! 🌐🔤 This innovative AI translation tool promises seamless cross-language communication, making global interactions smoother than ever. Curious how machine learning is revolutionizing translation technology? Dive into the details! #TranslateGemma #MachineTranslation #GoogleAI #LanguagePairs

🔗 https://aidailypost.com/news/google-unveils-translategemma-supports-55-language-pairs-across

Google、Gemma 3ベース、55言語を網羅したオープンな翻訳モデルTranslateGemmaをリリース
https://gihyo.jp/article/2026/01/translategemma?utm_source=feed

#gihyo #技術評論社 #gihyo_jp #生成AI #TranslateGemma #翻訳モデル

Google、Gemma 3ベース、55言語を網羅したオープンな翻訳モデルTranslateGemmaをリリース | gihyo.jp

Googleは2026年1月15日、Gemma 3ベースの翻訳モデル「TranslateGemma」を、Apache 2.0ライセンスのもとオープンソースとしてリリースした。

gihyo.jp