Mastodawn

guenther

@kenji Die letzte Regel ist komisch. Wenn jemand für ein Paper Quellen in anderen Sprachen benötigt, die er oder sie nicht beherrscht, würde das ja bereits verbieten, diese Quellentexte zur Sichtung/Relevanzbeurteilung maschinell zu übersetzen.

@guenther @kenji Dass man nicht blind auf LLMs zur Übersetzung vertrauen soll, finde ich nicht per se unverständlich, aber mangels präziser Formulierungen muss man wohl davon ausgehen, dass sogar herkömmliche Maschinenübersetzung mit neuronalen Netzen verboten ist, was in meinen Augen verschwendetes Potenzial ist. So schließt man faktisch anderssprachige Quellen von der Verwendung aus.

guenther May 27

@pixelcode ja. Wahrscheinlich war auch halt hauptsächlich gemeint, dass man nicht das Paper in seiner Muttersprache schreiben und dann von ChatGPT auf Englisch übersetzen lassen soll ("excercise their own fluency with legal English"), aber so, wie es da steht, ist es halt deutlich weiter gefasst.

@kenji

@pixelcode @guenther @kenji Kleines Problem, praktisch alle maschinellen Übersetzungssysteme sind technisch LLM, nur anders trainiert, und kleinere Modelle. State of the Art. Alles ohne ist praktisch nicht in der Lage einfachsten Kontext einzubeziehen.

Und in der Praxis, ist das ein Bereich wo genau ein Chat sinnvoll ist, selbst ohne Recherchefähigkeiten, um eben Nuancen der Übersetzung (weil eben Sprachen nicht 1:1 übersetzbar sind) abzufragen.

Frei nach dem Motto, wenn dem User die Übersetzung komisch vorkommt im Kontext, dann kann man in einem vollen LLM Chat (die sind praktisch alle mehrsprachig) eben nachhaken, was ist denn der Bedeutungs- und Deutungsspielraum für die Quelle für diesen Satz „...“ hier?

@yacc143 @guenther @kenji Das stimmt so nicht: https://social.tchncs.de/@pixelcode/115894176659014022

Pixelcode 🇺🇦 (@[email protected])

@[email protected] @[email protected] It's probably neural machine translation just like before the rise of LLMs. For example, DeepL (launched in 2017) uses a convolutional neural network (CNN) trained with the Linguee database, according to Wikipedia. https://en.wikipedia.org/wiki/Machine_translation https://en.wikipedia.org/wiki/DeepL_Translator

Mastodon

https://en.wikipedia.org/wiki/Transformer_(deep_learning)

@pixelcode @guenther @kenji Transformers have the advantage of having no recurrent units, therefore requiring less training time than earlier recurrent neural architectures (RNNs) such as long short-term memory (LSTM).[3] Later variations have been widely adopted for training large language models (LLMs) on large (language) datasets

Technisch sehr nahe an dem, was auch ChatGPT antreibt.

Und Teil des AI-Curriculum und im ersten Durchlauf kriegt man das im selben Fach.

Transformer (deep learning) - Wikipedia

https://en.wikipedia.org/wiki/Convolutional_neural_network

@yacc143 @guenther @kenji Das mag ja sein, erklärt aber nicht, was CNNs (z.B. von DeepL eingesetzt) mit Transformern zu tun haben. 🤔

„CNNs are the de-facto standard in deep learning-based approaches to computer vision and image processing, and have only recently been replaced—in some cases—by newer architectures such as the transformer.“

Convolutional neural network - Wikipedia

@pixelcode @guenther @kenji Laut Wikipedia:
**DeepL** is a German AI research company known for its language AI platform, which includes DeepL Translator and DeepL Voice, and for DeepL Agent, an AI agent capable of planning workflows and using office systems and tools autonomously, in response to natural language instructions. Its algorithm uses the transformer architecture
Ich habe mich nur durch geklickt.
https://en.wikipedia.org/wiki/DeepL_Translator
Zu gegeben das ist der Stand 2021, die verlinkte DeepL Seite

DeepL Translator - Wikipedia

https://www.deepl.com/en/blog/how-does-deepl-work

sagt heute das sie eine "custom architecture" verwenden die besser ist als die typischerweise verwendete Transformer Architektur.

DeepL uses custom neural network architectures for neural machine translation, producing more natural, context-aware output than typical Transformer-based systems.

Sorry, 2018 waren CNN cool, aber transformer sind für Übersetzung schon seit paar Jahren (nagel mich trotzdem nicht fest ich hab ein berüchtigt schlechtes Zeitgedächtnis) normal.

DeepL for iOS: accurate translation and writing improvement

Get free text, photo, voice, and document translation for your iPhone. Download the DeepL mobile app to read and write in foreign languages on-the-go.

@yacc143 Ah, dann ist der deutsche Wikipedia-Artikel zu DeepL veraltet. Weißt du, was für eine Art von Modell Firefox zum lokalen Übersetzen benutzt?

(Auch wenn Transformer heutzutage sehr beliebt sind und mit LLMs verwandt sind, finde ich die Aussage, Übersetzer seien per se LLMs, verkürzend.)

@pixelcode Keine Ahnung. Aber ja, die UI von Wikipedia ist etwas irreführend -> es wird so dargestellt als gäbe es n Sprachversionen eines Artikels.

In Wirklichkeit gibt es n Sprachversionen der Wikipedia.

Das bedeutet nicht nur, dass die Sprachversionen unterschiedlich alt sein können, unterschiedlichen Umfang, nein sie sind von unterschiedlichen Autoren und unterliegen gelegentlich unterschiedlichen Richtlinien (z.B. was Wikipedia-Aufnahme-würdig ist, etc.)

Aber im Prinzip ist das alles irrelevant, weil die Policy einen Hasenfuß hat, den gerade eine juristische Fakultät sofort erkennen sollte.

Sie tun so, als wäre das Buzzword #AI definiert.

Aber es gibt im Jahre 2026 kaum ein Wort das diffusere Semantik hat.

Ich baue gerade ein System, das intern auch ein LLM oder zwei verwendet. Wir verwenden mit Absicht in keiner Marketing-Unterlage die Buchstaben AI/KI. Bedeutungslos.