pvergain (kolektiva)- https://legrandcontinent.eu/fr/2025/11/12/que-sont-les-trm-apres-les-llm-comprendre-la-future-revolution-de-lia/ (Que sont les « TRM » ? Après les LLM, comprendre la future révolution de l’IA, par Alexia Jolicoeur-Martineau )
--<--
Contrairement aux Large Language Models (LLM) préentraînés s’appuyant sur d’énormes corpus de données — web, code, livres, documents scientifiques —, les Tiny Recursive Models (TRM) utilisent une ingénierie plus ciblée — deep supervision, deep recursion, data augmentation. Comment décririez-vous les innovations principales de votre papier, leurs fonctions et les principaux résultats qui en découlent ?
L’idée des TRM, c’est qu’un petit modèle peut raisonner récursivement pour mettre à jour sa réponse.
Un LLM, ce que tout le monde utilise aujourd’hui, doit générer ses réponses un token à la fois , ce qui équivaut à un demi-mot à la fois ; s’il fait une seule erreur, la suite du raisonnement est faussée car l’erreur se propage. Par exemple, s’il fait 1+1 = 3, toute la suite du raisonnement est invalidée à cause du 3 qui va propager l’erreur.
En mettant à jour sa réponse et en réfléchissant récursivement à propos de sa réponse, il est possible d’enlever des erreurs.
Si le TRM fait des erreurs, il peut revenir sur ses pas — c’est ce qu’on appelle le backtrack — puis changer sa réponse. Cela lui permet d’attendre d’avoir une bonne réponse et de la peaufiner avant de la générer ; à la différence des LLM, le TRM génère sa réponse d’un coup, et non un token à la fois.
Le TRM est un tout petit modèle : l’idée est que son caractère récursif lui permet de raisonner davantage mais avec très peu de paramètres. Il dispose ainsi de 10 000 fois moins de paramètres qu’un LLM classique et est 1000 fois plus rapide — même si les chiffres sont difficiles à estimer.
-->--
IA : après les LLM, les TRM sont-ils la future révolution de l'IA ?
C’est avec les LLM comme ChatGPT que l’IA est entrée dans nos vies. Mais ces modèles montrent aujourd’hui leurs limites : la nouvelle frontière remplace le langage par le raisonnement. Dans un papier scientifique dont la publication a fait exploser la capitalisation de Samsung de plus de 60 milliards de dollars, Alexia Jolicoeur-Martineau propose un autre futur pour l’IA : les « TRM ». Explications.
Hacker News