Before you continue

Before you continue

RT @kis: Bei LFM2.5-8B-A1B gibt es nur 6 Aufmerksamkeitslayer in den 24 Layern insgesamt, wĂ€hrend der Rest auf Faltungen basiert. Dadurch lĂ€sst sich der Speicherverbrauch des KV-Caches erheblich reduzieren. Die ersten beiden Layer sind als Dense-Layer ausgefĂŒhrt, was die LeistungsfĂ€higkeit auch bei A1B weniger beeintrĂ€chtigt. Die verbleibenden 22 Layer nutzen MoE.

mehr auf Arint.info

#A1B #DeepLearning #KVCache #LFM2 #MoE #Transformer #arint_info

https://x.com/kis/status/2060688306900496700#m

Arint - SEO+KI (@[email protected])

<p>RT @kis: Bei LFM2.5-8B-A1B gibt es nur 6 Aufmerksamkeitslayer in den 24 Layern insgesamt, wĂ€hrend der Rest auf Faltungen basiert. Dadurch lĂ€sst sich der Speicherverbrauch des KV-Caches erheblich reduzieren. Die ersten beiden Layer sind als Dense-Layer ausgefĂŒhrt, was die LeistungsfĂ€higkeit auch bei A1B weniger beeintrĂ€chtigt. Die verbleibenden 22 Layer nutzen MoE.</p> <p><a href="https://arint.info/@Arint/116667192843676683">mehr</a> auf <a href="https://arint.info/">Arint.info</a></p> <p>#A1B #DeepLearning #KVCache #LFM2 #MoE #Transformer #arint_info</p> <p><a href="https://x.com/kis/status/2060688306900496700#m">https://x.com/kis/status/2060688306900496700#m</a></p>

Mastodon Glitch Edition

Transformers im Detail: Das Heise‑Online‑Feature erklĂ€rt, welche Mathematik LLMs antreibt.

- **Attention** nutzt Softmax‑Gewichtungen, um Tokens kontextabhĂ€ngig zu fokussieren.
- Lineare Transformationsmatrizen und Bias‑Korrekturen formen die ReprĂ€sentationen.
- Optimierer + Regularisierung halten das Modell stabil, doch Skalierbarkeit bleibt die grĂ¶ĂŸte HĂŒrde.

#KI #MachineLearning #Transformer #Datenschutz #DezentralitÀt

🔗 https://news.google.com/rss/articles/CBMinAFBVV95cUxQaDl4SHkwMlhOMjl2Um83UEFkbzM2aFVTQVgzS3BidDdLand2VE0tbjhjZ2NrNl9OWEdtWkVIX0ZXZ0lIZkNCY1RvM1ZmVVBXdTUxa1EtMXBKbklGU2YwSml3eVFvaFZWak1NRWxGY2wzelpPUlA3Y3N0VHYyNVhpdGVpdHdPYXlORlAwbTF3UjhPT1N3NnplcWxZb3c?oc=5

Before you continue

Arint - SEO+KI (@[email protected])

<p>RT @DataChaz: Vergiss das Rauschen.</p> <p><a href="https://arint.info/@Arint/116640299341783989">mehr</a> auf <a href="https://arint.info/">Arint.info</a></p> <p>#DeepLearning #KI #LLM #MachineLearning #Stanford #Transformer #arint_info</p> <p><a href="https://x.com/DataChaz/status/2057760731421081771#m">https://x.com/DataChaz/status/2057760731421081771#m</a></p>

Mastodon Glitch Edition

LLM ARCHITECTURE SEES RAPID SHIFT

SubQ LLM's new Subquadratic Sparse Attention (SSA) works faster for long texts. It helps AI handle more information and could change how AI is used.

#LLM #AI #SubQ #Transformer #ArtificialIntelligence

https://newsletter.tf/new-llm-faster-attention-changes-ai/

A new AI model called SubQ uses a faster way to process long texts, making it much more efficient than older models. This could lead to AI that understands more.

#LLM #AI #SubQ #Transformer #ArtificialIntelligence
https://newsletter.tf/new-llm-faster-attention-changes-ai/

New LLM Uses Faster Attention, Changes AI

SubQ LLM's new Subquadratic Sparse Attention (SSA) works faster for long texts. It helps AI handle more information and could change how AI is used.

NewsletterTF

Ils exposent leur douleur. Mais ils pourraient transformer leur vie.

Chaque jour, des milliers de personnes ouvrent leurs réseaux sociaux pour déposer leur souffrance.

Ils exposent leur douleur. Mais ils pourraient transformer leur vie.

par Khalid Akayousse22 mai 2026

Ils Exposent Leur Douleur
 Mais Refusent de Se Rencontrer

par Khalid Akayousse22 mai 2026

Tu critiques les autres pour éviter de te voir

par Khalid Akayousse21 mai 2026

Tu Refuses D’Être Libre

par Khalid Akayousse21 mai 2026

MON METIER, MA PASSION

par Khalid Akayousse19 mai 2026

Tu Te Mens Mieux Que Personne

par Khalid Akayousse19 mai 2026

Ce Que Tu Nourris En Silence
 Dirige Toute Ta Vie

par Khalid Akayousse19 mai 2026

Tu As Peur De RĂ©ussir Autant Que D’Échouer

par Khalid Akayousse19 mai 2026

L’attachement discret à l’inconfort

par Khalid Akayousse19 mai 2026

Les Ă©motions refoulĂ©es dĂ©truisent plus de vies que l’échec

par Khalid Akayousse19 mai 2026

Ce Vide Qui Te Suit Partout

par Khalid Akayousse18 mai 2026

Personne Ne Te Le Dira Comme Ça

par Khalid Akayousse18 mai 2026

BON VISIONNAGE

par Khalid Akayousse18 mai 2026

La Conversation Hypnotique : L’Arme Douce Contre Le Mal-Être

par Khalid Akayousse17 mai 2026

Personne Ne Te Retient. Tu Te Retiens Seul.

par Khalid Akayousse17 mai 2026

Vous Croyez RĂ©flĂ©chir
 Mais C’est Votre Subconscient Qui DĂ©cide

par Khalid Akayousse17 mai 2026

Hypnose Conversationnelle Ou Conversation Hypnotique ? La Différence Qui Change Tout

par Khalid Akayousse17 mai 2026

Ils Cherchent Des Solutions Rapides
 Mais Ignorent L’Essentiel

par Khalid Akayousse17 mai 2026

Tu Réclames Du Respect
 Mais Tu Ne Te Respectes Pas

par Khalid Akayousse17 mai 2026

Tu Attends Le Bon Moment
 Il Ne Viendra Pas

par Khalid Akayousse13 mai 2026

Ton passé dirige encore ta vie

par Khalid Akayousse13 mai 2026

Un Jour, Ton Corps Dira Stop À Ta Place

par Khalid Akayousse11 mai 2026

Le Jour OĂč J’ai Compris Que Le Vide Parlait

par Khalid Akayousse11 mai 2026

Tu Appelles “Prudence” Ce Qui Est De La Peur

par Khalid Akayousse11 mai 2026

Tu N’es Pas Perdu. Tu Refuses D’Avancer.

par Khalid Akayousse10 mai 2026

Et Si Personne Ne Vivait Le MĂȘme Monde ?

par Khalid Akayousse10 mai 2026

Tout Peut Basculer

par Khalid Akayousse10 mai 2026

Et si


par Khalid Akayousse10 mai 2026

La vérité dérangeante sur ton mental et ta santé

par Khalid Akayousse9 mai 2026

Ils Vont Bien
 Jusqu’au Jour OĂč Ils Explosent

par Khalid Akayousse9 mai 2026

Une phrase triste.
Une story silencieuse.
Une vidéo remplie de colÚre ou de fatigue émotionnelle.

Et derriùre chaque publication


Il y a souvent un cri que personne n’entend vraiment.

Le problùme n’est pas qu’ils parlent.
Le problĂšme, c’est l’endroit oĂč ils dĂ©posent leur douleur.

Parce qu’à force de montrer leur mal-ĂȘtre au monde entier
 ils finissent parfois par nourrir ce mal-ĂȘtre au lieu de le libĂ©rer.

Le piÚge invisible des réseaux sociaux

Les réseaux donnent une illusion de soulagement.

On publie.
On reçoit quelques réactions.
Quelques “courage”.
Quelques likes.

Pendant quelques minutes, on se sent vu.

Mais ensuite ?

Le vide revient.

Parfois encore plus fort.

Parce qu’un cƓur brisĂ© ne se rĂ©pare pas avec des notifications.

Et beaucoup tombent dans un cercle dangereux :

Plus ils souffrent, plus ils exposent leur souffrance.
Et plus ils exposent leur souffrance, plus leur identité finit par fusionner avec cette douleur.

Ils ne cherchent plus Ă  sortir du mal-ĂȘtre.

Ils cherchent inconsciemment Ă  ĂȘtre reconnus Ă  travers lui.

L’énergie qu’ils perdent pourrait les reconstruire

Ce qui me frappe aujourd’hui


C’est la quantitĂ© d’énergie Ă©motionnelle que les gens dĂ©pensent Ă  raconter leur souffrance sans jamais la transformer.

Des heures Ă  ressasser.
À revivre.
À expliquer encore et encore ce qu’ils ont subi.

Mais cette énergie


Elle pourrait devenir une force immense.

Une force capable de dénouer des blessures profondes.

Une force capable de reconnecter une personne Ă  elle-mĂȘme.

C’est exactement ce que permet la conversation hypnotique.

La conversation hypnotique ne fait pas “oublier”

Beaucoup pensent que l’hypnose sert à effacer la douleur.

C’est faux.

La conversation hypnotique permet surtout de regarder autrement ce qui détruit intérieurement.

Elle agit lĂ  oĂč les discours classiques Ă©chouent.

Parce que le vrai problùme n’est pas toujours la souffrance.

Le vrai problĂšme, c’est la maniĂšre dont le cerveau s’est enfermĂ© dedans.

Certaines personnes parlent de leur passé depuis 10 ans

Mais émotionnellement, elles vivent encore dedans chaque jour.

Elles rĂ©pĂštent les mĂȘmes phrases.
Les mĂȘmes douleurs.
Les mĂȘmes scĂ©narios.

Comme si leur esprit tournait en boucle.

Et cette boucle devient leur prison.

Quand la douleur devient une identité

C’est là le danger le plus silencieux.

À force d’exposer leur souffrance publiquement, certaines personnes finissent par ne plus savoir qui elles sont sans elle.

Elles deviennent “la personne trahie”.
“La personne abandonnĂ©e”.
“La personne dĂ©pressive”.
“La personne dĂ©truite”.

Le mal-ĂȘtre prend toute la place.

Et plus le temps passe, plus sortir de cet état devient difficile.

Parce qu’inconsciemment, le cerveau protĂšge mĂȘme ce qui fait souffrir
 lorsqu’il s’y est habituĂ©.

Ce que je vois dans mes accompagnements

Je vois souvent des personnes épuisées émotionnellement.

Des personnes qui ont tout essayé.

Parler.
Pleurer.
Publier.
Se plaindre.
Faire semblant d’aller bien.

Mais Ă  l’intĂ©rieur


Rien ne change vraiment.

Alors je les amĂšne ailleurs.

Je les aide à écouter ce que leur douleur essaie réellement de dire.

Sans jugement.
Sans masque.
Sans spectacle.

Et parfois, en quelques échanges profonds, quelque chose bascule.

Le poids diminue.
Le regard change.
L’esprit respire enfin.

La vraie question

Et si le problĂšme n’était pas la souffrance


Mais l’endroit oĂč les gens cherchent Ă  la dĂ©poser ?

Parce qu’un rĂ©seau social peut exposer une douleur.

Mais il ne peut pas réparer une ùme fatiguée.

La conversation hypnotique, elle, ouvre une porte différente.

Une porte intérieure.

Et beaucoup ignorent encore qu’elle existe
 jusqu’au jour oĂč leur propre souffrance devient impossible Ă  porter.

Pourquoi Certaines Personnes Attirent Toujours Les Mauvaises Relations

par Khalid Akayousse9 mai 2026

Ose Regarder À L’IntĂ©rieur

par Khalid Akayousse9 mai 2026

Le Courage D’Être Soi

par Khalid Akayousse9 mai 2026

Se Choisir Sans Culpabiliser

par Khalid Akayousse9 mai 2026

Refuser Cette Conversation, C’est Peut-Être Choisir de Rester BloquĂ©

par Khalid Akayousse9 mai 2026

Cette conversation pourrait te déranger
 mais te libérer

par Khalid Akayousse8 mai 2026

Le Passé Leur Vole Leur Vie

par Khalid Akayousse8 mai 2026

J’ai tellement de choses à te dire


par Khalid Akayousse7 mai 2026

Tu sais quoi
 tu n’es pas prĂȘt Ă  voir ce qui te bloque vraiment

par Khalid Akayousse7 mai 2026

Tout est émotions. Et si tu passais à cÎté de ta propre vie ?

par Khalid Akayousse7 mai 2026

Et si la bonne humeur était une décision ?

par Khalid Akayousse7 mai 2026

La conversation
 quoi ?

par Khalid Akayousse7 mai 2026

La conversation
 que tu évites (et qui te maintient là)

par Khalid Akayousse7 mai 2026

Tu culpabilises
 ou tu es manipulé ?

par Khalid Akayousse5 mai 2026

Tu veux avoir raison
 ou rester en paix ?

par Khalid Akayousse5 mai 2026

Ce n’est pas contre toi


par Khalid Akayousse4 mai 2026

Tu As Abandonné La Version Courageuse De Toi

par Khalid Akayousse4 mai 2026

La vĂ©ritĂ© que personne ne t’a jamais dite sur le mal-ĂȘtre

par Khalid Akayousse4 mai 2026

Voyage au cƓur de votre esprit : comprendre vos pensĂ©es profondes

par Khalid Akayousse4 mai 2026

Les clĂ©s secrĂštes pour apaiser votre mental et retrouver l’harmonie

par Khalid Akayousse4 mai 2026

Comment écouter la voix de votre ùme pour retrouver la paix intérieure

par Khalid Akayousse3 mai 2026

La douceur cachée derriÚre ta colÚre

par Khalid Akayousse3 mai 2026

Tu te caches derriĂšre des excuses

par Khalid Akayousse3 mai 2026

Tu attends encore
 quoi exactement ?

par Khalid Akayousse2 mai 2026

Développement personnel : assez de faux miracles

par Khalid Akayousse2 mai 2026

Croyance ou spiritualité : la différence qui change tout

par Khalid Akayousse2 mai 2026

Pourquoi tu rĂ©pĂštes toujours les mĂȘmes schĂ©mas de vie
 et comment en sortir

par Khalid Akayousse1 mai 2026

Décrypter les messages de votre inconscient en 3 étapes

par Khalid Akayousse1 mai 2026

Le passé ne meurt jamais

par Khalid Akayousse1 mai 2026

Les 3 piĂšges invisibles qui bloquent votre bien-ĂȘtre

par Khalid Akayousse1 mai 2026

La conversation hypnotique, c’est une maniĂšre de parler qui utilise des mots simples, des images et des suggestions pour contourner les rĂ©sistances conscientes et toucher directement l’inconscient.

En clair :
C’est une conversation naturelle qui amĂšne la personne Ă  se dĂ©tendre, lĂącher prise et voir autrement ce qu’elle vit, sans qu’elle ait l’impression d’ĂȘtre “hypnotisĂ©e”.

Elle permet de :

  • apaiser les Ă©motions
  • changer une perception
  • ouvrir de nouvelles possibilitĂ©s intĂ©rieures

On pourrait résumer en une phrase :
Parler autrement pour permettre Ă  l’autre de ressentir et changer profondĂ©ment, sans forcer.

#accompagner #ailleurs #ùme #énergie #conversationHypnotique #douleur #exposer #fatiguer #identité #intérieur #invisible #oublier #perdre #piÚge #question #reconstruire #souffrir #transformer #vie #vrai

CODA: Rewriting Transformer Blocks as GEMM-Epilogue Programs

https://arxiv.org/abs/2605.19269

#HackerNews #CODA #Transformer #GEMM-Epilogue #AI #Research #MachineLearning

CODA: Rewriting Transformer Blocks as GEMM-Epilogue Programs

Transformer training systems are built around dense linear algebra, yet a nontrivial fraction of end-to-end time is spent on surrounding memory-bound operators. Normalization, activations, residual updates, reductions, and related computations repeatedly move large intermediate tensors through global memory while performing little arithmetic, making data movement an increasingly important bottleneck in otherwise highly optimized training stacks. We introduce CODA, a GPU kernel abstraction that expresses these computations as GEMM-plus-epilogue programs. CODA is based on the observation that many Transformer operators exposed as separate framework kernels can be algebraically reparameterized to execute while a GEMM output tile remains on chip, before it is written to memory. The abstraction fixes the GEMM mainloop and exposes a small set of composable epilogue primitives for scaling, reductions, pairwise transformations, and accumulation. This constrained interface preserves the performance structure of expert-written GEMMs while remaining expressive enough to cover nearly all non-attention computation in the forward and backward pass of a standard Transformer block. Across representative Transformer workloads, both human- and LLM-authored CODA kernels achieve high performance, suggesting that GEMM-plus-epilogue programming offers a practical path toward combining framework-level productivity with hardware-level efficiency.

arXiv.org

In our #KDAI2026 lecture this week we were taking a tour de force from perceptrons to transformers, 60 years of neural networks in a ninety minutes lecture.

#lecture @fiz_karlsruhe @fizise @KIT_Karlsruhe #AI #llms #perceptron #neuralnetwork #transformer #bert #gpt #lstm #rnn #transferlearning #machinelearning #cowboybebop