đ„ TRENDING
đą Generative Modelle: VAE, GAN, Diffusion, Transformer, NeRF - Computer Weekly
#Generative #Modelle #Diffusion #Transformer #GlobalFeed #News #DE
*Automatisch gepostet von Global Feed Bot*
đ„ TRENDING
đą Generative Modelle: VAE, GAN, Diffusion, Transformer, NeRF - Computer Weekly
#Generative #Modelle #Diffusion #Transformer #GlobalFeed #News #DE
*Automatisch gepostet von Global Feed Bot*
đ„ TRENDING
đą Generative Modelle: VAE, GAN, Diffusion, Transformer, NeRF - Computer Weekly
#Generative #Modelle #Diffusion #Transformer #GlobalFeed #News #DE
*Automatisch gepostet von Global Feed Bot*
RT @kis: Bei LFM2.5-8B-A1B gibt es nur 6 Aufmerksamkeitslayer in den 24 Layern insgesamt, wĂ€hrend der Rest auf Faltungen basiert. Dadurch lĂ€sst sich der Speicherverbrauch des KV-Caches erheblich reduzieren. Die ersten beiden Layer sind als Dense-Layer ausgefĂŒhrt, was die LeistungsfĂ€higkeit auch bei A1B weniger beeintrĂ€chtigt. Die verbleibenden 22 Layer nutzen MoE.
mehr auf Arint.info
#A1B #DeepLearning #KVCache #LFM2 #MoE #Transformer #arint_info
<p>RT @kis: Bei LFM2.5-8B-A1B gibt es nur 6 Aufmerksamkeitslayer in den 24 Layern insgesamt, wĂ€hrend der Rest auf Faltungen basiert. Dadurch lĂ€sst sich der Speicherverbrauch des KV-Caches erheblich reduzieren. Die ersten beiden Layer sind als Dense-Layer ausgefĂŒhrt, was die LeistungsfĂ€higkeit auch bei A1B weniger beeintrĂ€chtigt. Die verbleibenden 22 Layer nutzen MoE.</p> <p><a href="https://arint.info/@Arint/116667192843676683">mehr</a> auf <a href="https://arint.info/">Arint.info</a></p> <p>#A1B #DeepLearning #KVCache #LFM2 #MoE #Transformer #arint_info</p> <p><a href="https://x.com/kis/status/2060688306900496700#m">https://x.com/kis/status/2060688306900496700#m</a></p>
Transformers im Detail: Das HeiseâOnlineâFeature erklĂ€rt, welche Mathematik LLMs antreibt.
- **Attention** nutzt SoftmaxâGewichtungen, um Tokens kontextabhĂ€ngig zu fokussieren.
- Lineare Transformationsmatrizen und BiasâKorrekturen formen die ReprĂ€sentationen.
- Optimierer + Regularisierung halten das Modell stabil, doch Skalierbarkeit bleibt die gröĂte HĂŒrde.
#KI #MachineLearning #Transformer #Datenschutz #DezentralitÀt
RT @DataChaz: Vergiss das Rauschen.
mehr auf Arint.info
#DeepLearning #KI #LLM #MachineLearning #Stanford #Transformer #arint_info
<p>RT @DataChaz: Vergiss das Rauschen.</p> <p><a href="https://arint.info/@Arint/116640299341783989">mehr</a> auf <a href="https://arint.info/">Arint.info</a></p> <p>#DeepLearning #KI #LLM #MachineLearning #Stanford #Transformer #arint_info</p> <p><a href="https://x.com/DataChaz/status/2057760731421081771#m">https://x.com/DataChaz/status/2057760731421081771#m</a></p>
LLM ARCHITECTURE SEES RAPID SHIFT
SubQ LLM's new Subquadratic Sparse Attention (SSA) works faster for long texts. It helps AI handle more information and could change how AI is used.
A new AI model called SubQ uses a faster way to process long texts, making it much more efficient than older models. This could lead to AI that understands more.
#LLM #AI #SubQ #Transformer #ArtificialIntelligence
https://newsletter.tf/new-llm-faster-attention-changes-ai/
Ils exposent leur douleur. Mais ils pourraient transformer leur vie.
Chaque jour, des milliers de personnes ouvrent leurs réseaux sociaux pour déposer leur souffrance.
Ils exposent leur douleur. Mais ils pourraient transformer leur vie.
par Khalid Akayousse22 mai 2026Ils Exposent Leur Douleur⊠Mais Refusent de Se Rencontrer
par Khalid Akayousse22 mai 2026Tu critiques les autres pour éviter de te voir
par Khalid Akayousse21 mai 2026 par Khalid Akayousse21 mai 2026 par Khalid Akayousse19 mai 2026 par Khalid Akayousse19 mai 2026Ce Que Tu Nourris En Silence⊠Dirige Toute Ta Vie
par Khalid Akayousse19 mai 2026Tu As Peur De RĂ©ussir Autant Que DâĂchouer
par Khalid Akayousse19 mai 2026Lâattachement discret Ă lâinconfort
par Khalid Akayousse19 mai 2026Les Ă©motions refoulĂ©es dĂ©truisent plus de vies que lâĂ©chec
par Khalid Akayousse19 mai 2026 par Khalid Akayousse18 mai 2026Personne Ne Te Le Dira Comme Ăa
par Khalid Akayousse18 mai 2026 par Khalid Akayousse18 mai 2026La Conversation Hypnotique : LâArme Douce Contre Le Mal-Ătre
par Khalid Akayousse17 mai 2026Personne Ne Te Retient. Tu Te Retiens Seul.
par Khalid Akayousse17 mai 2026Vous Croyez RĂ©flĂ©chir⊠Mais Câest Votre Subconscient Qui DĂ©cide
par Khalid Akayousse17 mai 2026Hypnose Conversationnelle Ou Conversation Hypnotique ? La Différence Qui Change Tout
par Khalid Akayousse17 mai 2026Ils Cherchent Des Solutions Rapides⊠Mais Ignorent LâEssentiel
par Khalid Akayousse17 mai 2026Tu Réclames Du Respect⊠Mais Tu Ne Te Respectes Pas
par Khalid Akayousse17 mai 2026Tu Attends Le Bon Moment⊠Il Ne Viendra Pas
par Khalid Akayousse13 mai 2026Ton passé dirige encore ta vie
par Khalid Akayousse13 mai 2026Un Jour, Ton Corps Dira Stop Ă Ta Place
par Khalid Akayousse11 mai 2026Le Jour OĂč Jâai Compris Que Le Vide Parlait
par Khalid Akayousse11 mai 2026Tu Appelles âPrudenceâ Ce Qui Est De La Peur
par Khalid Akayousse11 mai 2026Tu Nâes Pas Perdu. Tu Refuses DâAvancer.
par Khalid Akayousse10 mai 2026Et Si Personne Ne Vivait Le MĂȘme Monde ?
par Khalid Akayousse10 mai 2026 par Khalid Akayousse10 mai 2026 par Khalid Akayousse10 mai 2026La vérité dérangeante sur ton mental et ta santé
par Khalid Akayousse9 mai 2026Ils Vont Bien⊠Jusquâau Jour OĂč Ils Explosent
par Khalid Akayousse9 mai 2026Une phrase triste.
Une story silencieuse.
Une vidéo remplie de colÚre ou de fatigue émotionnelle.
Et derriĂšre chaque publicationâŠ
Il y a souvent un cri que personne nâentend vraiment.
Le problĂšme nâest pas quâils parlent.
Le problĂšme, câest lâendroit oĂč ils dĂ©posent leur douleur.
Parce quâĂ force de montrer leur mal-ĂȘtre au monde entier⊠ils finissent parfois par nourrir ce mal-ĂȘtre au lieu de le libĂ©rer.
Le piÚge invisible des réseaux sociaux
Les réseaux donnent une illusion de soulagement.
On publie.
On reçoit quelques réactions.
Quelques âcourageâ.
Quelques likes.
Pendant quelques minutes, on se sent vu.
Mais ensuite ?
Le vide revient.
Parfois encore plus fort.
Parce quâun cĆur brisĂ© ne se rĂ©pare pas avec des notifications.
Et beaucoup tombent dans un cercle dangereux :
Plus ils souffrent, plus ils exposent leur souffrance.
Et plus ils exposent leur souffrance, plus leur identité finit par fusionner avec cette douleur.
Ils ne cherchent plus Ă sortir du mal-ĂȘtre.
Ils cherchent inconsciemment Ă ĂȘtre reconnus Ă travers lui.
LâĂ©nergie quâils perdent pourrait les reconstruire
Ce qui me frappe aujourdâhuiâŠ
Câest la quantitĂ© dâĂ©nergie Ă©motionnelle que les gens dĂ©pensent Ă raconter leur souffrance sans jamais la transformer.
Des heures Ă ressasser.
Ă revivre.
Ă expliquer encore et encore ce quâils ont subi.
Mais cette Ă©nergieâŠ
Elle pourrait devenir une force immense.
Une force capable de dénouer des blessures profondes.
Une force capable de reconnecter une personne Ă elle-mĂȘme.
Câest exactement ce que permet la conversation hypnotique.
La conversation hypnotique ne fait pas âoublierâ
Beaucoup pensent que lâhypnose sert Ă effacer la douleur.
Câest faux.
La conversation hypnotique permet surtout de regarder autrement ce qui détruit intérieurement.
Elle agit lĂ oĂč les discours classiques Ă©chouent.
Parce que le vrai problĂšme nâest pas toujours la souffrance.
Le vrai problĂšme, câest la maniĂšre dont le cerveau sâest enfermĂ© dedans.
Certaines personnes parlent de leur passĂ© depuis 10 ansâŠ
Mais émotionnellement, elles vivent encore dedans chaque jour.
Elles rĂ©pĂštent les mĂȘmes phrases.
Les mĂȘmes douleurs.
Les mĂȘmes scĂ©narios.
Comme si leur esprit tournait en boucle.
Et cette boucle devient leur prison.
Quand la douleur devient une identité
Câest lĂ le danger le plus silencieux.
Ă force dâexposer leur souffrance publiquement, certaines personnes finissent par ne plus savoir qui elles sont sans elle.
Elles deviennent âla personne trahieâ.
âLa personne abandonnĂ©eâ.
âLa personne dĂ©pressiveâ.
âLa personne dĂ©truiteâ.
Le mal-ĂȘtre prend toute la place.
Et plus le temps passe, plus sortir de cet état devient difficile.
Parce quâinconsciemment, le cerveau protĂšge mĂȘme ce qui fait souffrir⊠lorsquâil sây est habituĂ©.
Ce que je vois dans mes accompagnements
Je vois souvent des personnes épuisées émotionnellement.
Des personnes qui ont tout essayé.
Parler.
Pleurer.
Publier.
Se plaindre.
Faire semblant dâaller bien.
Mais Ă lâintĂ©rieurâŠ
Rien ne change vraiment.
Alors je les amĂšne ailleurs.
Je les aide à écouter ce que leur douleur essaie réellement de dire.
Sans jugement.
Sans masque.
Sans spectacle.
Et parfois, en quelques échanges profonds, quelque chose bascule.
Le poids diminue.
Le regard change.
Lâesprit respire enfin.
La vraie question
Et si le problĂšme nâĂ©tait pas la souffranceâŠ
Mais lâendroit oĂč les gens cherchent Ă la dĂ©poser ?
Parce quâun rĂ©seau social peut exposer une douleur.
Mais il ne peut pas réparer une ùme fatiguée.
La conversation hypnotique, elle, ouvre une porte différente.
Une porte intérieure.
Et beaucoup ignorent encore quâelle existe⊠jusquâau jour oĂč leur propre souffrance devient impossible Ă porter.
Pourquoi Certaines Personnes Attirent Toujours Les Mauvaises Relations
par Khalid Akayousse9 mai 2026Ose Regarder Ă LâIntĂ©rieur
par Khalid Akayousse9 mai 2026 par Khalid Akayousse9 mai 2026 par Khalid Akayousse9 mai 2026Refuser Cette Conversation, Câest Peut-Ătre Choisir de Rester BloquĂ©
par Khalid Akayousse9 mai 2026Cette conversation pourrait te déranger⊠mais te libérer
par Khalid Akayousse8 mai 2026 par Khalid Akayousse8 mai 2026Jâai tellement de choses Ă te direâŠ
par Khalid Akayousse7 mai 2026Tu sais quoi⊠tu nâes pas prĂȘt Ă voir ce qui te bloque vraiment
par Khalid Akayousse7 mai 2026Tout est émotions. Et si tu passais à cÎté de ta propre vie ?
par Khalid Akayousse7 mai 2026Et si la bonne humeur était une décision ?
par Khalid Akayousse7 mai 2026 par Khalid Akayousse7 mai 2026La conversation⊠que tu évites (et qui te maintient là )
par Khalid Akayousse7 mai 2026Tu culpabilises⊠ou tu es manipulé ?
par Khalid Akayousse5 mai 2026Tu veux avoir raison⊠ou rester en paix ?
par Khalid Akayousse5 mai 2026 par Khalid Akayousse4 mai 2026Tu As Abandonné La Version Courageuse De Toi
par Khalid Akayousse4 mai 2026La vĂ©ritĂ© que personne ne tâa jamais dite sur le mal-ĂȘtre
par Khalid Akayousse4 mai 2026Voyage au cĆur de votre esprit : comprendre vos pensĂ©es profondes
par Khalid Akayousse4 mai 2026Les clĂ©s secrĂštes pour apaiser votre mental et retrouver lâharmonie
par Khalid Akayousse4 mai 2026Comment écouter la voix de votre ùme pour retrouver la paix intérieure
par Khalid Akayousse3 mai 2026La douceur cachée derriÚre ta colÚre
par Khalid Akayousse3 mai 2026Tu te caches derriĂšre des excuses
par Khalid Akayousse3 mai 2026Tu attends encore⊠quoi exactement ?
par Khalid Akayousse2 mai 2026Développement personnel : assez de faux miracles
par Khalid Akayousse2 mai 2026Croyance ou spiritualité : la différence qui change tout
par Khalid Akayousse2 mai 2026Pourquoi tu rĂ©pĂštes toujours les mĂȘmes schĂ©mas de vie⊠et comment en sortir
par Khalid Akayousse1 mai 2026Décrypter les messages de votre inconscient en 3 étapes
par Khalid Akayousse1 mai 2026 par Khalid Akayousse1 mai 2026Les 3 piĂšges invisibles qui bloquent votre bien-ĂȘtre
par Khalid Akayousse1 mai 2026La conversation hypnotique, câest une maniĂšre de parler qui utilise des mots simples, des images et des suggestions pour contourner les rĂ©sistances conscientes et toucher directement lâinconscient.
En clair :
Câest une conversation naturelle qui amĂšne la personne Ă se dĂ©tendre, lĂącher prise et voir autrement ce quâelle vit, sans quâelle ait lâimpression dâĂȘtre âhypnotisĂ©eâ.
Elle permet de :
On pourrait résumer en une phrase :
Parler autrement pour permettre Ă lâautre de ressentir et changer profondĂ©ment, sans forcer.
CODA: Rewriting Transformer Blocks as GEMM-Epilogue Programs
https://arxiv.org/abs/2605.19269
#HackerNews #CODA #Transformer #GEMM-Epilogue #AI #Research #MachineLearning

Transformer training systems are built around dense linear algebra, yet a nontrivial fraction of end-to-end time is spent on surrounding memory-bound operators. Normalization, activations, residual updates, reductions, and related computations repeatedly move large intermediate tensors through global memory while performing little arithmetic, making data movement an increasingly important bottleneck in otherwise highly optimized training stacks. We introduce CODA, a GPU kernel abstraction that expresses these computations as GEMM-plus-epilogue programs. CODA is based on the observation that many Transformer operators exposed as separate framework kernels can be algebraically reparameterized to execute while a GEMM output tile remains on chip, before it is written to memory. The abstraction fixes the GEMM mainloop and exposes a small set of composable epilogue primitives for scaling, reductions, pairwise transformations, and accumulation. This constrained interface preserves the performance structure of expert-written GEMMs while remaining expressive enough to cover nearly all non-attention computation in the forward and backward pass of a standard Transformer block. Across representative Transformer workloads, both human- and LLM-authored CODA kernels achieve high performance, suggesting that GEMM-plus-epilogue programming offers a practical path toward combining framework-level productivity with hardware-level efficiency.
In our #KDAI2026 lecture this week we were taking a tour de force from perceptrons to transformers, 60 years of neural networks in a ninety minutes lecture.
#lecture @fiz_karlsruhe @fizise @KIT_Karlsruhe #AI #llms #perceptron #neuralnetwork #transformer #bert #gpt #lstm #rnn #transferlearning #machinelearning #cowboybebop