RT @DailyDoseOfDS_: Verwandeln Sie jedes autoregressive LLM in ein Diffusions-LM. dLLM ist eine Python-Bibliothek, die das Training und die Auswertung von Diffusions-Sprachmodellen vereint. Sie können es auch nutzen, um JEDES autoregressive LM mit minimalem Rechenaufwand in ein Diffusions-LM zu verwandeln. 100% Open-Source. Video

mehr auf Arint.info

#AIResearch #DiffusionLM #dLLM #MachineLearning #OpenSource #Python #arint_info

https://x.com/DailyDoseOfDS_/status/2055581660067066068#m

RT @DailyDoseOfDS_: Verwandeln Sie jedes autoregressive LLM in ein Diffusions-LM. dLLM ist eine Python-Bibliothek, die das Training und die Evaluierung von Diffusions-Sprachmodellen vereint. Sie können es auch nutzen, um JEDES autoregressive LM mit minimalem Rechenaufwand in ein Diffusions-LM zu verwandeln. 100% Open-Source. Video

mehr auf Arint.info

#DiffusionLM #dLLM #LLM #MachineLearning #OpenSource #Python #arint_info

https://x.com/DailyDoseOfDS_/status/2055581660067066068#m

I'm testing a diffusion LLM

What's a diffusion LLM? The folks at Inception Labs have successfully married the method of AI image generation (diffusion) with LLMs, promising a much faster inference than with classic LLMs.

Today, I received my invitation for the beta phase, and boy, it's really fast! And, to my delight, it seems to be pretty well-versed in Go (except for small things like wanting to pre-declare interfaces in a package where it would make much more sense to have the package client declare it).

The model "Mercury Coder Small" has a rather small context window (32k) but this didn't prevent it from getting an overview of a project (a CLI tool) and suggest a few changes based on my wishes (again, with a tiny glitch: at one point, it touched completely unrelated code, but one prompt later, it rectified that action).

I'll go on exploring my Go codebases for a while and see how it works out.

#golang #dLLM