Нейронные аудиокодеки: мощное сжатие звука с помощью LLM

В июле 2024 года французская компания Kyutai опубликовала речевую модель Moshi с нейронным аудиокодеком Mimi. Это был первый в мире голосовой end-to-end AI с открытыми исходниками, способный вести диалог в реальном времени и свободный для использования всеми желающими, демо . Вместо прямого предсказания сэмплов аудиокодек работает в три этапа: 1. Токенизация звука. 2. Предсказание следующих токенов в LLM. 3. Восстановление оригинала.

https://habr.com/ru/companies/ruvds/articles/1040026/

#float #double #fc #архиваторы #IEEE754 #метаархиватор #Mimi #tiktoken #семантические_токены #ruvds_статьи

Why 0.1 + 0.2 Doesn't Equal 0.3 - Floating Point Explained

https://makertube.net/w/o6DgKtxsYbUcueACenFwNc

The existence of Godzilla Minus Zero implies the existance of:

* Godzilla Plus Infinity
* Godzilla Minus Infinity
* Denormalized Godzilla
* Godzilla NaN

https://www.youtube.com/watch?v=n-NDYWPXpKg

#godzilla #godzillaMinusZero #toho #shinGodzilla #nan #ieee #ieee754

RISC-VではF拡張にFMIN.S / FMAX.Sがあり、IEEE 754-2019のminimumNumber / maximumNumberに相当する。また、Zfa拡張にFMINM.S / FMAXM.Sがあり、minimum / maximumに相当する。

また、D拡張を実装していればFMIN.D / FMAX.Dが、D拡張とZfa拡張を実装していればFMINM.D / FMAXM.Dが、Q拡張を実装していればFMIN.QとFMAX.Qが、Q拡張とZfa拡張を実装していればFMINM.QとFMAXM.Qが、Zfh拡張を実装していればFMIN.H / FMAX.Hが、Zfh拡張とZfa拡張を実装していればFMINM.H / FMAXM.Hがある。

（古い実装ではFMIN.*とFMAX.*がIEEE 754-2008のminNum / maxNumに相当する。実機を色々集めてどちらの実装になっているか確認するのも少し面白そう。）

（2020-05）浮動小数点数の min / max #IEEE754 - Qiita
https://qiita.com/mod_poppo/items/41a09bd40acfceec6ec8

What Every Computer Scientist Should Know about Floating-Point Arithmetic [pdf]

https://www.itu.dk/~sestoft/bachelor/IEEE754_article.pdf

#HackerNews #FloatingPointArithmetic #ComputerScience #IEEE754 #ProgrammingKnowledge #TechEducation

Might publish a blog or two in a few weeks about my work with OpenFOAM, different profilers, and an implementation of an LBM CFD kernel on RISC-V with POSITS.

What a great company to be working for. Learning so much!

#posit #RISCV #cfd #openfoam #lbm #cfd #scientificcomputing #profiler #Linux #blog #technicalblog #ieee754 #calligotech

I just released decimal-java 2.0.1, https://github.com/FirebirdSQL/decimal-java/releases/tag/v2.0.1. Decimal-java is a library to convert java.math.BigDecimal to and from IEEE-754r (IEEE-754-2008) decimal byte representations.

Compared to decimal-java 2.0.0, this version adds JSpecify nullability annotations.

#decimal #ieee754 #java