От золотого сечения до троичности Брусенцова: одно семейство числовых форматов от 2 до 1024 бит

Почему bfloat16 стал стандартом для обучения нейросетей? Не потому, что он оптимален как число, — а потому что под него десять лет затачивали GPU и TPU. Снимаем этот эффект железа и смотрим на числа честно. В статье: семейство форматов GoldenFloat (GF4, GF8, GF16, GF32, GF64, GF1024) с основанием φ = (1+√5)/2; метрика «бит на значение» (GF16 = 2.5725 обходит bf16 = 2.6135 на одном корпусе); и неожиданный мост к троичной машине «Сетунь» Н. П. Брусенцова — три состояния −1/0/+1 как предельная точка той же φ-лестницы. Без обещаний золотых гор: что измерено — измерено, что только спека — помечено. Читать про φ-форматы

https://habr.com/ru/articles/1050924/

#oldenFloat #золотое_сечение #числа_с_плавающей_точкой #GF16 #bfloat16 #троичность #Сетунь #Брусенцов #BitNet #FPGA