Ликбез о плавающей точке: сложение, катастрофическое сокращение и бабушка Кэхена

Давайте продолжим обсуждение самой неоптимизированной в мире 32-битной библиотеки для работы с плавающей запятой TinyFloat . Библиотека написана на C++ и намеренно избегает встроенных типов плавающей запятой, полагаясь исключительно на 32-битные целые числа. Цель состоит в том, чтобы сделать код максимально читабельным — без бит-хаков и хитроумных уловок. Кроме того, я хочу иметь подробную документацию о том, что происходит «под капотом». Оказалось, что лучший способ документировать код C++ — это полностью переписать его на Python :) Это третья статья из цикла, первые две читать тут и тут .

https://habr.com/ru/articles/967686/

#float #плавающая_точка #программирование #floating_point #Kahan_summation #catastrophic_cancellation

Ликбез о плавающей точке: сложение, катастрофическое сокращение и бабушка Кэхена

Давайте продолжим обсуждение самой неоптимизированной в мире 32-битной библиотеки для работы с плавающей запятой TinyFloat . Библиотека написана на C++ и намеренно избегает встроенных типов плавающей...

Хабр