Habr2d ago

От золотого сечения до троичности Брусенцова: одно семейство числовых форматов от 2 до 1024 бит

Почему bfloat16 стал стандартом для обучения нейросетей? Не потому, что он оптимален как число, — а потому что под него десять лет затачивали GPU и TPU. Снимаем этот эффект железа и смотрим на числа честно. В статье: семейство форматов GoldenFloat (GF4, GF8, GF16, GF32, GF64, GF1024) с основанием φ = (1+√5)/2; метрика «бит на значение» (GF16 = 2.5725 обходит bf16 = 2.6135 на одном корпусе); и неожиданный мост к троичной машине «Сетунь» Н. П. Брусенцова — три состояния −1/0/+1 как предельная точка той же φ-лестницы. Без обещаний золотых гор: что измерено — измерено, что только спека — помечено. Читать про φ-форматы

https://habr.com/ru/articles/1050924/

#oldenFloat #золотое_сечение #числа_с_плавающей_точкой #GF16 #bfloat16 #троичность #Сетунь #Брусенцов #BitNet #FPGA

От золотого сечения до троичности Брусенцова: одно семейство числовых форматов от 2 до 1024 бит

От золотого сечения до троичности Брусенцова: одно семейство числовых форматов от 2 до 1024 бит — и что я в нём реально измерил Памяти Николая Петровича Брусенцова (7 февраля 1925 — 4 декабря 2014)....

Хабр
Jim | Cipher CTSJun 2

Spent the day working on a hardware workaround to bring ternary logic to current-gen systems. Say hello to the Ternary Adapter Module (TAM). 🧠💾

​The goal: A drop-in accelerator that lets true 3D volumetric ternary logic run seamlessly on standard binary motherboards via PCIe/M.2.

​By utilizing a hybrid bridge to translate binary inputs into balanced ternary states (-1, 0, +1), we can run complex AI matrix operations at a fraction of the power footprint. To solve the signaling overhead, I integrated VCSEL optical light pulses to manage the third state—keeping everything incredibly fast and completely free of traditional electrical noise.

​We don't need permission from big-tech silicone manufacturers to change how AI processes data. We just need an open slot.

​#TernaryAI #BitNet #HardwareDesign #LocalAI #SBC #BuildInPublic

Jim | Cipher CTSMay 30

Hello Fediverse! #Introduction 🚀

​I’m Jim, full-stack dev building out of Knoxville, TN. Heads-down initializing Cipher CTS—a decentralized, offline-first AI platform.

​We are actively moving past legacy constraints by running highly compressed ternary BitNet models natively on consumer hardware. No multi-billion dollar server farms, no data harvesting, and zero corporate API dependencies. Scaling our communication layer over #ActivityPub web hooks with a stateless proxy network.

​Pushing hard toward a public release for Summer 2026. Follow along here for open-source technical logs, model benchmarks, and system updates! 🌲

​#CipherCTS #Devlog #localFirst #ternary #BitNet #SelfHosted

AI SparkupApr 9

Bonsai 8B 등장, 1.15GB로 아이폰에서 돌아가는 8B급 성능의 비밀

PrismML이 공개한 1-bit LLM Bonsai 8B 소개. 1.15GB로 아이폰에서 동작하며 Microsoft BitNet과의 차별점, 인텔리전스 밀도 개념을 정리합니다.

https://aisparkup.com/posts/10844

JHMar 12

#BitNet

https://www.threads.com/@joonlee0228/post/DVwCEksFPdq?xmt=AQF0aWaJcQ1g2eo9cOlnOAMVsLEfUFoyIS0ik2DS9xCDzQ

Seungjoon Lee (@joonlee0228) on Threads

마이크로소프트가 진짜 미쳤어요 🤯 100B 파라미터 모델을 GPU 없이, 그냥 CPU에서 돌린다고요. BitNet이라는 1비트 양자화 기술인데 — 이거 되면 판이 바뀜. 지금까지 로컬 AI 하려면: • GPU 비싼 거 질러야 하고 • VRAM 부족해서 모델 반토막 내야 하고 • 전기세 보고 조용히 울어야 했잖아요 근데 1비트면 파라미터당 메모리가 거의 안 드니까, 맥북이나 일반 데스크탑 CPU로 100B급 모델이 돌아간다는 거예요. API 비용 걱정? 없음. 내 컴퓨터에서 다 해결 💻 물론 1비트로 정확도를 얼마나 살리느냐가 핵심인데, MS가 이 스케일로 오픈소스까지 밀고 있다는 건 — 뭔가 숫자가 나온다는 뜻이겠죠. NVIDIA 주식 들고 있는 분들, 좀 불안하지 않아요? 😏 Source: https://github.com/microsoft/BitNet

Threads
AIagent.at 🤖 AI NewsMar 11
Learn how to install bitnet.cpp, download the BitNet b1.58 model, and run a fully local AI chat and inference server on your machine. This beginner guide shows you how to run tiny AI models without cloud dependencies. https://www.kdnuggets.com/run-tiny-ai-models-locally-using-bitnet-a-beginner-guide #AIagent #AI #GenAI #AIInfrastructure #BitNet
Run Tiny AI Models Locally Using BitNet A Beginner Guide - KDnuggets

Learn how to install bitnet.cpp, download the BitNet b1.58 model, and run a fully local AI chat and inference server on your machine.

KDnuggets
Hacker NewsMar 11

Microsoft BitNet: 100B Param 1-Bit model for local CPUs

https://github.com/microsoft/BitNet

#HackerNews #Microsoft #BitNet #100BParam #1BitModel #LocalCPUs #MachineLearning #AI

AI Daily PostMar 10

🚀 Want to run BitNet-b1.58-2B-4T locally? The new setup_env.py script automates a CMake build of the C++ backend, turning Python-driven setup into a fast inference engine. Perfect for hobbyists and researchers eager to experiment with large AI models offline. Dive into the details and see how easy open-source deployment can be! #BitNet #Python #CMake #LocalInference

🔗 https://aidailypost.com/news/python-setupenvpy-builds-bitnet-b158-2b-4t-c-backend-via-cmake

Reddit Tech VN BotJan 25

Tạo động cơ LLM 1.58-bit chạy 117 token/giây trên 1 nhân CPU với Rust và AVX-512, nhưng bị lỗi ở lớp Activation khiến đầu ra luôn là <unk>. Cần hỗ trợ về: (1) Weight tying trong BitNet – thiếu hệ số tỉ lệ? (2) Cách scale tích lũy nguyên từ VPOPCNTDQ trước khi đưa vào RMSNorm/SiLU. Dự án mã nguồn mở, zero-copy, không heap allocation. #Rust #AVX512 #LLM #MachineLearning #AI #R3Engine #BitNet #LocalAI #HPC #Inference #trítuệnhân tạo #môhìnhtonngẫu #xửlýsongsong #tinhoccao

https://www.reddit.

Reddit Tech VN BotJan 22

Chúng ta đang chuyển từ thời đại MatMul sang “AI cộng dồn” với BitNet (trọng số ternary), L‑Mul (thêm thay cho nhân) và mHC (đảm bảo ổn định quy mô). Nếu chạy mô hình 70B+ chỉ dùng 1/100 năng lượng, GPU hiện tại sẽ trở thành lạc hậu, cần ASIC chuyên cộng. Các bạn có nghĩ nên dừng mua GPU và tập trung vào kiến trúc cộng không? #AI #AdditiveAI #BitNet #L_Mul #mHC #CôngNghệ #TríTuệNhânTạo

https://www.reddit.com/r/LocalLLaMA/comments/1qjr074/the_end_of_the_matmul_hegemony_why_we_must_pivot/