Comment la Petite Souris gère ses milliards de dents avec TimescaleDB

https://video.ut0pia.org/w/h37DPd3WFdgCSSZGq4imdE

Compressing Scrabble Dictionaries (2014)

이 글은 스크래블 단어 검색을 빠르게 하기 위해 사용하는 GADDAG 자료구조의 메모리 압축 기법을 상세히 설명한다. GADDAG는 단어의 모든 회전을 저장하는 트리 구조로, 메모리 사용량이 매우 크기 때문에 캐시 적중률을 높이기 위해 중복 노드 병합과 비트마스크 기반의 효율적 노드 표현 방식을 적용한다. 특히, 자식 노드가 하나인 경우를 위한 특수한 압축과 노드 간 중복 제거를 통해 대규모 단어 리스트도 L3 캐시 크기 내에 적재 가능하도록 압축한다. 이로 인해 스크래블 단어 검색 속도가 메모리 접근 병목 없이 크게 향상될 수 있다.

https://williame.github.io/post/87682811573.html

#datastructure #compression #gaddag #scrabble #cacheoptimization

Fc, a lossless compressor for floating-point streams

https://github.com/xtellect/fc

#HackerNews #Tech #Compression

Приснилось мне, что андроид/Вивальди будет теперь распространяться исключительно в сжатом виде в суперпопулярном формате bzip3. Проснулся и подумал: какая жесть! Но...хм... - почему бы и нет?

Если bz3 жмёт лучше, чем даже zstd.
Vivaldi.7.9.3980.152_armeabi-v7a.apk.bz3: OK, 89177659 -> 226818751 bytes, 39.32%, 3.15 bpb

#android #vivaldiBrowser #compression #bzip3

Say, both Bob and Anne run a copy of a local, deterministic LLM. Now all Anne has to send to Bob, is a textual prompt. Allowing Bob to recreate the actual data that Anne wishes to share.

Essentially making the LLM an unprecedented compression algorithm. Anne could potentially share terabytes of high definition film, in a few thousand or less words, way under a hundred kilobytes.

What would such reproductive compression algorithms be called?

#ai #computerscience #compression

Fc, a lossless compressor for floating-point streams

fc는 IEEE-754 64비트 부동소수점 스트림을 위한 손실 없는 압축기 라이브러리로, 여러 특화 코덱을 블록 단위로 경쟁시켜 최적의 압축 결과를 선택한다. 멀티스레드와 x86-64 SIMD 명령어(AVX2, SSE4.2 등)를 활용해 빠른 압축 및 해제를 지원하며, 특히 구조화된 부동소수점 데이터에서 뛰어난 압축률을 보인다. 인코딩 속도는 다소 느리지만 디코딩 속도가 매우 빠르고, 시계열 데이터 저장소에 적합하다. 오픈소스 연구용 라이브러리로 Apache 2.0 라이선스 하에 배포된다.

https://github.com/xtellect/fc

#floatingpoint #compression #lossless #simd #multithreading

Grinder12: 0.96-Bit Lossless Streaming KV-Cache (16.55x VRAM Savings

Grinder12는 llama.cpp 런타임의 트랜스포머 KV-캐시 압축을 목표로 하는 로컬 추론 엔진 연구 프로젝트로, 0.96비트 유효값을 달성해 FP16 대비 16.55배 VRAM 절감을 보여주는 스트리밍 상태 저장 KV 사이드카 방식을 사용합니다. 현재는 라이브 런타임 KV 교체는 구현되지 않았으며, 제어된 C++ 환경에서의 실험 결과와 감사 로그를 공개해 기술 검증과 추가 개발을 위한 파트너를 찾고 있습니다. 이 기술은 대규모 컨텍스트에서 KV 메모리 사용량을 획기적으로 줄일 수 있는 가능성을 제시합니다.

https://github.com/ggml-org/llama.cpp/discussions/22891

#llama.cpp #kvcache #compression #inferenceengine #streaming