Ostatnie dni utknąłem kopiąc w DHT (distributed hash table)... Zaczęło się od niewinnego napisania crawler'a torrentów ogłaszanych jako Mainline DHT - dołączam do sieci DHT, utrzymuje routing, odpowiadam i podsłuchuje co kto tam udostepnia. Następnie klasyfikuje pliki po nazwach, indexuje, robie scoring, wyszukuję imdb i tvdb i kilka magicznych rzeczy, aby na końcu wystawić wszystko jako endpoint Torznab API.

Działa to trochę jak https://github.com/boramalper/magnetico, ale po odpowiednim skupieniu się udało się to wcisnąć na 30% 1v CPU i 100mb ramu z bazą SQLite przetwarzając dziesiątki milionów hashy na sekundę i wyciągając 40+ wartościowych wpisów na sekundę.

Całość to raczej poboczny hobby projekt, żeby lepiej zrozumieć czym jest DHT, i jak w praktyce to wykorzystać w sieciach P2P. Zdecentralizowana książka adresowa, przeszukiwana przez każdego - bez centralnego punktu przechowywania danych. Nasłuchujemy po UDP, ogłaszamy UDP, budujemy routing - nikt nie jest centralnym punktem i nikt nie jest właścicielem.

W tle kontynuuję swoje prace nad serwerem e-commerce. W trakcie pisania serwera zrozumiałem, że sposobem na oderwanie od monopolu dużych graczy e-commerce jest nie "sklep dla każdego" w formie małej binarki, a protokół nienależący do nikogo, pozwalający bezpośrednie połączenie sprzedającego z kupującym. Tak naprawdę każdy mógłby mieć sklep w formie appki na telefonie, czy doinstalować plugin do istniejącej instancji woocommerce.

Ogłaszamy "w eter", że sprzedajemy daną rzecz, a kupujący "nasłuchują" i filtrują czy ktoś sprzedaje to, co chcą kupić.

Protokół nie powinien też interesować się formą płatności (aby nie skończyć jak OpenBazaar), a jedynie oderwać ludzi od pośrednika jakim są duże sklepy i wyszukiwarki z ich seo.

No nic - są to wolne pomysły. Piszę, testuję, jak będę miał coś ciekawego to wrzucę kod. Na pewno udostępnię lada dzień ten crawler DHT jak go "wyczyszczę"

#programowanie #torrent #dht
GitHub - boramalper/magnetico: Autonomous (self-hosted) BitTorrent DHT search engine suite.

Autonomous (self-hosted) BitTorrent DHT search engine suite. - boramalper/magnetico

GitHub

librats: Выпуск версии 0.5.x. Ускорение поиска пиров, алгоритм spider, поддержка JavaScript, Python и многое другое

Привет! Работа над ядром поисковика rats-search продолжается. Новая версия библиотеки librats (v0.5.3) приносит важные архитектурные улучшения для построения распределенных сетей в условиях NAT и блокировок. Ключевые изменения: Унифицированный API (FFI): Завершена интеграция с Node.js. В отличие от фрагментированных реализаций libp2p, librats предоставляет идентичный набор функций для C++, Python, Node.js и Android через FFI. Эффективный DHT: Реализован алгоритм Spider для прибегания с сбора announce. Добавлена поддержка branch-factor и маршрутизации на основе задержек (RTT-routing). Персистентность: Routing-таблицы сохраняются при перезапуске, что критически важно для связности сети в сложных сетевых условиях. BitTorrent: Значительный рефакторинг и оптимизация модуля. Платформы: Windows (x64), Linux (x64), Android (32/64), macOS (x64).

https://habr.com/ru/articles/976366/

#сетевые_технологии #p2p #p2pсети #libp2p #librats #ffi #блокировки #dht #mdns ++

librats: Выпуск версии 0.5.x. Ускорение поиска пиров, алгоритм spider, поддержка JavaScript, Python и многое другое

Всем привет! Я продолжаю развивать свою библиотеку для распределённых приложений, которая станет новым ядром поисковика rats-search. Она поможет вам построить собственную P2P-сеть и связать...

Хабр
DHT Spider - Search and Enjoy

Discover and explore a vast network of torrents with DHT Spider. Search for files, magnet links, and enjoy a seamless experience.

🌘 infohash.lol — 每一種種子檔資訊雜湊值都在這個網站上
➤ 一個實驗性的網站,收錄所有可能的 BitTorrent 資訊雜湊值
https://infohash.lol/
「infohash.lol」是一個新網站,旨在列出網路上所有可能的 BitTorrent 資訊雜湊值(infohash)。該網站受「keys.lol」和「everyuuid.com」等專案啟發,透過 BitTorrent 的分散式雜湊表(DHT)機制,蒐集並展示現有的種子檔資訊。雖然隨機找到活躍資訊雜湊值的機率極低,但網站仍嘗試查詢 DHT,以偵測是否有對應的對等節點(peers)以及進一步獲取種子檔的元資料(metadata),如檔名和內容。該網站也提到,並非所有資訊雜湊值都對應真實種子檔,有些可能是爬蟲或惡意客戶端為探測網路而產生的。此外,作者也邀請讀者探索其另一個關於所有書籍的網站「Library of Babel」。
+ 這個網站太酷了!讓我想到「Library of Babel」也是類似的概念,試圖收錄所有可能的組合。能看到
#BitTorrent #DHT #資訊雜湊值 #網路爬蟲
BitTorrent's DHT and the Leading ISP Networks Helping to Keep it Alive * TorrentFreak

Based on the volume of IP addresses seen in the network, customers of relatively few ISPs dominate BitTorrent's Distributed Hash Table.

BitTorrent's DHT and the Leading ISP Networks Helping to Keep it Alive * TorrentFreak

Based on the volume of IP addresses seen in the network, customers of relatively few ISPs dominate BitTorrent's Distributed Hash Table.

librats: новая C++ библиотека для распределённых P2P-приложений

Всем привет! Я являюсь создателем распределённого поисковика rats-search на базе DHT (

https://habr.com/ru/articles/943652/

#p2p #p2pсети #libp2p #rats #dht #mdns #c++ #c++17 #java #javascript

librats: новая C++ библиотека для распределённых P2P-приложений

Всем привет! Я являюсь создателем распределённого поисковика rats-search на базе DHT ( GitHub ). Его принцип работы довольно прост: поисковик собирает торренты у всех участников сети и формирует...

Хабр

@gabe_sky That's a great page - it's always the first 10 links on Google you need to skip usually :)

I took the time to work on my DHT-based storage system running in the browser, and now it works nicely with simple javascript:

https://danu.li/#web/qrcode

If you connect through the above link, your browser becomes a node in a decentralized network, and fetches this page from one of the other nodes! For more information, visit

https://danu.li

#DHT #web3 #rust #wasm

Danu - Decentralized Resource Sharing

Meet #Danu, the new #Fledger! It can finally share data in a Distributed Hash Table (#DHT), and now it can also update this data! At least on the CLI...
The first example here is the actual homepage of the system, which is stored in the DHT. I'm so happy this actually works now!

When you go to:

https://danu.li/

Your browser connects to the other nodes, synchronizes part of the DHT, and then shows the homepage of Danu.

Coming up: storing your own webpages on Danu!

Danu - Decentralized Resource Sharing

Permaculture Forest Garden at Schumacher College

YouTube