🌕 擴展我們的可觀測性平臺至 100 拍位元,採用廣泛事件並取代 OTel
➤ 超越通用目的:可觀測性在規模上的演進
https://clickhouse.com/blog/scaling-observability-beyond-100pb-wide-events-replacing-otel
隨著內部系統從 19 PiB 擴展至 100 PB 的未壓縮日誌,以及從約 40 兆行擴展至 500 兆行,ClickHouse 重新設計了其可觀測性平臺。他們發現 OpenTelemetry (OTel) 在處理高吞吐量、高保真度系統日誌時存在瓶頸,因此開發了一個專用的 SysEx 輸出器,並採用了 ClickHouse 原生的 HyperDX UI。此舉不僅大幅提高了效率,降低了 CPU 使用率(減少至 10%),還為打造更全面的可觀測性堆疊 ClickStack 奠定了基礎。
+ 這篇文章詳細說明瞭大規模日誌處理的挑戰,以及針對特定需求自定義解決方案的重要性。
+ 很高興看到 ClickHouse 不斷優化自身的平臺,並分享經驗給社
#工程技術 #可觀測性 #ClickHouse
Scaling our Observability platform beyond 100 Petabytes by embracing wide events and replacing OTel

Read how we scaled our observability platform from 19PB to 100PB and 500 trillion rows by replacing OpenTelemetry with a native ClickHouse-to-ClickHouse pipeline, embracing wide events and cutting CPU usage by 90%.

ClickHouse
🌗 可觀測性的終結 (而且我感覺很好)
➤ 人工智慧時代的可觀測性轉型
https://www.honeycomb.io/blog/its-the-end-of-observability-as-we-know-it-and-i-feel-fine
隨著大型語言模型 (LLM) 的發展,傳統的可觀測性工具正在面臨變革。作者認為,LLM 能夠自動分析大量的遙測數據,並在無需人工幹預的情況下找出問題的根源,這將改變我們設計和操作系統的方式。過去可觀測性工具的核心價值在於將複雜的數據轉化為人類可理解的形式,但 LLM 的出現將分析過程商品化。作者強調,快速的反饋迴路將成為未來成功的關鍵,而 Honeycomb 的目標是提供滿足這一需求的工具。
+ 這篇文章點出了可觀測性領域一個重要的轉捩點,我開始思考我們現有的工具是否能跟上時代的腳步了。
+ 雖然 AI 很強大,但我認為人類的洞察力仍然不可或缺。這篇文章提醒我們,需要思考如何與 AI 協同工作,而不是被取代。
#人工智慧 #可觀測性 #軟體工程
It's The End Of Observability As We Know It (And I Feel Fine)

The history of observability tools over the past decade has been about a pretty simple concept, but LLMs bring the death of that paradigm.

Honeycomb
🌕 HyperDX:快速解決生產問題
➤ 簡化生產問題排查流程的開源解決方案
https://github.com/hyperdxio/hyperdx
HyperDX 是一個開源的可觀測性平臺,旨在幫助工程師快速診斷和解決生產環境中的問題。它整合了會話重播、日誌、指標、追蹤和錯誤資料,並以 ClickHouse 和 OpenTelemetry 為基礎。HyperDX 提供直觀的搜尋和視覺化功能,能有效分析異常趨勢並設定警報,並支援多種部署方式和應用程式儀器化。 透過簡化生產數據分析流程,HyperDX 旨在降低使用門檻,使得所有工程師都能輕鬆利用生產遙測資料快速解決問題。
+ 「這個平臺整合了這麼多功能,而且是開源的,真是太棒了!對於小型團隊來說,可以省下很多成本。」
+ 「我一直苦於生產環境問題難以追蹤,HyperDX 看起來可以有效解決這個痛點,希望能盡快試用看看。」
#開源觀察平臺 #可觀測性 #ClickHouse #OpenTelemetry
GitHub - hyperdxio/hyperdx: Resolve production issues, fast. An open source observability platform unifying session replays, logs, metrics, traces and errors powered by Clickhouse and OpenTelemetry.

Resolve production issues, fast. An open source observability platform unifying session replays, logs, metrics, traces and errors powered by Clickhouse and OpenTelemetry. - hyperdxio/hyperdx

GitHub
🌖 OpenTelemetry 協定與 Apache Arrow - 第二階段公告
➤ 探索 Rust 語言打造高效能可觀測性管道
https://opentelemetry.io/blog/2025/otel-arrow-phase-2/
OpenTelemetry 專案宣佈進入第二階段,目標是將 OpenTelemetry 資料與 Apache Arrow 生態系統整合。此階段將以 Rust 語言探索基於零拷貝、直欄式資料處理的管道,以提升資料壓縮和效能。專案旨在研究 Rust 管道的效能,並與 OpenTelemetry Collector 的 Golang 生態系統整合,最終實現從 SDK 到管道的端到端零拷貝直欄式資料處理。
+ 聽起來很棒!Rust 的效能優勢加上 Apache Arrow 的資料處理能力,一定能大幅提升可觀測性資料的分析效率。
+ OpenTelemetry 一直在進步,這個與 Apache Arrow 的整合,相信會讓更多企業更容易採用和使用 OpenTelemet
#開源技術 #可觀測性 #Apache Arrow #OpenTelemetry
OpenTelemetry Protocol with Apache Arrow - Phase 2 Announcement

We are excited to announce the next phase of the OpenTelemetry Protocol with Apache Arrow project (OTel-Arrow). We began this project several years ago with the goal of bridging between OpenTelemetry data and the Apache Arrow ecosystem. Apache Arrow is a framework designed for zero-copy exchange of structured data between column-oriented data producers and consumers. We believe that having OpenTelemetry data accessible to external systems through Apache Arrow will lead to powerful integrations, with the potential for new telemetry systems and applications to emerge. For large streams of telemetry, we know that column-oriented data handling is substantially more efficient, with improved data compression and performance.

OpenTelemetry
🌕 Qtap:一個擷取加密前網路流量的 eBPF 代理程式
➤ 洞悉網路流量,強化應用程式安全與可觀測性。
https://github.com/qpoint-io/qtap
Qtap 是一個基於 eBPF 的代理程式,用於擷取加密前的網路流量,提供關於外發連線及其來源程序的豐富上下文資訊。它無需修改應用程式、安裝代理或管理憑證,即可協助安全審計、網路除錯、API 開發、第三方整合疑難排解、協議學習和舊系統調查等。Qtap 可增強現有的可觀測性管道,或作為自定義解決方案(如 Qpoint)的基礎元件。
+ 「這工具太棒了,終於可以不用再靠封包捕獲來分析流量了,直接看到原始資料,省時又方便!」
+ 「eBPF 真是太神奇了!Qtap 這種應用方式,讓網路流量分析變得更高效、更安全。」
#開源工具 #網路安全 #可觀測性
GitHub - qpoint-io/qtap: Qtap: An eBPF agent that captures pre-encrypted network traffic, providing rich context about egress connections and their originating processes.

Qtap: An eBPF agent that captures pre-encrypted network traffic, providing rich context about egress connections and their originating processes. - qpoint-io/qtap

GitHub