Linux 跟蹤器之選

Linux愛好者2018-03-11 11:30:24

(點擊上方公眾號,可快速關注)


英文:Brendan Gregg,翻譯:Linux中國/qhwdw

linux.cn/article-9424-1.html


跟蹤器tracer是一個高級的性能分析和調試工具,如果你使用過 strace或者 tcpdump,你不應該被它嚇到 … 你使用的就是跟蹤器。系統跟蹤器能讓你看到很多的東西,而不僅是系統調用或者數據包,因為常見的跟蹤器都可以跟蹤內核或者應用程序的任何東西。


有大量的 Linux 跟蹤器可供你選擇。由於它們中的每個都有一個官方的(或者非官方的)的吉祥物,我們有足夠多的選擇給孩子們展示。


你喜歡使用哪一個呢?


我從兩類讀者的角度來回答這個問題:大多數人和性能/內核工程師。當然,隨著時間的推移,這也可能會發生變化,因此,我需要及時去更新本文內容,或許是每年一次,或者更頻繁。(LCTT 譯註:本文最後更新於 2015 年)


對於大多數人


大多數人(開發者、系統管理員、運維人員、網絡可靠性工程師(SRE)…)是不需要去學習系統跟蹤器的底層細節的。以下是你需要去了解和做的事情:


1. 使用 perf_events 進行 CPU 剖析


可以使用 perf_events 進行 CPU 剖析profiling。它可以用一個 火焰圖 來形象地表示。比如:


git clone --depth 1 https://github.com/brendangregg/FlameGraph

perf record -F 99 -a -g -- sleep 30

perf script | ./FlameGraph/stackcollapse-perf.pl | ./FlameGraph/flamegraph.pl > perf.svg



Linux 的 perf_events(即 perf,後者是它的命令)是官方為 Linux 用戶準備的跟蹤器/分析器。它位於內核源碼中,並且維護的非常好(而且現在它的功能還在快速變強)。它一般是通過 linux-tools-common 這個包來添加的。


perf 可以做的事情很多,但是,如果我只能建議你學習其中的一個功能的話,那就是 CPU 剖析。雖然從技術角度來說,這並不是事件“跟蹤”,而是採樣sampling。最難的部分是獲得完整的棧和符號,這部分在我的 Linux Profiling at Netflix 中針對 Java 和 Node.js 討論過。


2. 知道它能幹什麼


正如一位朋友所說的:“你不需要知道 X 光機是如何工作的,但你需要明白的是,如果你吞下了一個硬幣,X 光機是你的一個選擇!”你需要知道使用跟蹤器能夠做什麼,因此,如果你在業務上確實需要它,你可以以後再去學習它,或者請會使用它的人來做。


簡單地說:幾乎任何事情都可以通過跟蹤來了解它。內部文件系統、TCP/IP 處理過程、設備驅動、應用程序內部情況。


3. 需要一個前端工具


如果你要購買一個性能分析工具(有許多公司銷售這類產品),並要求支持 Linux 跟蹤。想要一個直觀的“點擊”界面去探查內核的內部,以及包含一個在不同堆棧位置的延遲熱力圖。


我創建並開源了我自己的一些前端工具,雖然它是基於 CLI 的(不是圖形界面的)。這樣可以使其它人使用跟蹤器更快更容易。比如,我的 perf-tools,跟蹤新進程是這樣的:


# ./execsnoop

Tracing exec()s. Ctrl-C to end.

PID PPID ARGS

22898 22004 man ls

22905 22898 preconv -e UTF-8

22908 22898 pager -s

22907 22898 nroff -mandoc -rLL=164n -rLT=164n -Tutf8

[...]


在 Netflix 公司,我正在開發 Vector,它是一個實例分析工具,實際上它也是一個 Linux 跟蹤器的前端。


對於性能或者內核工程師


一般來說,我們的工作都非常難,因為大多數人或許要求我們去搞清楚如何去跟蹤某個事件,以及因此需要選擇使用哪個跟蹤器。為完全理解一個跟蹤器,你通常需要花至少一百多個小時去使用它。理解所有的 Linux 跟蹤器並能在它們之間做出正確的選擇是件很難的事情。(我或許是唯一接近完成這件事的人)


在這裡我建議選擇如下,要麼:


A)選擇一個全能的跟蹤器,並以它為標準。這需要在一個測試環境中花大量的時間來搞清楚它的細微差別和安全性。我現在的建議是 SystemTap 的最新版本(例如,從 源代碼 構建)。我知道有的公司選擇的是 LTTng ,儘管它並不是很強大(但是它很安全),但他們也用的很好。如果在 sysdig 中添加了跟蹤點或者是 kprobes,它也是另外的一個候選者。


B)按我的 Velocity 教程中 的流程圖。這意味著儘可能使用 ftrace 或者 perf_events,eBPF 已經集成到內核中了,然後用其它的跟蹤器,如 SystemTap/LTTng 作為對 eBPF 的補充。我目前在 Netflix 的工作中就是這麼做的。



以下是我對各個跟蹤器的評價:


1. ftrace


我愛 ftrace,它是內核黑客最好的朋友。它被構建進內核中,它能夠利用跟蹤點、kprobes、以及 uprobes,以提供一些功能:使用可選的過濾器和參數進行事件跟蹤;事件計數和計時,內核概覽;函數流步進function-flow walking。關於它的示例可以查看內核源代碼樹中的 ftrace.txt。它通過 /sys 來管理,是面向單一的 root 用戶的(雖然你可以使用緩衝實例以讓其支持多用戶),它的界面有時很繁瑣,但是它比較容易調校hackable,並且有個前端:ftrace 的主要創建者 Steven Rostedt 設計了一個 trace-cmd,而且我也創建了 perf-tools 集合。我最詬病的就是它不是可編程的programmable,因此,舉個例子說,你不能保存和獲取時間戳、計算延遲,以及將其保存為直方圖。你需要轉儲事件到用戶級以便於進行後期處理,這需要花費一些成本。它也許可以通過 eBPF 實現可編程。


2. perf_events


perf_events 是 Linux 用戶的主要跟蹤工具,它的源代碼位於 Linux 內核中,一般是通過 linux-tools-common 包來添加的。它又稱為 perf,後者指的是它的前端,它相當高效(動態緩存),一般用於跟蹤並轉儲到一個文件中(perf.data),然後可以在之後進行後期處理。它可以做大部分 ftrace 能做的事情。它不能進行函數流步進,並且不太容易調校(而它的安全/錯誤檢查做的更好一些)。但它可以做剖析(採樣)、CPU 性能計數、用戶級的棧轉換、以及使用本地變量利用調試信息debuginfo進行行級跟蹤line tracing。它也支持多個併發用戶。與 ftrace 一樣,它也不是內核可編程的,除非 eBPF 支持(補丁已經在計劃中)。如果只學習一個跟蹤器,我建議大家去學習 perf,它可以解決大量的問題,並且它也相當安全。


3. eBPF


擴展的伯克利包過濾器extended Berkeley Packet Filter(eBPF)是一個內核內in-kernel的虛擬機,可以在事件上運行程序,它非常高效(JIT)。它可能最終為 ftrace 和 perf_events 提供內核內編程in-kernel programming,並可以去增強其它跟蹤器。它現在是由 Alexei Starovoitov 開發的,還沒有實現完全的整合,但是對於一些令人印象深刻的工具,有些內核版本(比如,4.1)已經支持了:比如,塊設備 I/O 的延遲熱力圖latency heat map。更多參考資料,請查閱 Alexei 的 BPF 演示,和它的 eBPF 示例


4. SystemTap


SystemTap 是一個非常強大的跟蹤器。它可以做任何事情:剖析、跟蹤點、kprobes、uprobes(它就來自 SystemTap)、USDT、內核內編程等等。它將程序編譯成內核模塊並加載它們 —— 這是一種很難保證安全的方法。它開發是在內核代碼樹之外進行的,並且在過去出現過很多問題(內核崩潰或凍結)。許多並不是 SystemTap 的過錯 —— 它通常是首次對內核使用某些跟蹤功能,並率先遇到 bug。最新版本的 SystemTap 是非常好的(你需要從它的源代碼編譯),但是,許多人仍然沒有從早期版本的問題陰影中走出來。如果你想去使用它,花一些時間去測試環境,然後,在 irc.freenode.net 的 #systemtap 頻道與開發者進行討論。(Netflix 有一個容錯架構,我們使用了 SystemTap,但是我們或許比起你來說,更少擔心它的安全性)我最詬病的事情是,它似乎假設你有辦法得到內核調試信息,而我並沒有這些信息。沒有它我實際上可以做很多事情,但是缺少相關的文檔和示例(我現在自己開始幫著做這些了)。


5. LTTng


LTTng 對事件收集進行了優化,性能要好於其它的跟蹤器,也支持許多的事件類型,包括 USDT。它的開發是在內核代碼樹之外進行的。它的核心部分非常簡單:通過一個很小的固定指令集寫入事件到跟蹤緩衝區。這樣讓它既安全又快速。缺點是做內核內編程不太容易。我覺得那不是個大問題,由於它優化的很好,可以充分的擴展,儘管需要後期處理。它也探索了一種不同的分析技術。很多的“黑匣子”記錄了所有感興趣的事件,以便可以在 GUI 中以後分析它。我擔心該記錄會錯失之前沒有預料的事件,我真的需要花一些時間去看看它在實踐中是如何工作的。這個跟蹤器上我花的時間最少(沒有特別的原因)。


6. ktap


ktap 是一個很有前途的跟蹤器,它在內核中使用了一個 lua 虛擬機,不需要調試信息和在嵌入時設備上可以工作的很好。這使得它進入了人們的視野,在某個時候似乎要成為 Linux 上最好的跟蹤器。然而,由於 eBPF 開始集成到了內核,而 ktap 的集成工作被推遲了,直到它能夠使用 eBPF 而不是它自己的虛擬機。由於 eBPF 在幾個月過去之後仍然在集成過程中,ktap 的開發者已經等待了很長的時間。我希望在今年的晚些時間它能夠重啟開發。


7. dtrace4linux


dtrace4linux 主要由一個人(Paul Fox)利用業務時間將 Sun DTrace 移植到 Linux 中的。它令人印象深刻,一些供應器provider可以工作,還不是很完美,它最多應該算是實驗性的工具(不安全)。我認為對於許可證的擔心,使人們對它保持謹慎:它可能永遠也進入不了 Linux 內核,因為 Sun 是基於 CDDL 許可證發佈的 DTrace;Paul 的方法是將它作為一個插件。我非常希望看到 Linux 上的 DTrace,並且希望這個項目能夠完成,我想我加入 Netflix 時將花一些時間來幫它完成。但是,我一直在使用內置的跟蹤器 ftrace 和 perf_events。


8. OL DTrace


Oracle Linux DTrace 是將 DTrace 移植到 Linux (尤其是 Oracle Linux)的重大努力。過去這些年的許多發佈版本都一直穩定的進步,開發者甚至談到了改善 DTrace 測試套件,這顯示出這個項目很有前途。許多有用的功能已經完成:系統調用、剖析、sdt、proc、sched、以及 USDT。我一直在等待著 fbt(函數邊界跟蹤,對內核的動態跟蹤),它將成為 Linux 內核上非常強大的功能。它最終能否成功取決於能否吸引足夠多的人去使用 Oracle Linux(併為支持付費)。另一個羈絆是它並非完全開源的:內核組件是開源的,但用戶級代碼我沒有看到。


9. sysdig


sysdig 是一個很新的跟蹤器,它可以使用類似 tcpdump 的語法來處理系統調用syscall事件,並用 lua 做後期處理。它也是令人印象深刻的,並且很高興能看到在系統跟蹤領域的創新。它的侷限性是,它的系統調用只能是在當時,並且,它轉儲所有事件到用戶級進行後期處理。你可以使用系統調用來做許多事情,雖然我希望能看到它去支持跟蹤點、kprobes、以及 uprobes。我也希望看到它支持 eBPF 以查看內核內概覽。sysdig 的開發者現在正在增加對容器的支持。可以關注它的進一步發展。

深入閱讀


我自己的工作中使用到的跟蹤器包括:


  • ftrace : 我的 perf-tools 集合(查看示例目錄);我的 lwn.net 的 ftrace 跟蹤器的文章; 一個 LISA14 演講;以及帖子: 函數計數、 iosnoop、 opensnoop、 execsnoop、 TCP retransmits、 uprobes 和 USDT

  • perf_events : 我的 perf_events 示例 頁面;在 SCALE 的一個 Linux Profiling at Netflix 演講;和帖子:CPU 採樣靜態跟蹤點熱力圖計數內核行級跟蹤off-CPU 時間火焰圖

  • eBPF : 帖子 eBPF:一個小的進步,和一些 BPF-tools (我需要發佈更多)。

  • SystemTap : 很久以前,我寫了一篇 使用 SystemTap 的文章,它有點過時了。最近我發佈了一些 systemtap-lwtools,展示了在沒有內核調試信息的情況下,SystemTap 是如何使用的。

  • LTTng : 我使用它的時間很短,不足以發佈什麼文章。

  • ktap : 我的 ktap 示例 頁面包括一行程序和腳本,雖然它是早期的版本。

  • dtrace4linux : 在我的 系統性能 書中包含了一些示例,並且在過去我為了某些事情開發了一些小的修補,比如, timestamps

  • OL DTrace : 因為它是對 DTrace 的直接移植,我早期 DTrace 的工作大多與之相關(鏈接太多了,可以去 我的主頁 上搜索)。一旦它更加完美,我可以開發很多專用工具。

  • sysdig : 我貢獻了 fileslower 和 subsecond offset spectrogram 的 chisel。



看完本文有收穫?請分享給更多人

關注「Linux 愛好者」,提升Linux技能

淘口令複製以下紅色內容,再打開手淘即可購買

範品社,使用¥極客T恤¥搶先預覽(長按複製整段文案,打開手機淘寶即可進入活動內容)

閱讀原文

TAGS:跟蹤器內核使用跟蹤