常見云服務器故障處理步驟有哪些？

一、盡可能搞清楚問題的前因后果

不要一下子就扎到服務器前面，你需要先搞明白對這臺服務器有多少已知的情況，還有故障的具體情況。不然你很可能就是在無的放矢。

必須搞清楚的問題有：故障的表現是什么？無響應？報錯？故障是什么時候發現的？故障是否可重現？

有沒有出現的規律（比如每小時出現一次）最后一次對整個平臺進行更新的內容是什么（代碼、服務器等）?故障影響的特定用戶群是什么樣的（已登錄的，退出的，某個地域的…）?基礎架構（物理的、邏輯的）的文檔是否能找到？是否有監控平臺可用？是否有日志可以查看？

最后兩個是最方便的信息來源，特別是日志系統，作為運維人員要善于和擅長查看日志，日志往往是你在沒有頭緒的時候給你最大的幫助，其實很多問題都在日志系統中暴露出來，比較方便的是使用系統筆記。

二、有誰在?

1.$w

2.$last

用這兩個命令看看都有誰在線，有哪些用戶訪問過。這不是什么關鍵步驟，不過最好別在其他用戶正干活的時候來調試系統。有道是一山不容二虎嘛。

三、之前發生了什么?

1.$history

查看一下之前服務器上執行過的命令。看一下總是沒錯的，加上前面看的誰登錄過的信息，應該有點用。另外作為admin要注意，不要利用自己的權限去侵犯別人的隱私哦。

到這里先提醒一下，等會你可能會需要更新HISTTIMEFORMAT環境變量來顯示這些命令被執行的時間。對要不然光看到一堆不知道啥時候執行的命令，同樣會令人抓狂的。

四、現在在運行的進程是啥?

1.$pstree-a

2.$psaux

這都是查看現有進程的。psaux的結果比較雜亂，pstree-a的結果比較簡單明了，可以看到正在運行的進程及相關用戶。

五、監聽的網絡服務

1.$netstat-ntlp

2.$netstat-nulp

3.$netstat-nxlp

我一般都分開運行這三個命令，不想一下子看到列出一大堆所有的服務。netstat-nalp倒也可以。不過我絕不會用numeric選項。

找到所有正在運行的服務，檢查它們是否應該運行。查看各個監聽端口。在netstat顯示的服務列表中的PID和psaux進程列表中的是一樣的。

如果服務器上有好幾個Java或者Erlang什么的進程在同時運行，能夠按PID分別找到每個進程就很重要了。通常我們建議每臺服務器上運行的服務少一點，必要時可以增加服務器。如果你看到一臺服務器上有三四十個監聽端口開著，那還是做個記錄，回頭有空的時候清理一下，重新組織一下服務器。

六、CPU和內存

1.$free-m

2.$uptime

3.$top

4.$htop

注意以下問題:

還有空余的內存嗎？服務器是否正在內存和硬盤之間進行swap？還有剩余的CPU嗎？服務器是幾核的？是否有某些CPU核負載過多了？服務器最大的負載來自什么地方？平均負載是多少？

七、硬件

1.$lspci

2.$dmidecode

3.$ethtool

有很多服務器還是裸機狀態，可以看一下：

找到RAID卡、CPU、空余的內存插槽。根據這些情況可以大致了解硬件問題的來源和性能改進的辦法。網卡是否設置好？是否正運行在半雙工狀態？速度是10MBps？有沒有TX/RX報錯？

八、IO性能

1.$iostat-kx2

2.$vmstat210

3.$mpstat210

4.$dstat--top-io--top-bio

這些命令對于調試后端性能非常有用。

檢查磁盤使用量：服務器硬盤是否已滿？是否開啟了swap交換模式(si/so)？CPU被誰占用：系統進程？用戶進程？虛擬機？dstat是我的最愛。用它可以看到誰在進行IO：是不是MySQL吃掉了所有的系統資源?還是你的PHP進程？

九、掛載點和文件系統

1.$mount

2.$cat/etc/fstab

3.$vgs

4.$pvs

5.$lvs

6.$df-h

7.$lsof+D//*bewarenottokillyourbox*/

一共掛載了多少文件系統？

有沒有某個服務專用的文件系統？（比如MySQL？）

文件系統的掛載選項是什么：noatime?default?有沒有文件系統被重新掛載為只讀模式了？

磁盤空間是否還有剩余？

是否有大文件被刪除但沒有清空？

如果磁盤空間有問題，你是否還有空間來擴展一個分區？

十、內核、中斷和網絡

1.$sysctl-a|grep...

2.$cat/proc/interrupts

3.$cat/proc/net/ip_conntrack/*maytakesometimeonbusyservers*/

4.$netstat

5.$ss-s

你的中斷請求是否是均衡地分配給CPU處理，還是會有某個CPU的核因為大量的網絡中斷請求或者RAID請求而過載了?

SWAP交換的設置是什么?對于工作站來說swappinness設為60就很好,不過對于服務器就太糟了：你最好永遠不要讓服務器做SWAP交換，不然對磁盤的讀寫會鎖死SWAP進程。

conntrack_max是否設的足夠大，能應付你服務器的流量?

在不同狀態下(TIME_WAIT,…)TCP連接時間的設置是怎樣的?

如果要顯示所有存在的連接，netstat會比較慢，你可以先用ss看一下總體情況。

你還可以看一下LinuxTCPtuning了解網絡性能調優的一些要點。

十一、系統日志和內核消息

1.$dmesg

2.$less/var/log/messages

3.$less/var/log/secure

4.$less/var/log/auth

查看錯誤和警告消息，比如看看是不是很多關于連接數過多導致?

看看是否有硬件錯誤或文件系統錯誤？

分析是否能將這些錯誤事件和前面發現的疑點進行時間上的比對。如果你有多臺機器,看起來很不方便，可以事先把日志存儲在系統筆記的云日志服務器上，支持全文模糊查找。

十二、定時任務

1.$ls/etc/cron*+cat

2.$foruserin$(cat/etc/passwd|cut-f1-d:);docrontab-l-u$user;done

是否有某個定時任務運行過于頻繁？

是否有些用戶提交了隱藏的定時任務？

在出現故障的時候，是否正好有某個備份任務在執行？

十三、應用系統日志

這里邊可分析的東西就多了,不過恐怕你作為運維人員是沒功夫去仔細研究它的。關注那些明顯的問題，比如在一個典型的（LAMPLinux+Apache+Mysql+Perl）應用環境里：

Apache&Nginx；查找訪問和錯誤日志，直接找5xx錯誤,再看看是否有limit_zone錯誤。這里查看了下,并沒有503的,只有403的錯誤。所以可以跳過

MySQL；在mysql.log找錯誤消息，看看有沒有結構損壞的表，是否有innodb修復進程在運行，是否有disk/index/query問題。

PHP-FPM；如果設定了php-slow日志，直接找錯誤信息（php、mysql、memcache…），如果沒設定，趕緊設定。

Varnish；在varnishlog和varnishstat里，檢查hit/miss比，看看配置信息里是否遺漏了什么規則，使最終用戶可以直接攻擊你的后端？

HA-Proxy；后端的狀況如何？健康狀況檢查是否成功？是前端還是后端的隊列大小達到最大值了？

結論

經過這5分鐘之后，你應該對如下情況比較清楚了：

在服務器上運行的都是些啥?

這個故障看起來是和IO/硬件/網絡或者系統配置（有問題的代碼、系統內核調優,…）相關。

這個故障是否有你熟悉的一些特征？比如對數據庫索引使用不當，或者太多的apache后臺進程。