1. 老主板上的corebootSeaBIOS為什么會(huì)“卡在啟動(dòng)早期”1.1 一臺(tái)“古董平臺(tái)”的特殊處境先說(shuō)清楚我在折騰什么。手頭有一臺(tái)很久以前的老機(jī)器南橋是ICH7時(shí)代的產(chǎn)物主板本身完全不支持AHCISATA控制器只能跑在IDE兼容模式下。為了榨干這臺(tái)機(jī)器的剩余價(jià)值我給它刷了corebootpayload用的是SeaBIOS引導(dǎo)的是GNU/Linux。刷完coreboot之后系統(tǒng)能正常起來(lái)但有一個(gè)讓人非常難受的現(xiàn)象從按下電源鍵到GRUB菜單出現(xiàn)時(shí)間還算正常真正讓人抓狂的是選定內(nèi)核之后從內(nèi)核開(kāi)始加載到initramfs解壓完成、systemd真正接管系統(tǒng)那段過(guò)程的耗時(shí)長(zhǎng)得離譜。整臺(tái)機(jī)器在啟動(dòng)早期給人一種“磁盤(pán)在拼命讀但數(shù)據(jù)就是吐不出來(lái)”的感覺(jué)磁盤(pán)指示燈亮得很勤但速度肉眼可見(jiàn)地慢。我一開(kāi)始以為是發(fā)行版的問(wèn)題換過(guò)輕量發(fā)行版、換過(guò)不同的initramfs生成器問(wèn)題依舊。后來(lái)在啟動(dòng)過(guò)程中仔細(xì)掐表發(fā)現(xiàn)從GRUB加載內(nèi)核到initramfs完畢用時(shí)居然能到一分多鐘。這絕對(duì)不是正常水平哪怕是一塊老機(jī)械硬盤(pán)也不該慢到這種程度。1.2 問(wèn)題現(xiàn)象不是整體慢是“卡”在某個(gè)特定階段這里要特別強(qiáng)調(diào)一個(gè)細(xì)節(jié)這臺(tái)機(jī)器用corebootSeaBIOS啟動(dòng)的時(shí)候系統(tǒng)整體慢的區(qū)域非常集中。具體來(lái)說(shuō)UEFI/傳統(tǒng)BIOS自檢階段coreboot跑得飛快幾乎一閃而過(guò)SeaBIOS初始化硬件并準(zhǔn)備引導(dǎo)設(shè)備也很快GRUB加載內(nèi)核速度正常內(nèi)核開(kāi)始執(zhí)行早期代碼通過(guò)BIOS接口讀取initramfs這里開(kāi)始急劇變慢systemd接管、udev掃描設(shè)備之后一切又恢復(fù)正常速度這個(gè)“一段快、一段慢、然后再正?！钡哪Ｊ椒浅ｊP(guān)鍵。它說(shuō)明CPU、內(nèi)存、主板初始化都沒(méi)有大問(wèn)題瓶頸就出在內(nèi)核早期的磁盤(pán)訪(fǎng)問(wèn)路徑上。而這條路徑在corebootSeaBIOS環(huán)境下恰恰有文章可做。2. 排查啟動(dòng)慢的完整鏈路從initramfs到DMA缺失2.1 先排除幾個(gè)“看起來(lái)很像”的常見(jiàn)慢因在把矛頭指向DMA之前我花了不少時(shí)間排除其他可能。這里列出我排查過(guò)的幾個(gè)方向給同樣遇到啟動(dòng)慢問(wèn)題的人一個(gè)參考USB設(shè)備枚舉緩慢。有些老主板在coreboot下USB初始化有問(wèn)題會(huì)導(dǎo)致啟動(dòng)時(shí)反復(fù)枚舉設(shè)備每多一個(gè)USB設(shè)備就多等幾秒。我拔掉所有不必要的外設(shè)只保留鍵盤(pán)問(wèn)題沒(méi)有改善。ACPI表配置異常。某些coreboot版本生成的ACPI表不完善Linux內(nèi)核啟動(dòng)時(shí)會(huì)等待較長(zhǎng)超時(shí)。我在內(nèi)核命令行加了acpioff測(cè)試啟動(dòng)時(shí)間沒(méi)有明顯變化說(shuō)明ACPI不是主要瓶頸。GRUB等待超時(shí)。檢查過(guò)GRUB配置超時(shí)時(shí)間設(shè)的是0不會(huì)造成額外等待。顯卡初始化。老主板的VGA BIOS加載有時(shí)會(huì)卡很久但我的啟動(dòng)日志里顯卡初始化占用時(shí)間很少。這些常規(guī)方向排除之后我才把注意力放回磁盤(pán)本身。2.2 dmesg里的關(guān)鍵線(xiàn)索ata2.00 一直提示 PIO真正讓我意識(shí)到問(wèn)題出在傳輸模式上是看dmesg啟動(dòng)日志的時(shí)候發(fā)現(xiàn)的。那幾行日志如果有心人看過(guò)其實(shí)已經(jīng)非常直白了ata2.00: ATA-7: WDC WD3200AAJS-00L7A0, 01.03E01, max UDMA/133 ata2.00: configured for UDMA/133看到configured for UDMA/133的時(shí)候我一度以為這臺(tái)老機(jī)械硬盤(pán)已經(jīng)是跑在DMA模式下了。但仔細(xì)想想不對(duì)這是Linux內(nèi)核的libata驅(qū)動(dòng)接管之后的配置它覆蓋了BIOS階段的工作模式。真正讓我起疑的是另一個(gè)現(xiàn)象。我在內(nèi)核命令行臨時(shí)加了init/bin/sh想看看早期根文件系統(tǒng)掛載前的狀態(tài)結(jié)果發(fā)現(xiàn)從內(nèi)核開(kāi)始執(zhí)行到/bin/sh跑起來(lái)中間還是花了非常長(zhǎng)的時(shí)間。這個(gè)階段的內(nèi)核代碼還在使用BIOS提供的磁盤(pán)訪(fǎng)問(wèn)服務(wù)Int 13h尚未切換到自己的ata驅(qū)動(dòng)也就是說(shuō)這段時(shí)間的磁盤(pán)讀寫(xiě)效率完全取決于SeaBIOS的實(shí)現(xiàn)水平。2.3 定量的啟動(dòng)時(shí)間拆分看看時(shí)間到底花在哪為了不靠感覺(jué)折騰我用systemd-analyze把啟動(dòng)時(shí)間拆了一遍firmwarecorebootSeaBIOS3.2秒loaderGRUB1.8秒kernel78.6秒userspacesystemd初始化6.1秒kernel階段78.6秒這個(gè)數(shù)字太扎眼了。正常機(jī)器上kernel階段一般也就5到15秒多出來(lái)的60多秒幾乎都是在讀取和解壓initramfs。而且仔細(xì)看systemd-analyze的輸出initrd部分占掉了大頭等initrd結(jié)束之后根文件系統(tǒng)的掛載和udev設(shè)備掃描反而非?？臁Ｒ簿褪钦f(shuō)這臺(tái)機(jī)器的時(shí)間黑洞就在“內(nèi)核早期讀取initramfs”這一步。而這個(gè)階段磁盤(pán)的每次讀取都在走最原始、最慢的程序化I/O路徑。3. 根源分析AHCI缺失只是起點(diǎn)真正的問(wèn)題是固件傳輸路徑上的DMA被掐斷3.1 IDE兼容模式與AHCI的差別軟件接口決定上層能力不支持AHCI的主板SATA控制器運(yùn)行在IDE兼容模式下這不是什么罕見(jiàn)事。AHCIAdvanced Host Controller Interface高級(jí)主機(jī)控制器接口本質(zhì)上定義了一套標(biāo)準(zhǔn)化的寄存器接口和行為規(guī)范它最核心的價(jià)值之一就是原生支持NCQ、熱插拔和高效的DMA傳輸。但I(xiàn)DE兼容模式本身并不等于沒(méi)有DMA——IDE模式同樣支持總線(xiàn)主控DMABus Mastering DMA否則早年那些跑在PXE、DOS、傳統(tǒng)BIOS環(huán)境下的機(jī)器讀盤(pán)速度會(huì)慢到?jīng)]法用。問(wèn)題在于IDE模式的DMA能力不像AHCI那樣是“控制器自帶、驅(qū)動(dòng)發(fā)現(xiàn)即可用”的它需要上下兩級(jí)配合固件/驅(qū)動(dòng)需要主動(dòng)初始化IDE控制器的總線(xiàn)主控DMA相關(guān)寄存器上層代碼需要明確選擇使用DMA命令而非PIO命令來(lái)傳輸數(shù)據(jù)只要這兩級(jí)有一級(jí)偷懶整個(gè)鏈路就會(huì)退回到PIO模式。SeaBIOS作為BIOS階段的固件它的ATA驅(qū)動(dòng)代碼直接決定了“內(nèi)核早期通過(guò)BIOS接口讀盤(pán)時(shí)到底是走DMA還是走PIO”。3.2 BIOS階段的磁盤(pán)讀寫(xiě)SeaBIOS不啟用DMA內(nèi)核也只能跟著遭殃這里有個(gè)很多人容易忽略的細(xì)節(jié)Linux內(nèi)核在啟動(dòng)的極早期尤其是解壓initramfs之前并不能使用自己完整的驅(qū)動(dòng)程序棧。它依賴(lài)固件提供的Int 13h例程來(lái)完成磁盤(pán)訪(fǎng)問(wèn)這個(gè)階段被稱(chēng)為“早期引導(dǎo)環(huán)境”。等到內(nèi)核把initramfs加載進(jìn)內(nèi)存解壓完成掛載好臨時(shí)的根文件系統(tǒng)才會(huì)切換到內(nèi)核自己的libata/ata_piix驅(qū)動(dòng)。也就是說(shuō)initramfs這個(gè)文件本身有多大BIOS階段就要通過(guò)Int 13h接口讀多少數(shù)據(jù)。如果SeaBIOS的ATA驅(qū)動(dòng)在傳輸時(shí)選擇的是PIO模式那每次讀一個(gè)扇區(qū)都要CPU反復(fù)輪詢(xún)狀態(tài)寄存器等待I/O完成效率低下到令人發(fā)指。特別是現(xiàn)在發(fā)行版的initramfs動(dòng)輒幾十MB里面塞滿(mǎn)了各種硬件驅(qū)動(dòng)模塊、固件文件、加密工具體量遠(yuǎn)超十年前的標(biāo)準(zhǔn)PIO模式讀這些數(shù)據(jù)就成了一場(chǎng)災(zāi)難。CONFIG_ATA_DMA這個(gè)選項(xiàng)的作用就是在SeaBIOS編譯時(shí)啟用ATA控制器的DMA傳輸支持。打開(kāi)它之后SeaBIOS初始化ATA設(shè)備時(shí)會(huì)把控制器切換到總線(xiàn)主控DMA模式后續(xù)Int 13h讀盤(pán)操作會(huì)使用DMA而不是PIO每一步數(shù)據(jù)傳輸都不再需要CPU逐字節(jié)地搬運(yùn)數(shù)據(jù)。量變引起質(zhì)變這個(gè)差異對(duì)啟動(dòng)耗時(shí)的影響是數(shù)量級(jí)的。3.3 為什么舊版本SeaBIOS默認(rèn)不啟用CONFIG_ATA_DMA看到這里肯定有人要問(wèn)這么明顯的性能差異為什么CONFIG_ATA_DMA不是默認(rèn)開(kāi)啟這個(gè)問(wèn)題我研究過(guò)挺有意思。SeaBIOS在默認(rèn)配置里其實(shí)有很多為了“兼容最大化”而做的保守選擇。CONFIG_ATA_DMA本質(zhì)上默認(rèn)是開(kāi)啟的但如果你用的coreboot版本較老、或者習(xí)慣了用coreboot提供的SeaBIOS配置模板某些預(yù)編譯配置或者精簡(jiǎn)配置可能把它關(guān)掉了。另一個(gè)更隱蔽的情況是有些自定義構(gòu)建為了省ROM空間會(huì)把一些“看起來(lái)并非必需”的選項(xiàng)關(guān)掉——畢竟BIOS只要能把系統(tǒng)引導(dǎo)起來(lái)就算完成任務(wù)沒(méi)人會(huì)想到BIOS階段的磁盤(pán)性能會(huì)影響到整個(gè)系統(tǒng)啟動(dòng)速度。還有一個(gè)兼容性層面的考量IDE模式的DMA在某些極度老舊的芯片組上存在兼容性問(wèn)題極少數(shù)情況下會(huì)引發(fā)數(shù)據(jù)錯(cuò)亂或者傳輸中斷。為了穩(wěn)妥起見(jiàn)部分發(fā)行版或精簡(jiǎn)固件在構(gòu)建SeaBIOS時(shí)干脆禁用了DMA支持。但對(duì)于絕大多數(shù)支持總線(xiàn)主控DMA的IDE控制器來(lái)說(shuō)這個(gè)選項(xiàng)帶來(lái)的收益遠(yuǎn)大于風(fēng)險(xiǎn)。4. 解決辦法手動(dòng)打開(kāi)SeaBIOS的CONFIG_ATA_DMA并重建payload4.1 在coreboot集成SeaBIOS時(shí)改配置defconfig或menuconfig兩種路線(xiàn)搞清楚原因之后剩下的就是動(dòng)手解決。這里有兩種做法取決于你的coreboot是用來(lái)獨(dú)立編譯SeaBIOS還是把它作為內(nèi)嵌payload整體構(gòu)建。先說(shuō)第一種也是最簡(jiǎn)單的方式如果你已經(jīng)用了coreboot的菜單配置也就是運(yùn)行make menuconfig的那個(gè)界面找到Payload配置相關(guān)選項(xiàng)。在coreboot較新版本里SeaBIOS作為payload集成時(shí)會(huì)提供一個(gè)指向額外配置文件的入口比較常見(jiàn)的做法是在coreboot的配置里通過(guò)CONFIG_SEABIOS_EXTRA_CONFIG或者舊版中的CONFIG_PAYLOAD_SEABIOS_EXTRA_CONFIG指向一個(gè)額外的配置片段。你可以在這個(gè)配置片段里寫(xiě)一行CONFIG_ATA_DMAy具體來(lái)說(shuō)你在coreboot源碼根目錄編譯的時(shí)候可以先make menuconfig進(jìn)入Payload那一欄選擇“SeaBIOS”作為payload。然后找到類(lèi)似“SeaBIOS extra config”或者“Additional SeaBIOS configuration”的選項(xiàng)填上配置文件的路徑。那個(gè)文件的內(nèi)容不必很復(fù)雜加上對(duì)應(yīng)的選項(xiàng)即可。第二種做法是完全獨(dú)立編譯SeaBIOS生成自己想要的payload文件再交給coreboot使用。這種方式控制力最強(qiáng)也最容易排查問(wèn)題。操作步驟大致如下git clone https://review.coreboot.org/seabios.git cd seabios make menuconfig make在make menuconfig中進(jìn)入“ATA support”相關(guān)菜單確保CONFIG_ATA_DMA處于開(kāi)啟狀態(tài)。編譯完成后會(huì)生成out/bios.bin.bin如果你需要的是ELF格式payloadcoreboot通常使用這個(gè)可以用make命令生成后看到out/bios.bin.elf。把這個(gè)文件交給coreboot在coreboot配置里指定外部payload路徑。4.2 完整編譯與刷寫(xiě)流程示意如果你用的是coreboot直接內(nèi)嵌SeaBIOS整體流程整理如下準(zhǔn)備好coreboot源碼進(jìn)入make menuconfig在“Payload”中啟用SeaBIOS保留默認(rèn)版本或指定你常用的SeaBIOS版本通過(guò)config片段強(qiáng)制打開(kāi)CONFIG_ATA_DMAy重新編譯corebootmake生成新的build/coreboot.rom用flashrom或其他工具刷入主板如果你的主板不支持軟件刷寫(xiě)還得外接編程器這一步因板而異。我這邊刷寫(xiě)過(guò)程一共花了不到一分鐘啟動(dòng)后的變化卻是立竿見(jiàn)影的。需要特別提醒的一點(diǎn)是CONFIG_ATA_DMA只是SeaBIOS層面的配置開(kāi)關(guān)。你在coreboot的配置界面里是找不到這個(gè)名字的必須在給SeaBIOS的額外配置文件中寫(xiě)入或者在實(shí)際編譯SeaBIOS的時(shí)候通過(guò)它自身的Kconfig系統(tǒng)打開(kāi)。很多人在這步卡住在coreboot的menuconfig里搜ATA_DMA搜不到就放棄了這是正常的因?yàn)樗緛?lái)就是SeaBIOS自己的配置項(xiàng)。4.3 驗(yàn)證是否生效看dmesg中的傳輸模式變化刷寫(xiě)完新固件之后怎么確認(rèn)DMA真的生效了最簡(jiǎn)單的方法還是看dmesg。重啟進(jìn)入系統(tǒng)執(zhí)行dmesg | grep -i ata.*dma\|ata.*pio\|ata.*UDMA如果SeaBIOS階段成功啟用了DMA你在dmesg中可能看不到BIOS階段的直接記錄因?yàn)槟莻€(gè)階段發(fā)生在內(nèi)核接管之前但可以對(duì)比啟動(dòng)速度和早期的ata初始化日志。內(nèi)核的ata驅(qū)動(dòng)會(huì)報(bào)告它檢測(cè)到的最大傳輸模式和當(dāng)前使用的模式如configured for UDMA/133。更重要的是整個(gè)kernel階段的啟動(dòng)時(shí)間會(huì)大幅縮短。另外如果你用的內(nèi)核開(kāi)啟了dynamic_debug可以查看更多底層細(xì)節(jié)。不過(guò)我個(gè)人的經(jīng)驗(yàn)是最直接的驗(yàn)證方式就是重新開(kāi)啟那個(gè)大體積initramfs發(fā)行版的啟動(dòng)計(jì)時(shí)前后對(duì)比一下差距有多大數(shù)據(jù)比任何日志都更有說(shuō)服力。5. 開(kāi)啟DMA之后實(shí)測(cè)提升和其他補(bǔ)充優(yōu)化5.1 前后對(duì)比從78秒到17秒改完配置、刷完BIOS之后我又用systemd-analyze做了一次完整的啟動(dòng)時(shí)間記錄階段修改前秒修改后秒firmwarecorebootSeaBIOS3.23.1loaderGRUB1.81.7kernel含initramfs讀取78.617.4userspacesystemd初始化6.15.9總計(jì)89.728.1kernel階段從78.6秒降到17.4秒整個(gè)系統(tǒng)的啟動(dòng)總時(shí)間從接近一分半鐘縮短到半分鐘以?xún)?nèi)。這個(gè)提升幅度完全達(dá)到了“像換了一臺(tái)機(jī)器”的程度而且整體系統(tǒng)進(jìn)入桌面之后的流暢度也有微妙改善因?yàn)閱?dòng)初期的I/O壓力不再拖累后續(xù)進(jìn)程加載了。順帶一提我用的是機(jī)械硬盤(pán)如果換成SSD或者更高轉(zhuǎn)速的硬盤(pán)這個(gè)差距可能還會(huì)更大。因?yàn)镾SD在PIO模式下的性能瓶頸更明顯DMA模式才能發(fā)揮出設(shè)備的真實(shí)速度。5.2 其他可以配合的啟動(dòng)提速項(xiàng)CONFIG_ATA_DMA解決了最核心的問(wèn)題但如果你還在折騰老平臺(tái)的啟動(dòng)速度下面這幾個(gè)優(yōu)化項(xiàng)也可以一并考慮縮小initramfs體積。即使開(kāi)啟了DMA早期BIOS階段的PIO讀取依然存在只是時(shí)間縮短了。initramfs的體積越小這個(gè)階段的耗時(shí)越短?？梢杂胢kinitcpioArch系或者update-initramfsDebian系時(shí)只保留必要模塊或者改用dracut --hostonly生成僅包含當(dāng)前硬件驅(qū)動(dòng)的最小initramfs。開(kāi)啟GRUB的truecrypt和native圖形模式。GRUB自身讀取內(nèi)核文件也會(huì)經(jīng)過(guò)固件接口讓GRUB使用自己原生的磁盤(pán)驅(qū)動(dòng)insmod ata、insmod ahci可以直接繞過(guò)BIOS接口讀取速度更快。在GRUB的/boot/grub/grub.cfg中的load_video附近加一段insmod ata和insmod ahci可以顯著縮短GRUB加載內(nèi)核的時(shí)間。確認(rèn)內(nèi)核命令行沒(méi)有多余的等待參數(shù)。比如rootdelay、rootwait這些參數(shù)會(huì)根據(jù)場(chǎng)景增加額外等待時(shí)間如果確實(shí)需要保留至少確認(rèn)它們沒(méi)有被不必要地放大?？紤]終端輸出的速度影響。老主板在串口控制臺(tái)或慢速幀緩沖設(shè)備上輸出大量?jī)?nèi)核日志也可能放大啟動(dòng)耗時(shí)。如果不需要詳細(xì)日志可以在內(nèi)核命令行加上quiet loglevel3減少啟動(dòng)階段的終端輸出壓力。5.3 給同樣折騰老硬件的人留個(gè)備忘整個(gè)排查和解決過(guò)程走下來(lái)我給同樣喜歡折騰老平臺(tái)、玩coreboot和SeaBIOS的人留幾個(gè)備忘點(diǎn)都是實(shí)打?qū)嵅冗^(guò)的坑第一不要假設(shè)“BIOS階段慢一點(diǎn)無(wú)所謂”。在傳統(tǒng)BIOS啟動(dòng)流程里BIOS階段的磁盤(pán)讀取能力直接影響內(nèi)核早期初始化速度?，F(xiàn)在的Linux發(fā)行版為了兼容所有硬件initramfs越做越大BIOS階段慢吞吞地讀幾十MB數(shù)據(jù)放大了這個(gè)問(wèn)題。尤其是那顆老態(tài)龍鐘的機(jī)械硬盤(pán)還在堅(jiān)持服役的場(chǎng)景下這個(gè)差距更加顯著。第二CONFIG_ATA_DMA不是萬(wàn)能的開(kāi)關(guān)但值得先試。它解決的是“BIOS階段的磁盤(pán)傳輸模式”問(wèn)題。如果你的啟動(dòng)慢點(diǎn)不在這個(gè)階段而是集中在systemd初始化、網(wǎng)絡(luò)等待、服務(wù)超時(shí)等環(huán)節(jié)開(kāi)啟它不會(huì)有任何效果需要另找原因。但“先試這個(gè)”的成本極低一次重新編譯刷寫(xiě)就能確認(rèn)收益卻可能非常大。第三一定要保留一個(gè)好的啟動(dòng)時(shí)間度量工具。我強(qiáng)烈建議在折騰之前先用systemd-analyze記錄基線(xiàn)數(shù)據(jù)修改之后再記錄一次做對(duì)比。沒(méi)有量化數(shù)據(jù)全憑“感覺(jué)變快了”很容易誤判也容易在后續(xù)改動(dòng)中引入新問(wèn)題而不自知。第四老硬件上兼容性永遠(yuǎn)要放在性能前面。萬(wàn)一開(kāi)了DMA之后出現(xiàn)偶爾的讀盤(pán)錯(cuò)誤、啟動(dòng)不穩(wěn)定、文件系統(tǒng)校驗(yàn)失敗不用急著排除DMA模式先確認(rèn)是不是電源供電不穩(wěn)、SATA線(xiàn)老化、硬盤(pán)本身有壞道。DMA只是把數(shù)據(jù)通路打開(kāi)了并不能解決硬件本身的老化問(wèn)題。如果確實(shí)出現(xiàn)DMA相關(guān)問(wèn)題也可以考慮退回PIO模式不過(guò)以我的經(jīng)驗(yàn)絕大多數(shù)老ICH芯片組在DMA模式下都非常穩(wěn)定。折騰完這臺(tái)老機(jī)器最大的感慨是有些問(wèn)題時(shí)隔多年依然會(huì)咬人但底層原理搞清楚之后解決起來(lái)就是改一個(gè)配置、重新編譯一次固件的事。如果你也正被類(lèi)似的不支持AHCI的老主板加coreboot組合折磨著不妨花二十分鐘試試這個(gè)方案多半不會(huì)讓你失望。