4070 Ti SUPER 一半的 tensor 速度被鎖住,解開後還要塞進我的熱插拔架構
11 月 16 日早上,我要在 RTX 4070 Ti SUPER 上套一個別人做好的解鎖。我問的第一句話是「我們的 PVE 伺服器可以怎麼套上去」,還沒問怎麼裝。
這張卡平常直通給一台 Windows 虛擬機,我拿它玩模擬飛行、做串流。Linux 容器要跑 AI 的時候,我自己做的 vfio-hotswap 會把卡從執行中的 Windows 熱拔下來,借給容器用,閒置五分鐘再插回去。所以解鎖套上去以後,Windows 直通、熱拔借走、插回去,這三件事都要照舊運作。這張卡去年 10 月在 Proxmox 虛擬機裡憑空消失的那段,我寫在〈當你的顯卡在虛擬機裡消失了〉,這篇接在後面。
被鎖住的是哪一半
GeForce 卡做 FP16 或 BF16 的矩陣運算,用 FP32 累加(AI 訓練最常用的那種)時,速度被限制在一半。這是產品區隔,不是硬體做不到。
gpu-unlock-ada(GPL-2.0,公開)做了一個 Linux 核心模組,在 NVIDIA 驅動載入前先跑,把這個限制改成全速。不用改 NVIDIA 驅動,也不用刷 BIOS。它整合的是別人的成果:Zagitta/gpu-unlock 的 Linux 模組,加上 Hugging Face 上 TOTORONG/AD103_win_unlocker 公開的 payload。解鎖本身不是我寫的。
我這張卡的 PCI ID 是 10de:2705,在 gpu-unlock-ada 裡是「實驗性」目標,原本只有一張卡做過前後對照。
先問順序,再問怎麼裝
解鎖模組必須在任何驅動綁定這張卡之前跑。Claude Code 先去查我的主機,發現開機時 vfio-pci 要等 initramfs 之後才從硬碟載入、才綁卡,順序本來就是對的。gpu-unlock-ada 裡另一份 RTX 4070 Ti(2782)的報告也是 PVE 加 VFIO 直通,寫到解鎖撐得過虛擬機重開時的裝置重置。不過那份是在虛擬機裡面跑模組,也只測了一次。
結論是 vfio-hotswap 一行都不用改。
動手之前,Claude Code 先從容器借卡,跑了一輪原廠基準:同一套程式,同一個驅動(620.70.06),同一個 285 W 功耗上限。之後的比較才有東西可以對。
上游的建置壞了
照 gpu-unlock-ada 的做法,建置時要下載一個 NVIDIA 套件,鎖定的是 CachyOS 封存站上的 nvidia-utils 610.43.03。那個套件已經被下架,下載回 404。上游的 #145 和 #146 都有人回報,還沒修。
#145 的人查到 Arch Linux 官方封存站還有同一版,真正用到的兩個檔案,雜湊跟原本鎖定的值一樣。Claude Code 自己核對過一次才改用它,產出的韌體雜湊也跟 #146 另一位用原檔得到的結果一致。這是兩個陌生人各自留下的紀錄,剛好能互相驗證。
一步一步,一次 reboot
我說「我們一步一步來」。風險最大的是整台主機重開,我自己把它拆成口令:先關 Windows 虛擬機,再關其他虛擬機,最後才重開 PVE,每一步做完才給下一步。
上游 README 建議第一次要整台斷電再冷開機。但 2705 的報告寫著一般重開機也成功過,而且模組遇到狀態不乾淨的卡會拒絕執行,不會硬做。所以我先試一般的 reboot,一次就成功了:核心日誌出現 gpu_unlock: unlocked,Windows 虛擬機自動開機,把卡接回去。整個過程我沒有碰到實體電源,從開題到驗證完大約 40 分鐘。
數字
同一張卡,同一個驅動 620.70.06,同一個 285 W 上限,單位是 TF/s。
| 項目 | 原廠 | 解鎖後 |
|---|---|---|
| FP16 輸入、FP32 累加(指令速率) | 93.0 | 185.5(1.99×) |
| BF16 輸入、FP32 累加(指令速率) | 92.9 | 185.1(1.99×) |
| FP8(指令速率) | 185.1 | 368.9(1.99×) |
| cuBLAS 矩陣乘法 8192³,FP16 | 88.2 | 159.4(+81%) |
| cuBLAS 矩陣乘法 8192³,BF16 | 87.5 | 148.9(+70%) |
| cuBLAS 矩陣乘法 1024³ | 約 74 | 117.2(約 +58%) |
上面三列的 1.99× 是指令速率,不是整張卡的速度。實際跑 cuBLAS 矩陣乘法,8192³ 的 FP16 是 +81%。INT8、dp4a 和一般 FP32 的速率都沒動(371/92/44 變成 370/92/44)。數值檢查 0 錯,峰值功耗從 218 W 到 225 W,溫度從 60°C 到 65°C。
變快的只有 FP32 累加的 tensor 運算。量化模型推論,在 gpu-unlock-ada 另一張 RTX 4090 的報告裡沒有變快;Windows 遊戲我預期沒差,但沒有量過;實際跑 LoRA 訓練能快多少,我還沒測。
升核心的時候它會悄悄回去
Claude Code 寫了一句「升核心時要記得確認」,我回的是:「更新的時候加一個 apt hook?」
系統升級核心以後,如果解鎖模組沒有跟著編好,卡會在下次開機時悄悄回到半速,沒有任何錯誤訊息。所以最後做成每次 apt 跑完,就自動檢查下次開機要用的核心,缺了就印警告。
hook 裝好沒幾分鐘,我就真的升了核心,從 7.0.14-28 到 29。檢查通過,重開機,解鎖照樣成功。
這只是一張卡的結果
這是實驗性功能,一張卡、一次重開機、一次升核心的結果。熱拔很多次之後它還在不在,長時間跑會不會穩,我都還沒驗證。這篇不是推薦大家照做的教學。
我這邊做的事不多:問能不能套進這套架構,決定重開機的順序,提議加 apt hook。查主機、建置、核對雜湊、跑基準,是 Claude Code 做的。解鎖本身屬於那三個開放原始碼專案,還有在 #145、#146 留下紀錄的人。

COMMENTS 留言討論
載入留言系統中...
無法載入留言系統。您可以前往 GitHub Discussions 參與討論。