從 DDR5 到 NVMe：AI 伺服器避免“記憶體—儲存錯配”的容量規劃方法

問題不只是“記憶體夠不夠、SSD 大不大”

伺服器資源規劃常把記憶體和儲存分成兩張清單，但 AI 與資料密集型業務會不斷在 RAM、NVMe、網路檔案系統和物件儲存之間行動數據。若記憶體太小，工作集頻繁溢位到儲存；若本地 SSD 容量和耐久度不足，檢查點、快取或臨時資料會擠佔關鍵路徑；若網路儲存策略不匹配，又可能把延遲轉移到跨節點訪問。

容量規劃的四個變數

變數	需要向業務確認的問題	硬體規劃影響
工作集	單個作業在活躍階段真正需要駐留的資料量是多少？	決定 RAM、快取與本地 NVMe 的最小基線
併發度	同節點並行作業、容器或使用者數量是多少？	決定總記憶體、水位與 I/O 佇列壓力
檢查點與恢復	多長時間寫一次、單次多大、允許恢復多久？	決定持續寫入能力、耐久度和容量餘量
資料位置	熱資料、冷資料和共享資料分別位於哪裡？	決定本地盤、共享儲存、網路與快取策略

DDR5 選型中的現實約束

伺服器記憶體必須在平臺支援範圍內佈置。JEDEC 的 DDR5 RDIMM 標準明確其用於伺服器、工作站和資料庫環境；實際容量和速度仍須遵循伺服器與 CPU 的支援矩陣。 三方混插或不對稱通道雖然有時能啟動，但會增加降速、限制和排障的不確定性。

NVMe 規劃中的現實約束

本地 NVMe 容量不能簡單按資料集總量估算，而應將作業系統、容器鏡像、快取、臨時檔案、檢查點、預留空間和故障恢復緩衝納入模型。對於持續寫入任務，還需將 DWPD/TBW 與實際主機寫入曲線進行比較。

一個可執行的規劃順序

1. 從現有作業、監控和容量告警中收集工作集、峰值併發、寫入量和恢復時間目標。
2. 將每類工作負載分為記憶體敏感、讀取敏感、寫入敏感或網路敏感，避免用同一配置覆蓋所有節點。
3. 按伺服器支援矩陣設計記憶體通道，並按資料路徑設計 NVMe 形態、容量和耐久度。
4. 在代表性節點上進行壓力與恢復驗證，再將監控閾值、擴容條件和更換策略納入運維手冊。