報告指出，由于AI服務器客戶增加了企業級SSD的訂單，導致這一類別的合同價格從2023年第四季度到2024年第三季度上漲了超過80%。SSD在AI開發中扮演著至關重要的角色。在AI模型訓練中，SSD主要用于存儲模型參數，包括不斷變化的權重和偏差。

另一個關鍵應用是創建檢查點，以便定期保存AI模型訓練進度，如果訓練中斷，可以從特定點恢復。因此，客戶通常選擇4TB/8TB的TLC SSD，以滿足訓練過程中對快速數據傳輸和高寫入耐久性的要求。

TrendForce還指出，SSD在AI推理服務器中幫助調整和優化AI模型，在推理過程中可以實時更新數據，以微調模型的輸出。AI推理主要提供檢索增強生成（RAG）和大語言模型（LLM）服務。SSD存儲RAG和LLM用于生成信息的參考文件和知識庫。

此外，隨著越來越多的信息以視頻或圖像形式生成，所需的存儲容量也在增加，使得TLC/QLC 16TB或更大的高容量SSD成為AI推理應用的首選。

2024年，AI服務器SSD市場在第二季度開始對16TB以上的大容量產品需求顯著增加。隨著英偉達H100、H20和H200系列產品的到來，客戶進一步增加了4TB和8TB TLC企業級SSD的訂單。

TrendForce估計，今年AI相關的SSD采購量將超過45 EB。未來幾年，AI服務器預計將推動SSD需求年均增長率超過60%，AI SSD需求占總NAND Flash消費量的比例可能從2024年的5%上升到2025年的9%。

AI推理服務器將繼續采用高容量SSD產品。供應商已經開始加速工藝升級，計劃從2025年第一季度開始量產200，甚至300層產品，最終推出120TB以上的企業級SSD產品。