幹嘛修這門課?

台灣掌控全球 SSD 控制晶片與伺服器代工的關鍵供應鏈。
想找到好工作嗎?不只要會寫 code,還要對儲存系統有深層的理解。

AI 能自動化的

AI 無法取代的三種能力

  • 驗證: AI 寫的 code 能跑,但你敢讓它管你的資料嗎?
  • 品味與決策: 懂系統的人能判斷 trade-off
  • 問對問題: 「為什麼慢?」vs「tail latency spike 是 GC 還是 read retry?」

Agentic AI 引爆的 KV Cache 危機

當 AI 從問答走向「代理執行多步任務」,會產生海量的 KV Cache。昂貴的 GPU HBM 瞬間耗盡,資料必須 offload 至 SSD ...

  • Phison
    aiDAPTIV+ — 120B 模型在 32GB DRAM 筆電運行(傳統上需要 96GB 的 DRAM)
  • NVIDIA
    Vera Rubin 架構 — 單一伺服器 NAND 需求推升至 1,152TB
Memory (GB)Agentic AI Context WindowGPU HBM LimitKV Cache GrowthStorage Opportunity(SSD replaces DRAM)

台灣儲存供應鏈

畢業後去哪?

Taiwan dominatesNAND / DRAMSamsungSK Hynix控制器 ICPhison, SIMORealtek, MTKSSD 模組ADATA, TranscendInnodisk伺服器 ODMQuanta, WistronInventecAI 基礎設施HyperscalersAI Labs

Phison 群聯

全球 SSD 控制晶片龍頭 — AI 存儲擴展先驅

  • -Pascari X200Z: PCIe Gen5 企業 SSD, 60 DWPD, 近 SCM 低延遲
  • -E28 控制器: 6nm, 內建 AI 加速引擎, IOPS 創新高
  • -aiDAPTIV+: 以 NAND 擴展 GPU 記憶體, 120B 模型在 32GB 筆電運行

SSD 韌體 / 儲存架構師 / 可靠度工程師

Silicon Motion 慧榮

全球 NAND 控制器大廠 — 可編程韌體平台

  • -SM2508: 6nm Gen5, 14GB/s, 2.5M IOPS, 功耗 <7W
  • -MonTitan (SM8366): 企業級可編程 SSD 平台
  • -PerformaShape QoS: 硬體隔離多階段 AI 資料管線

控制器韌體 / 儲存演算法 / 效能優化

Realtek 瑞昱

從網路/音訊跨入高階 SSD 控制器

  • -RTS5781DL: Gen5 x4, DRAM-less, 10GB/s
  • -RTS5782: 8 通道, 3600 MT/s NAND, 14GB/s, 4K LDPC

SSD 控制器設計 / 韌體工程師

MediaTek 聯發科

移動端 UFS 4.0 + MCQ 多佇列技術

  • -UFS 4.0 + MCQ: 32 組佇列對, 消除多核心鎖爭用
  • -Dimensity Auto: 車規 PCIe Gen5, ISO 26262 ASIL-B/D

SoC 設計 / 系統軟體 / 驅動開發

Quanta / Wistron 廣達 / 緯創

AI 伺服器整機 — 全球最大 ODM

  • -NVMe-oF 解耦架構: 儲存與計算獨立擴展
  • -GPUDirect Storage: 資料繞過 CPU 直達 GPU
  • -18 槽 All-NVMe SSD, 液冷散熱設計

系統整合 / 資料中心架構 / 散熱工程

你的 career 用的到的課堂知識

對應真實的產業需求與職缺類型。

Flash & SSD Internals

Flash & SSD Internals

NAND 物理特性、FTL 映射、GC 策略、Write Amplification — 理解 SSD 為何這樣行為

SSD 韌體工程師 (群聯, 慧榮, 瑞昱) / 可靠度分析師
I/O Interfaces & NVMe

I/O Interfaces & NVMe

Block I/O、DMA、NVMe 多佇列、io_uring、Kernel-bypass — 從 syscall 到硬體 doorbell

系統軟體 (聯發科) / 儲存驅動 (瑞昱) / 高效能 I/O (廣達)
Indexing & Data Structures

Indexing & Data Structures

B+Tree、LSM-Tree、Bloom Filter、HNSW、PQ — 資料在 SSD 上的佈局決定查詢效率

資料庫核心 / 向量搜尋引擎 / ML Infra
File Systems

File Systems

Journaling、COW、Log-structured FS、Ext4 — 檔案系統如何在 crash 後保持一致

Linux Kernel / 嵌入式系統 / 雲端儲存
Reliability & Coding

Reliability & Coding

Error Coding、RAID、Erasure Coding、SSD Reliability — 資料完整性的數學基礎與系統工程

晶片驗證 (群聯, 慧榮) / RAID (廣達) / 可靠度
Data Systems

Data Systems

Buffer Pool、KV Store、Columnar Storage、Model Quantization — 系統層級的效能工程

資料庫工程 / ML 系統 / 分散式儲存

系統思維

能問出正確的系統問題,是資深工程師與初級工程師的分水嶺。

表面問題

API 怎麼用?

系統層問題

queue depth=128 時 tail latency 分佈?瓶頸在 doorbell register 還是 completion handling?

需要的知識:NVMeBlock I/O
表面問題

AI 推論太慢,換 GPU?

系統層問題

KV Cache 超過 HBM 容量?offload 到 SSD 的 bandwidth 夠嗎?TLC page read latency 是否成為瓶頸?

表面問題

RAID 5 夠安全?

系統層問題

10TB 碟 URE rate + rebuild 時間 → MTTDL 是多少?是否需要 erasure coding with local parity?

需要的知識:RAIDSSD Reliability
能問出這些問題,就是資深工程師與初級工程師的分水嶺。這門課教你系統的 vocabulary 和 minset。