j.BECOMING
JENSEN
EN ↗
FIELD NOTES / 03 · 1963—2025

理解層次,
看見系統。

十二種產品與平台,從用途開始理解。比較角色與依賴條件,而不是把不同層級混成效能競賽。

BECOMING JENSEN一份產業觀察圖譜
比較已選產品 ↓
01 / GRAPHICS

GeForce RTX 50

消費級圖形與本機 AI。

使用者
玩家、創作者與 PC 開發者。
需要什麼
相容 PC、驅動程式與應用支援。

同系列包含不同桌機與筆電組態。

NVIDIA · GeForce RTX 50 announcement · 2025-01-06 ↗
02 / COMPUTE

H200

搭配 HBM3E 的資料中心 GPU。

使用者
AI 與 HPC 基礎設施團隊。
需要什麼
認證伺服器平台與加速器軟體。

GPU 只是完整服務的一個元件。

Micron · HBM3E / H200 · 2024-02-26 ↗
03 / COMPUTE

B200 / Blackwell

加速大型平行運算與 AI 工作。

使用者
資料中心系統設計與營運團隊。
需要什麼
記憶體、封裝、互連與軟體。

架構、GPU 型號與完整系統是不同層級。

NVIDIA · Blackwell announcement · 2024-03-18 ↗
04 / COMPUTE

Grace CPU

以 Arm 為基礎的資料中心主機運算。

使用者
伺服器架構師與 HPC 開發者。
需要什麼
Arm 相容軟體與平台整合。

Grace 是 CPU,不是 GPU 的別稱。

Arm · Neoverse and Grace · 2022 ↗
05 / SYSTEMS

GB200 Superchip

結合一顆 Grace CPU 與兩顆 Blackwell GPU。

使用者
設計加速平台的系統製造商。
需要什麼
晶片間互連與散熱設計。

Superchip 並不等於整座資料中心。

NVIDIA · Blackwell announcement · 2024-03-18 ↗
06 / SYSTEMS

GB300 NVL72

機櫃級 Blackwell Ultra 運算。

使用者
大規模 AI 基礎設施營運者。
需要什麼
36 顆 Grace CPU、72 顆 GPU、液冷與網路。

機櫃規格不等於應用的實際效能。

NVIDIA · Blackwell Ultra technical guide · 2025-03-19 ↗
08 / NETWORK

Spectrum-X

用於 AI 叢集網路的乙太網路平台。

使用者
網路架構師與資料中心營運者。
需要什麼
交換器、網卡、軟體與網路設定。

Scale-out 網路連接系統,並不取代 GPU。

NVIDIA · Blackwell announcement · 2024-03-18 ↗
09 / SOFTWARE

CUDA

GPU 運算的程式設計平台。

使用者
撰寫加速應用的開發者。
需要什麼
支援硬體、工具鏈與適合的演算法。

把程式搬到 GPU,不會自動變快。

NVIDIA · CUDA programming guide ↗
10 / SOFTWARE

NVIDIA NIM

用於模型部署的封裝推論服務。

使用者
部署 AI 端點的應用團隊。
需要什麼
支援模型、執行基礎設施與授權。

部署工具不保證模型回答正確。

NVIDIA · NIM deployment · 2024-06-02 ↗
11 / SOFTWARE

Omniverse

工業數位孿生的函式庫與工具。

使用者
模擬、工業與 3D 軟體團隊。
需要什麼
場景資料、模擬模型與軟體整合。

模擬的價值取決於假設與驗證。

NVIDIA · Omniverse ecosystem · 2025-03-18 ↗
12 / SOFTWARE

NVIDIA Dynamo

分散式 AI 推論服務框架。

使用者
擴充模型服務基礎設施的團隊。
需要什麼
GPU 節點、模型引擎與協調管理。

服務吞吐量取決於工作負載與組態。

NVIDIA · Blackwell Ultra technical guide · 2025-03-19 ↗
SIDE BY SIDE

並排理解角色。

從上方選擇最多三種產品。

A SMALL FIELD DICTIONARY

讓專業語言,
更容易理解。

無晶圓廠+

公司設計晶片,製造則由外部夥伴執行;本身仍進行大量硬體與軟體工程。

高頻寬記憶體+

用來快速搬移大量資料的堆疊式記憶體。容量表示能裝多少,頻寬表示搬得多快。

封裝+

整合晶粒、記憶體與連接的電性及實體工程,是晶圓製造後的重要步驟。

向內/向外擴充+

Scale up 在系統或運算域內緊密連接處理器;scale out 透過網路連接更多系統。

訓練/推論+

訓練利用資料調整模型;推論使用訓練好的模型產生結果。兩者都消耗運算,但模式不同。

數位孿生+

與實體資產或流程對應、可供分析與模擬的數位表示,需要維護資料並持續驗證。