去年，三星公布了為 GPU 和服務(wù)器開發(fā) GDDR7 DRAM的計劃。今年早些時候，該公司透露了有關(guān)這些存儲芯片的更多細節(jié)。今天，三星宣布已完成 GDDR7 DRAM 芯片的開發(fā)，該芯片將用于未來的汽車、游戲機、個人電腦、服務(wù)器和工作站。它是世界上第一家完成此類先進存儲芯片開發(fā)的公司。

三星的GDDR7 DRAM 擁有破紀錄的 1.5TBps 帶寬，比 GDDR6 DRAM 高出 40%。得益于 PAM3（脈沖幅度調(diào)制）信號方法的增強，它的每引腳速度為 32Gbps。PAM3 是一種新的內(nèi)存標(biāo)準(zhǔn)，允許在同一信令周期內(nèi)發(fā)送多 50% 的數(shù)據(jù)。GDDR6 等上一代內(nèi)存芯片使用 NRZ（不歸零）信號發(fā)送方法。這些新型內(nèi)存芯片的能效也比 GDDR6 DRAM 芯片高出 20%。三星還為其新芯片提供了較低電壓的選擇，該芯片專門針對筆記本電腦和其他此類設(shè)備而設(shè)計。

為了減少熱量產(chǎn)生，除了 IC 架構(gòu)優(yōu)化之外，三星還在封裝中使用了新型 EMC（環(huán)氧樹脂模塑料）材料，它具有高導(dǎo)熱性。所有這些改進使熱阻降低了 70%，從而提供了更穩(wěn)定的產(chǎn)品，即使在高壓力的操作條件下也能表現(xiàn)良好。三星的重要客戶將于今年開始測試DGGR7 DRAM芯片進行驗證。我們預(yù)計這些新芯片將用于Nvidia 的RTX 50 系列 GPU。

三星電子內(nèi)存產(chǎn)品規(guī)劃團隊執(zhí)行副總裁 Yongcheol Bae 表示：“我們的 GDDR7 DRAM 將有助于提升工作站、PC 和游戲機等需要出色圖形性能的領(lǐng)域的用戶體驗，并且預(yù)計將擴展到未來人工智能、高性能計算 (HPC) 和汽車等應(yīng)用。下一代圖形 DRAM 將根據(jù)行業(yè)需求推向市場，我們計劃繼續(xù)保持在該領(lǐng)域的領(lǐng)先地位。”

當(dāng)三星去年 10 月嘲笑GDDR7 內(nèi)存的持續(xù)開發(fā)時， Cadence 沒有透露即將推出的規(guī)范的任何其他技術(shù)細節(jié)。但他們最近透露了有關(guān)該技術(shù)的一些額外細節(jié)。事實證明，GDDR7 內(nèi)存將使用 PAM3 和 NRZ 信號，并將支持許多其他功能，目標(biāo)是達到每個引腳高達 36 Gbps 的數(shù)據(jù)速率。

在較高的層面上，近年來 GDDR 內(nèi)存的發(fā)展相當(dāng)簡單：更新的內(nèi)存迭代提高了信號速率，增加了突發(fā)大小（burst size）以跟上這些信號速率，并提高了通道利用率。但是這些都沒有顯著增加存儲單元的內(nèi)部時鐘。例如，GDDR5X 和后來的 GDDR6 將其突發(fā)大小增加到 16 字節(jié)，然后切換到雙通道 32 字節(jié)訪問粒度。雖然每一代技術(shù)都面臨著挑戰(zhàn)，但最終行業(yè)參與者已經(jīng)能夠通過每個版本的 GDDR 提高內(nèi)存總線的頻率，以保持性能的提升。

但即使是“簡單”的頻率增加也越來越變得不那么簡單了。這促使該行業(yè)尋找除了加快時鐘之外的解決方案。

借助 GDDR6X，美光和 NVIDIA 將傳統(tǒng)的不歸零 (NRZ/PAM2) 編碼替換為四級脈沖幅度調(diào)制 (PAM4) 編碼。PAM4 使用四個信號電平將有效數(shù)據(jù)傳輸速率提高到每個周期兩個數(shù)據(jù)位，從而實現(xiàn)更高的數(shù)據(jù)傳輸速率。實際上，由于 GDDR6X 在 PAM4 模式下運行時具有 8 字節(jié) (BL8) 的突發(fā)長度（burst length），因此在相同數(shù)據(jù)速率（或者更確切地說，信號速率）下它并不比 GDDR6 快，而是設(shè)計為能夠達到比 GDDR6 可以輕松實現(xiàn)的更高的數(shù)據(jù)速率。

四級脈沖幅度調(diào)制在信號丟失方面優(yōu)于 NRZ。對于給定的數(shù)據(jù)速率，由于 PAM4 需要 NRZ 信號傳輸波特率的一半，因此產(chǎn)生的信號損失顯著減少。隨著更高頻率的信號在通過導(dǎo)線/走線時衰減得更快——而且按照數(shù)字邏輯標(biāo)準(zhǔn)，內(nèi)存走線的距離相對較長——能夠在本質(zhì)上是較低頻率的總線上運行，最終使一些工程和走線更容易實現(xiàn)更高的數(shù)據(jù)速率。

權(quán)衡（trade-off ）是 PAM4 信號通常對隨機和感應(yīng)噪聲更敏感；為了換取較低頻率的信號，您必須能夠正確識別兩倍的狀態(tài)。實際上，這會導(dǎo)致給定頻率下的誤碼率更高。為了降低BER，需要在Rx端進行均衡，在Tx端進行預(yù)補償，這會增加功耗。雖然它未用于 GDDR6X 內(nèi)存，但在更高頻率（例如 PCIe 6.0）下，前向糾錯 (FEC) 也是一項實際要求。

當(dāng)然，GDDR6X 內(nèi)存子系統(tǒng)需要全新的內(nèi)存控制器，以及用于處理器和內(nèi)存芯片的全新物理接口 (PHY)。這些復(fù)雜的實現(xiàn)在很大程度上是四級編碼直到最近才幾乎完全用于高端數(shù)據(jù)中心網(wǎng)絡(luò)的主要原因，在這些網(wǎng)絡(luò)中有支持使用這種尖端技術(shù)的利潤。

GDDR7：PAM3 編碼高達 36 Gbps/pin

考慮到上述在使用 PAM4 信號或 NRZ 信號時的權(quán)衡，事實證明支持 GDDR7 內(nèi)存標(biāo)準(zhǔn)的 JEDEC 成員反而采取了一些折衷的立場。GDDR7 內(nèi)存設(shè)置為使用 PAM3 編碼進行高速傳輸，而不是使用 PAM4。

顧名思義，PAM3 介于 NRZ/PAM2 和 PAM4 之間，使用三級脈沖幅度調(diào)制（-1、0、+1）信號，允許它每個周期傳輸 1.5 位（或者更確切地說是 3 位以上）兩個周期）。PAM3 提供比 NRZ 更高的每周期數(shù)據(jù)傳輸速率——減少了遷移到更高內(nèi)存總線頻率的需要以及由此帶來的信號丟失挑戰(zhàn)——同時需要比 PAM4 更寬松的信噪比?？偟膩碚f，GDDR7 承諾比 GDDR6 具有更高的性能，同時比 GDDR6X 具有更低的功耗和實施成本。

對于那些記分的人來說，這實際上是我們看到的第二個使用 PAM3 的主要消費技術(shù)。出于類似的技術(shù)原因，USB4 v2（又名 80Gbps USB）也在使用 PAM3。那么 PAM3 到底是什么？

PAM3 是一種數(shù)據(jù)線可以承載 -1、0 或 +1 的技術(shù)。該系統(tǒng)所做的實際上是將兩個 PAM3 傳輸組合成一個 3 位數(shù)據(jù)信號，例如 000 是一個 -1 后跟一個 -1。這變得很復(fù)雜，所以這里有一個表格：

當(dāng)我們將 NRZ 與 PAM3 和 PAM4 進行比較時，我們可以看到 PAM3 的數(shù)據(jù)傳輸速率處于 NRZ 和 PAM4 的中間。在這種情況下使用 PAM3 的原因是為了在沒有 PAM4 需要啟用的額外限制的情況下實現(xiàn)更高的帶寬。

話雖如此，三星承諾的具有 36 Gbps 數(shù)據(jù)傳輸速率的 256 位內(nèi)存子系統(tǒng)將使用多少功率還有待觀察。GDDR7 規(guī)范本身尚未獲得批準(zhǔn)，硬件本身仍在構(gòu)建中（這正是 Cadence 等工具發(fā)揮作用的地方）。但請記住，AI、HPC 和圖形的帶寬需求量很大，帶寬將永遠受到歡迎。

優(yōu)化效率和功耗

除了提高吞吐量外，GDDR7 有望采用多種方式來優(yōu)化內(nèi)存效率和功耗。特別是，GDDR7 將支持四種不同的讀取時鐘 (RCK) 模式，以便僅在需要時啟用它：

始終運行：始終運行并在睡眠模式下停止；

禁用：停止運行；

Start with RCK Start command：主機可以在讀出數(shù)據(jù)之前通過發(fā)出RCK Start命令來啟動RCK，并在需要時使用RCK Stop命令停止。

Start with Read：當(dāng) DRAM 收到任何涉及讀出數(shù)據(jù)的命令時，RCK 自動開始運行。它可以使用 RCK Stop 命令停止。

此外，GDDR7 內(nèi)存子系統(tǒng)將能夠并行發(fā)出兩個獨立的命令。例如，Bank X 可以通過在 CA[2:0] 上發(fā)出 Refresh per bank 命令來刷新，而 Bank Y 可以通過同時在 CA[4:3] 上發(fā)出讀取命令來讀取。此外，GDDR7 將支持線性反饋移位寄存器 (LFSR) 數(shù)據(jù)訓(xùn)練模式，以確定適當(dāng)?shù)碾妷弘娖胶蜁r序，以確保一致的數(shù)據(jù)傳輸。在這種模式下，主機將跟蹤每個單獨的眼睛（連接），這將允許它應(yīng)用適當(dāng)?shù)碾妷阂愿玫貎?yōu)化功耗。

最后，GDDR7 將能夠根據(jù)帶寬需求在 PAM3 編碼和 NRZ 編碼之間切換。在高帶寬場景中，將使用 PAM3，而在低帶寬場景中，內(nèi)存和內(nèi)存控制器可以切換到更節(jié)能的 NRZ。

雖然 GDDR7 承諾在不大幅增加功耗的情況下顯著提高性能，但技術(shù)觀眾最大的問題可能是  新型內(nèi)存何時可用。由于沒有來自 JEDEC 的硬性承諾，因此沒有預(yù)計 GDDR7 發(fā)布的具體時間表。但考慮到所涉及的工作和 Cadence 驗證系統(tǒng)的發(fā)布，預(yù)計 GDDR7 將與 AMD 和 NVIDIA 的下一代 GPU 一起進入現(xiàn)場并不是沒有道理的。請記住，這兩家公司傾向于以大約兩年的節(jié)奏推出新的 GPU 架構(gòu)，這意味著我們將在 2024 年晚些時候開始看到 GDDR7 出現(xiàn)在設(shè)備上。

當(dāng)然，鑒于如今有如此多的 AI 和 HPC 公司致力于帶寬需求高的產(chǎn)品，其中一兩家可能會更快發(fā)布依賴 GDDR7 顯存的解決方案。但 GDDR7 的大規(guī)模采用幾乎肯定會與 AMD 和 NVIDIA 的下一代圖形卡的量產(chǎn)同時發(fā)生。