每个机架搭载的 GPU 数量持续增加,而裸片(die)数量的增长速度则远快于 GPU数量。
预计单个机架的总功耗将达到 1MW,并将面临三项重大挑战。
第一,需要在更小的外形尺寸内实现高压 DC-DC 转换。
第二,GPU核心供电需要更高的电容密度以及更快的 di/dt 响应特性。
最后,还需要在众多 PTH(Plated Through-Hole)之间布置嵌入式 MLCC,同时保持 Power Integrity。
下面将介绍三星 电机面向 1MW Rack 推出的电容器解决方案。
① High Voltage DC-DC Converter与机架空间限制的应对
在构建高效电源系统时,可以在 GPU 的 Computing board 上引入 HV DCDC converter。
在 1MW 级高密度机架电源系统中,Snubber capacitor在 MOSFET 高速开关电路中抑制Spike noise的作用至关重要。尖峰噪声会对电源系统的 PI(Power Integrity)产生不利影响,同时也会成为 MOSFET 等功率器件的Stress来源,进而影响系统的可靠性。
陶瓷电容器的Low ESL特性明显低于Film capacitor, 能够即时吸收超高频寄生谐波及突发浪涌电流,在响应性能方面具有显著优势 。在施加高电压时,DC-Bias 效应会导致有效电容量下降,但通过选择合适的介电材料,例如 C0G/X7R,并采用并联连接配置,可以充分弥补这一问题。
在空间受限的条件下,陶瓷电容器的单位面积capacitance density也更具优势。
因此,兼具小型化尺寸与优异 ESL 性能的陶瓷电容器,是高压 DC-DC 转换器中不可或缺的核心元件。它能够最大限度地提高功率密度、降低开关损耗,从而保障 1MW 数据中心机架电源系统的稳定运行。
|
|
||||||||||||||||||||||||
Part Number | CL55C543JI6MPN#, CL43B473KIURNW#
② GPU Core Power 用小型大容量 MLCC 方案
GPU 所需的 MLCC 电容密度每年增长 2 倍以上。
GPU 功耗的增长速度远高于 GPU 封装面积(Core 供电区域)的增长速度。
这意味着,虽然需要配置更多电容器,但可用于布置这些电容器的空间却十分有限。
此外,在采用 VPD(Vertical Power Delivery) 时,可用于布置 MLCC 的空间将进一步受到限制。
以下是为寻找电容密度最大化方案而进行的仿真结果。
“AI MLCC's Law”:每个 GPU 所需的 MLCC 电容量每年增长 2 倍。
最大化电容密度 vs 阻抗
100x100 Core Power 区域内可配置的 MLCC 总数量及总容量
| |
MLCC | Usage (pcs) |
Capacitance value(uF) |
Density | ESL |
|---|---|---|---|---|---|
| 0201 10uF | 19,000 | 190,000 | ● | ●●● | |
| 0402 47uF | 7,900 | 371,300 | ●●● | ●● | |
| 0603 100uF | 4,200 | 420,000 | ●●●● | ● |
在 100x100区域内布置 0603 100㎌ 时,电容密度最高,但 ESL 过高。
相比之下,0201 10㎌ 的 ESL 特性明显更优,但电容密度过低。
0402 47㎌ 则可在电容密度与 ESL 之间实现最佳平衡。
最优点
| 0201 10uF | 0402 47uF | 0603 100uF | Total | Capacitance value(uF) |
||
|---|---|---|---|---|---|---|
| 0201 only | 19,000 | 19,000 | 190,000 | |||
| 0402 only | 7,900 | 7,900 | 371,300 | |||
| 0603 only | 4,200 | 4,200 | 420,000 | |||
| Mix | Option 1 | 3,844 | 4,489 | 992 | 9,325 | 348,623 |
| Option 2 | 2,304 | 2,500 | 2,352 | 7,156 | 375,740 | |
Part Number | 03X106MS, 05X476MS, 10X107MS
近年来,推理(inference)服务器对更高 di/dt 的需求不断增加,因此,为降低阻抗,我们增加了 0201 10㎌ 的配置数量。这是因为 0201 10㎌ 本身具有较低的 ESL。
此外,为补充电容量,又配置了电容密度较高的 0603 100㎌。
结果显示,虽然整体电容量有所下降,但阻抗特性得到了改善。
最终,需要综合考虑容量(0603 100㎌)与阻抗(0201 10㎌)之间的 Trade off关系,制定最优设计方案。
当三种类型的电容器采用相同数量进行配置时,阻抗反而出现恶化。
这表明,不同类型电容器之间的组合比例至关重要。
另一个问题是,为了向 GPU 提供更大的功率,PTH pitch(间距)正在不断缩小。因此,在 0201、0402 等小型封装中提高电容密度变得越来越重要。
如果使用尺寸大于 PTH pitch 的电容器,就需要在 PCB 上增加额外的布线(routing),从而导致 ESL 上升。
正如前文所述,推理服务器要求更快的 di/dt,因此,关键在于如何在更小的封装尺寸下保持较低 ESL,同时获得较高的电容量。
③ Embedded MLCC技术
将电容器嵌入 PCB内部,是一种既能提高电容密度,又能降低ESL(等效串联电感)的高效解决方案。
初期曾评估在多个 PTH(镀通孔)之间垂直布置 MLCC 的方案,但存在 PTH 间距(pitch)达到 2mm、间距过大的问题。
随后改为评估水平贴装方案,通过 MLCC 的外部端子供电后,可不再使用 PTH,从而缩小供电 pitch,并提升电气性能。
水平嵌入 vs 垂直嵌入