랙당 GPU 수는 계속 증가하고 있으며 다이(die) 수는 그보다 훨씬 더 빠르게 늘어나고 있습니다.
랙의 총 전력 소비량은 1MW에 이를 것으로 예상되며, 세 가지 중대한 과제에 직면하게 됩니다.
첫째는 더 작은 폼 팩터에서의 고전압 DC-DC 변환입니다.
둘째는 GPU 코어 전원을 위한 더 높은 정전용량 밀도와 더 빠른 di/dt 응답 특성입니다.
마지막으로, 수많은 PTH(Plated Through-Hole) 사이에 임베디드 MLCC를 배치하는 동시에 Power integrity를 유지해야 합니다.
1MW Rack용 삼성전기 커패시터 솔루션을 소개합니다.
① High Voltage DC-DC Converter와 랙 공간 제약 극복
고효율 전력 시스템의 구성에서 GPU의 Computing board 위에 HV DCDC converter가 도입이 될 수 있습니다.
1Mega Watt 급 고밀도 랙 전원 시스템에서는 MOSFET의 빠른 스위칭 회로에서 Spike noise를 억제하는 Snubber capacitor 의 역할이 중요합니다. Spike noise는 전력시스템의 PI(power integrity)에 좋지 않은 영향을 주며, MOSFET등 전력 소자의 Stress 요인으로 신뢰성에도 영향을 끼칩니다. Ceramic capacitor의 Low ESL 특성은 Film capacitor 대비 현저히 낮아, 초고주파 기생 고조파 및 급격한 서지 전류를 즉각 흡수하는 응답 특성이 압도적입니다. 고전압 인가 시 DC-Bias 효과로 인한 실효 정전용량 감소는 적합한 유전체(예: C0G/X7R) 선정과 병렬 연결 배치로 충분히 극복 가능합니다. 제한된 공간에 단위면적당 capacitance density도 Ceramic capacitor가 더 우수합니다. 결과적으로 소형 사이즈와 ESL의 우수한 성능을 갖춘 Ceramic capacitor는 고압 DC-DC 컨버터의 전력 밀도를 극대화하고 스위칭 손실을 최소화하여 1MW 데이터센터 랙 전원의 안정적 운용을 이끄는 핵심 소자입니다.
|
|
||||||||||||||||||||||||
Part Number | CL55C543JI6MPN#, CL43B473KIURNW#
② GPU Core Power 소형 고용량 MLCC 제안
GPU에 필요한 MLCC 정전용량 밀도는 매년 2배 이상 증가하고 있습니다.
GPU 소비 전력은 GPU 패키지 면적 (Core 전원부) 보다 훨씬 빠르게 증가하고 있습니다.
이는, 더 많은 커패시터가 필요하지만 이를 위한 공간은 부족하다는 것을 의미합니다.
또한 VPD(Vertical Power Delivery)를 적용할 경우, MLCC를 배치할 공간은 더욱 제한적입니다.
다음은, 정전용량 밀도를 극대화하는 방법을 찾기 위한 시뮬레이션 결과입니다.
"AI MLCC's Law" : GPU당 필요한 MLCC 커패시턴스 값은 매년 2배씩 증가
Maximize cap density vs Impedance
Total MLCC count and capacitance available in 100x100 core power area
| |
MLCC | Usage (pcs) |
Capacitance value(uF) |
Density | ESL |
|---|---|---|---|---|---|
| 0201 10uF | 19,000 | 190,000 | ● | ●●● | |
| 0402 47uF | 7,900 | 371,300 | ●●● | ●● | |
| 0603 100uF | 4,200 | 420,000 | ●●●● | ● |
100x100 영역에 0603 100uF를 배치하면 밀도는 가장 높지만 ESL이 너무 높아집니다.
반면, 0201 10uF는 ESL 특성은 훨씬 우수하지만 정전용량 밀도가 너무 낮습니다.
0402 47uF는 정전용량 밀도와 ESL 사이에서 최적의 균형을 제공합니다.
Optimal points
| 0201 10uF | 0402 47uF | 0603 100uF | Total | Capacitance value(uF) |
||
|---|---|---|---|---|---|---|
| 0201 only | 19,000 | 19,000 | 190,000 | |||
| 0402 only | 7,900 | 7,900 | 371,300 | |||
| 0603 only | 4,200 | 4,200 | 420,000 | |||
| Mix | Option 1 | 3,844 | 4,489 | 992 | 9,325 | 348,623 |
| Option 2 | 2,304 | 2,500 | 2,352 | 7,156 | 375,740 | |
Part Number | 03X106MS, 05X476MS, 10X107MS
최근 추론(inference) 서버는 더 높은 di/dt를 요구하므로, 임피던스를 낮추기 위해 0201 10uF의 개수를 늘렸습니다. 0201 10uF 자체의 ESL이 낮기 때문입니다.
또한, 정전용량을 보완하기 위해 정전용량 밀도가 높은 0603 100uF를 추가한 결과, 전체 정전용량은 감소했으나 임피던스 특성은 개선되었습니다.
결국, 용량(0603 100uF)과 임피던스(0201 10uF)의 Trade off 관계를 고려한 최적의 설계가 필요합니다.
세 가지 유형의 커패시터를 동일한 개수로 사용했을 때는 오히려 임피던스가 악화되었습니다. 이는 조합 비율이 매우 중요하다는 것을 보여줍니다.
또 다른 문제는 GPU에 더 많은 전력을 공급하기 위해 PTH 피치(간격)가 점점 좁아지고 있다는 점입니다.
따라서 0201이나 0402와 같은 소형 패키지에서 정전용량 밀도를 높이는 것이 중요해지고 있습니다.
PTH 피치보다 큰 커패시터를 사용하면 PCB에 추가적인 배선(routing)이 필요하게 되어 ESL이 증가하게 됩니다.
앞서 언급했듯이 추론 서버는 더 빠른 di/dt를 요구하므로, 더 작은 패키지 크기에서 낮은 ESL을 유지하며 높은 정전용량을 확보하는 것이 중요합니다.
③ Embedded MLCC 기술
PCB 내부에 커패시터를 매립하는 방식은 정전용량 밀도를 높이는 동시에 ESL(등가 직렬 인덕턴스)을 낮출 수 있는 매우 효과적인 솔루션입니다.
초기에는 다수의 PTH(도금 관통 홀) 사이에 MLCC를 수직으로 배치하는 방안을 검토했으나, PTH 간격(피치)이 2mm로 너무 넓다는 문제가 있었습니다.
이후 검토를 수평실장으로 MLCC의 외부 단자를 통해 전원을 공급하면 PTH가 불필요 해지며, 이를 통해 전원 공급 피치를 좁히고 전기적 성능을 향상시킬 수 있습니다.
Horizontal vs Vertical Embedding