NVIDIA AI칩, 우위 유지하는 이유

 

"AI 프로젝트에 있어 대규모 언어 모델 훈련 및 추론, 답변 생성 프로세스 등 AI 프로젝트에 필요한 병렬 계산에 엔비디아의 그래픽처리장치(GPU)가 적합하다는 평가 속에 올해 개발자들의 수요가 급증했다."

생성형 AI를 학습시키기 위해 많은 기업체들은 엔비다아의 GPU를 확보하기 위해 애쓰고 있다. AI 기술을 확보하는 것이 국가적 문제가 된 만큼 미국은 중국으로 엔비디아 GPU 수출을 제재하였다. 

 

그 중 최고의 성능을 자랑하며 학습에 주로 쓰이는 칩은 'H100' 칩이다. 가격을 잠시 찾아보니 2024년 1월 기준 최소 3천 300만원이라고 한다. 이런 칩을 한개만 사용하는 것도 아니고 수십 만 개를 사용하니,, 정말 엄청난 가격이다. 경쟁이 치열해질 수록 가격도 점점 올라갈 것인데 엔비디아가 왜 AI세계의 초기 승자라고 하는지 알 것 같다.

 

엔비디아 H100을 가장 많이 구매한 회사의 통계 정보도 있다. <클라우드 및 데이터 센터 시장 업데이트> 보고서에 따르면 NVIDIA H100 GPU의 출하량은 2023년 2분기 동안 약 900톤에 달하였고, H100 GPU가 수량으로는 약 300,000개 이상이라고 한다. 

 

<2023년 2분기 H100 구매 현황>

 

•  Meta 150,000 대
• -Microsoft 150,000 대
• Google 50,000 대
•  Amazon 50,000 대
• Oracle 50,000 대
• CoreWeave 40,000 대
• Alibaba Cloud 25,000 대

 

오늘 엔비디아 개발자 행사인 GTC가 개최되었다. 대면 개최는 5년 만이며 30만 참관객이 몰릴 것으로 예상된다고 한다. 지난 1년 사이 입지가 완전히 바뀐 엔비디아에서 열리는 행사인 만큼 큰 관심을 받고 있다. 또한 이번 행상에서 AI 개발에 특화환 차세대 GPU를 공개할 것으로 복있다. 중국 수출을 목표로 만든 저사양 GPU 신제품을 내놓은 것이란 전망도 나온다.

 

 "AI 반도체 시장의 90% 이상을 장악하고 있는 엔비디아는 'AI 경쟁의 초반 승자'로 불린다. 지난해 GTC 이후 엔비디아의 주가는 240% 폭등했고, 시가총액은 세계 3위로 뛰어올랐다. 테크업계 관계자는 "모바일 시대 애플의 아이폰 공개 행사가 업계 기술 흐름을 미리 엿볼 수 있는 자리였다면, AI 시대엔 엔비디아 GTC가 그 역할을 할 것"이라며 "이번 GTC에 세계의 시선이 쏠리는 이유"

 

 

 

---

 

Refernece

엔비디아 AI칩, 우위 유지하는 4가지 이유 - 연합인포맥스

 

2023년 NVIDIA H100을 가장 많이 구매한 회사는? | Disquiet*

"AI의 미래가 여기서 시작된다"... 엔비디아 개발자 행사 18일 개막