Microsoft Azure 사용자들을 위한 새로운 기술 소식을 전해드립니다. 최신 NVIDIA 가속 컴퓨팅 기술을 활용하여 생성적 AI 애플리케이션을 훈련하고 배포할 수 있는 기회가 열렸습니다.
Microsoft Azure ND H100 v5 VMs를 사용하면, NVIDIA H100 Tensor Core GPU와 NVIDIA Quantum-2 InfiniBand 네트워킹을 활용하여 생성적 AI 및 고성능 컴퓨팅(HPC) 애플리케이션을 브라우저 한 번의 클릭으로 확장할 수 있습니다.
미국의 고객들을 대상으로 제공되는 이 새로운 인스턴스는 개발자와 연구원들이 대용량 언어 모델(LLM)과 가속 컴퓨팅을 통해 새로운 소비자 및 비즈니스 사용 사례를 발견하고 있는 시기에 도입되었습니다.
NVIDIA H100 GPU는 제4세대 Tensor Cores, LLM 가속을 위한 새로운 Transformer 엔진, GPU 간에 900GB/초의 속도로 통신할 수 있는 최신 NVLink 기술 등 구조적 혁신을 통해 초고성능의 슈퍼컴퓨팅 클래스 성능을 제공합니다.
3,200 Gbps의 교차 노드 대역폭을 갖춘 NVIDIA
Quantum-2 CX7 InfiniBand의 포함으로 GPU 간의 원활한 성능을 확보하여 전 세계 최고 성능의 슈퍼컴퓨터와 동등한 능력을 제공합니다.
v5 VMs로 스케일링
ND H100 v5 VMs는 점점 복잡해지는 LLM 및 컴퓨터 비전 모델의 훈련 및 추론에 이상적입니다. 이러한 신경망은 질문 응답, 코드 생성, 오디오, 비디오 및 이미지 생성, 음성 인식 등 가장 요구되는 계산 집약적인 생성적 AI 애플리케이션을 주도합니다.
ND H100 v5 VMs는 이전 세대 인스턴스에 비해 BLOOM 175B 모델과 같은 LLM의 추론에서 최대 2배의 속도 향상을 실현하여 AI 애플리케이션을 더욱 최적화할 수 있는 잠재력을 보여주고 있습니다.
NVIDIA와 Azure의 협력
Azure에서 사용되는 NVIDIA H100 Tensor Core GPU는 기업에게 AI 훈련 및 추론 워크로드를 강화하는 성능, 다양성 및 스케일을 제공합니다. 이 조합은 NVIDIA AI Enterprise 소프트웨어 스위트를 통합한 Azure Machine Learning으로 생산용 AI의 개발 및 배포를 간소화하며, 산업 표준 MLPerf 벤치마크에서 업계 기록을 세우는 AI 성능을 제공합니다.
또한 NVIDIA Omniverse 플랫폼을 Azure에 연결함으로써 NVIDIA와 Microsoft는 수억 명의 Microsoft 기업 사용자에게 강력한 산업 디지털화 및 AI 슈퍼컴퓨팅 리소스를 제공하고 있습니다.
이렇게 Microsoft Azure와 NVIDIA의 협력을 통해 새로운 AI 컴퓨팅 기술이 도입되었습니다. 더 많은 혁신과 발전을 기대해 봅시다!
'OpenAI' 카테고리의 다른 글
| ChatGPT Code Interpreter 플러그인의 5가지 SEO 사용 사례 (0) | 2023.08.11 |
|---|---|
| AI 시대의 데이터센터 변화와 혁신의 풍경 (0) | 2023.08.08 |
| 솔트룩스, 삼성전자와 함께 '루시아' 개발로 AI 거대언어모델 시장 돌풍 (0) | 2023.08.01 |
| 마이크로소프트, 나틱 프로젝트로 해저 데이터센터 실용성 확인 (0) | 2023.07.25 |
| MS의 7월 날씨 예측, 과감하고 놀라운 이유 (0) | 2023.07.24 |