Azure, en hızlı genel bulut süper bilgisayarı olan genişleme NVIDIA A100 GPU Kümelerinin genel kullanıma açık olduğunu duyurdu
Bugün Azure, NVIDIA A100 Tensor Core GPU’lar tarafından desteklenen azure ND A100 v4 Cloud GPU bulut sunucularının genel kullanıma sunulmasını duyurarak genel bir bulutta liderlik sınıfı süper bilgisayar ölçeklenebilirliği elde ediyor. Yapay zeka ve yüksek performanslı bilgi işlem (HPC) bir sonraki sınırını kovalayan zorlu müşteriler için ölçeklenebilirlik, gelişmiş Toplam Çözüm Maliyeti ve Çözüm Süresi’nin kilidini açmanın anahtarıdır.
Basitçe söylemek gerekirse, NVIDIA A100 GPU’lar tarafından desteklenen ND A100 v4, en zorlu müşterilerimizin hız kesmeden ölçek büyütmelerine ve ölçeklendirmelerine izin vermek için tasarlanmıştır.
Piyasaya sürülme öncesi genel süper bilgisayar kümesinde 164 ND A100 v4 sanal makineyle kıyaslama, 16,59 petaflops’un Yüksek Performanslı Linpack (HPL) sonucunu verdi. Genel bulut altyapısında sunulan bu HPL sonucu, işin yürütüldüğü bölgeye göre Kasım 2020’de dünyanın en hızlı süper bilgisayarları listesinin en iyi 20’sine veya Avrupa’da ilk 10’a girer.
Bir yapay zeka (AI) ve makine öğrenimi (ML) odaklı Yüksek Performanslı Linpack varyantı olan HPL-AI ile ölçülen aynı 164 VM havuzu, 142,8 Petaflop sonuç elde ederek resmi HPL-AI kıyaslama listesi tarafından ölçülen dünyanın en hızlı bilinen 5 yapay zeka süper bilgisayarı arasına girdi. Tek bir genel Azure kümesinin yalnızca bir kısmını kullanan bu HPL sonuçları, dünyanın en güçlü adanmış, şirket içi süper bilgisayar kaynaklarıyla sıralanıyor.
Ve bugün, ND A100 v4 genel kullanıma geçerken, dünyanın en hızlı genel bulut süper bilgisayarlarının isteğe bağlı olarak, yakınınızda, dört Azure bölgesi aracılığıyla anında kullanılabilirliğini duyuruyoruz: Doğu Amerika Birleşik Devletleri, Batı Amerika Birleşik Devletleri 2, Batı Avrupa ve Güney Orta Amerika Birleşik Devletleri.
ND A100 v4 VM serisi, tek bir sanal makine (VM) ve sekiz NVIDIA Amper mimarisi tabanlı A100 Tensor Core GPU ile başlar ve NVIDIA HDR 200Gb/s InfiniBand bağlantıları aracılığıyla sunulan VM başına eşi görülmemiş 1,6 Tb/s ara bağlantı bant genişliğiyle tek bir kümede binlerce GPU’ya kadar ölçeklendirebilir: her bir GPU için bir tane. Ayrıca, her 8 GPU’luk VM, üçüncü nesil NVIDIA NVLink’in tam bir tamamlayıcısına sahiptir ve GPU’nun VM içinde saniyede 600 gigabayt’ı aşan GPU bağlantısına olanak tanır.
De-facto endüstri standardı HPC ve yapay zeka araçlarından ve kitaplıklarından yararlanmak için üretilen müşteriler, en ölçeklenebilir GPU hızlandırmalı yapay zeka ve HPC iş yüklerinin temel ağ topolojisi veya yerleşimi konusunda herhangi bir endişe duymadan, en çok ölçeklenebilir GPU hızlandırmalı yapay zeka ve HPC iş yüklerinin ilk çalıştırmayı desteklediği NVIDIA NCCL2 kitaplıklarını kullanarak, herhangi bir özel yazılım veya çerçeve olmadan ND A100 v4’ün GPU’larından ve benzersiz ara bağlantı özelliklerinden yararlanabilir. Aynı VM Ölçek Kümesi içindeki VM’lerin sağlanması, ara bağlantı dokusunu otomatik olarak yapılandırır.
Herkes zorlu şirket içi yapay zeka ve HPC iş yüklerini ND A100 v4 üzerinden en az yaygarayla buluta getirebilir, ancak Azure yerel yaklaşımını tercih eden müşteriler için Azure Machine Learning, ayarlanmış bir sanal makine (gerekli sürücüler ve kitaplıklarla önceden yüklenmiş) ve ND A100 v4 ailesi için optimize edilmiş kapsayıcı tabanlı ortamlar sağlar. Örnek tarifler ve Jupyter Notebook’lar, kullanıcıların PyTorch, TensorFlow ve BERT gibi son teknoloji modelleri eğitmek gibi birden fazla çerçeveyle hızlı bir şekilde başlamalarına yardımcı olur. Azure Machine Learning ile müşteriler, Azure’da yapay zeka mühendisliği ekiplerimizle aynı araçlara ve özelliklere erişebilir.
Her NVIDIA A100 GPU, belirli iş yükleri için karışık hassasiyetli modlar, seyreklik ve Çok Örnekli GPU (MIG) gibi yeni mimari özellikleri katmanlarken önceki V100 GPU’ların 1,7 ila 3,2 katı performans sunar. Ve her VM’nin kalbinde, CPU’dan GPU’ya önceki nesillerden iki kat daha hızlı aktarımlar için PCI Express Gen 4.0’a sahip yepyeni bir 2.
Yeni Azure ND A100 v4 platformuyla ne oluşturacağınızı, analiz edeceğinizi ve keşfedeceğinizi görmek için sabırsızlanıyoruz.
Boyut | Fiziksel CPU Çekirdekleri | Ana Bilgisayar Belleği (GB) | GPU’lar | Yerel NVMe Geçici Disk | NVIDIA InfiniBand Ağı | Azure ağı |
Standard_ND96asr_v4 | 96 | 900 GB | 8 x 40 GB NVIDIA A100 | 6.500 GB | 8 x 200 Gbps | 40 Gbps |