Andrew Francois
NVIDIA baru-baru ini meluncurkan chip superkomputer AI generasi terbaru yang diharapkan akan memainkan peran signifikan dalam pengembangan masa depan pembelajaran mendalam dan model bahasa besar seperti GPT-4 OpenAI.
Chip itu diharapkan dapat digunakan dalam pusat data dan superkomputer untuk berbagai tugas, termasuk prediksi cuaca dan iklim, penemuan obat, komputasi kuantum, dan banyak lagi, seperti diwartakan Engadget, Senin (13/11).
Produk utama yang diperkenalkan adalah GPU HGX H200, yang didasarkan pada arsitektur "Hopper" NVIDIA, menjadi penerus GPU H100 yang populer. Chip ini menjadi yang pertama dari perusahaan yang menggunakan memori HBM3e yang lebih cepat dan memiliki kapasitas yang lebih besar, membuatnya lebih cocok untuk model bahasa besar.
Dengan HBM3e, HGX H200 memiliki memori sebesar 141GB pada 4,8 terabyte per detik, hampir dua kali lipat kapasitasnya dan memiliki bandwidth 2,4 kali lipat lebih banyak dibandingkan pendahulunya, NVIDIA A100.
Baca juga:
Nvidia GeForce MX550 Unggul di Benchmark Terbaru
Dalam konteks keuntungan AI, NVIDIA menyatakan bahwa HGX H200 dapat menggandakan kecepatan inferensi pada Llama 2, yang merupakan model bahasa besar dengan 70 miliar parameter, dibandingkan dengan H100.
Chip ini akan tersedia dalam konfigurasi 4 dan 8 arah, yang kompatibel dengan perangkat keras dan perangkat lunak dalam sistem H100. HGX H200 diharapkan dapat beroperasi di berbagai jenis pusat data, termasuk on-premise, cloud, hybrid-cloud, dan edge.
Penerapannya di antara lain oleh penyedia layanan cloud besar seperti Amazon Web Services, Google Cloud, Microsoft Azure, dan Oracle Cloud Infrastructure, dan dijadwalkan tiba pada kuartal kedua tahun 2024.
Selain HGX H200, NVIDIA juga memperkenalkan produk utama lainnya, yaitu 'superchip' GH200 Grace Hopper, yang menggabungkan GPU HGX H200 dan CPU NVIDIA Grace berbasis Arm.
Baca juga:
Nvidia RTX 4000 Series Hadir dengan Performa Lebih Kuat
Superchip ini dirancang untuk superkomputer dengan tujuan memungkinkan ilmuwan dan peneliti mengatasi tantangan terbesar di dunia dengan mempercepat aplikasi AI dan HPC yang kompleks yang menjalankan data berukuran terabyte.
GH200 akan digunakan dalam lebih dari 40 superkomputer AI di seluruh pusat penelitian global, pembuat sistem, dan penyedia cloud, termasuk perusahaan terkenal seperti Dell, Eviden, Hewlett Packard Enterprise (HPE), Lenovo, QCT, dan Supermicro.
JUPITER, superkomputer terbesar yang menggunakan GH200, akan menjadi sistem AI paling kuat di dunia ketika diimplementasikan pada tahun 2024 di fasilitas Jülich, Jerman.
Dengan arsitektur berpendingin cairan dan modul booster yang terdiri dari hampir 24.000 Superchip NVIDIA GH200, JUPITER akan membantu dalam berbagai penelitian ilmiah, termasuk prediksi iklim dan cuaca, penemuan obat, komputasi kuantum, dan teknik industri. (waf)
Baca juga:
Nvidia Berencana Buat Prosesor Layaknya AMD Ryzen dan Intel
