Baru-baru ini, NVIDIA secara resmi mengumumkan server NVIDIA OVX yang menampilkan GPU NVIDIA L40S baru, prosesor data center universal yang kuat dan dirancang untuk mempercepat aplikasi kompleks yang paling intensif komputasi, termasuk pelatihan dan inferensi AI, desain dan visualisasi 3D, pemrosesan video, dan digitalisasi industri dengan platform NVIDIA Omnivers.
Adapun, GPU baru mendukung beban kerja komputasi yang dipercepat untuk AI generatif, yang mengubah alur kerja dan layanan di seluruh industri, termasuk pembuatan teks, gambar dan video, chatbot, pengembangan game, desain produk, dan perawatan kesehatan.
“Ketika AI generatif mengubah setiap industri, perusahaan semakin mencari sumber daya komputasi skala besar di pusat data,” kata Bob Pette, wakil presiden visualisasi profesional di NVIDIA dalam keterangan tertulisnya Kamis (10/8/2023).
“Sistem OVX dengan GPU NVIDIA L40S mempercepat AI, beban kerja pemrosesan grafis dan video, dan memenuhi persyaratan kinerja yang menuntut dari serangkaian aplikasi kompleks dan beragam yang terus meningkat,” imbuhnya.
Performa Kuat untuk AI dan Grafik
Sistem NVIDIA OVX akan mengaktifkan hingga delapan GPU NVIDIA L40S per server, masing-masing dilengkapi dengan memori 48GB. Berdasarkan arsitektur GPU NVIDIA Ada Lovelace, L40S menyertakan Tensor Cores generasi keempat dan FP8 Transformer Engine, yang menghasilkan kekuatan pemrosesan tensor lebih dari 1,45 petaflops. Untuk beban kerja AI yang kompleks dengan miliaran parameter dan beberapa modalitas data — seperti teks dan video — L40S memungkinkan kinerja inferensi AI generatif hingga 1,2x lebih tinggi dan kinerja pelatihan hingga 1,7x dibandingkan dengan GPU NVIDIA A100 Tensor Core.
Untuk mendukung alur kerja visualisasi profesional dengan fidelitas tinggi seperti perenderan waktu nyata, desain produk, dan pembuatan konten 3D, GPU NVIDIA L40S menyertakan 142 RT Core generasi ketiga yang menghasilkan kinerja ray-tracing 212 teraflops. Ini memungkinkan para profesional kreatif untuk menciptakan pengalaman visual yang imersif dan konten fotorealistik.
Sementara, untuk alur kerja yang menuntut komputasi, seperti simulasi teknik dan ilmiah, NVIDIA L40S menyertakan 18.176 inti CUDA, menghadirkan hampir 5x kinerja floating-point (FP32) presisi tunggal dari GPU NVIDIA A100 untuk mempercepat kalkulasi kompleks dan analisis data intensif.
Adopsi Awal
Di antara penyedia layanan cloud pertama yang menawarkan instans L40S adalah CoreWeave, yang berspesialisasi dalam beban kerja berskala besar yang dipercepat GPU.
“Dengan ledakan AI generatif, pelanggan kami di seluruh industri mencari penawaran dan skala komputasi yang kuat untuk menyesuaikan kompleksitas beban kerja apa pun — mulai dari video interaktif hingga desain dan otomasi AI,” kata Brian Venturo, Chief Technology Officer di CoreWeave.
“GPU NVIDIA L40S akan semakin memperluas portofolio solusi NVIDIA kami yang luas, menjadikan CoreWeave sebagai penyedia cloud khusus pertama yang menawarkan sumber daya baru ini untuk akselerasi komputasi yang cepat, efisien, dan hemat biaya untuk mendukung gelombang berikutnya dari aplikasi AI generatif,” ujarnya menambahkan.
Perangkat lunak untuk Meningkatkan AI
Perusahaan yang menerapkan GPU L40S dapat memanfaatkan perangkat lunak NVIDIA AI Enterprise, yang mengumumkan pembaruan besar hari ini. Perangkat lunak ini menyediakan dukungan dan keamanan perusahaan yang siap produksi untuk lebih dari 100 kerangka kerja, model yang telah dilatih sebelumnya, toolkit dan perangkat lunak, termasuk NVIDIA Modulus untuk simulasi, NVIDIA RAPIDS untuk ilmu data dan Server Inferensi NVIDIA Triton untuk produksi AI.
Omniverse Meluas
NVIDIA juga mengumumkan pembaruan besar pada platform Omniverse, memperkenalkan kemampuan dan peningkatan platform yang memungkinkan pengembang untuk mempercepat dan memajukan pipeline OpenUSD dan aplikasi digitalisasi industri dengan kekuatan AI generatif. Generasi berikutnya dari sistem NVIDIA OVX yang mentenagai Omniverse Cloud akan menampilkan GPU L40S untuk menghadirkan AI dan performa grafis yang diperlukan untuk meningkatkan saluran pipa AI generatif dan beban kerja Omniverse.
Ketersediaan
NVIDIA L40S akan tersedia mulai musim gugur ini. Pembangun sistem global, termasuk ASUS, Dell Technologies, GIGABYTE, HPE, Lenovo, QCT dan Supermicro, akan segera menawarkan sistem OVX yang menyertakan GPU NVIDIA L40S. Server-server ini akan membantu para profesional di seluruh dunia memajukan AI dan menghadirkan aplikasi AI generatif seperti chatbot cerdas, alat pencarian dan peringkasan kepada pengguna di seluruh industri. (Angga)
