Mengenal Alibaba Cloud Elastic GPU Service

Zaman yang sudah berkembang seperti sekarang ini tentunya telah membuat beberapa hal menjadi berbeda. Jika dulu seminar dilakukan di tempat, sekarang sudah berbeda lagi sistemnya terutama dengan adanya pandemi COVID-19 yang semakin meluas di Indonesia. Istilah virtual conference dan live webinar pun sudah sangat umum. Pada kenyataannya, sebagai pengguna / end user, untuk dapat membuat live webinar dan juga virtual conference cukuplah mudah dengan adanya berbagai layanan di luar sana. Namun, tidaklah mudah bagi penyedia layanan web streaming untuk mengelola sejumlah live webinar tersebut dikarenakan dibutuhkan hardware grafis yang memadai agar dapat memproses dengan cepat. Untungnya untuk penyedia layanan streaming, Anda tidak perlu khawatir karena di sini penulis akan membeberkan bagaimana cara mengelola layanan tersebut dengan mudah menggunakan Alibaba Cloud – Elastic GPU Service.

Apa itu Elastic GPU Service?

Elastic GPU Service merupakan sebuah layanan komputasi berbasis GPU yang siap untuk digunakan dan berskalabilitas. Layanan EGS sendiri menggunakan beberapa GPU kelas atas seperti AMD FirePro S7150, NVIDIA Tesla M40, NVIDIA Tesla P100, NVIDIA Tesla P4, dan NVIDIA Tesla V100 yang tentunya dapat mendukung berbagai skenario.

Skenario Penggunaan EGS

EGS mampu menjalankan beberapa skenario seperti:

1. Deep Learning
   EGS mendukung online deep learning training dan layanan inference, pengenalan gambar/image recognition, identifikasi konten/content identification, dan pengenalan suara/voice recognition.
2. Scientific Computing
   Beberapa dukungan untuk scientific computing berupa video rendering, collision simulation, computational finance, genetic engineering, dan climate prediction
3. Video Processing
   Di bagian video processing, EGS mendukung HD media coding, 4K/8K HD Live Streaming, Video Conferencing, dan Source Film Repair
4. Visualization
   Dukungan lainnya adalah engineering design, non-linear editing, dan distance education applications

Fitur Handal EGS

1. Kemampuan Komputasi
   

   Kemampuan komputasi yang sangat kuat dari berbagai jenis GPU

   Instans GA1 dapat menyediakan maksimal empat GPU AMD Fire Pro S7150, 56 vCPU, dan memori 160 GB. Ini memiliki memori GPU 32 GB dan 8192 core yang bekerja secara paralel, dan memberikan hingga 15 TFLOPS presisi tunggal, dan 1 TFLOPS presisi ganda, kinerja floating-point.

   Instans GN4 dapat menyediakan maksimal dua GPU NVIDIA Tesla M40, 56 vCPU, dan memori 96 GB. Ini memiliki memori GPU 24 GB dan 6000 core yang bekerja secara paralel, dan memberikan hingga 14 TFLOPS kinerja floating-point presisi tunggal.

   Instans GN5 dapat menyediakan maksimum delapan GPU NVIDIA Tesla P100, 56 vCPU, memori 480 GB, dan memori GPU 128 GB. Ini memberikan hingga 74,4 TFLOPS kinerja floating-point presisi tunggal. Ini membantu mencapai kinerja komputasi floating-point paralel skala besar yang diperlukan dalam pembelajaran mendalam dan skenario komputasi GPU tujuan umum lainnya. Instans GN5 juga menyediakan hingga 37,6 TFLOPS kinerja floating-point presisi ganda untuk menghadirkan kinerja komputasi tinggi yang diperlukan dalam skenario seperti komputasi ilmiah.

   Instans GN5i dapat menyediakan maksimal dua GPU NVIDIA Tesla P4, 56 vCPU, dan memori 224 GB. Ini memiliki memori GPU 16 GB dan memberikan hingga 11 TFLOPS kinerja floating-point presisi tunggal dan 44 TOPS INT8 kemampuan komputasi.

   Instans GN6 dapat menyediakan maksimum delapan GPU NVIDIA Tesla V100, 88 vCPU, dan memori 256 GB. Ini memiliki 128 GB memori GPU. Dengan menggunakan Tensor Cores, instans GN6 dapat menyediakan hingga 1000 TFLOPS kemampuan komputasi pembelajaran mendalam, dan kinerja floating-point presisi tunggal sebesar 125,6 TFLOPS. Ini membantu mencapai kinerja komputasi floating-point paralel skala besar yang diperlukan dalam skenario komputasi GPU tujuan umum. Instans GN6 juga menyediakan hingga 62,4 TFLOPS kinerja floating point presisi ganda untuk menghadirkan kinerja komputasi tinggi yang diperlukan dalam skenario seperti komputasi ilmiah.
   
   

2. Performa Jaringan yang Luar Biasa
   Kinerja jaringan luar biasa yang diberikan oleh EGS memaksimalkan komputasi dan kinerja rendering untuk berbagai skenario komputasi yang kompleks.
   
   Memuaskan kinerja jaringan melalui node komputasi
   Instans GPU Elastis mendukung hingga 2.000.000 PPS dan bandwidth jaringan internal 25 Gbit/dtk untuk memberikan kinerja jaringan optimal yang diperlukan oleh node komputasi.
   
   Performa penyimpanan yang kuat
   Instans GPU elastis memiliki cache lokal berkecepatan tinggi, dan dapat dipasang dengan disk ultra cloud atau disk cloud SSD. Ini memastikan ketersediaan data yang tinggi dan memaksimalkan komputasi dan kinerja rendering.

3. Tersedia Lebih Dari Satu Metode Pembayaran
   Pengguna dapat memilih berbagai metode pembayaran, seperti pembayaran pertahun, perbulan, dan juga perjam.
   
   
4. Didukung Oleh NVMe Drives Berkinerja Tinggi
   Terdapat drive NVMe berkinerja tinggi yang berjalan pada setiap GPU. Penyimpanan cloud yang sangat andal yang didasarkan pada redundansi tiga salinan dapat dilampirkan ke instans GA1. Selain itu, drive NVMe dengan kapasitas hingga 1,4 TB juga dapat berjalan pada instans GA1. Drive NVMe ini dapat menangani 230.000 IOPS dengan latensi I/O sekitar 200 s, dan menyediakan bandwidth baca hingga 1900 Mbit/dtk dan bandwidth tulis 1100 Mbit/dtk. (Kinerja instans diuji dengan 240.000 pembacaan acak dan kedalaman IO 12.)

1. Sangat Elastis
   Menyediakan keluarga instance serial. Pengguna dapat meluncurkan EGS dalam beberapa menit dan dapat diskalakan secara horizontal dan vertikal.
2. Performa Tinggi dengan Keamanan Tingkat Atas
   EGS mendukung GPUDirect untuk komunikasi GPU-ke-GPU. GPU dapat berkomunikasi satu sama lain melalui koneksi NVLink dengan bandwidth tinggi dan latensi rendah tanpa intervensi CPU. GPU memberikan isolasi keamanan yang elastis di antara penyewa. Hypervisor dapat digunakan untuk mengotorisasi penyewa untuk menggunakan dan mengelola GPU. Anda dapat mengonfigurasi komunikasi berkecepatan tinggi antara GPU yang terisolasi dengan cara yang aman.
3. Mudah Untuk Diluncurkan
   EGS sangat terintegrasi dengan ekosistem Alibaba Cloud. Anda dapat menggabungkan Layanan GPU Elastis dengan layanan Alibaba Cloud lainnya untuk membangun aplikasi. Misalnya, Anda dapat menggabungkan Elastic GPU Service dengan Object Storage Service (OSS) atau Apsara File Storage NAS untuk memenuhi persyaratan penyimpanan dan dengan E-MapReduce (EMR) untuk melakukan praproses data deep learning. Anda juga dapat menggabungkan Elastic GPU Service dengan Container Service for Kubernetes (ACK) untuk membuat layanan lebih mudah diberikan kepada pengguna.
4. Mudahnya Pemantauan
   EGS juga menyediakan fitur pemantauan komprehensif dalam dimensi seperti GPU, instans, dan grup untuk mengurangi tekanan O&M Anda.