Broadcom luncurkan chip Jericho3-AI untuk hubungkan komputer canggih
Broadcom yang berbasis di Amerika Serikat telah mengumumkan sebuah chip baru untuk menghubungkan komputer-komputer canggih. Chip ini dinamakan Jericho3-AI dan akan digunakan untuk menghubungkan sistem-sistem yang menggunakan kecerdasan buatan (artificial intelligence/AI). Perusahaan itu mengklaim, Jericho3-AI akan merevolusi jaringan AI, berkat fitur-fitur terbaik di kelasnya, seperti failover tanpa dampak, penyeimbangan beban yang sempurna, radix yang sangat tinggi, dan pengoperasian tanpa hambatan. Jadi, bagaimana cara kerja Jericho? Mari kita pelajari.
Mengapa komputer canggih perlu dihubungkan?
Untuk aplikasi AI seperti Google Bard dan ChatGPT, komputer harus dilatih dengan banyak data. Untuk pekerjaan tersebut, dibutuhkan ribuan chip yang disebut unit pemrosesan grafis (GPU), yang bekerja selama berminggu-minggu atau bahkan berbulan-bulan dalam satu waktu. Semakin cepat kecepatan koneksi antar chip, semakin cepat pula pelatihan diselesaikan. Jericho3-AI mengklaim dapat mempercepat proses itu.
Mengapa Jericho perlu digunakan?
Jericho3-AI dapat menghubungkan hingga 32.000 GPU secara bersamaan. Kemampuan ini menjadikannya saingan langsung bagi perangkat InfiniBand NVIDIA. Chip Broadcom mengklaim dapat memastikan pemanfaatan jaringan yang optimal bahkan ada muatan jaringan "tertinggi". Chip ini juga menjanjikan penjadwalan traffic secara end-to-end sehingga tidak ada gangguan dalam jaringan selama operasi, misalnya ketika siklus komputasi AI sedang berlangsung.
Jericho 10% lebih cepat dari produk pesaingnya
Khawatir apakah bisa menyelesaikan pekerjaan tepat waktu? Tidak perlu lagi. Fasilitas failover tanpa dampak dari Jericho memastikan konvergensi jalur otomatis dalam waktu kurang dari 10 nanodetik. Selain itu, seperti yang telah disebutkan, Jericho3-AI dapat terhubung dengan maksimal 32.000 GPU sekaligus, dengan kecepatan hingga 800Gbps dalam satu kluster. Dibandingkan dengan solusi jaringan alternatif, Jericho mengklaim dapat menyelesaikan pekerjaan 10% lebih cepat.
Fakta-fakta lain tentang Jericho3-AI
Jericho3-AI memiliki bandwidth ethernet 26 petabit per detik, empat kali lipat dari Jericho2. Produk ini juga mengonsumsi daya 40% lebih sedikit per gigabit. Jericho menjanjikan bandwidth yang tinggi dan juga latensi yang rendah.
'Jericho3-AI akan mengurangi waktu pelatihan model AI berskala besar'
Menjelaskan alasan di balik peluncuran Jericho3-AI, Ram Velaga, wakil presiden senior dan manajer umum di Broadcom mengungkapkan, "Tolok ukur untuk jaringan AI adalah mengurangi waktu dan upaya yang diperlukan untuk menyelesaikan pelatihan dan inferensi model AI berskala besar." "Jericho3-AI mengurangi waktu penyelesaian pekerjaan secara signifikan dibandingkan dengan alternatif lain yang ada di pasar," tambahnya.
