Tiongkok Tetap Butuh Chip AI Meski AS Batasi Ekspor

JAKARTA - Tahun lalu, AS bertindak agresif membatasi kemampuan Tiongkok mengembangkan kecerdasan buatan (artificial intelligence/AI) untuk keperluan militer, menghalangi penjualan chip AS paling canggih yang digunakan untuk melatih sistem AI di sana.

Menurut laporan Financial Times, kemajuan besar dalam chip yang digunakan untuk mengembangkan AI generatif berarti bahwa teknologi AS terbaru yang dijual di Tiongkok lebih kuat daripada yang tersedia sebelumnya. Terlepas dari fakta bahwa chip tersebut sengaja dibuat tertatih-tatih untuk pasar Tiongkok untuk membatasi kemampuannya, membuatnya kurang efektif dibandingkan produk yang tersedia di tempat lain di dunia.

Hasilnya, pesanan Tiongkok untuk prosesor AS yang paling canggih melonjak. Perusahaan internet terkemuka Tiongkok telah memesan chip senilai 5 miliar dolar AS dari Nvidia, yang unit pemrosesan grafisnya telah bekerja keras melatih model-model AI berukuran besar.

Dampak melonjaknya permintaan global untuk produk Nvidia kemungkinan akan mendukung hasil keuangan kuartal kedua perusahaan itu yang akan diumumkan pada Rabu (23/8).

Selain mencerminkan permintaan akan chip yang lebih baik untuk melatih model bahasa besar terbaru perusahaan internet, serbuan permintaan tersebut juga dipicu oleh kekhawatiran bahwa AS akan semakin memperketat kontrol ekspornya, bahkan membuat produk terbatas ini tidak tersedia di masa mendatang.

Namun, Bill Dally, kepala ilmuwan Nvidia, berpendapat bahwa pengendalian ekspor AS akan berdampak lebih besar di masa depan.

"Karena persyaratan pelatihan (untuk sistem AI paling canggih) terus meningkat dua kali lipat setiap enam hingga 12 bulan, kesenjangan antara chip yang dijual di Tiongkok dengan yang tersedia di negara lain akan tumbuh dengan cepat," katanya di Financial Times.

Membatasi Kecepatan Pemrosesan

Kontrol ekspor chip AS tahun lalu adalah bagian dari paket yang meliputi, mencegah pelanggan Tiongkok membeli peralatan yang diperlukan untuk membuat chip canggih.

Washington menetapkan batas kecepatan pemrosesan maksimum chip yang dapat dijual di Tiongkok, serta kecepatan chip yang dapat mentransfer data - faktor penting dalam hal melatih model AI besar, pekerjaan intensif data yang membutuhkan tindakan menghubungkan sejumlah besar chip bersama-sama.

Nvidia merespons dengan memotong kecepatan transfer data pada prosesor A100-nya, yang pada saat itu merupakan GPU top-of-the-line-nya, menciptakan produk baru untuk Tiongkok yang disebut A800 yang memenuhi kontrol ekspor.

Tahun ini, perusahaan ini menerapkan batasan transfer data pada H100, sebuah prosesor baru dan jauh lebih kuat yang dirancang khusus untuk melatih model bahasa besar, menciptakan versi yang disebut H800 untuk pasar Tiongkok.

Pembuat chip ini belum mengungkapkan kemampuan teknis dari prosesor buatan Tiongkok tersebut, namun pembuat komputer telah terbuka mengenai detailnya. Lenovo, misalnya, mengiklankan server berisi chip H800 yang dikatakan identik dalam segala hal dengan H100 yang dijual di tempat lain di dunia, kecuali server tersebut memiliki kecepatan transfer hanya 400 gigabyte per detik .

Kecepatan itu di bawah batas 600 GB/s yang ditetapkan AS untuk ekspor chip ke Tiongkok. Sebagai perbandingan, Nvidia mengatakan H100-nya, yang mulai dikirim ke pelanggan awal tahun ini, memiliki kecepatan transfer 900 GB/dtk.

Kecepatan transfer yang lebih rendah di Tiongkok berarti bahwa pengguna chip di sana menghadapi waktu pelatihan yang lebih lama untuk sistem AI mereka daripada pelanggan Nvidia di tempat lain di dunia, batasan penting karena ukuran model telah bertambah.

Waktu pelatihan yang lebih lama meningkatkan biaya karena chip perlu mengonsumsi lebih banyak daya, salah satu pengeluaran terbesar dengan model besar. Namun, bahkan dengan batasan ini, chip H800 yang dijual di Tiongkok lebih kuat daripada yang tersedia di mana pun sebelum tahun ini, yang menyebabkan permintaan yang sangat besar.

Chip H800 lima kali lebih cepat daripada chip A100 yang merupakan GPU terkuat Nvidia, menurut Patrick Moorhead, analis chip AS di Moor Insights & Strategy.

Itu berarti, perusahaan-perusahaan internet Tiongkok yang melatih model AI mereka menggunakan chip-chip terbaik yang dibeli sebelum kontrol ekspor AS, masih dapat mengharapkan perbaikan besar dengan membeli semikonduktor terbaru, katanya.

"Tampaknya pemerintah AS tidak ingin menghentikan upaya AI Tiongkok, tetapi mempersulitnya," kata Moorhead.

Biaya-Manfaat

Banyak perusahaan teknologi Tiongkok masih dalam tahap pra-pelatihan model bahasa besar, yang membakar banyak kinerja dari masing-masing chip GPU dan menuntut kemampuan transfer data tingkat tinggi.

Hanya chip Nvidia yang dapat memberikan efisiensi yang diperlukan untuk pra-pelatihan, kata para insinyur AI Tiongkok.

Kinerja masing-masing chip seri 800, meskipun kecepatan transfernya melemah, masih unggul dibandingkan chip lainnya di pasar.

"GPU Nvidia mungkin tampak mahal, tetapi sebenarnya merupakan pilihan yang paling hemat biaya," kata seorang insinyur AI di perusahaan internet Tiongkok terkemuka.

Vendor GPU lain mengutip harga yang lebih rendah dengan layanan yang lebih tepat waktu, kata insinyur itu, tetapi perusahaan menilai bahwa biaya pelatihan dan pengembangan akan meningkat dan itu akan memiliki beban ketidakpastian tambahan.

Penawaran Nvidia mencakup ekosistem perangkat lunak, dengan platform komputasi Compute Unified Device Architecture, atau Cuda, yang didirikan pada 2006 dan telah menjadi bagian dari infrastruktur AI.

Analis industri percaya bahwa perusahaan-perusahaan Tiongkok akan segera menghadapi keterbatasan dalam kecepatan interkoneksi antara chip seri 800. Hal ini dapat menghambat kemampuan mereka menangani peningkatan jumlah data yang diperlukan untuk pelatihan AI dan mereka akan terhambat saat mempelajari lebih dalam penelitian dan pengembangan model bahasa besar.

Charlie Chai, analis 86Research yang berbasis di Shanghai, membandingkan situasi tersebut dengan pembangunan banyak pabrik dengan jalan raya yang padat di antara keduanya. Bahkan perusahaan yang dapat mengakomodasi chip yang melemah mungkin akan menghadapi masalah dalam dua atau tiga tahun ke depan, tambahnya.