Tiongkok Tetap Butuh Chip AI Meski AS Batasi Ekspor

Kecepatan transfer yang lebih rendah di Tiongkok berarti bahwa pengguna chip di sana menghadapi waktu pelatihan yang lebih lama untuk sistem AI mereka daripada pelanggan Nvidia di tempat lain di dunia, batasan penting karena ukuran model telah bertambah.

Waktu pelatihan yang lebih lama meningkatkan biaya karena chip perlu mengonsumsi lebih banyak daya, salah satu pengeluaran terbesar dengan model besar. Namun, bahkan dengan batasan ini, chip H800 yang dijual di Tiongkok lebih kuat daripada yang tersedia di mana pun sebelum tahun ini, yang menyebabkan permintaan yang sangat besar.

Chip H800 lima kali lebih cepat daripada chip A100 yang merupakan GPU terkuat Nvidia, menurut Patrick Moorhead, analis chip AS di Moor Insights & Strategy.

Itu berarti, perusahaan-perusahaan internet Tiongkok yang melatih model AI mereka menggunakan chip-chip terbaik yang dibeli sebelum kontrol ekspor AS, masih dapat mengharapkan perbaikan besar dengan membeli semikonduktor terbaru, katanya.

"Tampaknya pemerintah AS tidak ingin menghentikan upaya AI Tiongkok, tetapi mempersulitnya," kata Moorhead.

Biaya-Manfaat

Banyak perusahaan teknologi Tiongkok masih dalam tahap pra-pelatihan model bahasa besar, yang membakar banyak kinerja dari masing-masing chip GPU dan menuntut kemampuan transfer data tingkat tinggi.

Hanya chip Nvidia yang dapat memberikan efisiensi yang diperlukan untuk pra-pelatihan, kata para insinyur AI Tiongkok.

Kinerja masing-masing chip seri 800, meskipun kecepatan transfernya melemah, masih unggul dibandingkan chip lainnya di pasar.

"GPU Nvidia mungkin tampak mahal, tetapi sebenarnya merupakan pilihan yang paling hemat biaya," kata seorang insinyur AI di perusahaan internet Tiongkok terkemuka.

Vendor GPU lain mengutip harga yang lebih rendah dengan layanan yang lebih tepat waktu, kata insinyur itu, tetapi perusahaan menilai bahwa biaya pelatihan dan pengembangan akan meningkat dan itu akan memiliki beban ketidakpastian tambahan.

Penawaran Nvidia mencakup ekosistem perangkat lunak, dengan platform komputasi Compute Unified Device Architecture, atau Cuda, yang didirikan pada 2006 dan telah menjadi bagian dari infrastruktur AI.

Analis industri percaya bahwa perusahaan-perusahaan Tiongkok akan segera menghadapi keterbatasan dalam kecepatan interkoneksi antara chip seri 800. Hal ini dapat menghambat kemampuan mereka menangani peningkatan jumlah data yang diperlukan untuk pelatihan AI dan mereka akan terhambat saat mempelajari lebih dalam penelitian dan pengembangan model bahasa besar.