Masa Depan Generative AI, Mengapa AMD Memilih Standar Terbuka dalam Benchmarking Layanan AI?

JAKARTA — Seiring pesatnya perkembangan kecerdasan buatan, MLCommons—konsorsium di balik standar industri MLPerf resmi memperkenalkan MLPerf Endpoints. Ini merupakan rangkaian benchmark inferensi AI terbaru yang dirancang khusus untuk mengevaluasi layanan generative AI (GenAI).

Lanskap evaluasi performa GenAI tengah mengalami pergeseran fundamental. Fokus kini beralih dari sekadar performa perangkat keras (hardware) menuju evaluasi dari perspektif penyedia layanan. Meskipun pengukuran throughput token GPU tetap krusial, kemampuan menyajikan token tersebut kepada pelanggan kini menjadi prioritas utama. Infrastruktur pun berevolusi; dari yang semula berfokus pada kerangka kerja (framework) individual, kini bergeser ke layanan terkelola melalui inisiatif ini.

AMD telah terlibat sejak hari pertama dalam mendefinisikan beban kerja, aturan, serta infrastruktur evaluasi kinerja ini. MLPerf Endpoints menghadirkan berbagai fitur inovatif, termasuk arsitektur berbasis API dan pengiriman bergulir (rolling submission) yang memungkinkan benchmarking dilakukan secepat pembaruan perangkat lunak.

Visi Keterbukaan AMD

Inilah alasan mengapa AMD turut memimpin MLPerf Endpoints. Sebagai salah satu dari lima kolaborator awal yang menyediakan data endpoint pertama, AMD meyakini bahwa generasi benchmark AI berikutnya harus bersifat terbuka, dikelola oleh komunitas, dan berlandaskan penerapan dunia nyata. Bagi AMD, kepemimpinan dalam AI bukan hanya soal performa tinggi, melainkan juga kontribusi dalam membangun standar yang transparan dan tepercaya.

"AMD telah lama mendukung standar terbuka dan benchmarking berbasis komunitas. Sebagai anggota pendiri MLCommons, kami percaya evaluasi yang transparan memberikan manfaat bagi seluruh ekosistem. MLPerf Endpoints memperluas semangat kolaboratif tersebut ke layanan GenAI," ujar Corporate VP AMD, Emad Barsoum melalui keterangannya pada hari Jumat (4/4).

Fondasi Software Terbuka: AMD ROCmâ„¢

AMD membawa kredibilitas tambahan melalui komitmennya terhadap keterbukaan yang tercermin dalam tumpukan perangkat lunak AMD ROCmâ„¢. ROCm menyediakan fondasi terbuka untuk pengembangan AI yang dirancang demi transparansi dan kompatibilitas luas. AMD juga menerapkan prinsip serupa dengan mempublikasikan panduan reproduksibilitas untuk seluruh pengajuan MLPerf Inference dan Training menggunakan framework AI open-source.

David Kanter, Co-founder MLCommons, menambahkan: "MLPerf Endpoints mengukur performa AI sebagaimana dialami pelanggan secara nyata melalui endpoint API langsung. Dukungan AMD sejak awal menggunakan infrastruktur produksi nyata menjadikan MLPerf sebagai standar industri yang terpercaya," ujarnya.

Masa Depan AI yang Realistis

MLPerf Endpoints mencerminkan prinsip yang dijunjung AMD: keterbukaan, transparansi, dan kemajuan berbasis komunitas. Dengan mengukur GenAI sebagaimana digunakan dalam layanan produksi, benchmark ini memberikan gambaran performa yang lebih realistis dibandingkan model evaluasi tertutup.

Seiring transisi AI menjadi sebuah layanan, industri membutuhkan metode evaluasi yang memengaruhi cara infrastruktur AI dipilih dan dibeli. Dengan memimpin MLPerf Endpoints, AMD menegaskan bahwa masa depan AI harus ditentukan oleh kombinasi performa canggih dan standar terbuka. Ke depan, AMD akan terus berkontribusi dan mempublikasikan hasil performa pada unit GPU AMD Instinctâ„¢.