Small Language Models, Potensi Besar AI untuk Skala Kecil yang Hemat Biaya

Di ranah industri, model bahasa besar (large language models/LLM) dikenal karena dilatih menggunakan kumpulan data dalam jumlah yang besar. Namun, proses pelatihannya dapat memakan waktu berbulan-bulan dan sering kali memerlukan bantuan penyempurnaan oleh manusia.

Pengembangan LLM juga membutuhkan biaya yang sangat besar bahkan bisa mencapai jutaan dolar. Hal ini tentu saja menjadi tantangan finansial signifikan bagi banyak perusahaan perangkat lunak dan start-up.

Kini, banyak perusahaan perangkat lunak, terutama yang ingin mempercepat pengembangan solusi AI mereka, mulai beralih ke model bahasa kecil (small language models/SLM). Model ini membutuhkan daya komputasi dan memori yang lebih rendah, sehingga hanya memerlukan dataset berukuran kecil.

“Karena dirancang untuk tugas-tugas spesifik, SLM tidak hanya lebih cepat untuk dilatih dan diimplementasikan, tetapi juga sudah mampu menyaingi atau bahkan dapat melampaui model lain dengan ukuran yang serupa,” ujar Presiden Direktur, IBM Indonesia Roy Kosasih.

SLM membutuhkan parameter yang lebih sedikit dan dapat dibangun serta diadaptasi dari Large Language Models (LLM) yang sudah ada. Ukurannya yang lebih kecil memungkinkan SLM untuk dijalankan secara lokal (on-premise) tanpa bergantung pada penyimpanan cloud.

Jika bersifat sumber terbuka (open-source), SLM menjadi semakin ideal. Dengan pelatihan menggunakan dataset perusahaan yang dipilih secara selektif, SLM dapat menyaring konten yang tidak perlu atau pantas untuk membantu mengatasi isu-isu krusial seperti tata kelola, risiko, privasi, dan mitigasi terhadap bias, yang semakin krusial.

SLM sangat cocok untuk bisnis apa pun yang ingin mengadopsi AI, terutama bagi mereka yang memiliki keterbatasan dalam sumber daya, anggaran, atau waktu. Pasar SLM diperkirakan akan tumbuh secara stabil sebesar 15% dalam lima tahun ke depan.

Roy memaparkan, AI diperkirakan dapat meningkatkan dan menyederhanakan perencanaan bisnis dengan foundation model yang lebih cepat untuk meramalkan variabel yang beragam. Sebagai contoh, sebuah SLM yang dikenal sebagai Tiny Time Mixers (TTM) mampu secara cepat menghasilkan output berbasis waktu, yang dapat memprediksi tren masa depan di berbagai bidang seperti kemacetan lalu lintas, konsumsi listrik, keuangan, dan ritel.

Model ini bisa memprediksi secara cepat serta memanfaatkan kemampuan Large Language Model (LLM) dari Granite 3.2 untuk  penalaran mendalam dan pemahaman kontekstual. Hasil kolaborasi ini memungkinkan respons yang lebih cepat dan akurat, sekaligus menyempurnakan alur kerja dalam pemecahan masalah melalui chain-of-thought reasoning, sehingga mempercepat waktu penyelesaian dan meningkatkan kepuasan pelanggan.

“Perusahaan yang mengimplementasikan AI harus menemukan keseimbangan yang setara antara kekuatan dan kepraktisan. Bayangkan SLM seperti mobil balap dan LLM seperti truk tronton  keduanya dapat membawa Anda ke tujuan yang sama, tetapi memiliki fungsi yang berbeda,” katanya memberi ilustrasi.

Dengan demikian, model yang dapat menghadirkan performa tinggi dibandingkan dengan ukurannya, sekaligus memaksimalkan keamanan, kinerja, dan efisiensi biaya, dapat lebih mudah diintegrasikan ke dalam berbagai lingkungan bisnis dan alur kerja.

Menurut dia, banyak perusahaan sekarang akan lebih memilih pendekatan hibrida dengan menggabungkan LLM dan SLM, dengan terlebih dahulu menggunakan model yang lebih besar untuk menyelesaikan masalah bisnis yang kompleks. Setelah solusi ditemukan, mereka akan beralih ke model yang lebih kecil untuk mereplikasi temuan tersebut secara cepat dan efisien dalam segi biaya.

Di masa mendatang, SLM akan memainkan peran penting dalam evolusi agen AI dengan tingkat otonomi yang lebih tinggi, penalaran yang lebih canggih, dan kemampuan pemecahan masalah yang semakin kompleks. SLM dapat mendukung kemampuan agen yang krusial, seperti penalaran lanjutan dan pemanggilan dengan fungsi spesifik, yang sangat penting agar agen dapat terhubung dengan API eksternal, mengevaluasi ulang pendekatannya, serta melakukan koreksi diri jika diperlukan.

"Inilah sebabnya mengapa banyak perusahaan yang semakin melirik SLM. Dengan memanfaatkan sistem AI atau menjalankan AI generatif berdasarkan model bahasa yang lebih kecil atau model yang sesuai dengan kebutuhan, biaya operasional AI dapat dikurangi secara signifikan. Hal ini tidak hanya meningkatkan efisiensi, tetapi juga meningkatkan akurasi, mempercepat proses, dan pada akhirnya meningkatkan keuntungan," terang Roy.