Cerdas Berkat Pelatihan yang Luas

Alat Generated pre-trained Transformer 3 (GPT-3) merupakan terobosan dalam pemanfaatan teknologi pemrograman kecerdasan buatan (artificial intelligence/AI). Alat tersebut mampu menjalankan bermacam tugas seperti menulis puisi, menjawab pertanyaan, meringkas teks panjang, menerjemahkan bahasa, mencatat memo, dan bahkan membuat kode komputer sendiri.
Pertanyaan bagaimana cara kerja sistemnya? Menurut Bernard Marr seorang penasihat bisnis dan teknologi strategis untuk pemerintah dan perusahaan memaparkan, seperti aplikasi AI umumnya, GPT-3 sebenarnya bekerja dengan model prediksi bahasa.
"Ini berarti bahwa ini adalah struktur algoritma yang dirancang untuk mengambil satu bagian bahasa (input) dan mengubahnya menjadi apa yang diprediksi sebagai bagian bahasa berikut yang paling berguna bagi pengguna," tulis dia pada laman Forbes.
Kemampuan memprediksi diperoleh dengan memberinya pelatihan dengan teks yang luas. Tidak seperti algoritma non AI yang disajikan dalam keadaan mentah, atau belum dilatih, OpenAI telah menghabiskan banyak sekali sumber daya komputasi agar GPT-3 dapat memahami cara kerja dan struktur bahasa.
Untuk melatih GPT-3, OpenAI bahkan membutuhkan dana sekitar 4,6 juta dollar AS atau sekitar 91 miliar rupiah. Dana ini dipakai agar alat dapat mempelajari cara membangun konstruksi bahasa, mampu menggunakan analisis semantik, mempelajari tidak hanya kata dan artinya, tetapi juga mengumpulkan pemahaman tentang bagaimana penggunaan kata berbeda tergantung pada kata lain.
Proses belajar ini tanpa pengawasan manusia. hal ini karena data pelatihan tidak menyertakan informasi apapun tentang respons tentang benar atau salah, seperti halnya dengan pembelajaran yang diawasi. Semua informasi yang dibutuhkan untuk menghitung probabilitas yang dibutuhkan pengguna dikumpulkan dari teks pelatihan itu sendiri.
Ini dilakukan dengan mempelajari penggunaan kata dan kalimat, kemudian memisahkannya dan mencoba membangunnya kembali. "Misalnya, selama pelatihan, algoritma mungkin menemukan frasa 'rumah memiliki pintu merah.' Kemudian diberi frasa lagi, tetapi dengan kata yang hilang seperti 'rumah itu memiliki X merah,'" jelas Marr.
Alat kemudian memindai semua teks dalam data pelatihannya yang terdiri dari ratusan miliar kata. Kata-kata dimaksud disusun ke dalam bahasa yang bermakna. Selanjutnya GPT-3 menentukan kata apa yang harus digunakan untuk membuat ulang frasa aslinya. hay/I-1