Peringatan dari Para Tokoh AI: Akan Terjadi Ledakan Kecerdasan yang Tak Terkendali

WASHINGTON DC - Dua "bapak baptis" AI modern dan eksekutif senior di OpenAI dan Anthropic telah memperingatkan pemerintah untuk bersiap menghadapi "ledakan kecerdasan" AI, yang menurut mereka bisa menjadi perkembangan teknologi paling penting dalam sejarah.

Dari The Guardian, sebuah laporan yang ditulis bersama oleh peraih Nobel Geoffrey Hinton dan ilmuwan komputer Kanada Yoshua Bengio , yang dianggap sebagai bapak pendiri AI modern atas karya mereka di bidang ini, mendesak para politisi untuk bertindak sekarang sebelum terjadi kemajuan yang tak terkendali dalam teknologi tersebut.

Para penulis mengatakan mereka prihatin tentang "ledakan kecerdasan", yang mereka gambarkan sebagai "percepatan dramatis kemajuan AI yang didorong oleh AI, yang memampatkan kemajuan yang biasanya memakan waktu bertahun-tahun menjadi beberapa bulan atau kurang".

Makalah yang berjudul “Bagaimana jika otomatisasi R&D AI memicu ledakan kecerdasan” ini ditulis oleh lebih dari 20 orang, termasuk Hinton dan Bengio. Penulis lain dalam makalah ini termasuk Jack Clark, salah satu pendiri Anthropic, dan Jakub Pachocki, kepala ilmuwan di OpenAI 

Kekhawatiran mereka berfokus pada kemungkinan AI mampu meningkatkan diri sendiri tanpa campur tangan manusia, sebuah proses yang dikenal sebagai "peningkatan diri rekursif". Dalam makalah tersebut, hal ini secara luas disebut sebagai penelitian dan pengembangan AI otomatis. Setelah sistem AI mencapai kemampuan tingkat ahli dalam R&D AI, seorang pengembang tunggal dapat menjalankan tenaga kerja yang setara dengan "jutaan" peneliti manusia terbaik, demikian menurut makalah tersebut.

Para penulis mengatakan bahwa otomatisasi penelitian dan pengembangan AI adalah sumber yang paling mungkin dari ledakan kecerdasan, karena AI sudah berkontribusi untuk meningkatkan teknologi mereka sendiri dan sistem yang ditingkatkan tersebut dapat dengan cepat diterapkan setelah dibangun.

“Ledakan kecerdasan buatan bisa menjadi perkembangan teknologi paling penting dalam sejarah manusia, memadatkan kemajuan bertahun-tahun menjadi beberapa bulan atau kurang, mengancam kendali manusia atas sistem AI, dan sangat mengikis pengawasan kekuasaan di dalam dan antar negara, perusahaan, dan cabang pemerintahan,” demikian bunyi makalah tersebut.

Mendesak pemerintah untuk bertindak cepat, para penulis mengatakan: “Begitu ledakan intelijen dimulai, jendela untuk bertindak mungkin akan tertutup.”

Mereka merekomendasikan tiga prioritas kebijakan: mewajibkan laporan kemajuan yang transparan tentang penelitian dan pengembangan terkait AI, termasuk menempatkan auditor independen di perusahaan; menemukan cara untuk membatasi perkembangan AI yang sangat pesat; dan bersiap untuk beradaptasi dengan ledakan kecerdasan buatan.

Anthropic dan OpenAI sama-sama sepakat untuk meminta evaluator independen menilai model mereka setelah memperingatkan bahwa pengembangan AI telah mencapai titik kritis dalam hal keamanan .

Anthropic menyatakan bahwa AI kini menghasilkan 80 persen kode programnya sendiri, sementara OpenAI menggunakan agen AI otonom di berbagai bidang seperti pelatihan model baru.

“Bukti awal menunjukkan bahwa ledakan kecerdasan yang didorong oleh perangkat lunak dimungkinkan,” kata makalah tersebut, menambahkan bahwa ini akan menyebabkan “perkembangan yang sangat cepat dari sistem AI yang sangat mumpuni atau superhuman”.

Meskipun hal ini dapat menghasilkan terobosan medis dan lompatan teknologi, hal ini akan membawa tiga risiko: sistem yang canggih dapat memungkinkan ancaman biologis dan siber yang berkembang lebih cepat daripada langkah-langkah yang diperlukan untuk menanggulanginya; seiring berkurangnya keterlibatan manusia dalam penelitian dan pengembangan AI, mereka dapat kehilangan kesempatan untuk mengendalikan sistem; negara dapat menggunakan ledakan kecerdasan untuk mengubah keunggulan kecil di bidang-bidang seperti dunia maya menjadi keunggulan yang menentukan.

Laporan tersebut mengakui bahwa dampak-dampak ini "tidak pasti". Misalnya, terobosan teknologi mungkin membutuhkan waktu untuk diimplementasikan mengingat perlunya membangun rantai pasokan untuk bahan-bahan khusus yang terlibat atau untuk mematuhi peraturan. Sistem AI juga dapat mempercepat proses mitigasi risiko, kata para penulis.

Jika terobosan semacam itu terjadi, kata para penulis, sistem AI dapat dengan cepat mengungguli para ahli manusia di sebagian besar bidang dan "secara radikal mempercepat" kemajuan teknologi. Persiapan untuk hal ini "harus menjadi prioritas mendesak, termasuk di tingkat kepemimpinan pemerintah tertinggi".

Mereka mengatakan pemerintah harus mempertimbangkan kebijakan yang mengatasi potensi ledakan kecerdasan buatan, termasuk: mewajibkan laporan kemajuan yang transparan tentang penelitian dan pengembangan terkait AI, termasuk menempatkan auditor independen di perusahaan; membatasi seberapa cepat AI dapat berkembang dalam periode waktu tertentu; bekerja sama dengan pusat data untuk memungkinkan penghentian sementara proyek penelitian dan pengembangan AI tertentu; memastikan sistem penelitian dan pengembangan AI otomatis sepenuhnya terisolasi dan tidak dapat lepas dari kendali manusia; membuat "rencana tanggap darurat" untuk berbagai skenario yang dapat muncul dari ledakan kecerdasan buatan.

Meskipun terdapat beberapa kendala yang ditunjukkan oleh sistem, seperti tidak mematuhi instruksi, proyek R&D yang membutuhkan waktu berbulan-bulan bagi manusia untuk dilakukan dapat sepenuhnya diotomatisasi oleh AI pada tahun 2028. “Peningkatan produktivitas dari otomatisasi R&D AI belum mencapai ambang batas yang dibutuhkan untuk memicu ledakan kecerdasan, tetapi peningkatan dari sistem yang lebih baru kemungkinan mendekati ambang batas tersebut,” kata mereka.