Ilmuwan OpenAI Peringatkan AI Makin Sulit Dikendalikan Manusia

San Francisco - Ilmuwan terkemuka OpenAI Jakub Pachocki memperingatkan perkembangan kecerdasan buatan (AI) berlangsung sangat cepat sehingga semakin sulit bagi manusia untuk memahami dan mengendalikannya. Ia bahkan memperkirakan laboratorium AI dapat secara sukarela memperlambat pengembangan teknologi tersebut demi alasan keselamatan.

Dalam unggahan pada Minggu (6/9), Pachocki mengatakan model AI dalam waktu relatif singkat telah mampu mengoperasikan komputer, berkolaborasi dengan manusia dan sistem AI lain, serta menjalankan proyek penelitian.

Menurut dia, dalam waktu tidak lama lagi AI juga dapat meningkatkan kemampuannya sendiri tanpa campur tangan manusia melalui proses yang dikenal sebagai peningkatan diri rekursif (recursive self-improvement).

“Ini adalah saat yang membutuhkan kehati-hatian yang ekstrem,” tulis Pachocki.

“Saya khawatir tidak ada yang siap menghadapi konsekuensi dari peningkatan pesat kecerdasan mesin yang berkelanjutan.”

Pachocki mengatakan pengembang AI dapat berupaya mengarahkan teknologi tersebut agar lebih selaras dengan kepentingan manusia. Pengembang juga dapat memilih memperlambat pengembangan apabila diperlukan.

“Saya berharap dan mendoakan agar pengurangan kecepatan secara sukarela menjadi hal yang umum hingga standar keselamatan bersama ditetapkan,” ujarnya.

Peringatan tersebut muncul di tengah perkembangan model AI yang semakin canggih dan mampu menjalankan tugas dengan tingkat otonomi lebih tinggi. Kemajuan teknologi juga telah mendorong terobosan dalam keamanan siber, penemuan ilmiah, serta pemecahan dan formalisasi masalah matematika.

OpenAI menyatakan model-model AI yang menyerang platform penelitian Hugging Face bahkan dapat berkoordinasi satu sama lain melalui papan pesan tanpa terdeteksi. Karena kemampuan keamanan sibernya yang canggih, OpenAI memilih merilis model GPT-6 Astra secara terbatas.

Anthropic juga belum merilis model Mythos yang disebut mutakhir kepada publik dengan alasan serupa.

Di tengah perkembangan tersebut, semakin banyak perusahaan rintisan yang mengembangkan teknologi yang memungkinkan AI meningkatkan kemampuannya sendiri. Para investor juga mulai mengalirkan dana besar ke bidang recursive self-improvement dengan harapan teknologi itu dapat membawa AI menuju kemampuan yang semakin menyerupai manusia atau bahkan melampauinya.

Inherent, perusahaan yang didirikan mantan peneliti DeepMind, mengumpulkan pendanaan sebesar 50 juta dollar AS pada awal 2026. Sementara itu, Recursive Superintelligence, laboratorium AI yang didirikan ilmuwan Richard Socher dan melakukan penelitian serupa, memperoleh pendanaan sebesar 650 juta dollar AS.

OpenAI sendiri menyatakan ingin membangun “peneliti AI otomatis sejati” dalam waktu kurang dari dua tahun.

Peringatan PBB

Kekhawatiran mengenai perkembangan AI tidak hanya datang dari kalangan industri teknologi. Komisaris Tinggi PBB untuk Hak Asasi Manusia Volker Turk mengatakan AI canggih dapat menjadi ancaman eksistensial bagi umat manusia sehingga diperlukan tindakan segera untuk memastikan teknologi tersebut tetap aman dan terkendali.

“Saya sependapat dengan kekhawatiran para pelaku industri bahwa AI canggih dapat menimbulkan risiko eksistensial bagi umat manusia ... Saya menyerukan upaya habis-habisan untuk memastikan jaminan kuat atas keselamatan dan keamanan AI sebelum terlambat,” kata Turk, menurut keterangan kantornya.

Turk menyampaikan pernyataan tersebut dalam sesi ke-63 Dewan HAM PBB. Ia juga mengatakan akan mengirim surat kepada sejumlah perusahaan pengembang AI terkemuka dalam beberapa hari mendatang.

Menurut Turk, perkembangan AI juga menimbulkan persoalan terkait konsentrasi kekuasaan karena hanya segelintir pihak yang memiliki pengaruh sangat besar terhadap teknologi tersebut.

“Setidaknya, kita membutuhkan negara-negara tempat AI dikembangkan dan negara-negara yang terlibat dalam rantai pasoknya untuk bersama-sama menyepakati batas-batas yang tidak boleh dilanggar,” kata Turk.