CEO OpenAI Mengakui Sebab Pemecatannya Karena Ancaman Program Rahasia yang Dia Bangun

WASHINGTON - CEO OpenAI, Sam Altman,tampaknya memercayai teori bahwa alasan pemecatan yang dia alami sebelumnya karena sistem baru yang sangat kuat dan rahasia yang dia bantu bangun.

Dikutip dari Daily Mail, beberapa karyawan dilaporkan memperingatkan dewan direksi perusahaan bahwa proyek ini, yang diberi nama Q* ('Q star'), menjadi sangat maju sehingga sudah bisa lulus ujian matematika dan melakukan tugas-tugas berpikir kritis. Dan mereka merasa Altman tidak menganggap serius peringatan mereka.

Dalam wawancara pekan ini, Altman tak menampik adanya program rahasia yang menurut beberapa karyawan menjadi penyebab pemecatannya.

Sebaliknya, dia menyebut pengungkapan Q* sebagai 'kebocoran yang disayangkan'. Altman dipecat, kemudian dipekerjakan oleh investor OpenAI, Microsoft , dan kemudian dipekerjakan kembali oleh OpenAI, yang juga memberikan dukungan kepada sebagian besar dewan yang memecat Altman, hanya dalam waktu lima hari di bulan November.

Saat dihadapkan pada pertanyaan tentang Q* dalam wawancara dengan The Verge, dia sempat menyangkal keberadaan program tersebut.

Masyarakat mengetahui keberadaan Q* dalam berita Reuters baru-baru ini, yang juga menyampaikan beberapa kekhawatiran yang disampaikan dalam surat peringatan karyawan kepada dewan.

Namun berita tersebut hanya meliput Q* dan isi surat secara umum, karena wartawan Reuters tidak melihat surat tersebut.

Dengan semua ketidakpastian ini, Altman berada pada posisi yang tepat untuk menyangkal keberadaan Q* dan menganggapnya sebagai rumor yang tidak berdasar.

Namun sebaliknya, dia sepertinya membenarkannya.

"Tidak ada komentar khusus mengenai kebocoran yang disayangkan itu," katanya.

"Tetapi apa yang telah kami katakan dua minggu yang lalu, apa yang kami katakan hari ini, apa yang kami katakan setahun yang lalu, apa yang kami katakan sebelumnya, adalah bahwa kami mengharapkan kemajuan dalam teknologi ini akan terus pesat dan kami juga mengharapkan kemajuan dalam teknologi ini akan terus berlanjut. berharap untuk terus bekerja keras mencari cara untuk menjadikannya aman dan bermanfaat," tutur dia.

Orang-orang yang bekerja di bidang AI telah memperingatkan bahwa begitu ilmuwan komputer mencapai kecerdasan umum buatan (AGI), kecerdasan tersebut mungkin menjadi lebih kuat daripada yang dapat ditandingi manusia.

Mereka bahkan dapat memandang manusia sebagai ancaman yang harus dihilangkan, dengan menggunakan infrastruktur internet dan komputer untuk melaksanakan rencana hari kiamat.

Ketakutan tersebut sejalan dengan prediksi para ahli bahwa suatu hari AI akan mencapai titik yang dikenal sebagai singularitas, ketika teknologi menjadi lebih kuat dan cerdas dibandingkan kemampuan manusia untuk bersaing, sehingga mengubah arah evolusi kita.

Mantan insinyur Google, Ray Kurzweil, pernah meramalkan bahwa singularitas akan terjadi pada tahun 2045 .

Pada bulan April, lebih dari 25.000 orang menandatangani surat terbuka yang menyerukan penghentian penelitian AI selama enam bulan. Saat itu, Altman mengaku setuju dengan seruan kehati-hatian, namun ia tidak setuju dengan 'nuansa teknis' yang terkandung dalam surat terbuka tersebut.

Dia tidak menandatanganinya.

Laporan mengklaim bahwa beberapa karyawan menulis surat kepada dewan OpenAI sebelum Altman dikeluarkan dari OpenAI.

Surat tersebut dikatakan merinci bagaimana perusahaan Altman mengerjakan penemuan AI baru yang berbahaya, dan risiko serius yang terkait dengan komersialisasi teknologi yang potensi konsekuensinya tidak dipahami secara pasti oleh perusahaan.

Reuters melaporkan bahwa Q* adalah bagian dari alasan Altman dipecat dari OpenAI, karena kemampuan sistem baru yang canggih.

Sumber mengatakan Q* sudah unggul dalam ujian matematika, sedangkan versi terakhir ChatGPT, GPT-4, masih kesulitan dalam ujian sekolah menengah.

GPT-4 diluncurkan pada bulan Maret, memberikan waktu untuk berkembang, sementara Q* belum dapat dikonfirmasi.

Sumber juga mengklaim Q* dapat menggunakan metode non-linier seperti Tree-of-Thoughts, Monte-Carlo Tree Search (MCTS), Process-Supervised Reward Models (PRMs), dan algoritma pembelajaran.

Namun, staf OpenAI diyakini percaya bahwa Q* dapat menjadi terobosan yang memungkinkan pengembangan AGI.

OpenAI mendefinisikan AGI sebagai 'sistem AI yang umumnya lebih pintar dari manusia.'

Minggu ini, ketika ditanya mengapa dia dipecat dalam wawancaranya dengan The Verge, Altman tetap bungkam, mengarahkan pertanyaan ke anggota dewan OpenAI, yang tidak diwawancarai.