Sam Altman Akui Keberadaan Program AI Baru yang Rahasia dan Lebih Kuat

Ketakutan tersebut sejalan dengan prediksi para ahli bahwa suatu hari AI akan mencapai titik yang dikenal sebagai singularitas, ketika teknologi menjadi lebih kuat dan cerdas dibandingkan kemampuan manusia untuk bersaing, sehingga mengubah arah evolusi kita.

Mantan insinyur Google Ray Kurzweil pernah meramalkan bahwa singularitas akan terjadi pada tahun 2045.

Pada bulan April, lebih dari 25.000 orang menandatangani surat terbuka yang menyerukan penghentian penelitian AI selama enam bulan. Saat itu, Altman mengaku setuju dengan seruan kehati-hatian, namun ia tidak setuju dengan 'nuansa teknis' yang terkandung dalam surat terbuka tersebut.

Dia tidak menandatanganinya.

Laporan-laporan itu mengklaim bahwa beberapa karyawan menulis surat kepada dewan OpenAI sebelum Altman dikeluarkan dari OpenAI.

Surat tersebut dikatakan merinci bagaimana perusahaan Altman mengerjakan penemuan AI baru yang berbahaya, dan risiko serius yang terkait dengan komersialisasi teknologi yang potensi konsekuensinya tidak dipahami secara pasti oleh perusahaan.

Reuters melaporkan bahwa Q* adalah bagian dari alasan Altman dipecat dari OpenAI, karena kemampuan sistem baru yang canggih.

Sumber mengatakan, Q* sudah unggul dalam ujian matematika, sedangkan versi terakhir ChatGPT, GPT-4, masih kesulitan dalam ujian sekolah menengah.

PT-4 diluncurkan pada bulan Maret, memberikan waktu untuk berkembang, sementara Q* belum dapat dikonfirmasi.

Sumber juga mengklaim Q* dapat menggunakan metode non-linier seperti Tree-of-Thoughts, Monte-Carlo Tree Search (MCTS), Process-Supervised Reward Models (PRMs), dan algoritma pembelajaran.

Namun, staf OpenAI diyakini percaya bahwa Q* dapat menjadi terobosan yang memungkinkan pengembangan AGI.

OpenAI mendefinisikan AGI sebagai 'sistem AI yang umumnya lebih pintar dari manusia.'

Minggu ini, ketika ditanya mengapa dia dipecat dalam wawancaranya dengan The Verge, Altman tetap bungkam, mengarahkan pertanyaan ke anggota dewan OpenAI - yang tidak diwawancarai.