Peneliti di Inggris Peringatkan Bahaya “AI” bagi Ekonomi

LONDON – Perangkat dalam percakapan kecerdasan buatan (artificial intelligence/AI) mungkin akan segera secara diam-diam mempengaruhi pengambilan keputusan pengguna dalam bidang komersial baru yang disebut ekonomi berbasis niat. Para peneliti Universitas Cambridge memperingatkan hal tersebut dalam sebuah makalah yang diterbitkan pada Senin (30/12).

Penelitian tersebut berpendapat bahwa pasar yang berpotensi menguntungkan namun meresahkan yang muncul untuk sinyal niat digital, dapat dalam waktu dekat, mempengaruhi segalanya mulai dari membeli tiket film hingga memilih kandidat politik.

Keakraban kita yang semakin meningkat dengan chatbot, tutor digital, dan apa yang disebut agen AI “antropomorfik” lainnya, membantu memungkinkan serangkaian teknologi persuasif baru ini, ungkap penelitian itu.

“Ini akan melihat AI menggabungkan pengetahuan tentang kebiasaan daring kita dengan kemampuan yang berkembang untuk mengetahui pengguna dan mengantisipasi keinginannya dan membangun tingkat kepercayaan dan pemahaman baru,” kata dua penulis laporan tersebut.

Jika tidak dicegah, hal itu dapat memungkinkan manipulasi sosial dalam skala industri, menurut dua penulis dari Leverhulme Centre for the Future of Intelligence (LCFI) Cambridge, dalam makalah yang diterbitkan di Harvard Data Science Review.

Makalah tersebut mencirikan bagaimana sektor yang baru muncul ini yang dijuluki sebagai ekonomi berbasis niat, akan memetakan perhatian dan gaya komunikasi pengguna serta menghubungkannya dengan pola perilaku dan pilihan yang mereka buat.

“Perangkat AI sudah dikembangkan untuk memperoleh, menyimpulkan, mengumpulkan, mencatat, memahami, memperkirakan, dan akhirnya memanipulasi dan mengkomodifikasi rencana dan tujuan manusia,” kata Yaqub Chaudhary, salah satu penulis penelitian tersebut.

Dampak dan Konsekuensi

AI baru tersebut akan bergantung pada apa yang disebut large language models (LLM) untuk menargetkan irama, politik, kosakata, usia, jenis kelamin, riwayat daring pengguna, dan bahkan preferensi untuk sanjungan dan pujian, menurut penelitian tersebut.

Itu akan dikaitkan dengan teknologi AI baru lainnya yang berupaya mencapai tujuan tertentu, seperti menjual tiket perjalanan ke bioskop, atau mengarahkan percakapan ke platform, pengiklan, bisnis, dan bahkan organisasi politik tertentu.

“Jika tidak diatur, ekonomi yang berbasis pada niat akan memperlakukan motivasi Anda sebagai mata uang baru,” ungkap penulis lain dalam laporan ini, Jonnie Penn. “Ini akan menjadi perburuan emas bagi mereka yang menargetkan, mengarahkan, dan menjual tujuan manusia,” imbuh dia.

Penn juga menambahkan bahwa kita harus mulai mempertimbangkan dampak yang mungkin terjadi dari pasar semacam itu terhadap aspirasi manusia, termasuk pemilihan umum yang bebas dan adil, pers yang bebas, dan persaingan pasar yang adil, sebelum kita menjadi korban dari konsekuensi yang tidak diinginkan.

Penn mencatat bahwa kesadaran publik terhadap masalah ini adalah kunci untuk memastikan kita tidak menempuh jalan yang salah. AFP/I-1