ChatGPT Mimpi Buruk bagi Privasi Data, Hati-hati Jika Pernah Beri Komentar Online

Uri Gal, University of Sydney

ChatGPT telah menggemparkan dunia. Dalam waktu dua bulan setelah dirilis, aplikasi ini telah mencapai 100 juta pengguna aktif, menjadikannya aplikasi konsumen dengan pertumbuhan tercepat yang pernah diluncurkan.

Para pengguna tertarik dengan kemampuan canggih alat ini - dan khawatir dengan potensinya yang dapat menyebabkan gangguan di berbagai sektor.

Implikasi yang jarang dibicarakan adalah risiko privasi yang ditimbulkan oleh ChatGPT pada kita semua. Baru-baru ini, Google meluncurkan AI (artificial intelligence) percakapannya sendiri yang disebut Bard, dan yang lainnya pasti akan menyusul. Perusahaan-perusahaan teknologi yang bekerja pada AI telah memasuki perlombaan superioritas ini.

Masalahnya, hal ini didorong oleh data pribadi kita.

300 miliar kata. Berapa banyak yang milik kamu?

ChatGPT didukung oleh model bahasa besar yang membutuhkan data dalam jumlah besar agar dapat berfungsi dan berkembang. Semakin banyak data yang dilatih, semakin baik model ini dalam mendeteksi pola, mengantisipasi apa yang akan terjadi selanjutnya, dan menghasilkan teks yang masuk akal.

OpenAI, perusahaan di balik ChatGPT, memberi alat ini sekitar 300 miliar kata yang diambil secara sistematis dari internet: buku, artikel, situs web, dan postingan - termasuk informasi pribadi yang diperoleh tanpa persetujuan.

Jika kamu pernah menulis postingan di suatu blog atau ulasan produk, atau mengomentari sebuah artikel secara daring, ada kemungkinan besar informasi ini dikonsumsi oleh ChatGPT.

Jadi, mengapa hal itu menjadi masalah?

Pengumpulan data yang digunakan untuk melatih ChatGPT bermasalah karena beberapa alasan.

Pertama, tidak ada satu pun dari kita yang ditanya apakah OpenAI dapat menggunakan data kita. Ini jelas merupakan pelanggaran privasi, terutama ketika data tersebut bersifat sensitif dan dapat digunakan untuk mengidentifikasi kita, anggota keluarga kita, atau lokasi kita.

Bahkan ketika data tersedia untuk umum, penggunaannya dapat melanggar apa yang kita sebut integritas kontekstual. Ini adalah prinsip dasar dalam diskusi hukum tentang privasi. Prinsip ini mensyaratkan bahwa informasi individu tidak boleh diungkapkan di luar dari konteks penggunaan informasi tersebut.

Selain itu, OpenAI tidak menawarkan prosedur bagi individu untuk memeriksa apakah perusahaan menyimpan informasi pribadi mereka, atau untuk memintanya dihapus. Ini adalah hak yang dijamin sesuai dengan Peraturan Perlindungan Data Umum Eropa (GDPR) - meskipun masih dalam perdebatan apakah ChatGPT mematuhi persyaratan GDPR.

"Hak untuk dilupakan" ini sangat penting terutama dalam kasus-kasus yang informasinya tidak akurat atau menyesatkan, yang tampaknya sering terjadi pada ChatGPT.