Cerita Profesor di AS: Di-ghosting oleh ChatGPT lalu Dibersihkan AI

TRIBUNMANADO.CO.ID - Tidak setiap hari Anda mencapai status tidak boleh disebut namanya. Keistimewaan yang aneh itu telah diberikan oleh ChatGPT milik OpenAI, menurut New York Times,  Wall Street Journal dan publikasi lainnya.

Selama lebih dari setahun, orang-orang yang mencoba meneliti nama secara daring menggunakan ChatGPT langsung mendapat peringatan kesalahan.

Jonathan Turley termasuk dalam kelompok kecil orang yang secara efektif namanya telah dihilangkan oleh sistem AI. Bagaimana sampai pada status Voldemortian ini adalah kisah mengerikan tentang tidak hanya peran kecerdasan buatan yang berkembang pesat, tetapi juga kekuatan perusahaan seperti OpenAI.

Dalam tulisannya di The Hill, Turley menceritakan kasusnya mirip Profesor Harvard Jonathan Zittrain, pembawa acara CNBC David Faber, Wali Kota Australia Brian Hood, Profesor Bahasa Inggris David Mayer dan beberapa lainnya. 

Benang merahnya tampaknya adalah cerita-cerita palsu yang dibuat oleh ChatGPT di masa lalu. Perusahaan tersebut tampaknya telah memperbaiki masalah tersebut bukan dengan menghapus kesalahannya, tetapi dengan menghapus individu-individu yang dimaksud.

Profesor Hukum Kepentingan Publik Shapiro di Universitas George Washington ini menjelaskan, sejauh ini, ghosting terbatas pada situs ChatGPT, tetapi kontroversi tersebut menyoroti pertanyaan politik dan hukum baru di dunia AI.

Jalan menuju penghapusan siber dimulai dengan akun aneh dan sepenuhnya dibuat-buat oleh ChatGPT. Seperti yang ditulis saat itu, ChatGPT secara keliru melaporkan bahwa telah terjadi klaim pelecehan seksual (yang tidak pernah terjadi) berdasarkan sesuatu yang seharusnya terjadi pada perjalanan tahun 2018 dengan mahasiswa hukum ke Alaska (yang tidak pernah terjadi), saat Turley menjadi dosen Hukum Georgetown (tempat tidak pernah mengajar).

Untuk mendukung klaim palsu tersebut, ChatGPT mengutip sebuah artikel Washington Post yang tidak pernah ditulis dan mengutip dari sebuah pernyataan yang tidak pernah dikeluarkan oleh surat kabar tersebut.  

Washington Post menyelidiki berita palsu tersebut dan menemukan bahwa program AI lainnya, “Bing milik Microsoft, yang didukung oleh GPT-4, mengulang klaim palsu tentang Turley.”

Meskipun beberapa orang yang dicemarkan nama baiknya dengan cara ini memilih untuk menuntut perusahaan-perusahaan ini atas laporan AI yang mencemarkan nama baik, Turley tidak melakukannya. Dia berasumsi bahwa perusahaan tersebut, yang tidak pernah menghubunginya akan memperbaiki masalah tersebut. 

Dan hal itu benar-benar terjadi, dalam cara tertentu — tampaknya dengan menghapus namanya secara digital, setidaknya sampai batas tertentu. Dalam suatu jagat algoritma, logikanya sederhana, yaitu tidak ada cerita palsu jika tidak ada diskusi tentang individu tersebut.

Seperti halnya Voldemort, bahkan kematian tidak menjamin penyelesaian. Profesor Mayer adalah Profesor Emeritus Drama dan Profesor Riset Kehormatan yang disegani di Universitas Manchester, yang meninggal tahun lalu. Dan ChatGPT dilaporkan masih tidak akan menyebutkan namanya.

Sebelum kematiannya, namanya digunakan oleh seorang pemberontak Chechen yang masuk dalam daftar pengawasan teroris. Hasilnya adalah asosiasi profesor yang semakin membesar, yang mendapati dirinya menghadapi pembatasan perjalanan dan komunikasi. 

Hood, Wali Kota di Australia, sangat frustrasi dengan narasi palsu yang dihasilkan AI sehingga ia ditangkap karena penyuapan dan mengambil tindakan hukum terhadap OpenAI. Hal itu mungkin berkontribusi pada penghapusannya.

Kurangnya transparansi dan respons perusahaan telah menambah kekhawatiran atas insiden ini. Ironisnya, banyak dari kita terbiasa dengan serangan palsu di Internet dan akun palsu tentang kita. 
Namun, perusahaan ini dapat memindahkan individu ke semacam api penyucian daring tanpa alasan lain selain karena AI-nya menghasilkan cerita palsu yang subjeknya memiliki keberanian untuk menolak.

Anda bisa terlihat sebagai penjahat atau tidak terlihat sama sekali di sistem informasi yang ada di mana-mana. Capone atau Casper, gangster atau hantu — pilihan Anda.

Microsoft memiliki hampir setengah dari ekuitas di OpenAI. Ironisnya, saya sebelumnya mengkritik pendiri Microsoft dan miliarder Bill Gates atas dorongannya untuk menggunakan kecerdasan buatan untuk memerangi tidak hanya "misinformasi digital" tetapi juga "polarisasi politik." 

Gates melihat penggunaan AI sebagai cara untuk menghentikan "berbagai teori konspirasi" dan mencegah pandangan tertentu "diperbesar oleh saluran digital." Ia menambahkan bahwa AI dapat memerangi "polarisasi politik" dengan memeriksa "bias konfirmasi."

Turley tidak percaya bahwa ghosting yang dilakukan merupakan balasan atas kritik tersebut. Selain itu, seperti desparecidos lainnya, saya masih terlihat di situs dan melalui sistem lain. 

Namun, hal ini menunjukkan bagaimana perusahaan-perusahaan ini dapat menggunakan sistem yang kuat ini untuk menghapus semua referensi ke individu. 
Selain itu, eksekutif perusahaan mungkin tidak terlalu termotivasi untuk mengoreksi ghosting tersebut, terutama jika tidak ada tanggung jawab atau akuntabilitas.

Artinya, solusi apa pun kemungkinan besar hanya akan datang dari tindakan legislatif. Pengaruh AI meluas secara eksponensial, dan teknologi baru ini memiliki manfaat yang jelas. Akan tetapi, teknologi ini juga memiliki risiko besar yang harus ditangani. 

Ironisnya, Profesor Zittrain telah menulis tentang "hak untuk dilupakan" di ruang teknologi dan digital. Namun, ia tidak pernah meminta untuk dihapus atau diblokir oleh algoritma OpenAI. 

Pertanyaannya adalah apakah, selain hak negatif untuk dilupakan, ada hak positif untuk dikenal. Anggap saja ini sebagai momen Heisenberg, saat  Walter White  di dunia menuntut ChatGPT untuk "menyebutkan nama saya." Di AS, tidak ada preseden yang mapan untuk tuntutan semacam itu.

Tidak ada alasan untuk melihat pengecualian atau penghapusan ini sebagai konspirasi perusahaan yang gelap atau pembalasan robot. Tampaknya ini adalah posisi default ketika sistem melakukan kesalahan yang sangat parah dan berpotensi merugikan — yang mungkin bahkan lebih mengganggu. Ini meningkatkan prospek algoritma yang mengirim orang ke jurang Internet dengan sedikit jalan keluar atau respons. Anda hanya diabaikan karena sistem melakukan kesalahan, dan nama Anda sekarang terpicu oleh sistem.

Ini adalah contoh dari kekuatan sistem yang sebagian besar tidak terkendali dan perairan yang relatif belum dipetakan di masa depan. (Tribun)