Cerita Profesor di AS: Di-ghosting oleh ChatGPT lalu Dibersihkan AI

TRIBUNMANADO.CO.ID - Tidak setiap hari Anda mencapai status tidak boleh disebut namanya. Keistimewaan yang aneh itu telah diberikan oleh ChatGPT milik OpenAI, menurut New York Times,  Wall Street Journal dan publikasi lainnya.

Selama lebih dari setahun, orang-orang yang mencoba meneliti nama secara daring menggunakan ChatGPT langsung mendapat peringatan kesalahan.

Jonathan Turley termasuk dalam kelompok kecil orang yang secara efektif namanya telah dihilangkan oleh sistem AI. Bagaimana sampai pada status Voldemortian ini adalah kisah mengerikan tentang tidak hanya peran kecerdasan buatan yang berkembang pesat, tetapi juga kekuatan perusahaan seperti OpenAI.

Dalam tulisannya di The Hill, Turley menceritakan kasusnya mirip Profesor Harvard Jonathan Zittrain, pembawa acara CNBC David Faber, Wali Kota Australia Brian Hood, Profesor Bahasa Inggris David Mayer dan beberapa lainnya. 

Benang merahnya tampaknya adalah cerita-cerita palsu yang dibuat oleh ChatGPT di masa lalu. Perusahaan tersebut tampaknya telah memperbaiki masalah tersebut bukan dengan menghapus kesalahannya, tetapi dengan menghapus individu-individu yang dimaksud.

Profesor Hukum Kepentingan Publik Shapiro di Universitas George Washington ini menjelaskan, sejauh ini, ghosting terbatas pada situs ChatGPT, tetapi kontroversi tersebut menyoroti pertanyaan politik dan hukum baru di dunia AI.

Jalan menuju penghapusan siber dimulai dengan akun aneh dan sepenuhnya dibuat-buat oleh ChatGPT. Seperti yang ditulis saat itu, ChatGPT secara keliru melaporkan bahwa telah terjadi klaim pelecehan seksual (yang tidak pernah terjadi) berdasarkan sesuatu yang seharusnya terjadi pada perjalanan tahun 2018 dengan mahasiswa hukum ke Alaska (yang tidak pernah terjadi), saat Turley menjadi dosen Hukum Georgetown (tempat tidak pernah mengajar).

Untuk mendukung klaim palsu tersebut, ChatGPT mengutip sebuah artikel Washington Post yang tidak pernah ditulis dan mengutip dari sebuah pernyataan yang tidak pernah dikeluarkan oleh surat kabar tersebut.  

Washington Post menyelidiki berita palsu tersebut dan menemukan bahwa program AI lainnya, “Bing milik Microsoft, yang didukung oleh GPT-4, mengulang klaim palsu tentang Turley.”

Meskipun beberapa orang yang dicemarkan nama baiknya dengan cara ini memilih untuk menuntut perusahaan-perusahaan ini atas laporan AI yang mencemarkan nama baik, Turley tidak melakukannya. Dia berasumsi bahwa perusahaan tersebut, yang tidak pernah menghubunginya akan memperbaiki masalah tersebut. 

Dan hal itu benar-benar terjadi, dalam cara tertentu — tampaknya dengan menghapus namanya secara digital, setidaknya sampai batas tertentu. Dalam suatu jagat algoritma, logikanya sederhana, yaitu tidak ada cerita palsu jika tidak ada diskusi tentang individu tersebut.

Seperti halnya Voldemort, bahkan kematian tidak menjamin penyelesaian. Profesor Mayer adalah Profesor Emeritus Drama dan Profesor Riset Kehormatan yang disegani di Universitas Manchester, yang meninggal tahun lalu. Dan ChatGPT dilaporkan masih tidak akan menyebutkan namanya.

Sebelum kematiannya, namanya digunakan oleh seorang pemberontak Chechen yang masuk dalam daftar pengawasan teroris. Hasilnya adalah asosiasi profesor yang semakin membesar, yang mendapati dirinya menghadapi pembatasan perjalanan dan komunikasi. 

Hood, Wali Kota di Australia, sangat frustrasi dengan narasi palsu yang dihasilkan AI sehingga ia ditangkap karena penyuapan dan mengambil tindakan hukum terhadap OpenAI. Hal itu mungkin berkontribusi pada penghapusannya.

Kurangnya transparansi dan respons perusahaan telah menambah kekhawatiran atas insiden ini. Ironisnya, banyak dari kita terbiasa dengan serangan palsu di Internet dan akun palsu tentang kita. 
Namun, perusahaan ini dapat memindahkan individu ke semacam api penyucian daring tanpa alasan lain selain karena AI-nya menghasilkan cerita palsu yang subjeknya memiliki keberanian untuk menolak.