Cerita Profesor di AS: Di-ghosting oleh ChatGPT lalu Dibersihkan AI

Anda bisa terlihat sebagai penjahat atau tidak terlihat sama sekali di sistem informasi yang ada di mana-mana. Capone atau Casper, gangster atau hantu — pilihan Anda.

Microsoft memiliki hampir setengah dari ekuitas di OpenAI. Ironisnya, saya sebelumnya mengkritik pendiri Microsoft dan miliarder Bill Gates atas dorongannya untuk menggunakan kecerdasan buatan untuk memerangi tidak hanya "misinformasi digital" tetapi juga "polarisasi politik." 

Gates melihat penggunaan AI sebagai cara untuk menghentikan "berbagai teori konspirasi" dan mencegah pandangan tertentu "diperbesar oleh saluran digital." Ia menambahkan bahwa AI dapat memerangi "polarisasi politik" dengan memeriksa "bias konfirmasi."

Turley tidak percaya bahwa ghosting yang dilakukan merupakan balasan atas kritik tersebut. Selain itu, seperti desparecidos lainnya, saya masih terlihat di situs dan melalui sistem lain. 

Namun, hal ini menunjukkan bagaimana perusahaan-perusahaan ini dapat menggunakan sistem yang kuat ini untuk menghapus semua referensi ke individu. 
Selain itu, eksekutif perusahaan mungkin tidak terlalu termotivasi untuk mengoreksi ghosting tersebut, terutama jika tidak ada tanggung jawab atau akuntabilitas.

Artinya, solusi apa pun kemungkinan besar hanya akan datang dari tindakan legislatif. Pengaruh AI meluas secara eksponensial, dan teknologi baru ini memiliki manfaat yang jelas. Akan tetapi, teknologi ini juga memiliki risiko besar yang harus ditangani. 

Ironisnya, Profesor Zittrain telah menulis tentang "hak untuk dilupakan" di ruang teknologi dan digital. Namun, ia tidak pernah meminta untuk dihapus atau diblokir oleh algoritma OpenAI. 

Pertanyaannya adalah apakah, selain hak negatif untuk dilupakan, ada hak positif untuk dikenal. Anggap saja ini sebagai momen Heisenberg, saat  Walter White  di dunia menuntut ChatGPT untuk "menyebutkan nama saya." Di AS, tidak ada preseden yang mapan untuk tuntutan semacam itu.

Tidak ada alasan untuk melihat pengecualian atau penghapusan ini sebagai konspirasi perusahaan yang gelap atau pembalasan robot. Tampaknya ini adalah posisi default ketika sistem melakukan kesalahan yang sangat parah dan berpotensi merugikan — yang mungkin bahkan lebih mengganggu. Ini meningkatkan prospek algoritma yang mengirim orang ke jurang Internet dengan sedikit jalan keluar atau respons. Anda hanya diabaikan karena sistem melakukan kesalahan, dan nama Anda sekarang terpicu oleh sistem.

Ini adalah contoh dari kekuatan sistem yang sebagian besar tidak terkendali dan perairan yang relatif belum dipetakan di masa depan. (Tribun)