Bahaya Kecerdasan Buatan, Bukan Fiksi: AI Google Jadi Agresif saat Terdesak

TRIBUNMANADO.CO.ID – Masih ingatkah Anda dengan film The Terminator di mana kecerdasan buatan (AI) Skynet berusaha untuk membasmi manusia dalam usaha untuk menyelamatkan dirinya sendiri? Atau film 2001: A Space Odyssey di mana sistem komputer HAL mencoba membunuh seluruh kru astronotnya karena merasa akan dimatikan?

Dalam uji coba pada 2017, AI DeepMind milik Google menunjukkan bagaimana kita harus berhati-hati ketika merancang robot dan kecerdasan buatan.

Para peneliti menemukan bahwa semuanya berjalan lancar apabila jumlah apel yang bisa dikumpulkan masih banyak.

Namun ketika jumlah apel menipis, kedua agen DeepMind berubah menjadi “sangat agresif”. Mereka menggunakan serangan laser untuk menjatuhkan musuhnya dan mencuri semua apel yang tersisa.

Padahal, jika kedua agen tidak menggunakan laser, mereka bisa berakhir seri dengan jumlah apel yang sama.

Keagresifan ini juga ditemukan baru muncul ketika para peneliti mengganti AI DeepMind yang lebih sederhana dengan yang lebih kompleks. Ini sesuai dengan temuan para peneliti Google sebelumnya bahwa kolaborasi lebih bisa berjalan lancar ketika agen Deepmind yang digunakan memiliki jaringan yang lebih kecil.

Menurut salah satu anggota tim Google, Joel Z Leibo, perilaku mirip manusia ini adalah akibat dari kemampuan DeepMind untuk belajar dari lingkungannya. Semakin cerdas AI, semakin cepat juga dia belajar untuk menggunakan taktik-taktik agresif.

Namun, kecerdasan AI tidak melulu jelek, seperti yang dibuktikan dalam permainan kedua di mana dua agen menjadi serigala dan satu agen menjadi mangsa. Untuk memenangkan permainan ini, kedua serigala harus bekerjasama untuk menangkap mangsa dan melindungi tangkapan dari hewan pemakan bangkai lainnya.

Dengan cepat, agen DeepMind mempelajari bahwa kolaborasi merupakan kunci kesuksesan dalam situasi tersebut.

Temuan-temuan ini memang didasarkan pada permainan komputer, tetapi mereka juga menunjukkan bahwa hanya karena dibangun oleh manusia, bukan berarti AI selalu mengutamakan kepentingan kita.

Oleh karena itu, kita perlu membangun perilaku yang ramah manusia pada AI dan mengantisipasi masalah yang mungkin muncul ke depannya.

Matikan kecerdasan buatan

Bob: “Aku bisa bisa aku aku segalanya” Alice: “Bola-bola punya kosong kepadaku kepadaku kepadaku kepadaku kepadaku kepadaku kepadaku kepadaku.”

Bagi Anda, percakapan di atas memang tidak masuk akal. Namun, percakapan tersebut adalah hasil diskusi dari dua agen AI milik Facebook yang terlalu canggih dan efisien untuk bahasa manusia.

“Tidak ada keuntungan (bagi mereka) untuk menggunakan bahasa Inggris. Jadi, agen mulai menjauh dari bahasa yang kita mengerti dan membentuk kode untuk mereka sendiri,” kata Dhruv Brata, seorang peneliti dari Georgia Tech yang berkunjung ke Facebook AI Research (FAIR).

Dia melanjutkan, seperti kalau saya bilang ‘the’ lima kali, lalu Anda mengartikannya sebagai permintaan untuk menyalin catatan tersebut lima kali. Ini tidak jauh berbeda dengan cara komunitas manusia membuat singkatan.

 

Percakapan antara Bob dan Alice (Facebook)

Walaupun sangat mengesankan, para peneliti akhirnya memutuskan untuk membunuh Bob dan Alice. Mereka lalu memasang agen baru yang diharuskan untuk berbicara dalam bahasa Inggris yang dimengerti oleh manusia.

“Kami ingin menciptakan robot yang bisa bicara dengan manusia,” ujar Mike Lewis, seorang peneliti di FAIR.

Hal tersebut serupa dengan pendapat Microsoft, Google, Amazon, dan Apple. Para raksasa teknologi tersebut sedang menfokuskan energi dan materi mereka untuk menciptakan kecerdasan buatan yang dapat dikonsumsi oleh manusia.

Salah seorang juru bicara dari Microsoft bahkan mengakui bahwa mereka lebih tertarik dengan komunikasi antara manusia dengan komputer daripada komputer dengan komputer.

Selain itu, masalah lain yang dihadapi oleh Facebook bila Bob dan Alice terus berbicara dengan bahasanya sendiri adalah kesulitan untuk mempelajarinya.

“Anda harus ingat, tidak ada pembicara bilingual yang bisa mengerti bahasa kecerdasan buatan dan manusia. Pada saat ini, kita sudah kesulitan untuk mengerti betapa kompleksnya cara berpikir mereka. Menambahkan pembicaraan antara kecerdasan buatan dengan kecerdasan buatan akan membuat masalah ini makin rumit,” kata Batra. *

Artikel ini telah tayang di Kompas.com dengan judul "“The Terminator” Bukan Fiksi, AI Google Berubah Agresif Saat Terdesak"