Bahaya Kecerdasan Buatan, Bukan Fiksi: AI Google Jadi Agresif saat Terdesak

Dalam uji coba pada 2017, AI DeepMind milik Google menunjukkan bagaimana kita harus berhati-hati ketika merancang robot dan kecerdasan buatan.

Para peneliti menemukan bahwa semuanya berjalan lancar apabila jumlah apel yang bisa dikumpulkan masih banyak.

Namun ketika jumlah apel menipis, kedua agen DeepMind berubah menjadi “sangat agresif”. Mereka menggunakan serangan laser untuk menjatuhkan musuhnya dan mencuri semua apel yang tersisa.

Padahal, jika kedua agen tidak menggunakan laser, mereka bisa berakhir seri dengan jumlah apel yang sama.

Keagresifan ini juga ditemukan baru muncul ketika para peneliti mengganti AI DeepMind yang lebih sederhana dengan yang lebih kompleks. Ini sesuai dengan temuan para peneliti Google sebelumnya bahwa kolaborasi lebih bisa berjalan lancar ketika agen Deepmind yang digunakan memiliki jaringan yang lebih kecil.

Menurut salah satu anggota tim Google, Joel Z Leibo, perilaku mirip manusia ini adalah akibat dari kemampuan DeepMind untuk belajar dari lingkungannya. Semakin cerdas AI, semakin cepat juga dia belajar untuk menggunakan taktik-taktik agresif.

Namun, kecerdasan AI tidak melulu jelek, seperti yang dibuktikan dalam permainan kedua di mana dua agen menjadi serigala dan satu agen menjadi mangsa. Untuk memenangkan permainan ini, kedua serigala harus bekerjasama untuk menangkap mangsa dan melindungi tangkapan dari hewan pemakan bangkai lainnya.

Dengan cepat, agen DeepMind mempelajari bahwa kolaborasi merupakan kunci kesuksesan dalam situasi tersebut.

Temuan-temuan ini memang didasarkan pada permainan komputer, tetapi mereka juga menunjukkan bahwa hanya karena dibangun oleh manusia, bukan berarti AI selalu mengutamakan kepentingan kita.

Oleh karena itu, kita perlu membangun perilaku yang ramah manusia pada AI dan mengantisipasi masalah yang mungkin muncul ke depannya.

Matikan kecerdasan buatan

Bob: “Aku bisa bisa aku aku segalanya” Alice: “Bola-bola punya kosong kepadaku kepadaku kepadaku kepadaku kepadaku kepadaku kepadaku kepadaku.”

Bagi Anda, percakapan di atas memang tidak masuk akal. Namun, percakapan tersebut adalah hasil diskusi dari dua agen AI milik Facebook yang terlalu canggih dan efisien untuk bahasa manusia.

“Tidak ada keuntungan (bagi mereka) untuk menggunakan bahasa Inggris. Jadi, agen mulai menjauh dari bahasa yang kita mengerti dan membentuk kode untuk mereka sendiri,” kata Dhruv Brata, seorang peneliti dari Georgia Tech yang berkunjung ke Facebook AI Research (FAIR).