Kembangkan Robot Pembunuh, Universitas di Korsel Diboikot: AL Lebih Bahaya dari Korut

TRIBUNMANADO.CO.ID – Sebuah surat terbuka baru saja dilayangkan kepada Korea Advanced Institute of Science and Technology (KAIST) oleh 57 pakar dari 30 negara.

Surat tersebut menyatakan bahwa para pakar tidak akan lagi mengunjungi atau berkolaborasi dengan universitas tersebut hingga KAIST menghentikan kerja sama dengan perusahaan senjata Hanhwa System.

Berdasarkan kabar yang diterima oleh para pakar, kerja sama ini bertujuan untuk mengembangkan senjata militer yang dilengkapi dengan kecerdasan buatan.

Langkah tersebut dinilai berlawanan dengan opini Persatuan Bangsa-bangsa (PBB) yang berusaha mengantisipasi ancaman senjata otonom, dan dapat mempercepat realisasi skenario film The Terminator yang menunjukkan bagaimana kecerdasan buatan Skynet bisa berbalik melawan manusia dalam usaha melindungi dirinya sendiri.

“Kami sangat menyesalkan bagaimana sebuah institusi bergengsi seperti KAIST berusaha mempercepat persaingan dalam mengembangkan senjata semacam ini," ujar para pakar dalam surat tersebut.

Mereka melanjutkan, senjata otonom punya potensi untuk menjadi senjata teror.

Diktator dan teroris bisa menggunakan mereka terhadap populasi yang tidak bersalah, membuang semua batasan etika.

“Jika sudah dibuka, kotak Pandora ini akan sulit untuk ditutup kembali,” kata mereka memperingatkan.

Lucas Apa, seorang konsultan keamanan dari firma keamanan siber IOActive, menyetujui kekhawatiran para pakar.

Dilansir dari The Independent, Kamis (5/4/2018), dia memberikan contoh bagaimana sebuah malfungsi robot menyebabkan kematian seorang pekerja pabrik pada 2016.

“Seperti teknologi lainnya, kita mendapati bahwa teknologi robot tidak aman dari berbagai aspek.

Sangat mengkhawatirkan bila kita sudah bergerak menunju kemampuan militer ofensif ketika keamanan sistem ini masih sangat kurang.

Jika ekosistem robot masih rentan diretas, robot bisa jadi malah melukai kita,” katanya.

Menanggapi hal ini, presiden KAIST Sung Chul Shin berkata bahwa ini merupakan kesalahpahaman.

“Sekali lagi saya tegaskan bahwa KAIST tidak akan melakukan aktivitas riset yang melawan kehormatan manusia, termasuk senjata otonom yang tidak memiliki kontrol manusia,” ujarnya.

Elon Musk dan 100 Pakar AI Desak PBB untuk Larang Robot Pembunuh

CEO SpaceX Elon Musk, pendiri DeepMind Mustafa Suleyman dan 114 pakar kecerdasan buatan (AI) lainnya dari 26 negara telah bersama-sama menandatangani sebuah surat terbuka kepada Persatuan Bangsa-bangsa (PBB) untuk melarang teknologi robot pembunuh.

Surat yang dikeluarkan dalam rangka konferensi AI terbesar di dunia, IJCAI 2017, di Australia tersebut memperingatkan PBB, pakar AI, dan masyarakat luas mengenai bahaya dari mesin mandiri yang dapat memilih dan membunuh targetnya.

“Jika diciptakan, mereka akan membuat konflik bersenjata menjadi lebih besar dari sebelumnya dan lebih cepat dari apa yang bisa diperkirakan oleh manusia. Teknologi ini bisa menjadi senjata teror, senjata yang digunakan oleh teroris terhadap populasi umum, dan senjata yang diretas untuk bertindak di luar rencana,” tulis Musk dan kolega.

Ini bukan pertama kalinya para pakar mengangkat isu tersebut. Stephen Hawking, Noam Chomsky, and dan pendiri Apple Steve Wozniak adalah beberapa di antara para peneliti yang cukup vokal mengenai kemungkinan kecerdasan buatan digunakan untuk membunuh manusia.

Musk sendiri juga pernah menyebut bahwa AI bisa lebih berbahaya dari Korea Utara, dan untuk mencegah hal itu, perusahaannya, SpaceX, dan Tesla mendanai OpenAI, sebuah proyek yang berusaha untuk mengembangkan riset etika AI.

Sayangnya, proses pembuatan larangan terhadap senjata otonom, baik AI maupun non-AI, berjalan lambat.

Tidak sedikit juga yang berpendapat bahwa bahaya tersebut di luar kemampuan regulasi.

Kepada Sciencealert 21 Agustus 2017, pendiri Clearpath Robotics, Ryan Gairepy, mengatakan, kita tidak boleh melupakan bahwa di samping senjata dengan AI, sistem senjata otonom sedang diciptakan pada saat ini.

Merujuk kepada  kemampuan otonom dan semi-otonom yang kini sedang ditambahkan pada senjata-senjata, seperti senapan Samsung SGR-A1, drone BAE Systems Taranis, dan kapal selam SEA Hunter dari DARPA;

Gairepy berkata bahwa benih-benih teknologi untuk robot pembunuh masa depan sudah ada sekarang, meskipun regulasinya belum dituliskan. *

Artikel ini telah dimuat di kompas.com dengan judul: Universitas Korea Selatan Diboikot karena Kembangkan Robot Pembunuh