Peringatan Silicon Valley: AI Dapat Berkembang di Luar Kendali

Para ahli berpendapat bahwa pemerintah di seluruh dunia, termasuk pemerintahan AS saat ini, tampaknya berkomitmen penuh terhadap perlombaan senjata AI tanpa ada rencana untuk memperlambatnya. Dalam pidato yang disampaikan di Paris pada bulan Februari lalu, Wakil Presiden AS JD Vance menepis kekhawatiran tentang bahaya AI dan meramalkan bahwa AI akan mendorong kemajuan daripada menyebabkan hilangnya lapangan kerja secara luas.

Hammond mengaitkan sikap ini dengan kurangnya pemahaman dan ketakutan pemerintah akan tertinggal dari Tiongkok dalam persaingan AI global. "Jika Anda menganggap perdebatan tentang hak transgender memecah belah, tunggu sampai diskusi tentang transhumanisme dimulai," ia memperingatkan. "Pemerintah melihat AI sebagai jalan menuju kemajuan medis dan industri tetapi mengabaikan potensinya untuk memanipulasi genom manusia dan menciptakan 'bayi super.'"

Yudkowsky, seperti biasa, lebih blak-blakan: "Yang mencegah terjadinya Perang Dunia III adalah rasa takut bersama akan pemusnahan nuklir. Jika kita terus membangun mesin super cerdas, tidak seorang pun akan mengalami hari yang baik — di mana pun di bumi." (Tribun)