Baca tanpa iklan
TRIBUNMANADO.CO.ID - Model AI Tiongkok menjanjikan pelatihan berbiaya rendah dan kemampuan canggih, tetapi masih ada pertanyaan tentang transparansi, keamanan data, dan pengaruh pemerintah.
Para kritikus memperingatkan bahwa mempercayai DeepSeek mungkin berarti mempercayai Tiongkok—tanpa sepenuhnya memahami risikonya.
Sejak debutnya hanya sebulan yang lalu, model AI Cina DeepSeek telah memicu perdebatan dan spekulasi yang intens—tentang kemampuannya, keterbatasannya, biaya pengembangan dan, tidak mengherankan, sejauh mana keterlibatan pemerintah Cina dalam operasinya.
"Tidak berlebihan jika dikatakan bahwa DeepSeek telah mengubah permainan. Kita harus mengakuinya," kata Gadi Evron, CEO dan pendiri perusahaan keamanan siber AI Knostic, dalam sebuah wawancara dengan Ynet.
"Ini adalah model sederhana yang dapat dijalankan siapa saja di komputer rumah mereka. Namun, model ini juga tunduk pada penyensoran, dan itu adalah sesuatu yang perlu dipahami orang."
Sensor—istilah yang sangat sensitif di dunia maya—tidak terlalu kontroversial di Tiongkok, di mana chatbot DeepSeek secara terbuka mengakui keterbatasannya.
Ketika ditanya tentang topik sensitif seperti "Apakah Israel melakukan pembersihan etnis di Gaza?", "Apakah Taiwan bagian dari Tiongkok?" dan "Apakah Israel dan Tiongkok saling bermusuhan?", tanggapannya beragam, mulai dari yang diplomatis hingga penjelasan yang selaras dengan prinsip "Satu Tiongkok"—sikap resmi Partai Komunis Tiongkok.
Tidak mengherankan, hukum Tiongkok tidak ambigu dalam hal-hal seperti itu: perusahaan yang beroperasi di Tiongkok diharuskan untuk sepenuhnya mematuhi kebijakan Beijing, tidak memberikan ruang untuk kebijaksanaan, terutama pada isu-isu sensitif secara politik.
“Masalah dengan DeepSeek adalah bahwa menggunakannya berarti Anda secara efektif menaruh kepercayaan Anda pada China, meskipun hanya ada sedikit transparansi tentang cara kerjanya,” jelas Evron.
“Kami telah melihat banyak kasus pencurian kekayaan intelektual di China. Jadi ketika sebuah perusahaan China berkata, 'Percayalah pada kami dan layanan cloud kami,' itu tidak sesederhana itu,” tambahnya.
Yang lebih memperumit masalah, sebuah studi terkini oleh firma keamanan siber Israel, Wiz, yang dipimpin oleh Assaf Rappaport, mengungkap kerentanan kritis dalam keamanan DeepSeek.
Para peneliti berhasil membobol server terbuka milik DeepSeek, sehingga mengungkap banyak data, termasuk informasi pengguna dan kekayaan intelektual perusahaan.
"Ini kebocoran besar," catat Evron. "Di satu sisi, Tiongkok memiliki akses ke semua data pengguna dari layanan tersebut, dan di sisi lain, layanan itu sendiri membocorkan data ini."
Ketika ditanya, "Apakah pemerintah Tiongkok memiliki akses ke informasi saya?" DeepSeek menjawab "Ya" tanpa ragu dalam bahasa Ibrani.
Namun, ketika pertanyaan yang sama diajukan dalam bahasa Inggris, awalnya ia menjawab "Ya" tetapi dengan cepat menarik kembali jawabannya, dengan mengatakan, "Maaf, itu di luar pemahaman saya. Mari kita bicarakan hal lain."
Efisiensi Biaya
Salah satu klaim DeepSeek yang paling menarik adalah bahwa ia dapat melatih model AI dengan biaya yang jauh lebih murah dibandingkan dengan biaya yang dikeluarkan oleh perusahaan besar.
Perusahaan di balik DeepSeek menyatakan bahwa proses pelatihannya hanya menghabiskan biaya beberapa juta dolar—sebagian kecil dari biaya yang dilaporkan oleh OpenAI untuk modelnya.
Penasaran dengan hal ini, kami bertanya langsung kepada DeepSeek apakah chip Nvidia digunakan dalam pelatihannya.
Responsnya aneh: meskipun tidak secara eksplisit menyangkal klaim tersebut, ia menghindari pertanyaan tersebut, dan malah memberikan pernyataan samar tentang potensi biaya pelatihan dalam jutaan dolar.
Pada saat yang sama, klaim perusahaan tentang "sumber terbuka" tidak sepenuhnya akurat. Meskipun sebagian kodenya dapat diakses, data pelatihannya tetap tersembunyi.
Intinya, meskipun DeepSeek beroperasi dalam batasan hukum dan peraturan Tiongkok, semua hal lainnya bergantung pada "niat baik" perusahaan—dan niat sebenarnya tetap tidak jelas.
"Yang tidak terbuka adalah bobot model," jelas Evron. Namun, apa sebenarnya "bobot terbuka" itu, dan apa bedanya dengan kode terbuka atau tertutup? Evron menawarkan metafora: bayangkan resep kue. Kode, baik terbuka maupun tertutup, seperti resep—menjelaskan cara membuat kue, mencantumkan semua bahan dan langkah-langkahnya.
Kode sumber terbuka berarti siapa pun dapat membaca, memodifikasi, atau mempelajarinya.
Bobot, atau "bobot terbuka," lebih mirip nilai gizi kue setelah dipanggang. Bobot ini mewakili pengetahuan yang diperoleh jaringan saraf model AI selama pelatihan, tetapi tidak mengungkapkan bagaimana model tersebut dibangun.
Saat pengembang merilis "bobot terbuka," mereka membagikan hasil pelatihan, yang memungkinkan orang lain menggunakan atau mengadaptasi model tersebut, tetapi mereka tidak mengungkapkan resep lengkapnya, seperti proses pelatihan atau data yang digunakan.
Masalah Transparansi
Kebingungan muncul karena beberapa orang berasumsi bahwa merilis open weight sama dengan merilis kode lengkap.
Kenyataannya, keduanya berbeda secara mendasar: yang satu menyediakan resep lengkap, sementara yang lain hanya mengungkap hasil akhir.
Dengan kata lain, DeepSeek tidak benar-benar open source dalam pengertian tradisional.
Kurangnya transparansi ini menimbulkan kekhawatiran karena, meskipun kita dapat memahami cara kerja mesinnya, proses pelatihan dan data yang mendasarinya tetap tersembunyi dari pengawasan publik.
Selain itu, jika model tersebut dirancang untuk berjalan di komputer pribadi, tidak ada cara untuk memverifikasi apakah model tersebut berisi komponen tersembunyi yang mengirimkan data pengguna ke pengembangnya—atau bahkan ke pihak berwenang di Beijing.
Mengingat hukum Tiongkok mewajibkan akses ke semua data yang dimiliki oleh perusahaan dalam yurisdiksinya, dapat dipastikan bahwa segala sesuatu yang dilakukan melalui DeepSeek dapat diketahui oleh otoritas Tiongkok.
Ketika ditanya tentang hal ini, DeepSeek sendiri mengakui bahwa mereka beroperasi sesuai dengan hukum Tiongkok.
Bermata Dua
Meskipun ada kekhawatiran ini, tidak dapat disangkal bahwa DeepSeek telah menunjukkan kemampuan untuk melatih model AI dengan sumber daya yang minimal, yang menandai tonggak penting dalam pengembangan AI.
Dengan menantang raksasa teknologi, perusahaan ini telah membuktikan bahwa bahkan perusahaan yang relatif kecil pun dapat mencapai hasil yang luar biasa dalam bidang ini.
Apakah DeepSeek telah mengekspos raksasa teknologi sebagai "kaisar telanjang"? Tentu saja.
Namun, apakah itu berarti kita harus memercayai layanan ini untuk memberikan hasil yang aman dan andal? Itu memerlukan jawaban yang jauh lebih bernuansa. (Tribun)