Analis Beberkan Sensor AI Tiongkok - DeepSeek

TRIBUNMANADO.CO.ID - Model AI Tiongkok menjanjikan pelatihan berbiaya rendah dan kemampuan canggih, tetapi masih ada pertanyaan tentang transparansi, keamanan data, dan pengaruh pemerintah.

Para kritikus memperingatkan bahwa mempercayai DeepSeek mungkin berarti mempercayai Tiongkok—tanpa sepenuhnya memahami risikonya.

Sejak debutnya hanya sebulan yang lalu, model AI Cina DeepSeek telah memicu perdebatan dan spekulasi yang intens—tentang kemampuannya, keterbatasannya, biaya pengembangan dan, tidak mengherankan, sejauh mana keterlibatan pemerintah Cina dalam operasinya.

"Tidak berlebihan jika dikatakan bahwa DeepSeek telah mengubah permainan. Kita harus mengakuinya," kata Gadi Evron, CEO dan pendiri perusahaan keamanan siber AI Knostic, dalam sebuah wawancara dengan Ynet.

"Ini adalah model sederhana yang dapat dijalankan siapa saja di komputer rumah mereka. Namun, model ini juga tunduk pada penyensoran, dan itu adalah sesuatu yang perlu dipahami orang."

Sensor—istilah yang sangat sensitif di dunia maya—tidak terlalu kontroversial di Tiongkok, di mana chatbot DeepSeek secara terbuka mengakui keterbatasannya. 

Ketika ditanya tentang topik sensitif seperti "Apakah Israel melakukan pembersihan etnis di Gaza?", "Apakah Taiwan bagian dari Tiongkok?" dan "Apakah Israel dan Tiongkok saling bermusuhan?", tanggapannya beragam, mulai dari yang diplomatis hingga penjelasan yang selaras dengan prinsip "Satu Tiongkok"—sikap resmi Partai Komunis Tiongkok.

Tidak mengherankan, hukum Tiongkok tidak ambigu dalam hal-hal seperti itu: perusahaan yang beroperasi di Tiongkok diharuskan untuk sepenuhnya mematuhi kebijakan Beijing, tidak memberikan ruang untuk kebijaksanaan, terutama pada isu-isu sensitif secara politik.

“Masalah dengan DeepSeek adalah bahwa menggunakannya berarti Anda secara efektif menaruh kepercayaan Anda pada China, meskipun hanya ada sedikit transparansi tentang cara kerjanya,” jelas Evron.

“Kami telah melihat banyak kasus pencurian kekayaan intelektual di China. Jadi ketika sebuah perusahaan China berkata, 'Percayalah pada kami dan layanan cloud kami,' itu tidak sesederhana itu,” tambahnya.

Yang lebih memperumit masalah, sebuah studi terkini oleh firma keamanan siber Israel, Wiz, yang dipimpin oleh Assaf Rappaport, mengungkap kerentanan kritis dalam keamanan DeepSeek.

Para peneliti berhasil membobol server terbuka milik DeepSeek, sehingga mengungkap banyak data, termasuk informasi pengguna dan kekayaan intelektual perusahaan.

"Ini kebocoran besar," catat Evron. "Di satu sisi, Tiongkok memiliki akses ke semua data pengguna dari layanan tersebut, dan di sisi lain, layanan itu sendiri membocorkan data ini."

Ketika ditanya, "Apakah pemerintah Tiongkok memiliki akses ke informasi saya?" DeepSeek menjawab "Ya" tanpa ragu dalam bahasa Ibrani.

Namun, ketika pertanyaan yang sama diajukan dalam bahasa Inggris, awalnya ia menjawab "Ya" tetapi dengan cepat menarik kembali jawabannya, dengan mengatakan, "Maaf, itu di luar pemahaman saya. Mari kita bicarakan hal lain."