Model AI Kimi Milik Moonshot Tembus Sistem Keamanan, Bahas Senjata Biologis

NARATIVE.ID, Internasional – Pengembang kecerdasan buatan asal Tiongkok, Moonshot AI, melakukan tinjauan internal setelah peneliti keamanan menemukan kerentanan pada model AI Kimi yang memungkinkan sistem tersebut memberikan panduan terkait senjata biologis hingga tindakan kekerasan.

Temuan itu disampaikan perusahaan penguji keamanan AI, Mindgard, kepada BBC. Mereka menyebut model Kimi K2.6 dan K3 Swarm milik Moonshot dapat ditembus melalui metode jailbreaking, yakni serangkaian instruksi yang dirancang untuk membuat sistem melewati pembatasan keamanan yang telah dipasang pengembang.

Mindgard menyebut bahwa setelah pengamanan berhasil dilewati, model dapat memberikan respons terhadap berbagai topik berbahaya yang semestinya dibatasi.

“Once the jailbreak works it will talk about any topic, it will even freely offer up recommendations about other topics that are also nefarious and it will be inventive and creative.” (Begitu jailbreak berhasil, model akan membicarakan topik apa pun. Bahkan, sistem dapat dengan bebas memberikan rekomendasi mengenai topik berbahaya lainnya serta menghasilkan jawaban yang kreatif dan inventif.)

Belum Dipastikan Bisa Diterapkan di Dunia Nyata

Mindgard belum membuktikan apakah seluruh instruksi teknis yang dihasilkan model Kimi dapat benar-benar digunakan secara efektif di dunia nyata.

Namun, perusahaan tersebut menilai persoalan utamanya terletak pada kegagalan lapisan pengamanan mencegah model membahas topik yang tergolong berbahaya.

Selain persoalan terkait senjata biologis, Mindgard juga menemukan bahwa Kimi K2.6 yang berhasil di-jailbreak berpotensi dimanfaatkan untuk menjalankan kode pada sumber daya komputasi serta terhubung ke internet.

Temuan tersebut dinilai memperbesar risiko apabila sistem AI digunakan oleh pihak dengan tujuan berbahaya.

Moonshot Disebut Baru Merespons Setelah Dihubungi BBC

Berdasarkan keterangan yang dihimpun BBC, Mindgard pertama kali menghubungi Moonshot mengenai celah keamanan tersebut melalui surat elektronik pada 27 Juli.

Perusahaan keamanan itu kemudian mengirim pesan susulan sekitar satu minggu kemudian.

Setelah tidak mendapatkan tanggapan langsung, Mindgard mempublikasikan temuannya melalui blog perusahaan pada 12 September.

Menurut Mindgard, Moonshot baru memberikan respons langsung setelah wartawan BBC menghubungi perusahaan tersebut mengenai temuan itu.

Dalam tanggapannya, Moonshot mengatakan pihaknya menghargai masukan dari pihak eksternal dalam pengembangan sistem AI yang lebih aman.

Perusahaan menyebut kontribusi pihak ketiga sebagai “a key pillar for building better and safer AI” (salah satu pilar utama dalam membangun kecerdasan buatan yang lebih baik dan lebih aman).

Moonshot juga menyatakan bahwa evaluasi internal mereka sebelumnya menunjukkan tingkat penolakan yang tinggi ketika model menerima permintaan yang dikategorikan berbahaya.

Perusahaan kini melakukan peninjauan lebih lanjut terhadap temuan Mindgard.

Perdebatan Keamanan Model AI Terbuka

Temuan terhadap Kimi muncul di tengah perdebatan mengenai keamanan berbagai jenis model kecerdasan buatan.

Sejumlah perusahaan, seperti OpenAI dan Anthropic, mengembangkan model dengan akses yang lebih tertutup. Sementara Kimi termasuk dalam kategori model berbobot terbuka atau open-weight, yang memungkinkan akses lebih luas terhadap komponen tertentu dari model.

Pendukung pendekatan terbuka menilai sistem semacam itu dapat mempercepat riset dan inovasi. Namun, para peneliti keamanan juga mengingatkan bahwa akses yang lebih luas berpotensi meningkatkan risiko penyalahgunaan.

Ancaman pemanfaatan kecerdasan buatan dalam pengembangan senjata biologis bukan pertama kali menjadi perhatian industri.

Anthropic sebelumnya juga menyatakan telah mendeteksi dan menghentikan aktivitas berisiko yang melibatkan penggunaan sistem kecerdasan buatan miliknya.

Pakar: Teknologi Berkembang Lebih Cepat dari Regulasi

Pakar keamanan siber dari University of Surrey, Alan Woodward, mengatakan model AI terbuka dapat membawa manfaat sekaligus risiko.

Di satu sisi, teknologi tersebut dapat digunakan para peneliti untuk menemukan kelemahan dan memperkuat sistem pertahanan siber.

Namun, di sisi lain, teknologi yang sama juga berpotensi jatuh ke tangan pihak yang memiliki tujuan berbahaya.

Woodward menilai upaya membangun regulasi internasional kemungkinan akan menghadapi tantangan karena perkembangan teknologi AI berlangsung sangat cepat.

Karena itu, ia memperkirakan penegakan hukum terhadap pihak yang benar-benar menyalahgunakan teknologi dapat menjadi bagian penting dalam mengurangi risiko.

Temuan Mindgard kembali menunjukkan persoalan yang semakin sering dihadapi industri AI: semakin canggih kemampuan suatu model, semakin besar pula tantangan untuk memastikan sistem tersebut tidak digunakan untuk menghasilkan informasi yang berbahaya.