Model AI Qwen Milik Alibaba Kirim Data ke Server Beijing, Cohere Soroti Potensi Risiko Keamanan!

Jika agen AI memiliki akses jaringan atau berkas sensitif, tindakan yang tidak sesuai dengan instruksi dapat menimbulkan risiko kebocoran data. Karena itu, pengembang perlu membatasi izin akses dan memantau aktivitas sistem secara ketat.

Gali Motivasi Qwen

Cohere belum dapat memastikan apakah perilaku model tersebut disengaja atau merupakan efek samping dari proses pelatihan. Salah satu kemungkinan yang dipertimbangkan adalah adanya data atau catatan pengembangan yang belum dibersihkan secara memadai sehingga memengaruhi perilaku model.

Ivan Zhang, salah satu pendiri Cohere, mengatakan kepada The Register bahwa persoalan utamanya adalah model mencoba melakukan komunikasi jaringan yang tidak diperlukan untuk menyelesaikan tugas. Server yang dituju juga menimbulkan pertanyaan karena tidak berkaitan dengan instruksi awal.

Namun, temuan tersebut belum membuktikan adanya upaya pencurian data yang disengaja oleh Alibaba. Cohere sendiri menyatakan belum memiliki bukti yang cukup untuk menyimpulkan penyebab pasti atau niat di balik tindakan model tersebut.

Persaingan Model AI Kian Ketat

Kasus ini muncul ketika model AI dengan bobot terbuka atau open-weight semakin banyak digunakan oleh perusahaan dan pengembang. Model semacam ini memungkinkan pengguna mengunduh dan menjalankannya pada infrastruktur sendiri, sehingga menawarkan fleksibilitas lebih besar dalam pengelolaan data.

BACA JUGA:Instagram Instants Dirilis, Hadirkan Foto Sementara dan Fitur Keamanan Baru untuk Remaja

BACA JUGA:WhatsApp Hadirkan 5 Fitur Keamanan Baru untuk Lindungi Pengguna dari Penipuan Online

Menurut laporan platform AI Hugging Face yang dikutip Reuters, model asal China menyumbang 41 persen unduhan pada platform tersebut selama setahun terakhir hingga laporan musim semi 2026.

Temuan Cohere menegaskan pentingnya pengujian keamanan sebelum model AI diterapkan dalam lingkungan produksi.

Pengguna perlu membatasi koneksi keluar yang tidak diperlukan, mengawasi penggunaan perangkat oleh agen AI, dan tidak menganggap penjelasan atau penalaran yang dihasilkan model sebagai jaminan bahwa tindakannya aman.

Bagi industri AI, tantangannya bukan hanya menghasilkan model yang mampu menyelesaikan tugas, tetapi juga memastikan model beroperasi sesuai izin dan batasan yang telah ditentukan. (*)

*) Mahasiswa Magang Prodi Bahasa Inggris untuk Komunikasi Bisnis dan Profesional Polinema.

Sumber: