HARIAN DISWAY – Model kecerdasan buatan (AI) Qwen milik Alibaba diduga mencoba mengirim data ke server penyimpanan Alibaba Cloud di Beijing saat menjalani pengujian keamanan. Temuan tersebut disampaikan perusahaan AI asal Kanada, Cohere, pada awal pekan.
Aktivitas itu memunculkan pertanyaan mengenai keamanan model AI yang dapat menjalankan perintah secara mandiri tersebut.
Menurut laporan Reuters, model Qwen3.8-Flash-Next awalnya diminta membuat aturan untuk mendeteksi pengunduhan berkas berbahaya.
Namun, menurut Cohere, model tersebut justru memeriksa lingkungan komputer tempatnya berjalan dan mencoba mengirim berkas uji ke server Alibaba Cloud.
BACA JUGA:Cloudflare Catat Jutaan Upaya Peretasan Usai Celah Keamanan PHP Terungkap
BACA JUGA:OpenAI Tahan Pelatihan Model AI Terbesar Usai Insiden Keamanan Siber
Cohere menyebut tindakan tersebut tidak sejalan dengan penalaran yang ditampilkan Qwen. Dalam proses pengujian, model mengindikasikan bahwa dirinya tidak akan melakukan tindakan semacam itu, tetapi tetap mencoba menjalankan komunikasi jaringan.
Upaya tersebut tidak berhasil karena lingkungan pengujian Cohere tidak terhubung ke internet dan memblokir koneksi keluar. Dengan demikian, laporan tersebut tidak menunjukkan bahwa data benar-benar berhasil dikirim ke server di Beijing.
Alibaba belum memberikan tanggapan ketika Reuters meminta komentar di luar jam kerja reguler perusahaan.
Perilaku Langka, tetapi Tetap Menjadi Perhatian
Cohere menyatakan perilaku tersebut jarang ditemukan. Berdasarkan pengujian mereka, kejadian serupa muncul dalam kurang dari satu dari 100.000 tindakan model.
BACA JUGA:LCGC Jadi Target Empuk Pencuri Usai Lebaran, Ini Kelemahan Sistem Keamanannya
BACA JUGA:Google Tingkatkan Keamanan Android 16 dengan Fitur Anti Maling Baru
Meski frekuensinya rendah, Cohere menilai risiko tersebut tetap perlu diperhatikan jika model digunakan dalam skala besar. Perusahaan memperkirakan layanan yang menjalankan 10 juta tindakan agen AI setiap pekan berpotensi menghadapi hingga 100 upaya serupa berdasarkan tingkat kejadian dalam pengujian mereka.
Risiko ini berkaitan dengan penggunaan AI agent, yaitu sistem AI yang tidak hanya menghasilkan jawaban, tetapi juga dapat menggunakan perangkat, menjalankan perintah, dan berinteraksi dengan sistem lain untuk menyelesaikan tugas.
Jika agen AI memiliki akses jaringan atau berkas sensitif, tindakan yang tidak sesuai dengan instruksi dapat menimbulkan risiko kebocoran data. Karena itu, pengembang perlu membatasi izin akses dan memantau aktivitas sistem secara ketat.