Komdigi Blokir Grok AI di Platform X, Dinilai Berisiko Sebarkan Pornografi Deepfake

JAKARTA, HARIAN DISWAY — Pemerintah melalui Kementerian Komunikasi dan Digital (Komdigi) memutuskan pemutusan akses sementara terhadap aplikasi Grok, chatbot kecerdasan artifisial milik platform X.

Keputusan itu menyusul temuan risiko penyebaran konten pornografi palsu berbasis teknologi deepfake yang dinilai mengancam perempuan, anak, dan masyarakat luas di ruang digital.

Menteri Komunikasi dan Digital Meutya Hafid menegaskan, pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia.

BACA JUGA:Marak Manipulasi Konten Asusila, Komdigi Ancam Blokir Grok AI dan X Jika Tak Patuh Aturan

BACA JUGA:Hati-hati Gunakan Deepfake Bikini Grok AI, Elon Musk Ancam Konsekuensi

"Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital," katanya dalam keterangan resmi, Sabtu, 10 Januari 2026.

Selain memutus akses sementara, Komdigi juga telah meminta pihak platform X untuk segera hadir memberikan klarifikasi terkait dampak negatif penggunaan Grok di Indonesia.

Pemutusan akses ini dilakukan berdasarkan kewenangan Komdigi sebagaimana diatur dalam Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE) Lingkup Privat.

Khususnya Pasal 9, yang mewajibkan setiap PSE memastikan sistem elektroniknya tidak memuat, memfasilitasi, atau menyebarluaskan konten terlarang.

BACA JUGA:Elon Musk Luncurkan Grokipedia, Tantang Wikipedia dan Ubah Arah Pencarian Internet

BACA JUGA:Grok Imagine, Kontroversi Fitur AI Baru yang Berpotensi Hasilkan Gambar dan Video Bernuansa Seksual

Sebelumnya, Komdigi telah menyoroti penggunaan Grok yang diduga dimanfaatkan untuk memproduksi dan menyebarkan konten asusila berbasis foto nyata pengguna tanpa persetujuan.

Direktur Jenderal Pengawasan Ruang Digital Komdigi Alexander Sabar mengungkapkan, Grok AI belum memiliki pengaturan yang memadai untuk mencegah produksi dan distribusi konten pornografi berbasis foto pribadi warga Indonesia.

"Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga," ujar Alexander dikutip dari laman resmi Komdigi.

Sumber: