Hati-hati Gunakan Deepfake Bikini Grok AI, Elon Musk Ancam Konsekuensi

Lebih jauh, fitur pembuatan gambar Grok dapat digunakan tanpa keanggotaan berbayar, sehingga memperluas potensi penyalahgunaan di platform.

BACA JUGA:Deepfake Bisa Membunuh Karakter Seseorang

BACA JUGA:Implikasi Hukum Penyalahgunaan Deepfake

Meski telah mengeluarkan peringatan keras, Elon Musk tidak merinci secara spesifik bentuk konsekuensi yang akan diterapkan.

Namun, sejumlah pengamat menilai pernyataan tersebut kemungkinan besar difokuskan pada kasus yang melibatkan anak di bawah umur.

Dalam konteks hukum, konten AI yang menampilkan anak secara seksual berpotensi dikategorikan sebagai Child Sexual Exploitation Material (CSEM), yang dapat berujung pada tuntutan pidana serius.

Di sisi lain, pernyataan Musk dinilai belum sepenuhnya menjawab kekhawatiran publik terkait maraknya deepfake bikini terhadap perempuan dewasa akibat AI Grok.

Konten semacam ini, meski tidak selalu melanggar hukum pidana di semua lembaga kehukuman dunia, hal itu tetap menimbulkan persoalan etika, privasi, dan pelecehan digital.

Hingga kini, belum ada kejelasan apakah X akan mengambil langkah tegas untuk membatasi atau memoderasi jenis konten tersebut secara sistematis.

BACA JUGA:Mengenal Deepfake sebagai Ancaman Digital dan Cara Mengidentifikasinya

BACA JUGA:DeepSeek, Deepfake, dan Deep-insight

Ironisnya, Musk di saat yang sama terus mempromosikan kemampuan Grok AI dalam menghasilkan gambar dan video, termasuk sebagai pembeda utama dari chatbot pesaing.

Promosi agresif ini dinilai sebagian pihak bertolak belakang dengan lemahnya pengawasan terhadap dampak sosial dari teknologi tersebut.

Kasus Grok AI kembali menegaskan tantangan besar dalam pengembangan kecerdasan buatan generatif, khususnya ketika dilepas ke ruang publik tanpa pengamanan yang memadai.

Pernyataan Elon Musk mungkin menjadi sinyal awal pengetatan kebijakan, namun publik masih menunggu langkah konkret untuk memastikan teknologi ini tidak terus disalahgunakan. (*)

Sumber: