Bagi negara dengan literasi digital yang relatif rendah, dampaknya bisa signifikan. Banyak orang percaya pada apa yang mereka lihat. Padahal, visual yang mereka saksikan sepenuhnya sintetis.
AI pun mulai digunakan untuk memproduksi konten manipulatif dalam konteks sejarah.
Pada awal 2026, para sejarawan di Jerman memperingatkan munculnya gelombang gambar AI tentang Holocaust yang menyesatkan. Salah satu contohnya adalah foto seorang gadis yang diklaim sebagai korban kamp Auschwitz. Setelah ditelusuri, tidak ada catatan sejarah mengenai identitas tersebut. Asli fiktif.
Konten semacam itu sering diproduksi oleh ”content farm” yang mengejar klik dan pendapatan iklan. Namun, dampaknya lebih luas. Ia berpotensi mendistorsi sejarah dan melemahkan pemahaman publik tentang peristiwa nyata.
Masalah lain muncul dari sisi teknologi itu sendiri.
Awal Januari lalu, chatbot AI Grok milik X, perusahaan Elon Musk, menuai kritik. Fiturnya bisa digunakan untuk mengedit gambar. Bahkan, untuk menghapus pakaian dari foto perempuan dan bahkan anak-anak. Keluhan pun mengemuka.
X mengakui ada kelemahan dalam sistem keamanan Grok. Kini sedang diperbaiki. Yang terang, kasus tersebut memperlihatkan bagaimana teknologi AI dapat disalahgunakan dengan cara yang sangat sensitif.
Dalam konteks informasi publik, masalahnya bukan hanya soal teknologi, melainkan juga ekosistem digital.
Media sosial memberikan ”insentif” kuat, berupa monetisasi atau engagement, bagi konten yang menarik perhatian. Baik benar maupun tidak. Visual dramatis tentang kapal perang yang tenggelam atau kerumunan massa raksasa jauh lebih mudah viral daripada laporan faktual yang lebih kompleks.
Karena itu, platform digital mulai mencoba melakukan koreksi.
X, misalnya, mengumumkan kebijakan baru. Pada 4 Maret 2026 kreator yang mengunggah video konflik bersenjata yang dibuat dengan AI tanpa mengungkapkan bahwa video tersebut buatan akan ditangguhkan dari program pembagian pendapatan selama 90 hari.
Pelanggaran berulang dapat berujung pada penghapusan permanen dari program monetisasi.
Langkah tersebut menunjukkan bahwa bahkan platform yang selama ini dikenal longgar terhadap moderasi konten mulai menyadari risiko disinformasi visual.
Namun, kebijakan semacam itu hanya menyentuh sebagian kecil persoalan.
Teknologi AI berkembang jauh lebih cepat daripada kemampuan masyarakat untuk memverifikasi informasi. Dalam situasi konflik atau krisis, banjir gambar dan video yang tidak jelas sumbernya dapat menciptakan kebisingan informasi yang membuat publik sulit membedakan fakta dan fiksi.
Akibatnya bukan hanya orang memercayai sesuatu yang salah. Lebih berbahaya lagi, orang bisa mulai meragukan sesuatu yang benar. (*)