Adalah sesuatu yang normal ketika sekarang ini mencari tempat makan atau tempat nongkrong melihat ulasan dan rating terlebih dahulu. Ulasan dapat mempengaruhi seseorang dalam membuat keputusan, meskipun terkadang ulasan tersebut masih bisa diragukan kebenarannya.
BACA JUGA: Kembangkan Teknologi Artificial Intelligence Kesehatan, UBAYA-Nexmedis Kerja Sama Lebih Intens
Pun demikian saat memanfaatkan teknologi peramban di dunia digital, data setiap individu atau rekam jejaknya dapat ditampung dan dikumpulkan sebagai bahan bakar AI melalui algoritma.
Visualisasi bagaimana AI hadir sebagai solusi instan dalam kehidupan sehari-hari, namun menyimpan potensi pengawasan tersembunyi.--Getty Images
Mungkin, bagi pengguna, hal itu terasa biasa saja. Padahal, jejak digital yang ditinggalkan terus-menerus saat melakukan klik, pencarian, ekspresi wajah, nada suara, berkirim pesan, justru membuat AI yang tak terlihat semakin memperluas kekuasaannya. Semua tindakan direkam dan disimpan, diproses, dianalisa, dan dinilai.
Menurut Foucault, kekuasaan modern bukanlah kekuatan yang memaksa, melainkan kekuatan yang mendisiplinkan secara halus. AI sekarang ini bukan kekuasaan yang datang dalam bentuk kekerasan, melainkan dalam bentuk pengawasan yang halus dan tanpa disadari oleh subjek.
BACA JUGA: Wamenkominfo Nezar Patria Dorong Dunia Kedokteran Adopsi Teknologi Artificial Intelligence (AI)
Ada relasi setara yang saling membentuk antara kekuasaan dengan pengetahuan, sehingga pengetahuan menjadi tak terpisahkan dari rezim-rezim kekuasaan. Pengetahuan pun ikut terbentuk dalam praktik kekuasaan dan turut berperan dalam pembentukan, perbaikan, dan perawatan teknik-teknik kekuasaan.
AI sebagai sebuah kekuasaan dan pengawasan, terdistribusi dengan baik di dalam relasi-relasi sosial. Dalam banyak kesempatan, AI tak jarang membuat seseorang tidak menempatkannya sebagai sarana atau alat untuk membantu berpikir dalam mengatasi suatu isu problematis.
Suatu keniscayaan, AI yang mengawasi terus-menerus, anonim, dan berdaya tembus hebat, berkembang sedemikian rupa menjadi sebuah teknologi yang bisa menggantikan posisi manusia. Apalagi, tanpa sadar, pengguna internet turut menyumbang data untuk membuat AI kian update.
BACA JUGA: Bahasa Ibu di Era Kecerdasan Buatan
Tanpa disadari, algoritma menuntun keputusan kita dan menetapkan apa yang dianggap normal dalam ekosistem digital masa kini.--Getty Images
AI menjelma sebagai arsitektur panoptikon digital secara global yang tidak hadir secara fisik, tapi sebagai jaringan serta algoritma. Seperti konsep tahanan panoptikon Bentham, seseorang yang aktif di dunia digital tidak tahu jika diawasi, oleh siapa, oleh apa, atau tujuan apa.
Dalam proses itu, seseorang melakukan internalisasi kemudian mengawasi diri sendiri agar tidak berbeda dengan yang sedang tren atau viral.
Algoritma mendikte video mana yang harus ditonton sesuai dengan preferensi masing-masing pengguna, berita mana yang harus dibaca, iklan seperti apa yang muncul, bahkan bagaimana seseorang harus tampil agar tetap sesuai tren.
BACA JUGA: Menyongsong Agentic AI: Peluang dan Tanggung Jawab di Era Baru Kecerdasan Buatan