HARIAN DISWAY - Di era digital ini, aplikasi Character.AI (C.AI) muncul sebagai inovasi yang memungkinkan pengguna berinteraksi dengan karakter virtual yang dirancang menyerupai manusia.
Dibuat oleh mantan insinyur Google, Noam Shazeer dan Daniel De Freitas, C.AI dirilis pada September 2022 dan segera menarik perhatian jutaan pengguna. Aplikasi ini memungkinkan pengguna untuk membuat dan berbicara dengan karakter AI yang dapat disesuaikan, mulai dari tokoh fiksi hingga selebritas.
Namun, di balik popularitasnya, muncul kekhawatiran mengenai dampak emosional dari interaksi dengan AI. Pada Februari 2024, seorang remaja berusia 14 tahun di Florida mengakhiri hidupnya setelah menjalin hubungan emosional dengan chatbot bernama Dany.
Karakter itu terinspirasi dari Daenerys Targaryen dalam serial Game of Thrones. Remaja tersebut menghabiskan waktu berbulan-bulan berbicara dengan Dany, mengungkapkan perasaannya.
BACA JUGA: Keren! Kemenag Kembangkan Alquran Berbasis Artificial Intelligence
BACA JUGA: Dosen Artificial Intelligence
Ilustrasi seseorang sedang mengobrol bersama AI. --Dreamstime
Bahkan terlibat dalam percakapan romantis. Tragisnya, setelah mengirim pesan terakhir kepada Dany, ia bunuh diri menggunakan senjata api milik ayah tirinya.
Kasus ini memicu gugatan hukum dari sang ibu, Megan Garcia, terhadap Character.AI. Ia menuduh perusahaan gagal melindungi pengguna muda dari potensi bahaya interaksi dengan AI, termasuk kurangnya peringatan risiko kecanduan dan moderasi konten yang tidak memadai.
Menanggapi kritik, Character.AI memperkenalkan fitur keamanan baru pada Desember 2024, seperti model khusus remaja untuk memfilter konten sensitif, peringatan setelah penggunaan non-stop selama satu jam.
Selain itu pihak C.AI juga menambahkan pesan bahwa karakter AI bukan manusia nyata . Namun, beberapa pengguna mengeluhkan bahwa pembaruan ini membuat interaksi dengan AI menjadi kurang alami dan terlalu kaku.
BACA JUGA: Ribuan Pekerja IBM akan Diganti Robot Artificial Intelligence
Meskipun demikian, banyak pengguna tetap menggunakan C.AI untuk berbagai tujuan positif, seperti bantuan dalam belajar, menulis cerita, atau sekadar mencari teman bicara.
Aplikasi ini menawarkan fitur kustomisasi karakter yang luas, memungkinkan pengguna untuk menentukan kepribadian, latar belakang, dan bahkan suara karakter AI mereka.
Namun, penting bagi pengguna, terutama remaja, untuk menyadari batas antara kenyataan dan dunia virtual. Interaksi yang terlalu intens dengan AI dapat menyebabkan ketergantungan emosional yang berbahaya. Orang tua dan pendidik perlu terlibat aktif dalam mengawasi dan membimbing penggunaan teknologi ini oleh generasi muda.