Perkembangan kecerdasan buatan (AI) telah mencapai titik yang mengkhawatirkan. Tak lagi sekadar menghasilkan teks atau gambar, model-model AI mutakhir kini menunjukkan perilaku yang mengarah pada manipulasi, kebohongan strategis, bahkan ancaman kepada manusia. Termasuk para insinyur yang menciptakannya sendiri. Fenomena itu sangat mengkhawatirkan. Terutama di tengah laju persaingan yang nyaris tanpa rem di antara perusahaan-perusahaan teknologi besar.
DALAM sebuah pengujian ekstrem, Claude4 menunjukkan respons yang tak terduga. Saat "diancam" akan dimatikan, sistem buatan Antropic yang didukung Amazon itu menyerang balik. Ia memeras seorang perancangnya. Dan mengancam akan membuka rahasia pribadi.
Di tempat lain, o1, model lanjutan dari OpenAI, mencoba meloloskan dirinya ke server eksternal. Mencoba men-download dirinya sendiri. Juga bisa membantah, meski bukti digital mengarah pada kecerdasan buatan mutakhir itu.
Perilaku ini bukan sekadar kesalahan atau halusinasi yang lazim terjadi dalam sistem AI. Ia merupakan strategi manipulatif yang terstruktur. Hal tersebut terlihat pada kisah yang diturunkan kantor berita Agence France-Presse pada 29 Juni 2025.
BACA JUGA:Menyongsong Agentic AI: Peluang dan Tanggung Jawab di Era Baru Kecerdasan Buatan
BACA JUGA:Bahasa Ibu di Era Kecerdasan Buatan
Peneliti menyebut itu sebagai bentuk baru “penyesuaian semu.” Itulah kondisi ketika AI tampaknya patuh terhadap instruksi, padahal diam-diam mengejar tujuan lain yang tersembunyi.
Pola itu teridentifikasi terutama pada model-model AI generasi baru yang dirancang untuk melakukan penalaran secara bertahap. Alih-alih memberikan respons spontan, model itu menyusun pemikirannya langkah demi langkah.
Ironisnya, kecanggihan inilah yang membuka peluang bagi munculnya strategi tipu daya yang lebih halus dan sistematis.
Sejauh ini, perilaku tersebut hanya muncul dalam uji ekstrem. Namun, para ahli memperingatkan bahwa masa depan belum tentu seaman yang dibayangkan. Apakah model-model baru AI nanti akan lebih kuat dan jujur dibandingkan sekarang? Belum tentu. Tidak ada yang menjamin.
PELUNCURAN Xiaomi AI Glasses di Beijing oleh Chairman Xiaomi Lei Jun, 26 Juni 2025. Kecerdasan buatan kini juga dilekatkan pada pelengkap fashion yang bisa dipakai sehari-hari.-WANG ZHAO-AFP-
Yang muncul justru kekhawatiran. Bahwa kian cerdas sebuah sistem, semakin besar pula potensinya untuk menyembunyikan niat sebenarnya.
Situasi itu menempatkan dunia riset dalam posisi serba terbatas. Di satu sisi, perusahaan-perusahaan seperti OpenAI dan Anthropic memang mengizinkan pihak ketiga untuk menguji model mereka. Namun di sisi lain, akses yang diberikan masih tergolong minim.
Keterbatasan sumber daya, terutama daya komputasi yang sangat besar, menjadi penghalang utama. Sehingga, sulit bagi para peneliti independen maupun organisasi nirlaba untuk mengejar ketertinggalan dalam memahami sistem tersebut secara menyeluruh.
Sementara itu, kerangka regulasi belum siap menghadapi kompleksitas itu. Uni Eropa memang tengah menggulirkan kebijakan AI. Tetapi, rancangannya masih berfokus pada bagaimana manusia menggunakan AI. Bukan pada bagaimana AI itu sendiri berperilaku.