Anthropic Peringatkan AI Bisa Kembangkan Diri Sendiri, Risiko bagi Manusia Meningkat

Akan jadi peroalan jika AI mulai membangun sistem yang lebih canggih secara mandiri. Sebab, manusia dikhawatirkan akan semakin sulit memantau. Sulit mengendalikan. Bahkan sulit memastikan sistem tersebut tetap berjalan sesuai nilai dan kepentingan manusia.

Sejumlah pakar juga menilai isu utama bukan lagi sekadar membangun AI yang lebih pintar. Tetapi memastikan pengelolaannya tetap bertanggung jawab.

Co-founder Future Shift Labs Sagar Vishnoi menilai perkembangan recursive self-improvement dapat mempercepat inovasi. Tetapi sekaligus menciptakan tantangan baru. Yakni terkait akuntabilitas dan keselamatan.

BACA JUGA:MediaTek Dimensity 8550 Resmi Meluncur, Bawa Dukungan Gemini Nano V3 dan AI Lebih Canggih

BACA JUGA:Apple Umumkan Fitur Aksesibilitas Berbasis AI untuk iPhone hingga Vision Pro

Sementara itu, CTO AiEnsured Dr. Srinivas Padmanabhuni menilai perlambatan pengembangan AI secara global akan sulit dilakukan. Karena setiap pihak ingin mempertahankan daya saing dalam perlombaan teknologi.

Sebagai salah satu opsi mitigasi, Anthropic mengusulkan kemungkinan penghentian sementara pengembangan AI paling canggih. Itu akan dilakukan apabila situasi dinilai sudah terlalu berisiko.

Tujuannya agar pemerintah, peneliti, dan masyarakat memiliki waktu menyusun aturan keselamatan. Juga kerangka regulasi yang memadai.

Menerima perkembangan teknologi Artificial Intelligence (AI) adalah salah satu tips menghadapi perkembangan AI dengan bijak. -Rawpixel.com-Freepik.com

Namun pendekatan tersebut dinilai hanya efektif jika seluruh pelaku industri bersedia berpartisipasi. Di sisi lain, sebagian pihak menilai kekhawatiran mengenai AI yang sepenuhnya menggantikan manusia masih terlalu dini.

BACA JUGA:Apple Umumkan Fitur Aksesibilitas Berbasis AI untuk iPhone hingga Vision Pro

BACA JUGA:Google Siapkan Contextual Suggestions, Fitur AI Baru di Android

Co-founder ShortHills AI Pawan Prabhat berpendapat manusia tetap memiliki kendali akhir. Karena sistem AI pada dasarnya dapat dimatikan apabila dianggap membahayakan.

Meski begitu, ia mengakui kemampuan AI yang terus berkembang tetap akan membawa perubahan besar. Terutama terhadap struktur sosial dan ekonomi. Itu diprediksi akan terjadi dalam beberapa dekade mendatang.

Perdebatan mengenai keamanan, regulasi, dan batas pengembangan AI diperkirakan menjadi salah satu isu teknologi paling penting. Setidaknya dalam beberapa tahun ke depan. (*)

Sumber: