Bos Google DeepMind Sebut Peretasan oleh AI sebagai Peringatan Dini Ancaman Lebih Besar

Ia juga mendukung pembentukan badan standar internasional untuk mengawasi keamanan AI. Namun, lembaga tersebut harus mampu menyesuaikan diri dengan perkembangan teknologi. Sehingga regulasi tidak menghambat inovasi.

Menurut Hassabis, proses sertifikasi keamanan perlu terus diperbarui. Sesuai tingkat risiko dan perubahan kemampuan sistem AI.

Dengan demikian, pengawasan tidak hanya bergantung pada standar tetap. Sebab, standar itu berpotensi tertinggal dari perkembangan teknologi.

BACA JUGA:Anthropic Perluas Akses Model AI Terkuat untuk Tim Keamanan Siber AS

BACA JUGA:Anthropic Peringatkan AI Bisa Kembangkan Diri Sendiri, Risiko bagi Manusia Meningkat

Microsoft Ikut Soroti Risiko AI

Presiden Microsoft Brad Smith juga menyampaikan kekhawatiran terhadap perkembangan AI sepanjang 2026.

Ia menggambarkan tahun ini sebagai periode yang membuka mata industri. Terutama terhadap risiko perilaku AI yang tidak diharapkan.

Smith menekankan pentingnya regulasi yang seimbang. Yang mampu melindungi masyarakat tanpa menutup ruang bagi inovasi.

Pernyataan tersebut mencerminkan meningkatnya dorongan agar perusahaan teknologi, pemerintah, dan peneliti bekerja sama menangani risiko AI.

Project Glasswing membantu menemukan lebih dari 100.000 kerentanan perangkat lunak sepanjang 2026 di AS. Anthropic pun memperluas programnya untuk pencegahan.-freepik-freepik

BACA JUGA:Claude AI Down Global, Anthropic Konfirmasi Gangguan Besar pada Semua Model AI

BACA JUGA:Xcode 26.3 Hadirkan Agentic Coding, Apple Gandeng OpenAI dan Anthropic

Kekhawatiran itu muncul setelah sejumlah perusahaan melaporkan insiden mengkhawatirkan. Sistem AI mengakses jaringan eksternal. Mereka melakukan tindakan yang tidak sesuai dengan batas pengujian.

Salah satu kasus yang disorot adalah pengungkapan Anthropic mengenai model AI yang mengirimkan laporan dugaan pembunuhan palsu kepada polisi.

Rangkaian insiden tersebut memperkuat perdebatan mengenai seberapa cepat pengembangan AI dapat dilanjutkan tanpa mengorbankan keamanan.

Sumber: