Anthropic Peringatkan AI Bisa Kembangkan Diri Sendiri, Risiko bagi Manusia Meningkat

HARIAN DISWAY - Perusahaan kecerdasan buatan Anthropic mengeluarkan peringatan baru terkait perkembangan teknologi AI.

Saat ini, kecerdasan buatan dinilai dapat memasuki fase peningkatan kemampuan secara mandiri. Bahkan tanpa campur tangan manusia.

Konsep tersebut dikenal sebagai recursive self-improvement. Atau kemampuan sistem kecerdasan buatan untuk memperbarui, mengoptimalkan, dan menciptakan generasi AI berikutnya secara otomatis.

Anthropic menilai skenario tersebut tak lagi sebatas teori. Perusahaan itu memaparkan perkembangan AI masa kini. Terutama dalam proses pengembangan perangkat lunak yang telah berlangsung sangat cepat.

BACA JUGA:Claude AI Down Global, Anthropic Konfirmasi Gangguan Besar pada Semua Model AI

BACA JUGA:Samsung Hadirkan Vision AI, Ubah TV Jadi Perangkat Lebih Personal

Perusahaan yang dikenal melalui asisten AI Claude itu menyebut hingga Mei 2026, lebih dari 80 persen kode yang masuk ke sistem pengembangan internal perusahaan berasal dari Claude. Basis kode tersebut digunakan untuk membangun, menguji, dan memelihara produk perusahaan.

Kecanggihan teknologi seperti Internet of Things (IoT) dan Artificial Intelligence (AI), menjadi faktor terbesar terjadinya fenomena dark factories di berbagai sektor manufaktur.-Freepik-Freepik

Dalam kondisi tertentu, dengan dukungan kapasitas komputasi yang cukup besar, AI masa depan berpotensi mampu menangani seluruh proses. Seperti terkait perancangan dan pembangunan sistem penerusnya sendiri.

Meski terdengar mengkhawatirkan, Anthropic menilai kemampuan tersebut juga memiliki potensi manfaat yang besar.

Teknologi AI yang mampu berkembang mandiri dinilai dapat mempercepat terobosan di sektor kesehatan, penelitian ilmiah, teknik, hingga pendidikan.

BACA JUGA:NVIDIA Isaac GR00T Resmi Diperkenalkan, Platform Robot Humanoid AI dengan GPU Blackwell

BACA JUGA:YouTube Tambah Fitur Podcast Baru untuk Pelanggan Premium dengan AI dan On-the-Go Mode

Namun di sisi lain, perusahaan mengingatkan munculnya tantangan baru. Yakni terkait pengawasan dan keamanan.

Sumber: