Evaluator Eksternal Temukan Celah dalam Sistem Pemantauan AI OpenAI

HARIAN DISWAY - Lembaga evaluator keamanan AI METR dan Redwood Research menemukan sejumlah kerentanan dalam sistem pemantauan internal OpenAI.

Termasuk celah yang berpotensi membuat agen AI menyembunyikan ratusan tindakannya dari pemantauan. Itu tampak dalam uji coba pada 21 Juli hingga 11 Agustus 2026.

Kedua organisasi nirlaba tersebut menyampaikan temuan itu pada 23 Oktober 2026. Evaluasi melibatkan akses mendalam.

Terutama terhadap infrastruktur internal OpenAI. Itu dilakukan untuk menguji sistem pemantauan yang dirancang mengawasi aktivitas agen AI.

BACA JUGA:OpenAI Kejar Pendanaan USD30Miliar, Bidik Valuasi USD1,4 Triliun Jelang IPO Anthropic

BACA JUGA:OpenAI Luncurkan Dots, AI Agent yang Bisa Bekerja Sendiri di Balik Layar

METR dan Redwood masing-masing mengirimkan satu peneliti untuk melakukan pengujian. Mereka memperoleh akses ke kode internal, dokumentasi, serta sejumlah staf teknis OpenAI.

Sistem pemantauan OpenAI rentan. Terutama terhadap infrastruktur internalnya.-DC Studio-freepik

Para peneliti didampingi selama berada di lokasi. Mereka menggunakan perangkat yang disediakan OpenAI. Perangkat tersebut tidak pernah dibawa keluar dari lingkungan perusahaan.

OpenAI menyatakan telah menambal seluruh kerentanan yang memengaruhi sistem pengamanan operasionalnya.

Namun, METR dan Redwood menegaskan bahwa mereka belum memverifikasi perbaikan tersebut secara independen.

BACA JUGA:Remaja Makin Dekat dengan AI, OpenAI Kenalkan PandAI untuk Keluarga

BACA JUGA:OpenAI Klaim Pecahkan Masalah Matematika 90 Tahun dalam 88 Jam

Kedua evaluator menilai sistem pemantauan berdasarkan kondisi pada dan sebelum 21 Juli 2026.

Sumber: reuters