Evaluator Eksternal Temukan Celah dalam Sistem Pemantauan AI OpenAI

Mereka juga mencatat bahwa OpenAI sedang memperluas sistem tersebut selama proses evaluasi berlangsung.

Selain menemukan celah pada sistem pemantauan, para peneliti mengidentifikasi potensi cara bagi agen Codex milik OpenAI untuk melewati pembatasan keamanan.

Jika dieksploitasi, celah tersebut berpotensi memungkinkan agen bertindak. Ia menggunakan seluruh hak akses yang dimiliki penggunanya.

BACA JUGA:OpenAI dan Microsoft Digugat Seattle Times serta Newsday soal Hak Cipta di New York

BACA JUGA:OpenAI Tahan Pelatihan Model AI Terbesar Usai Insiden Keamanan Siber

Temuan itu menyoroti tantangan dalam memastikan agen AI tetap beroperasi sesuai batasan keamanan yang ditetapkan.

Meski demikian, laporan tersebut tidak menyatakan bahwa kerentanan itu telah dieksploitasi dalam penggunaan nyata.

Temuan yang disampaikan berfokus pada potensi kelemahan yang teridentifikasi selama pengujian.

Evaluasi oleh pihak luar semakin dipandang sebagai salah satu cara terbaik. Dengan itu, teknologi AI dapat dikembangkan secara aman. Tanpa menghambat kemajuannya.

BACA JUGA:OpenAI Ditinggal Sejumlah Eksekutif Senior di Tengah Ambisi Besar Perusahaan

BACA JUGA:OpenAI Luncurkan GPT-Live-1, Bikin Percakapan Suara ChatGPT Lebih Natural dan Responsif

Sejumlah perusahaan AI, pakar, dan pemerintahan Presiden Amerika Serikat Donald Trump turut mendukung pendekatan tersebut.

Namun, evaluasi independen juga menghadirkan persoalan tersendiri. Perusahaan AI memiliki kekhawatiran khusus.

Terutama terkait peneliti yang bekerja di lingkungan internal mereka. Para peneliti itu bisa saja membawa informasi eksklusif ke perusahaan pesaing, sebagaimana dilaporkan Reuters awal Oktober 2026.

Ditemukan kerentanan dalam sistem pemantauan internal OpenAI. Namun, OpenAI menyatakan telah menambal seluruh kerentanan itu.-JOEL SAGET-AFP-

Sumber: reuters