Evaluator Eksternal Temukan Celah dalam Sistem Pemantauan AI OpenAI

OpenAI menerima laporan internal lengkap setebal 61 halaman. Akan tetapi, METR dan Redwood sepakat hanya menerbitkan ringkasan umum kepada publik. Serta memberikan hak kepada OpenAI untuk menyunting informasi sensitif.

BACA JUGA:OpenAI Siapkan Revolusi ChatGPT, Bakal Jadi Superapp AI dengan Agen Pintar

BACA JUGA:OpenAI Luncurkan Lockdown Mode di ChatGPT, Fitur Baru Cegah Kebocoran Data

Berbeda dengan sejumlah evaluasi sebelumnya, kedua organisasi tidak dapat mengungkapkan secara independen bagian-bagian yang disunting tersebut.

Meski demikian, mereka berharap proses evaluasi berikutnya berlangsung dengan transparansi yang lebih besar.

OpenAI menyatakan temuan para evaluator membantu memperkuat sistem pengamanan. Terutama ketika perusahaan memperluas penerapan sistem pemantauannya.

Perusahaan itu juga mengatakan hasil evaluasi akan menjadi bahan untuk merancang kolaborasi penelitian mendatang dengan METR. Juga evaluator pihak ketiga lainnya. (*)

Sumber: reuters