Dalam membuat kebijakan atau keputusan berbasis AI, pemerintah dapat mengacu pengalaman pemerintah Kanada. Melalui Canada’s Directive on Automated Decision-Making, AI digunakan intensif dalam membuat keputusan efektif bertujuan mengakselerasi service delivery.
Pemerintah juga harus menyadari bahwa pelayanan publik berbasis AI terus tumbuh dan intensif diterapkan di pelbagai negara, baik maju maupun berkembang.
Keputusan pemerintah dapat dibuat secara otomatis untuk memberikan pelayanan kesehatan sesuai kebutuhan masyarakat.
Namun, kepentingan masyarakat dalam memperoleh pelbagai pelayanan kesehatan harus diakomodasi pemerintah dengan menimbang aspek-aspek etika dan sosial. Kebijakan pelayanan kesehatan berbasis AI harus tetap menyandarkan diri pada standar norma etika dan moralitas.
Setiap keputusan berbasis AI berpotensi bias atau mengandung risiko karena dilakukan tanpa melibatkan manusia. Pemerintah harus menimbang risiko penggunaan AI dalam menghasilkan keputusan atau kebijakan dengan tetap memperhatikan nilai-nilai kemanusiaan.
Kebijakan terwujud berupa serangkaian kebijakan dan keputusan administratif berbasis AI dilengkapi panduan tambahan untuk mengatasi risiko penggunaan teknologi AI.
Berbagai risiko tersebut muncul dan perlu dipertimbangkan untuk memenuhi unsur kehati-hatian (prudential) dalam setiap kebijakan yang diambil pemerintah.
Meski manfaat AI sangat bermakna bagi upaya peningkatan pelayanan kesehatan, mewujudkan pengunaannya bukan merupakan perkara mudah. Penggunaan AI oleh pemerintah sangat kompleks karena spektrum pelayanan publik sangat luas tak terbatas di bidang kesehatan, pendidikan, atau layanan administratif.
Berbagai tujuan yang harus dicapai serta konteks tugas-tugas pemerintah, baik di pusat maupun daerah, bersifat unik, baragam, dan mengandung sejumlah tantangan.
Karena itu, pemerintah perlu melibatkan sejumlah pakar untuk memublikasikan dokumen berisi uraian atau narasi tentang kesesuaian dan tanggung jawab atas semua keputusan berbasis AI yang dihasilkannya.
Tanggung jawab atas keputusan pemerintah bertumpu pada hasil evaluasi atau judgement terhadap dampak algoritma terhadap kondisi masyarakat.
Pemerintah bertanggung jawab atas pelbagai risiko atas perubahan sistem keputusan berbasis AI melalui monitoring implementasi.
Hasil monitoring dan evaluasi kemudian dipublikasikan secara luas dan dapat diakses oleh semua pihak. Data disajikan secara luas didukung pola pemerintahan yang terbuka.
Hasil evaluasi sekaligus menunjukkan narasi lengkap atau komprehensif dan terbuka tentang semua dampak dari keputusan berbasis AI. (*)
*)Jusuf Irianto adalah wakil dekan dan guru besar di Departemen Administrasi Publik FISIP Universitas Airlangga-Humas Unair-