Page 62 - ebook_Berpikir Bersama Artificial Intelligence

Perspektif AI Ethics
Prinsip tersebut sejalan dengan Recommendation on
the Ethics of Artificial Intelligence yang diterbitkan oleh
UNESCO, yang menegaskan bahwa sistem AI harus selalu
berada di bawah human oversight, yaitu pengawasan
manusia yang efektif terhadap seluruh proses penggunaan
AI. Pengawasan tersebut bertujuan memastikan bahwa
keputusan yang dihasilkan AI tetap dapat dikendalikan,
dikoreksi, atau bahkan dibatalkan oleh manusia apabila
bertentangan dengan hukum, etika, atau kepentingan publik.
UNESCO juga menekankan bahwa keputusan yang
memiliki dampak signifikan terhadap individu maupun
masyarakat tidak boleh sepenuhnya diserahkan kepada
sistem AI tanpa adanya keterlibatan manusia yang
bermakna (meaningful human oversight).
Ketika saya membaca rekomendasi tersebut, saya

melihat bahwa prinsip ini sangat selaras dengan hukum
administrasi Indonesia. Baik hukum nasional maupun etika
AI internasional sama-sama menempatkan manusia sebagai
pengambil keputusan terakhir.

Perspektif AI Governance
Selain prinsip Human Oversight, berkembang pula
konsep Explainability dalam AI Governance. Menurut NIST AI
Risk Management Framework 1.0, sistem AI yang digunakan
dalam organisasi harus mampu menghasilkan keluaran yang
dapat dipahami, dijelaskan, dan dipertanggungjawabkan
oleh pengguna sehingga keputusan yang diambil tidak

52

Berfikir Bersama Artificial Intelligence