Page 63 - ebook_Berpikir Bersama Artificial Intelligence

menjadi "kotak hitam" (black box) (National Institute of
Standards and Technology [NIST], 2023).
Bagi ASN, prinsip Explainability memiliki arti yang
sangat praktis. Ketika AI memberikan rekomendasi tertentu,
ASN seharusnya mampu menjelaskan:
• mengapa rekomendasi tersebut dipilih;
• dasar hukum apa yang digunakan;
• data apa yang menjadi dasar analisis;
• mengapa alternatif lain tidak dipilih.
Jika seorang ASN tidak mampu menjelaskan alasan
tersebut, maka menurut saya keputusan tersebut belum
layak digunakan sebagai dasar tindakan pemerintahan.

Implementasi dalam Pekerjaan ASN
Berdasarkan pengalaman saya mendampingi pelatihan
AI, saya menyarankan agar setiap ASN menerapkan lima
langkah sederhana sebelum menggunakan hasil AI sebagai
bagian dari proses pengambilan keputusan.
Pertama, gunakan AI hanya sebagai alat bantu analisis,
bukan sebagai pengambil keputusan.
Kedua, verifikasi seluruh fakta, regulasi, dan referensi

yang diberikan AI menggunakan sumber resmi.
Ketiga, lakukan penilaian terhadap dampak hukum,
administratif, dan sosial dari setiap rekomendasi AI.
Keempat, dokumentasikan proses penggunaan AI
sebagai bagian dari audit trail.
Kelima, pastikan keputusan akhir tetap dibuat,
diperiksa, dan disetujui oleh pejabat yang memiliki

53

Berfikir Bersama Artificial Intelligence