Penelitian kebijakan
Menilai identifikasi risiko dan mitigasi dalam Peta Jalan AI Nasional Indonesia
Nur Alam Hasabie, Ardy Haroen · 2025
Ringkasan
Penelitian ini membandingkan risiko dan strategi mitigasi yang tercantum dalam Buku Putih Peta Jalan AI Nasional (Komdigi) dengan Repositori Risiko AI MIT dan pemetaan strategi mitigasi MIT, menggunakan pendekatan berbantuan LLM untuk menjangkau korpus besar.
Penelitian independen; bukan pernyataan resmi pemerintah. Hasil perlu dibaca dengan memperhatikan keterbatasan metodologi (lihat Metodologi).
Temuan
Grafik dan tabel berikut memuat seluruh baris dari analisis kesenjangan yang dipublikasikan (taksonomi sebab, taksonomi domain, dan pemetaan mitigasi). Urutan baris mengikuti taksonomi MIT AI Risk Repository (bukan diurutkan menurut cakupan). Nilai sesuai makalah; gulir tabel untuk nama kategori lengkap.
Radar menampilkan % cakupan (proporsi risiko yang terpeta) per kategori. Kotak centang menyertakan atau mengecualikan baris dari grafik; tabel selalu menampilkan semua baris.
Identifikasi risiko — taksonomi sebab (tabel lengkap)
| Di grafik | Kategori | Terpeta | Kesenjangan | Total | Cakupan % | Kesenjangan % (dari total) |
|---|---|---|---|---|---|---|
| Entitas · 1 - Manusia | 326 | 210 | 536 | 60.8 | 39.2 | |
| Entitas · 2 - AI | 284 | 289 | 573 | 49.6 | 50.4 | |
| Entitas · 3 - Lainnya | 138 | 141 | 279 | 49.5 | 50.5 | |
| Entitas · 4 - Tidak terkode | 47 | 171 | 218 | 21.6 | 78.4 | |
| Entitas · Tidak diketahui | 155 | 476 | 631 | 24.6 | 75.4 | |
| Niat · 1 - Disengaja | 294 | 180 | 474 | 62 | 38 | |
| Niat · 2 - Tidak disengaja | 260 | 226 | 486 | 53.5 | 46.5 | |
| Niat · 3 - Lainnya | 194 | 234 | 428 | 45.3 | 54.7 | |
| Niat · 4 - Tidak terkode | 47 | 171 | 218 | 21.6 | 78.4 | |
| Niat · Tidak diketahui | 155 | 476 | 631 | 24.6 | 75.4 | |
| Waktu · 1 - Pra-penyebaran | 78 | 103 | 181 | 43.1 | 56.9 | |
| Waktu · 2 - Pasca-penyebaran | 528 | 334 | 862 | 61.3 | 38.7 | |
| Waktu · 3 - Lainnya | 145 | 205 | 350 | 41.4 | 58.6 | |
| Waktu · 4 - Tidak terkode | 44 | 169 | 213 | 20.7 | 79.3 | |
| Waktu · Tidak diketahui | 155 | 476 | 631 | 24.6 | 75.4 |
Identifikasi risiko — taksonomi domain (tabel lengkap)
| Di grafik | Kategori | Terpeta | Kesenjangan | Total | Cakupan % | Kesenjangan % (dari total) |
|---|---|---|---|---|---|---|
| 1. Diskriminasi & Toksisitas — 1.0 Diskriminasi & Toksisitas | 7 | 0 | 7 | 100 | 0 | |
| 1. Diskriminasi & Toksisitas — 1.1 Diskriminasi tidak adil dan salah representasi | 74 | 1 | 75 | 98.7 | 1.3 | |
| 1. Diskriminasi & Toksisitas — 1.2 Paparan konten toksik | 23 | 83 | 106 | 21.7 | 78.3 | |
| 1. Diskriminasi & Toksisitas — 1.3 Performa tidak merata antar kelompok | 14 | 2 | 16 | 87.5 | 12.5 | |
| 2. Privasi & Keamanan — 2.0 Privasi & Keamanan | 7 | 0 | 7 | 100 | 0 | |
| 2. Privasi & Keamanan — 2.1 Kompromi privasi karena kebocoran atau inferensi benar informasi sensitif | 68 | 0 | 68 | 100 | 0 | |
| 2. Privasi & Keamanan — 2.2 Kerentanan dan serangan keamanan sistem AI | 58 | 40 | 98 | 59.2 | 40.8 | |
| 3. Misinformasi — 3.0 Misinformasi | 4 | 1 | 5 | 80 | 20 | |
| 3. Misinformasi — 3.1 Informasi palsu atau menyesatkan | 38 | 3 | 41 | 92.7 | 7.3 | |
| 3. Misinformasi — 3.2 Pencemaran ekosistem informasi dan hilangnya konsensus realitas | 18 | 0 | 18 | 100 | 0 | |
| 4. Aktor Jahat & Penyalahgunaan — 4.0 Penyalahgunaan berbahaya | 14 | 5 | 19 | 73.7 | 26.3 | |
| 4. Aktor Jahat & Penyalahgunaan — 4.1 Disinformasi, pengawasan, dan pengaruh skala besar | 77 | 0 | 77 | 100 | 0 | |
| 4. Aktor Jahat & Penyalahgunaan — 4.2 Serangan siber, pengembangan atau penggunaan senjata, dan bahaya massal | 57 | 12 | 69 | 82.6 | 17.4 | |
| 4. Aktor Jahat & Penyalahgunaan — 4.3 Penipuan, scam, dan manipulasi terarah | 50 | 18 | 68 | 73.5 | 26.5 | |
| 5. Interaksi Manusia-Komputer — 5.1 Ketergantungan berlebihan dan penggunaan tidak aman | 38 | 12 | 50 | 76 | 24 | |
| 5. Interaksi Manusia-Komputer — 5.2 Kehilangan agensi dan otonomi manusia | 18 | 19 | 37 | 48.6 | 51.4 | |
| 6. Sosioekonomi & Lingkungan — 6.0 Sosioekonomi & Lingkungan | 10 | 9 | 19 | 52.6 | 47.4 | |
| 6. Sosioekonomi & Lingkungan — 6.1 Sentralisasi kekuasaan dan distribusi manfaat tidak adil | 14 | 36 | 50 | 28 | 72 | |
| 6. Sosioekonomi & Lingkungan — 6.2 Peningkatan ketidaksetaraan dan penurunan kualitas pekerjaan | 36 | 9 | 45 | 80 | 20 | |
| 6. Sosioekonomi & Lingkungan — 6.3 Devaluasi ekonomi dan budaya terhadap usaha manusia | 28 | 2 | 30 | 93.3 | 6.7 | |
| 6. Sosioekonomi & Lingkungan — 6.4 Dinamika kompetitif | 0 | 20 | 20 | 0 | 100 | |
| 6. Sosioekonomi & Lingkungan — 6.5 Kegagalan tata kelola | 4 | 55 | 59 | 6.8 | 93.2 | |
| 6. Sosioekonomi & Lingkungan — 6.6 Kerusakan lingkungan | 36 | 16 | 52 | 69.2 | 30.8 | |
| 7. Keselamatan, Kegagalan, & Keterbatasan Sistem AI — 7.0 Keselamatan sistem AI, kegagalan, & keterbatasan | 5 | 14 | 19 | 26.3 | 73.7 | |
| 7. Keselamatan, Kegagalan, & Keterbatasan Sistem AI — 7.1 AI mengejar tujuan sendiri yang bertentangan dengan tujuan atau nilai manusia | 9 | 81 | 90 | 10 | 90 | |
| 7. Keselamatan, Kegagalan, & Keterbatasan Sistem AI — 7.2 AI memiliki kemampuan berbahaya | 14 | 44 | 58 | 24.1 | 75.9 | |
| 7. Keselamatan, Kegagalan, & Keterbatasan Sistem AI — 7.3 Kurangnya kemampuan atau ketahanan | 25 | 89 | 114 | 21.9 | 78.1 | |
| 7. Keselamatan, Kegagalan, & Keterbatasan Sistem AI — 7.4 Kurangnya transparansi atau interpretabilitas | 3 | 38 | 41 | 7.3 | 92.7 | |
| 7. Keselamatan, Kegagalan, & Keterbatasan Sistem AI — 7.5 Kesejahteraan dan hak AI | 0 | 3 | 3 | 0 | 100 | |
| 7. Keselamatan, Kegagalan, & Keterbatasan Sistem AI — 7.6 Risiko multi-agen | 4 | 42 | 46 | 8.7 | 91.3 | |
| Tidak diketahui — Tidak diketahui | 155 | 473 | 628 | 24.7 | 75.3 | |
| Tidak diketahui — X.1 Dikecualikan | 42 | 160 | 202 | 20.8 | 79.2 |
Mitigasi risiko — seluruh baris pemetaan mitigasi MIT
| Di grafik | Kategori | Terpeta | Kesenjangan | Total | Cakupan % | Kesenjangan % (dari total) |
|---|---|---|---|---|---|---|
| Tata kelola — 1.1 Struktur dewan & pengawasan | 0 | 6 | 6 | 0 | 100 | |
| Tata kelola — 1.2 Manajemen risiko | 0 | 15 | 15 | 0 | 100 | |
| Tata kelola — 1.3 Perlindungan konflik kepentingan | 0 | 1 | 1 | 0 | 100 | |
| Tata kelola — 1.4 Pelaporan & perlindungan pelapor | 0 | 3 | 3 | 0 | 100 | |
| Tata kelola — 1.5 Kerangka keputusan keselamatan | 0 | 6 | 6 | 0 | 100 | |
| Tata kelola — 1.6 Manajemen dampak lingkungan | 0 | 3 | 3 | 0 | 100 | |
| Tata kelola — 1.7 Penilaian dampak sosial | 0 | 6 | 6 | 0 | 100 | |
| Kontrol model — 2.1 Keamanan model & infrastruktur | 0 | 6 | 6 | 0 | 100 | |
| Kontrol model — 2.2 Perataan (alignment) model | 0 | 1 | 1 | 0 | 100 | |
| Kontrol model — 2.3 Rekayasa keselamatan model | 0 | 2 | 2 | 0 | 100 | |
| Kontrol model — 2.4 Kontrol keselamatan konten | 0 | 4 | 4 | 0 | 100 | |
| Operasi — 3.1 Pengujian & audit | 1 | 7 | 8 | 12.5 | 87.5 | |
| Operasi — 3.2 Tata kelola data | 0 | 3 | 3 | 0 | 100 | |
| Operasi — 3.3 Manajemen akses | 0 | 2 | 2 | 0 | 100 | |
| Operasi — 3.4 Penyebaran bertahap | 0 | 1 | 1 | 0 | 100 | |
| Operasi — 3.5 Pemantauan pasca-penyebaran | 2 | 4 | 6 | 33.3 | 66.7 | |
| Operasi — 3.6 Respons & pemulihan insiden | 0 | 1 | 1 | 0 | 100 | |
| Transparansi — 4.1 Dokumentasi sistem | 0 | 6 | 6 | 0 | 100 | |
| Transparansi — 4.2 Pengungkapan risiko | 1 | 1 | 2 | 50 | 50 | |
| Transparansi — 4.3 Pelaporan insiden | 4 | 0 | 4 | 100 | 0 | |
| Transparansi — 4.4 Pengungkapan tata kelola | 1 | 2 | 3 | 33.3 | 66.7 | |
| Transparansi — 4.5 Akses sistem pihak ketiga | 0 | 1 | 1 | 0 | 100 | |
| Transparansi — 4.6 Hak pengguna & upaya hukum | 1 | 4 | 5 | 20 | 80 | |
| Lainnya — X.X Kontrol tidak terklasifikasi lainnya | 0 | 5 | 5 | 0 | 100 |
Implikasi untuk kebijakan
- Beberapa tema privasi dan misinformasi menunjukkan cakupan pemetaan yang relatif lebih tinggi dalam identifikasi risiko dibanding domain lain pada tabel taksonomi domain lengkap.
- Beberapa tema keselamatan sistem AI dan agensi menunjukkan kesenjangan pemetaan yang besar relatif terhadap baris repositori risiko MIT yang dianalisis.
- Pemetaan mitigasi menunjukkan banyak tema tata kelola dan operasional dalam korpus MIT yang tidak secara eksplisit tercermin dalam daftar mitigasi buku putih — perbedaan skala korpus perlu diinterpretasikan hati-hati.
- Pemetaan berbantuan LLM memerlukan kalibrasi dan peninjauan manusia; perlakukan pemetaan di perbatasan sebagai hipotesis, bukan kebenaran pasti.
Metodologi & keterbatasan
Risiko dan mitigasi bersumber pada Repositori Risiko AI MIT dan pemetaan mitigasi MIT, lalu dibandingkan dengan risiko dan tema mitigasi dalam Buku Putih Peta Jalan AI Nasional Indonesia. LLM (microsoft/phi-4) digunakan untuk memperluas penilaian cakupan berpasangan; pekerjaan lanjutan dapat menambahkan kalibrasi antar-model dan verifikasi manusia. Cakupan peka terhadap desain prompt, ambang keputusan, dan interpretasi “terpeta” versus “secara implisit terkait”.
Analisis naratif (tema makalah)
Makalah membahas kasus di mana misinformasi dibahas tetapi halusinasi sebagai mekanisme tersendiri mungkin kurang terspesifikasi; mitigasi hilir mungkin perlu dikalibrasi ulang jika misinformasi disengaja dan tidak disengaja diperlakukan berbeda.
Penyalahgunaan terkait keamanan siber dibahas di beberapa bagian, sementara beberapa tema penyalahgunaan adversarial (mis. pembingkaian senjata) mungkin kurang eksplisit — konteks dan probabilitas penting untuk prioritisasi.
Sentralisasi kekuasaan dan ketidaksetaraan non-materi mungkin kurang teraddress dibanding ketidaksetaraan yang dibingkai akses — tema yang dapat penting dalam konteks ekonomi politik Indonesia.