Oleh
Muhammad Al Badrut Tamam
(Mahasiswa Universitas 17 Agustus 1945 Banyuwangi)
Bayangkan permohonan bantuan sosial ditolak karena sistem memberi tanda “berisiko”, tetapi warga tidak tahu data apa yang dipakai, bagaimana skor dihitung, atau kepada siapa ia dapat mengajukan keberatan. Layanan mungkin terasa lebih cepat bagi birokrasi, tetapi apakah ia masih adil bagi warga? Pertanyaan ini penting ketika pemerintah memakai kecerdasan buatan (AI) untuk menyaring permohonan, mengelola pengaduan, atau membantu menentukan prioritas layanan.
Masalahnya bukan semata-mata kemungkinan mesin membuat kesalahan. Risiko muncul ketika proses yang semula dinilai manusia berubah menjadi skor atau rekomendasi otomatis yang sulit dijelaskan. Data lama dapat membawa ketimpangan yang telah ada; data tidak lengkap dapat menghasilkan penilaian keliru; sedangkan model yang tertutup menyulitkan warga dan pejabat mengetahui alasan keputusan. Bila rekomendasi mesin diterima tanpa pemeriksaan, bias teknis dapat berubah menjadi keputusan administratif yang nyata misalnya memengaruhi akses warga terhadap bantuan, izin, atau pemeriksaan lebih lanjut.
Tulisan ini berpijak pada Subbab 5.4, “AI yang Terpercaya”, pada buku ajar karaya andika wahyudiono. Subbab tersebut menekankan bahwa kecepatan adopsi teknologi harus diimbangi tata kelola, kemampuan digital, transparansi, akuntabilitas, keadilan, dan penghormatan terhadap hak asasi. Gagasan utamanya sederhana: AI di pemerintahan tidak cukup hanya berfungsi; penggunaannya harus dapat dipercaya oleh orang yang terkena dampaknya.
Pelajaran penting datang dari Belanda. Pemerintah menggunakan sistem SyRI untuk mengidentifikasi potensi kecurangan pada bantuan sosial, tunjangan, dan pajak dengan menghubungkan serta menganalisis data. Pada 2020, Pengadilan Distrik Den Haag menyatakan kerangka hukum SyRI tidak cukup transparan dan dapat diverifikasi, serta tidak memberikan perlindungan memadai terhadap privasi; aturan terkait dinyatakan tidak mempunyai kekuatan mengikat. SyRI bukan bukti bahwa setiap algoritma pasti merugikan, tetapi menunjukkan bahwa tujuan publik yang sah mencegah kecurangan tidak otomatis membenarkan metode yang tidak dapat diperiksa. Tanpa keterbukaan dan pengaman, warga dapat menanggung akibat sistem yang tidak mereka pahami.
Dalam konteks Indonesia, satu pijakan hukum yang relevan adalah Undang-Undang Nomor 27 Tahun 2022 Tentang Perlindungan Data Pribadi. Pasal 10 memberi subjek data hak mengajukan keberatan atas keputusan yang hanya didasarkan pada.pemrosesan otomatis, termasuk pemrofilan, apabila keputusan itu menimbulkan akibat hukum atau berdampak signifikan. Pasal 34 mewajibkan pengendali data melakukan penilaian dampak pelindungan data ketika pemrosesan berisiko tinggi. Cakupannya termasuk keputusan otomatis berdampak signifikan, pemrosesan skala besar, evaluasi.
Ketentuan tersebut memberi pesan praktis bagi instansi: semakin besar konsekuensi suatu sistem bagi warga, semakin kuat kewajiban untuk memahami risikonya sebelum digunakan. Penilaian dampak tidak seharusnya menjadi formulir yang disimpan, melainkan proses untuk memeriksa tujuan penggunaan, kebutuhan data, mutu dan keterwakilan data, kemungkinan diskriminasi, keamanan, serta cara memperbaiki kerugian.
Untuk keputusan penting, keluaran AI sebaiknya menjadi bahan pertimbangan, bukan vonis. Petugas yang berwenang perlu meninjau alasan dan bukti, memberi.penjelasan yang dapat dipahami, serta menyediakan kanal keberatan yang benar-benar dapat diakses.
UU PDP bukan larangan umum terhadap AI, dan tidak berarti setiap pemakaian otomatis pasti melanggar hukum. Instansi perlu membedakan alat bantu administratif berisiko rendah dari sistem yang menentukan atau sangat memengaruhi hak warga.
Klasifikasi itu perlu dilakukan sebelum pengadaan, disertai alasan dan penanggung jawab yang jelas, agar pengamanan sebanding dengan dampaknya.
Untuk membaca tanggung jawab administrasi di balik aturan itu, teori yang relevan adalah New Public Service (NPS) dari Robert dan Janet Denhardt. NPS memandang peran utama aparatur bukan mengendalikan masyarakat atau sekadar mengejar efisiensi, melainkan membantu warga merumuskan dan memenuhi kepentingan bersama. Warga diperlakukan sebagai warga negara yang memiliki hak dan suara, bukan sekadar pengguna layanan atau objek data.
Dari sudut pandang ini, keberhasilan AI tidak boleh diukur hanya dari jumlah berkas yang diproses atau biaya yang dihemat. Ukur pula apakah keputusan dapat dipertanggungjawabkan, warga diperlakukan setara, dan orang yang terdampak memperoleh kesempatan untuk didengar. Pengawasan manusia juga bukan sekadar menambahkan tanda tangan pejabat di akhir proses.
Petugas harus memahami keterbatasan sistem, dapat menolak rekomendasi, memeriksa data dan konteks individual, serta bertanggung jawab atas keputusan akhir. Karena itu, pemerintah sebaiknya memulai dari masalah layanan, bukan dari antusiasme membeli teknologi. Instansi perlu menjelaskan tujuan dan batas pemakaian AI; membatasi data pada yang benar-benar diperlukan; menguji kesalahan dan dampak yang tidak seimbang pada kelompok berbeda; mendokumentasikan hasil penilaian dampak; menunjuk pejabat yang bertanggung jawab; serta menyediakan penjelasan dan mekanisme koreksi. Pengadaan sistem juga perlu mensyaratkan akses audit dan dokumentasi memadai. Informasi yang dibuka kepada publik harus cukup untuk memahami fungsi dan risiko sistem, dengan tetap menjaga keamanan serta data pribadi.
Berikut adalah bagan terstruktur yang merangkum alur argumentasi dalam artikel ini:
Pemerintah karena itu perlu memperlakukan AI sebagai alat bantu yang wajib diuji dan diawasi, bukan pengganti tanggung jawab manusia. Rekomendasinya: lakukan penilaian dampak sebelum penerapan, libatkan warga dalam perancangan layanan, pastikan keputusan penting dapat ditinjau petugas, dan sediakan jalur keberatan serta pemulihan yang mudah. Ukuran akhirnya bukan seberapa canggih algoritma, melainkan apakah warga menerima layanan yang layak, dapat dijelaskan, dan dipercaya.(*)
