Kekosongan Regulasi AI, Warga Rentan Di Tengah Kekacauan

Perkembangan Kecerdasan Buatan di Indonesia dan Tantangan Hukum yang Muncul

Pemanfaatan kecerdasan buatan (artificial intelligence/AI) di Indonesia semakin pesat. Teknologi ini telah diterapkan dalam berbagai sektor, mulai dari pengawasan digital hingga pelayanan publik dan pengelolaan informasi di ruang digital. Namun, di tengah perkembangan tersebut, Indonesia masih menghadapi tantangan mendasar, yaitu belum adanya undang-undang khusus yang mengatur penggunaan AI.

Seorang mahasiswa Magister Hukum Fakultas Hukum Universitas Indonesia (FHUI), Pangeran M Negara, menyoroti masalah ini dalam tesisnya yang berjudul “Urgensitas Pembentukan Undang-Undang Kecerdasan Buatan dalam Menghadapi Ancaman Keamanan Nasional melalui Perspektif HAM dan Good Governance”. Dalam penelitian tersebut, disimpulkan bahwa kerangka hukum Indonesia saat ini belum memadai untuk melindungi hak asasi manusia (HAM) di tengah penggunaan AI yang semakin luas dan kompleks.

Menurut Pangeran, regulasi yang ada saat ini seperti Undang-Undang Nomor 11 Tahun 2008 tentang Informasi dan Transaksi Elektronik (UU ITE) serta Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi (UU PDP) tidak dirancang untuk merespons karakteristik AI yang otonom, adaptif, dan berbasis pengambilan keputusan otomatis.

“UU ITE dan UU PDP memang mengatur sistem elektronik dan perlindungan data pribadi. Namun, keduanya belum mengatur kecerdasan buatan sebagai sistem algoritmik yang mampu mengambil keputusan secara mandiri dan berdampak langsung pada hak warga negara,” ujar Pangeran.

Dalam praktiknya, teknologi berbasis AI telah digunakan dalam berbagai sektor strategis, termasuk pengawasan publik, pengenalan wajah, pemrosesan data pribadi, serta layanan administrasi pemerintahan. Namun, penggunaan tersebut belum disertai dengan kewajiban transparansi algoritma, mekanisme audit, pengawasan manusia, serta pertanggungjawaban hukum yang jelas apabila terjadi pelanggaran.

Pangeran menilai, meskipun UU ITE mengatur sistem dan agen elektronik, serta UU PDP memberikan perlindungan atas data pribadi, keduanya belum mengatur secara spesifik tata kelola AI. Termasuk kewajiban transparansi algoritma, pengawasan manusia (human oversight), mekanisme audit, maupun pertanggungjawaban negara atas dampak sistem berbasis AI.

Akibatnya, penggunaan AI berpotensi menimbulkan pelanggaran terhadap hak-hak dasar warga negara, termasuk hak atas privasi, rasa aman, dan kepastian hukum, sebagaimana dijamin dalam Pasal 28G ayat (1) UUD 1945. Selain itu, prinsip perlindungan HAM dalam UU Nomor 39 Tahun 1999 tentang HAM, yang mewajibkan negara untuk melindungi dan menghormati hak-hak fundamental setiap warga negara.

“Tanpa regulasi khusus, masyarakat tidak memiliki mekanisme hukum yang jelas untuk meminta pertanggungjawaban atau pemulihan hak apabila dirugikan oleh sistem kecerdasan buatan,” jelas Pangeran.

Selain itu, penelitian juga menyoroti risiko bias algoritma dalam pengambilan keputusan berbasis AI, terutama dalam layanan publik. Tanpa standar hukum yang tegas, sistem otomatis berpotensi memperkuat diskriminasi dan ketimpangan akses, khususnya bagi kelompok rentan.

Pangeran melanjutkan, ketiadaan UU AI dapat menempatkan negara dalam posisi lalai memenuhi kewajiban konstitusionalnya untuk melindungi, menghormati, dan memenuhi HAM. “Tanpa Undang-Undang AI yang komprehensif, negara berisiko membiarkan teknologi berkembang lebih cepat dari hukum, sementara warga negara berada dalam posisi rentan tanpa perlindungan yang memadai,” kata Pangeran.