Tindakan Manipulasi Foto dengan AI Bisa Terkena Hukuman Pidana
Di tengah perkembangan teknologi yang pesat, penggunaan kecerdasan buatan (AI) untuk memanipulasi foto telah menjadi perhatian serius dari berbagai pihak. Khususnya dalam kasus penggunaan Grok AI yang diminta oleh akun X untuk mengubah foto menjadi konten asusila tanpa persetujuan pemilik foto. Hal ini menimbulkan pertanyaan tentang hukum dan tanggung jawab terkait tindakan tersebut.
Menanggapi isu ini, Badan Reserse Kriminal (Bareskrim) Polri menyampaikan bahwa manipulasi foto menggunakan AI bisa terkena pidana bahkan bisa masuk penjara. Hal ini ditegaskan oleh Dirtipidsiber Bareskrim Polri, Brigjen Himawan Bayu Aji, yang menyatakan bahwa jika manipulasi data elektronik dapat diklarifikasi sebagai tindakan ilegal, maka hal tersebut bisa dipidana.
Penelitian Awal Mengenai Penggunaan AI di Platform X
Sebelumnya, Dirjen Pengawasan Ruang Digital Komdigi, Alexander Sabar, menyatakan bahwa pihaknya sedang melakukan penyelidikan terkait penyalahgunaan AI, khususnya di platform X. Hasil penelusuran awal menunjukkan bahwa Grok AI milik Elon Musk belum memiliki pengaturan yang jelas dan tegas. Kelemahan sistem ini dinilai gagal mencegah produksi serta distribusi konten pornografi berbasis foto nyata warga Indonesia.
“Konten-konten seperti ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” ujar Alexander. Ia juga menjelaskan bahwa manipulasi foto pribadi secara digital merupakan bentuk perampasan kendali individu atas identitas visualnya. Hal ini berdampak pada kerugian psikologis, sosial, dan reputasi.
Tanggung Jawab PSE dan Sanksi yang Dapat Diterima
Komdigi mengingatkan bahwa kewajiban kepatuhan terhadap peraturan perundang-undangan melekat pada seluruh PSE yang beroperasi di wilayah Indonesia. Jika ditemukan ketidakpatuhan atau sikap tidak kooperatif, Komdigi dapat menjatuhkan sanksi administratif kepada Grok AI dan platform X.
Aturan Hukum Terkait Konten Pornografi
Sekadar informasi, berdasarkan UU No.1/2023 tentang KUHP, konten pornografi diatur dalam Pasal 172 dan Pasal 407. Aturan ini sudah berlaku sejak 2 Januari 2026.
Pasal 172 mendefinisikan pornografi sebagai media yang memuat kecabulan atau eksploitasi seksual yang melanggar norma kesusilaan. Sementara itu, Pasal 407 mengatur ancaman pidana maksimal 10 tahun atau denda sesuai ketentuan berlaku.
Kesimpulan
Penggunaan AI untuk manipulasi foto, terutama dalam konteks pornografi, menimbulkan berbagai risiko hukum dan etika. Dengan adanya regulasi yang jelas, diharapkan masyarakat dan platform teknologi dapat lebih waspada dalam menggunakan teknologi ini. Selain itu, penting bagi setiap individu untuk memahami hak-hak mereka terkait privasi dan citra diri.
Comments are closed.