Jakarta, SERU.co.id – Pemerintah mengambil sikap tegas terhadap penyalahgunaan AI yang memicu maraknya konten pornografi palsu di ruang digital. Kementerian Komunikasi dan Digital memutus sementara akses aplikasi Grok demi melindungi masyarakat dari praktik deepfake seksual. Bareskrim Polri pun mulai mengkaji kemungkinan pemidanaan terhadap penggunaan AI yang dimanfaatkan untuk manipulasi visual bermuatan asusila.
Menteri Komunikasi dan Digital, Meutya Hafid menegaskan, praktik deepfake seksual nonkonsensual merupakan pelanggaran serius terhadap hak asasi manusia.
“Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia. Bahkan juga martabat dan keamanan warga negara di ruang digital,” seru Meutya, Sabtu (10/1/2026).
Selain memutus akses Grok, Komdigi juga memanggil pihak platform X untuk memberikan klarifikasi terkait dampak negatif penggunaan chatbot tersebut. Langkah pemutusan akses ini dilakukan berdasarkan kewenangan Kementerian. Sebagaimana diatur dalam Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE) Lingkup Privat.
Dalam regulasi tersebut, khususnya Pasal 9, ditegaskan setiap PSE wajib memastikan sistem elektronik yang dikelolanya tidak memuat, memfasilitasi, atau menyebarluaskan informasi dan dokumen elektronik yang dilarang oleh hukum.
Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar mengungkapkan, Grok belum memiliki pengamanan memadai. Khususnya untuk mencegah pembuatan pornografi berbasis foto nyata warga Indonesia.
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” kata Alexander.
Sementara itu, Bareskrim Polri tengah mengkaji kemungkinan pemidanaan terhadap penyalahgunaan teknologi kecerdasan buatan. Termasuk Grok yang digunakan untuk membuat konten pornografi dan asusila di media sosial.
Direktur Tindak Pidana Siber Bareskrim Polri, Brigjen Pol Himawan Bayu Aji mengatakan, penggunaan AI secara menyimpang semakin marak. Meski demikian, belum seluruh praktik tersebut memiliki payung hukum tegas.
“Sepanjang penggunaan AI tersebut dapat diklasifikasikan sebagai manipulasi data elektronik, maka perbuatannya dapat dikenakan pidana,” ujar Himawan.
Menurutnya, kemajuan teknologi AI merupakan keniscayaan. Namun, pemanfaatannya tidak boleh melanggar norma hukum dan moral masyarakat. Ia menyoroti praktik deepfake yang kerap mengubah foto seseorang menjadi visual bermuatan pornografi tanpa persetujuan korban.
“Atas dasar itu, kami sedang melakukan pendalaman dari sisi hukum. Penanganan penyalahgunaan AI ini menjadi salah satu fokus Direktorat Tindak Pidana Siber,” pungkasnya. (aan/mzm)
