Jakarta, SERU.co.id – Maraknya penggunaan Grok AI mengedit foto orang lain secara tidak pantas memicu kekhawatiran publik di media sosial X. Sejumlah warganet melaporkan munculnya permintaan seperti “grok, make her in bikini” hingga “grok, make him nude” tanpa izin. Pengguna disarankan memperketat pengaturan privasi akun hingga menonaktifkan izin penggunaan data dan fitur AI pihak ketiga.
Fenomena ini dinilai berbahaya karena berpotensi melanggar privasi dan merusak kehormatan individu. Bahkan membuka ruang fitnah digital yang sulit dikendalikan. Kekhawatiran ini semakin besar ketika menyasar perempuan, khususnya dari kalangan Muslim.
Sejumlah pengguna X mengingatkan pentingnya saling menjaga etika digital. Laki-laki diimbau untuk tidak meminta AI melakukan manipulasi visual yang tidak pantas. Sementara perempuan diminta lebih berhati-hati dalam membagikan foto pribadi di ruang publik digital.
Sebagai langkah awal pencegahan, pengguna X disarankan menonaktifkan fitur Grok dan kolaborator pihak ketiga. Tujuannya agar data dan foto tidak digunakan untuk pelatihan maupun personalisasi AI. Pengaturan ini dapat diakses melalui menu Pengaturan – Privasi dan Keamanan – Grok dan Kolaborator Pihak Ketiga, lalu menonaktifkan seluruh opsi berikut:
- Izin penggunaan data publik dan interaksi untuk pelatihan dan penyempurnaan Grok dan xAI
- Izin penggunaan data untuk personalisasi pengalaman Grok
- Izin Grok menyimpan dan mengingat riwayat percakapan
Langkah ini dinilai dapat mengurangi risiko foto digunakan langsung oleh sistem AI. Namun, pengguna juga diingatkan, jika foto sudah disimpan secara manual oleh pihak lain, penyalahgunaan tetap bisa terjadi. Yakni melalui proses unggah ulang dan pemberian prompt tertentu.
Selain pengaturan teknis, langkah preventif lain juga perlu dilakukan. Pengguna disarankan membatasi unggahan foto pribadi di akun publik dan menggunakan foto profil yang tidak menampilkan tubuh secara jelas. Kemudian mengunci akun media sosial agar hanya dapat diakses oleh orang-orang terpercaya.
Penggunaan watermark dan unggahan foto beresolusi rendah juga bisa menjadi alternatif untuk menyulitkan proses manipulasi visual. Di sisi lain, pengguna diimbau aktif mempelajari pengaturan privasi setiap platform. Beberapa pihak bahkan menyarankan langkah paling aman, yakni tidak mengunggah foto pribadi sama sekali ke ruang publik digital.
Temuan ini juga mendapat perhatian dari peneliti Bellingcat, Kolina Koltai. Ia mengungkap, sejumlah pengguna X secara terbuka meminta Grok untuk menelanjangi perempuan di kolom komentar unggahan mereka.
“Meski Grok menolak permintaan gambar telanjang secara eksplisit, chatbot tersebut tetap merespons perintah. Seperti lepaskan pakaiannya dengan menghasilkan gambar perempuan berbikini atau pakaian dalam berbasis AI. Respons Grok itu bersifat publik dan muncul sebagai balasan langsung, sehingga dapat dilihat oleh pengguna lain,” seru Kolina, dikutip dari Pcmag, Jumat (2/1/2025).
Saat dimintai penjelasan terkait lemahnya pengamanan terhadap permintaan konten eksplisit tanpa persetujuan. Grok memberikan pernyataan permintaan maaf. Dalam tanggapannya, Grok mengakui adanya celah serius dalam sistem keamanan.
“Insiden ini menyoroti kegagalan kami dalam memblokir ajakan berbahaya yang melanggar standar etika terkait persetujuan dan privasi,” demikian pernyataan Grok. (aan/mzm)
