Ramai Konten Deepfake Pornografi, Grok AI Milik X Diblokir Komdigi

Grok AI Disorot Dunia Internasional
Sebelum diblokir di Indonesia, Grok AI telah menuai kritik global karena kemampuannya menghasilkan gambar dan konten pornografi secara instan. Sejumlah pengguna diketahui menyalahgunakan fitur edit gambar dengan mengunggah foto perempuan, figur publik, bahkan anak-anak, lalu memberikan perintah manipulatif bernuansa seksual.

Sebagai respons atas tekanan publik, X mulai membatasi fitur edit gambar Grok dengan menyatakan bahwa layanan tersebut hanya tersedia bagi pelanggan X Premium.

Baca Juga: Catat Tanggalnya! Jangan Lewatkan Fenomena Gerhana Matahari Total dan Cincin Api Mendatang

Namun, pada praktiknya, berbagai celah akses masih memungkinkan pengguna gratis membuat dan mengedit gambar sensitif melalui jalur lain.

Celah Akses Dinilai Masih Berbahaya
Meski ada pembatasan melalui fitur mention, Grok masih bisa diakses lewat aplikasi mandiri, situs web, serta tombol edit gambar di platform X, baik di versi desktop maupun aplikasi. Celah inilah yang dinilai berpotensi terus disalahgunakan untuk memproduksi konten tidak senonoh.

Pemerintah Indonesia menegaskan akan terus memantau perkembangan teknologi AI serta tidak ragu mengambil tindakan tegas demi menciptakan ruang digital yang aman, etis, dan bertanggung jawab.