Ramai Konten Deepfake Pornografi, Grok AI Milik X Diblokir Komdigi

INSIBERNEWS - Pemerintah Indonesia melalui Kementerian Komunikasi dan Digital (Komdigi) resmi mengambil langkah tegas dengan memutus akses sementara layanan Grok AI, chatbot berbasis kecerdasan buatan milik platform X (dulu Twitter).

Kebijakan ini mulai berlaku Sabtu, 10 Januari 2026, sebagai respons atas meningkatnya penyalahgunaan Grok untuk membuat konten pornografi deepfake yang meresahkan masyarakat.

Menteri Komunikasi dan Digital, Meutya Hafid, menegaskan bahwa pemblokiran sementara Grok dilakukan demi melindungi masyarakat, khususnya perempuan dan anak-anak, dari dampak buruk penyalahgunaan teknologi kecerdasan artifisial.

Baca Juga: Ditetapkan Sebagai Tersangka, KPK Soroti Kekayaan Gus Yaqut Senilai Rp13,7 Miliar

Menurutnya, konten pornografi palsu berbasis AI bukan sekadar pelanggaran norma kesusilaan, tetapi telah berkembang menjadi ancaman serius terhadap hak asasi manusia, terutama hak individu atas citra dan identitas visualnya.

“Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, Pemerintah melalui Kementerian Komunikasi dan Digital melakukan pemutusan akses sementara terhadap aplikasi Grok,” ujar Meutya Hafid dalam keterangan resmi di Jakarta.

Deepfake Seksual Dinilai Merusak Martabat dan Psikologis Korban
Komdigi menilai deepfake seksual nonkonsensual sebagai bentuk kekerasan digital yang berpotensi menimbulkan trauma psikologis, kerusakan reputasi, hingga pelecehan sosial terhadap korban. Manipulasi visual semacam ini juga dianggap sebagai perampasan kendali individu atas citra dirinya di dunia maya.

Baca Juga: Bus Esports Desa Resmi Meluncur, Mendes Yandri Buka Jalan Baru Bagi Talenta Gamer Kampung

Selain melakukan pemutusan akses, pemerintah juga memanggil perwakilan Platform X untuk memberikan klarifikasi terkait pengawasan dan pengendalian fitur Grok yang dinilai masih rentan disalahgunakan.

Dasar Hukum Pemblokiran Grok AI
Langkah tegas ini mengacu pada Peraturan Menteri Kominfo Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE) Lingkup Privat. Dalam aturan tersebut, setiap penyelenggara sistem elektronik diwajibkan memastikan platformnya tidak memfasilitasi atau menyebarkan konten yang melanggar hukum dan norma yang berlaku.

Komdigi menegaskan bahwa platform digital global tetap harus patuh terhadap regulasi Indonesia, termasuk dalam hal perlindungan pengguna dari konten berbahaya.

Baca Juga: Go Public Berujung Putus, Manohara Umumkan Berpisah dengan Kristian Hansen

Ancaman Pidana bagi Pelaku Deepfake
Tidak hanya platform, pengguna yang membuat atau menyebarkan konten deepfake pornografi juga terancam sanksi pidana. Direktur Tindak Pidana Siber Bareskrim Polri, Brigjen Himawan Bayu Aji, menyatakan bahwa manipulasi data elektronik tanpa izin merupakan tindak kejahatan.

“Selama itu bisa diklarifikasi bahwa itu adalah manipulasi data elektronik, maka itu menjadi suatu hal yang dipidana,” tegasnya. Ketentuan ini berlaku untuk semua aplikasi AI, tidak terbatas pada Grok saja.