Komdigi Gercep Blokir Aplikasi Grok AI untuk Cegah Risiko Penyebaran Konten Asusila, Warganet Ramai Ungkit Kasus Judol: Bagaimana Perkembangannya?

SketsaNusantara.id - Pemerintah Indonesia melalui Kementerian Komunikasi dan Digital (Komdigi) resmi memblokir sementara akses menuju aplikasi kecerdasan buatan, Grok AI pada hari Sabtu, 10 Januari 2026.

Keputusan ini diambil guna mencegah penyebaran konten pornografi dan deepfake seksual non-konsensual yang marak beredar di ruang digital.

Aplikasi ini cukup populer di Indonesia yang merupakan produk milik perusahaan milik Elon Musk dan terintegrasi dengan platform media sosial X (dulu Twitter).

Baca Juga: Apa Itu Grok? AI Besutan Elon Musk yang Disebut Jujur Tanpa Sensor, Bikin Heboh Gara-Gara Seret Nama Gibran soal Fufufafa

Belum lama ini, Grok sempat ramai jadi perbincangan hangat warganet karena kemampuannya yang dinilai semakin canggih. Aplikasi tersebut diklaim bisa mengedit konten visual, termasuk menghilangkan salah satu orang dalam foto sesuai permintaan penggunanya.

Namun, kemampuan Grok ini disalahgunakan untuk membuat konten asusila. Salah satu warganet menemukan pengguna aplikasi kecerdasan buatan ini untuk memanipulasi foto seseorang yang kemudian digunakan untuk membuat gambar deepfake eksplisit.

Bahkan, beberapa di antaranya memperlihatkan figur manusia dalam konteks seksual tanpa persetujuan orang yang digambarkan, termasuk foto perempuan dan anak-anak.

Mengetahui aplikasi ini digunakan untuk hal yang tidak semestinya, Komdigi akhirnya mengambil langkah tegas dengan memblokir akses menuju aplikasi Grok AI untuk sementara waktu.

Penyalahgunaan model AI ini memicu kekhawatiran global karena pengguna dapat dengan mudah meminta Grok membuat atau memodifikasi gambar menjadi konten vulgar hanya melalui teks perintah (prompt).

Baca Juga: Menteri Komdigi Minta Platform Asing Dukung Industri Lokal agar Konten Digital Tak Sepenuhnya Bergantung pada Luar Negeri

Indonesia menjadi salah satu negara pertama yang mengambil langkah tegas dengan menutup akses terhadap aplikasi Grok. 

Langkah ini diambil dalam upaya mencegah resiko penyebaran konten pornografi palsu yang dihasilkan dari manipulasi foto orang lain tanpa izin.

Menteri Komunikasi dan Digital (Menkomdigi), Meutya Hafid menegaskan bahwa langkah ini bukan bentuk pelarangan permanen, melainkan pemutusan akses sementara sebagai bentuk perlindungan terhadap masyarakat dari dampak negatif teknologi kecerdasan buatan yang disalahgunakan.

"Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, Pemerintah melalui Kementerian Komunikasi dan Digital melakukan pemutusan akses sementara terhadap aplikasi Grok," ujar Meutya Hafid dalam siaran pres, seperti dikutip SketsaNusantara.id dari akun Instagram @kemkomdigi.