Komdigi Gercep Blokir Aplikasi Grok AI untuk Cegah Risiko Penyebaran Konten Asusila, Warganet Ramai Ungkit Kasus Judol: Bagaimana Perkembangannya?

"Pemerintah memandang praktik deepfake seksual tanpa persetujuan sebagai pelanggaran serius terhadap hak asasi manusia, martabat, dan keamanan warga negara di ruang digital," tuturnya.

Komdigi menemukan bahwa aplikasi Grok telah disalahgunakan oleh sejumlah pengguna untuk membuat deepfake seksual, yakni rekayasa visual berbasis AI yang menampilkan wajah seseorang dalam konten pornografi tanpa persetujuan.

Baca Juga: Duduki Urutan Ke-4 Dunia Terkait Kejahatan Digital di Kalangan Anak-Anak, Komdigi Segera Bentuk Regulasi Pembatasan Usia Pengguna Medsos

Praktik ini dinilai sangat berbahaya karena tidak hanya merusak reputasi korban, tetapi juga melanggar hak asasi manusia dan keamanan individu di ruang digital.

Pemblokiran akses Grok AI ini merujuk pada Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE) Lingkup Privat, khususnya Pasal 9.

Aturan tersebut mewajibkan setiap penyelenggara sistem elektronik untuk memastikan platform yang mereka kelola tidak memuat, memfasilitasi, ataupun menyebarkan konten elektronik yang dilarang oleh peraturan perundang-undangan di Indonesia.

Baca Juga: Komdigi Bakal Panggil TikTok dan Meta soal Konten Pemicu Demo DPR, Sosok ini Sindir: Beresin Dulu Judol yang Merajalela!

Meutya Hafid menegaskan bahwa deepfake seksual tanpa persetujuan merupakan pelanggaran serius terhadap martabat manusia.

Oleh karena itu, pemerintah tidak bisa tinggal diam ketika teknologi justru dimanfaatkan untuk melukai dan mengeksploitasi individu, khususnya perempuan dan anak-anak yang bisa terkena dampaknya.

Kebijakan ini menuai beragam respons. Sejumlah pengguna aplikasi ini mengeluhkan kesulitan mengakses Grok AI yang selama ini mereka manfaatkan untuk keperluan produktivitas, riset, hingga hiburan.

Sebagian besar masyarakat mendukung kebijakan ini demi menjaga keamanan digital. Namun, tak sedikit netizen di media sosial yang menyoroti kasus judol yang sudah lama jadi sorotan dan dinilai masih belum tuntas penanganannya.

Baca Juga: Sindir Siapa? Pandji Pragiwaksono Geram Usai Videonya Diedit Pakai AI untuk Promosikan Situs Judol dan Susah Dihilangkan: Bekingannya 'Galactus'

Alih-alih mendapat pujian penuh, kolom komentar media sosial Komdigi justru ramai dibanjiri sindiran soal kasus judi online (judol) dan mempertanyakan bagaimana perkembangan kasusnya yang jarang terdengar kabarnya saat ini.

"Patut diacungi jempol nih buat Komdigi yang udah cepat tanggap melindungi hak anak dan perempuan di media sosial," tulis salah satu warganet.

"Pliss lah gaes kalo ada kemajuan teknologi kaya AI ini jangan digunain buat hal-hal negatif, gunakan buat mempermudah pekerjaan & mencari referensi, sayang banget kalo aplikasi bagus begini dipake untuk nyelakain orang lain," komentar netizen lainnya.