Musabab Grok Diblokir Pemerintah

Kementerian Komunikasi dan Digital (Komdigi) memutus sementara akses aplikasi Grok pada media sosial X di Indonesia. Keputusan ini merupakan imbas dari aduan penyalahgunaan grok untuk menghasilkan konten pornografi palsu dalam beberapa pekan terakhir.

Menteri Komunikasi dan Digital Meutya Hafid, dalam keterangan resminya, mengatakan keputusan tersebut diambil untuk melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu. Kementerian juga mendesak platform X untuk segera hadir guna memberikan klarifikasi terkait dampak negatif penggunaan Grok. 

“Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital,” ujar Meutya, dikutip dari laman Kemkomdigi, Selasa (20/1/2026). 

Grok adalah fitur akal imitasi (AI) pada media sosial X. Fitur ini digunakan untuk menjawab percakapan, memahami pertanyaan, dan menghasilkan jawaban pengguna X. Teranyar, Grok juga menyediakan fitur manipulasi gambar alias deepfake. 

Baca Juga: Deepfake: Bakal Dalang Hoax Jelang Pemilu 2024?

Fitur manipulasi gambar itu rupanya disalahgunakan oleh sebagian pengguna untuk menghasilkan gambar berbau pornografi. Kasus itu bermula saat sejumlah warganet mengutip foto yang beredar di X. Mereka menyebut Grok dan meminta untuk menyunting gambar tersebut dengan prompt atau perintah yang menjurus pada pornografi. 

Kasus tersebut rupanya sampai ke telinga Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi Alexander Sabar. Hasil penelusuran awal Kemkomdigi menunjukkan Grok AI belum memiliki pengaturan yang eksplisit dan memadai untuk mencegah produksi serta distribusi konten pornografi berbasis foto nyata warga Indonesia. 

“Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” ujar Alexander, dikutip dari laman Kemkomdigi, Selasa.

Indonesia dan Malaysia menjadi negara pertama yang memblokir Grok. Menurut dosen Teknik Informatika Universitas Muhammadiyah Surakarta (UMS), Gunawan Ariyanto, S.T., M.Comp.Sc., Ph.D., langkah pemerintah RI memblokir Grok sudah tepat. 

“Sangat tepat menurut saya. Apalagi beberapa negara lain juga memprotes hal serupa,” ujar Gunawan saat dihubungi pada Kamis (22/1/2026).  

Sejak awal Januari 2026, sejumlah figur publik di Indonesia gencar melayangkan protes penyalahgunaan Grok di X untuk konten cabul. Protes juga berdatangan dari sejumlah negara, seperti Komisi Eropa, Inggris, Perancis, Brasil, Turki, dan India. Sejumlah tokoh publik dari negara tersebut juga mengalami kasus serupa berupa penyalahgunaan foto tanpa persetujuan. 

Gunawan mengatakan fenomena penyalahgunaan tersebut memang tidak bisa dihindari jika dilihat dari sudut pandang kemampuan AI. Namun, pengetatan regulasi oleh pemerintah dapat dikedepankan untuk mengurangi risiko penyalahgunaan tersebut. 

Sejumlah negara, kata Gunawan, sudah mempunyai etik terkait penggunaan AI. Komplain sejumlah negara kepada pengembang Grok dan platform X menjadi salah satu cara menegakkan etik tersebut. “Pengembang itu memang harusnya taat regulasi. Jangan mencari celah,” tegas dia. 

Gunawan menjelaskan gambar yang dihasilkan oleh Grok adalah palsu. Pengguna biasanya akan memberikan prompt kepada Grok mengenai hasil akhir manipulasi gambar yang diharapkan. Grok kemudian akan membuat gambar berdasarkan data yang dimiliki. “Bagian tambahan hasil manipulasi Grok bukanlah gambar nyata di kehidupan manusia,” kata dia.

Kendati palsu, Gunawan menekankan potensi dampak negatif akibat penyalahgunaan Grok. Korban penyalahgunaan Grok tersebut berisiko mengalami depresi dan gangguan kesehatan mental. 

“Hasil manipulasi Grok itu bisa membuat orang stres, misalkan gambarnya palsu pun jika tiba-tiba muncul gitu kan stres juga kan,” imbuh Gunawan. 

Gambar yang dihasilkan Grok pun berpotensi menjadi fitnah dan menuai kecaman dari publik. Menurut Gunawan, hal itu diperparah dengan rendahnya literasi digital di Indonesia. Kondisi tersebut membuat masyarakat kerap mengalami kesulitan dalam membedakan gambar hasil AI maupun gambar nyata.

Pemerintah harus mengambil langkah serius untuk mencegah dampak penyalahgunaan AI yang lebih parah. Apalagi sejumlah pengembang AI mulai menghadirkan mode khusus dewasa. Pertengahan Desember lalu, ChatGPT dikabarkan akan menyediakan mode dewasa yang mulai diimplementasikan pada 2026. 

Gunawan mendorong pemerintah untuk serius mengantisipasi risiko penyalahgunaan AI yang lebih parah. Menyaring fitur AI yang dapat digunakan di Indonesia menjadi salah satu cara untuk mencegah penyalahgunaan AI di masa mendatang. Hal tersebut sangat mungkin dilakukan lantaran teknologi AI dapat disesuaikan dengan negara tempat layanan tersebut digunakan. 

“Tentunya harus dibarengi dengan monitoring yang ketat oleh pemerintah, agar saat terjadi kasus kembali, pemerintah dapat mengambil tindakan segera,” tandas Gunawan. 

Penulis: Gede Arga Adrian

Editor: Al Habiib Josy Asheva