Pemerintah Hentikan Grok di Indonesia – Konten Deepfake Seksual Jadi Sorotan
Pemerintah Indonesia resmi memblokir sementara layanan kecerdasan buatan Grok, fitur AI milik platform media sosial X (sebelumnya Twitter) yang berada di bawah perusahaan xAI milik Elon Musk.
Kebijakan ini menjadikan Indonesia sebagai negara pertama di dunia yang menghentikan akses layanan Grok.
Pemutusan akses dilakukan oleh Kementerian Komunikasi dan Digital (Komdigi) atas arahan Menteri Komunikasi dan Digital Meutya Hafid, menyusul maraknya peredaran konten deepfake seksual yang dinilai membahayakan dan melanggar hak asasi manusia.
Langkah tegas tersebut diambil setelah ditemukan penyalahgunaan teknologi Grok untuk membuat dan menyunting gambar asusila tanpa persetujuan, termasuk visualisasi perempuan dan anak-anak dalam pose seksual.
“Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, pemerintah melakukan pemutusan akses sementara terhadap aplikasi Grok,” ujar Meutya Hafid dalam keterangannya, Sabtu (10/1/2026).
Menurut Meutya, praktik pembuatan deepfake seksual non-konsensual merupakan pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital.
Konten-konten tersebut dinilai secara langsung menyerang kelompok rentan, khususnya perempuan dan anak-anak, yang selama ini kerap menjadi sasaran eksploitasi berbasis teknologi.
Komdigi Minta Klarifikasi Resmi dari X
Selain melakukan pemblokiran, Komdigi juga mengirimkan permintaan resmi kepada pihak X untuk memberikan klarifikasi menyeluruh.
Pemerintah menuntut penjelasan terkait sistem pengamanan Grok serta langkah mitigasi terhadap dampak negatif yang ditimbulkan.
“Kementerian Komunikasi dan Digital telah meminta Platform X untuk segera hadir memberikan klarifikasi terkait dampak negatif penggunaan Grok, termasuk celah keamanan yang memungkinkan munculnya konten terlarang,” tegas Meutya.
Dapat Sorotan Internasional
Langkah Indonesia ini langsung menarik perhatian global. Sejumlah negara dan regulator internasional, termasuk Malaysia, Uni Eropa, dan Swedia, sebelumnya telah mengecam praktik pembuatan deepfake seksual dan membuka penyelidikan terkait teknologi serupa.
Malaysia bahkan dilaporkan mengikuti langkah Indonesia dengan melakukan pemblokiran terhadap Grok.
Dikutip dari The Independent, Minggu (11/1/2026), perusahaan xAI mengakui adanya kegagalan sistem pengaman yang memungkinkan keluarnya konten seksual, termasuk visualisasi anak-anak.
xAI menyatakan telah membatasi fitur pembuatan dan penyuntingan gambar hanya untuk pelanggan berbayar, sembari menutup celah keamanan yang ada.
Sementara itu, Elon Musk melalui akun resminya di platform X menegaskan bahwa siapa pun yang menggunakan Grok untuk membuat konten ilegal akan menghadapi konsekuensi hukum yang sama seperti mengunggah konten tersebut secara langsung.
