Kementerian Komunikasi dan Digital atau Kementerian Komunikasi dan Digital resmi melakukan pemutusan akses sementara terhadap aplikasi dan situs web Grok AI. Langkah ini diambil menyusul temuan maraknya penyalahgunaan teknologi kecerdasan buatan tersebut untuk membuat konten asusila berbasis rekayasa foto atau deepfake tanpa persetujuan individu yang menjadi objek.
Kebijakan ini diumumkan pada 10 Januari 2026 dan ditegaskan bersifat sementara. Pemerintah menyatakan tujuan utama pemblokiran adalah melindungi masyarakat dari dampak pornografi palsu berbasis AI yang dinilai semakin mengkhawatirkan, khususnya terhadap perempuan dan anak.
Menteri Komunikasi dan Digital, Meutya Hafid, menilai praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia. Menurut pemerintah, teknologi kecerdasan buatan tidak boleh digunakan untuk merusak martabat individu maupun menciptakan ancaman baru di ruang digital.
Bagaimana Pemblokiran Dilakukan
Pemutusan akses Grok AI dilakukan melalui mekanisme pemblokiran domain dan aplikasi. Pada sejumlah penyedia layanan internet, akses ke Grok.com dan domain X.AI tidak lagi dapat dibuka dan dialihkan ke laman Trustpositif. Aplikasi mandiri Grok AI juga menampilkan pesan kesalahan ketika diakses.
Namun, pemblokiran ini belum diterapkan secara menyeluruh. Di beberapa jaringan internet, Grok.com masih dapat diakses. Selain itu, fitur Grok yang terintegrasi langsung di platform X tetap bisa digunakan melalui tab Grok. Untuk pembuatan gambar dengan cara menandai akun @Grok, akses dilaporkan hanya tersedia bagi pelanggan X Premium.
Kondisi ini menunjukkan bahwa pemutusan akses masih bersifat parsial dan bergantung pada kesiapan teknis masing masing penyedia layanan internet. Pemerintah belum menyampaikan tenggat waktu untuk memastikan pemblokiran berlaku secara merata.
Dasar Hukum yang Digunakan
Komdigi menegaskan bahwa kebijakan pemblokiran Grok AI berlandaskan Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat. Dalam regulasi tersebut, khususnya Pasal 9, setiap Penyelenggara Sistem Elektronik diwajibkan memastikan sistem yang dikelolanya tidak memuat, memfasilitasi, atau menyebarkan konten yang dilarang oleh hukum.
Pemerintah menilai bahwa pemanfaatan fitur pembuatan gambar Grok AI untuk menghasilkan konten asusila merupakan pelanggaran terhadap kewajiban tersebut. Karena itu, pemutusan akses sementara dipandang sebagai langkah administratif yang sah sambil menunggu klarifikasi dan perbaikan dari pihak pengelola layanan.
Masalah Utama: Deepfake Seksual
Deepfake seksual nonkonsensual menjadi inti persoalan dalam kasus Grok AI. Teknologi ini memungkinkan wajah seseorang direkayasa dan ditempelkan ke tubuh lain dalam gambar atau video bermuatan pornografi dengan tingkat kemiripan tinggi.
Dampak dari praktik ini dinilai sangat serius. Korban dapat mengalami tekanan psikologis, kerusakan reputasi, hingga gangguan dalam kehidupan sosial dan profesional. Dalam banyak kasus, korban juga menghadapi kesulitan untuk membuktikan bahwa konten tersebut palsu karena kualitas visual yang semakin realistis.
Pemerintah menilai pembiaran terhadap praktik deepfake berpotensi menciptakan rasa tidak aman di ruang digital dan menurunkan kepercayaan publik terhadap teknologi kecerdasan buatan secara umum.
Posisi Pengembang Grok AI
Grok AI dikembangkan oleh xAI, perusahaan teknologi yang didirikan oleh Elon Musk. Hingga kini, Komdigi masih menunggu klarifikasi resmi dari pihak pengelola terkait dampak negatif penggunaan Grok dan langkah pengamanan yang diterapkan.
Pemerintah meminta penjelasan mengenai sistem moderasi konten, pembatasan fitur sensitif, serta mekanisme pencegahan agar teknologi tersebut tidak kembali disalahgunakan. Selama klarifikasi dan komitmen perbaikan belum disampaikan, pemutusan akses akan tetap diberlakukan.
Dampak Lebih Luas bagi Ekosistem Digital
Kasus Grok AI mencerminkan tantangan besar dalam pengelolaan kecerdasan buatan di Indonesia. Di satu sisi, AI menawarkan potensi besar bagi inovasi dan ekonomi digital. Di sisi lain, tanpa pengawasan yang memadai, teknologi ini dapat dimanfaatkan untuk tindakan yang merugikan masyarakat.
Pemblokiran sementara Grok AI menjadi sinyal bahwa pemerintah mulai mengambil sikap lebih tegas terhadap tata kelola AI. Ke depan, kasus ini diperkirakan akan menjadi rujukan penting dalam perumusan kebijakan kecerdasan buatan nasional yang menyeimbangkan inovasi teknologi dengan perlindungan
