JAKARTA — Polemik seputar kecerdasan buatan Grok AI di platform X semakin meluas dan menjadi isu global. Setelah maraknya penyalahgunaan Grok untuk membuat konten asusila dan pornografi berbasis manipulasi foto, pemilik X, Elon Musk, memutuskan membatasi fitur pembuatan dan penyuntingan gambar. Namun, kebijakan tersebut justru memicu kritik tajam karena dianggap belum menyentuh akar persoalan.
Sejak 9 Januari 2026 waktu Amerika Serikat, fitur pembuatan dan edit gambar Grok di X hanya dapat diakses oleh pelanggan X Premium. Pengguna gratis yang mencoba memanggil Grok melalui unggahan dengan tagar @Grok akan menerima pesan otomatis. Pesan itu menyatakan bahwa fitur pembuatan dan penyuntingan gambar saat ini dibatasi untuk pelanggan berbayar, sekaligus mengarahkan pengguna ke halaman berlangganan.
Pembatasan ini diterapkan setelah meningkatnya laporan penggunaan Grok AI untuk menghasilkan konten pornografi dan deepfake. Dalam praktiknya, foto seseorang dapat dimanipulasi menjadi gambar asusila yang tampak realistis, meski tidak pernah terjadi. Teknologi ini dinilai berbahaya karena dapat digunakan tanpa persetujuan korban, sulit dibedakan dari gambar asli, serta mudah menyebar di ruang digital.
Masalahnya, kebijakan xAI dinilai belum konsisten. Sejumlah pengguna masih dapat membuat gambar melalui tab Grok yang tersedia langsung di aplikasi X. Selain itu, aplikasi Grok yang berdiri terpisah dari X juga belum menerapkan pembatasan serupa. Kondisi ini memunculkan kritik bahwa pembatasan yang diterapkan bersifat parsial dan lebih berfungsi sebagai penghalang akses, bukan pencegahan substansial.
Kritik keras datang dari berbagai negara. Pemerintah Inggris menilai kebijakan berbasis langganan hanya memindahkan risiko ke pengguna berbayar. Menurut pejabat setempat, inti persoalan terletak pada absennya sistem pencegahan yang kuat di tingkat teknologi. Selama Grok masih mampu menghasilkan konten ilegal, maka risiko pelanggaran tetap ada, terlepas dari status berlangganan pengguna.
Komisi Eropa juga menyampaikan pandangan serupa. Otoritas Uni Eropa menegaskan bahwa konten asusila tidak dapat ditoleransi dalam kondisi apa pun. Pembatasan akses dinilai tidak menyelesaikan masalah jika sistem moderasi dan pengamanan AI tidak diperkuat sejak awal. Uni Eropa menyoroti pentingnya tanggung jawab platform digital dalam memastikan teknologi mereka tidak disalahgunakan.
Di Amerika Serikat, polemik Grok AI bahkan merambah ke ranah politik dan bisnis. Sejumlah senator dilaporkan mengirimkan surat kepada Apple dan Google untuk mendesak evaluasi terhadap keberadaan aplikasi X di toko aplikasi. Langkah ini didasarkan pada dugaan bahwa platform X belum sepenuhnya memenuhi standar distribusi aplikasi, khususnya terkait perlindungan pengguna dari konten berbahaya.
Di Indonesia, perhatian pemerintah terhadap isu ini juga meningkat. Kementerian Komunikasi dan Digital atau Komdigi menyatakan telah melakukan penyelidikan awal terhadap Grok AI. Pemerintah menilai praktik pengeditan foto menjadi konten asusila berpotensi melanggar privasi dan hak atas citra diri warga negara.
Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar, menyampaikan bahwa hasil penelusuran awal menunjukkan Grok AI belum memiliki pengaturan yang eksplisit dan memadai untuk mencegah produksi serta distribusi konten pornografi berbasis foto asli warga Indonesia. Menurutnya, manipulasi digital terhadap foto pribadi bukan sekadar pelanggaran norma kesusilaan, tetapi juga bentuk perampasan kendali individu atas identitas visualnya.
Alexander menegaskan bahwa pelanggaran hak citra diri dapat menimbulkan dampak serius. Korban berpotensi mengalami tekanan psikologis, gangguan sosial, hingga kerusakan reputasi yang sulit dipulihkan. Dalam konteks digital, jejak konten semacam ini juga sangat sulit dihapus sepenuhnya, sehingga dampaknya bisa berlangsung lama.
Komdigi menilai penyedia layanan kecerdasan buatan memiliki tanggung jawab besar untuk memastikan teknologi yang mereka kembangkan tidak menjadi sarana pelanggaran hukum. Pemerintah saat ini tengah berkoordinasi dengan para Penyelenggara Sistem Elektronik untuk memperkuat sistem moderasi konten, mencegah pembuatan deepfake asusila, serta memastikan adanya mekanisme pelaporan dan penanganan cepat bagi korban.
Pemerintah juga mengingatkan bahwa seluruh platform digital yang beroperasi di Indonesia wajib mematuhi peraturan perundang-undangan nasional. Jika ditemukan ketidakpatuhan atau sikap tidak kooperatif, sanksi administratif hingga pemutusan akses layanan dapat dijatuhkan. Opsi pemblokiran terhadap layanan Grok AI maupun platform X disebut terbuka apabila pelanggaran dinilai serius dan berulang.
Ancaman sanksi ini diperkuat dengan berlakunya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana sejak 2 Januari 2026. Dalam KUHP baru, konten pornografi diatur antara lain dalam Pasal 172 dan Pasal 407. Pasal-pasal tersebut memuat definisi pornografi serta ancaman pidana penjara paling singkat enam bulan dan paling lama sepuluh tahun, atau pidana denda sesuai ketentuan hukum yang berlaku.
Aturan ini tidak hanya menyasar individu yang memproduksi atau menyebarkan konten pornografi, tetapi juga membuka ruang tanggung jawab bagi penyedia layanan digital yang lalai melakukan pencegahan. Dengan demikian, perusahaan teknologi dituntut untuk lebih proaktif membangun sistem pengamanan sejak tahap pengembangan.
Kasus Grok AI menunjukkan tantangan besar dalam pengelolaan kecerdasan buatan generatif. Di satu sisi, AI menawarkan efisiensi dan kemudahan luar biasa. Di sisi lain, tanpa pengawasan dan regulasi yang memadai, teknologi yang sama dapat berubah menjadi alat pelanggaran privasi dan martabat manusia.
Polemik ini menegaskan bahwa inovasi teknologi tidak bisa berjalan tanpa batas. Pemerintah dan masyarakat kini menuntut tanggung jawab yang lebih besar dari platform digital. Grok AI menjadi contoh nyata bahwa kecanggihan teknologi harus selalu berjalan seiring dengan perlindungan hukum, etika, dan penghormatan terhadap hak dasar setiap individu.
