Media90 – Ketegangan antara Pemerintah Indonesia dengan raksasa teknologi global kembali meningkat di awal tahun 2026. Kementerian Komunikasi dan Digital (Komdigi) mengejutkan publik setelah mengumumkan pemutusan akses sementara terhadap Grok AI — teknologi kecerdasan buatan generatif milik Elon Musk yang terintegrasi di platform X (dahulu Twitter). Pemerintah menyebut langkah tegas ini diambil menyusul ditemukannya potensi penyalahgunaan masif teknologi tersebut untuk memproduksi konten pornografi berbasis manipulasi wajah atau deepfake yang menargetkan warga negara Indonesia.
Laporan Masyarakat Jadi Alarm Awal
Meski terlihat drastis, keputusan ini tidak muncul dalam ruang hampa. Selama beberapa bulan terakhir, unit pengawasan digital Komdigi mencatat kenaikan laporan publik terkait beredarnya foto-foto syur hasil rekayasa AI yang terlihat sangat realistis. Pemerintah menilai bahwa tidak adanya batasan teknis yang memadai pada Grok AI untuk mencegah produksi konten seksual non-konsensual merupakan pelanggaran serius yang mengancam martabat dan keamanan digital warga negara.
Ancaman Deepfake Seksual Non-Konsensual Jadi Sorotan
Dalam pernyataan resminya pada Sabtu (10/1/2026), Komdigi menegaskan bahwa pemutusan akses ini merupakan bentuk perlindungan terhadap hak asasi manusia dan privasi. Hal yang menjadi fokus adalah kemudahan Grok AI dalam mengolah foto asli menjadi konten pornografi hanya melalui perintah teks sederhana, tanpa hambatan filter moral maupun hukum.
Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar, menjelaskan bahwa tim siber Komdigi menemukan celah keamanan yang besar pada platform tersebut.
“Kami menemukan bahwa Grok AI belum memiliki pengaturan spesifik untuk mencegah produksi dan distribusi konten pornografi berbasis foto nyata warga Indonesia secara eksplisit. Hal ini sangat berisiko menciptakan pelanggaran privasi dan merusak citra diri seseorang melalui manipulasi digital yang sulit dibedakan dari aslinya,” tegas Alexander.
Komdigi menilai bahwa teknologi generative AI seharusnya menjadi instrumen kemajuan, bukan alat yang berpotensi menjadi senjata kekerasan seksual berbasis digital.
Dasar Hukum: Kewajiban PSE Patuh Regulasi Indonesia
Pemblokiran Grok AI merujuk pada Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE) Lingkup Privat. Pasal 9 dalam regulasi tersebut mewajibkan setiap PSE memastikan platform mereka tidak memuat atau memfasilitasi distribusi konten yang melanggar kesusilaan dan hukum.
Komdigi menilai xAI dan Elon Musk belum memenuhi kewajiban tersebut untuk pasar Indonesia. Karena itu, akses dibekukan sementara hingga ada perbaikan sistem kontrol dan filter konten. Pemerintah menuntut adanya lokalisasi perlindungan, yaitu sistem yang mampu mengenali konteks budaya serta hukum Indonesia—terutama terkait perlindungan perempuan, anak, dan individu dari deepfake seksual non-konsensual.
Dampak dan Reaksi Dunia Teknologi
Pemblokiran Grok AI di Indonesia memperpanjang daftar hambatan regulasi yang dihadapi Elon Musk di berbagai negara. Sebelumnya, Grok juga disoroti otoritas di Inggris dan beberapa negara Uni Eropa karena isu privasi dan keamanan data.
Di tingkat domestik, respons publik terbelah. Kelompok pegiat perlindungan perempuan dan pakar keamanan siber menyambut positif langkah pemerintah, mengingat trauma dan kerugian sosial akibat digital sexual harm sering kali bersifat jangka panjang. Namun komunitas pengembang AI dan sebagian pengguna X merasa terhambat karena kehilangan akses ke salah satu asisten AI yang dianggap inovatif.
Meski begitu, Komdigi tetap berpegang pada prinsip bahwa inovasi tidak boleh mengorbankan keselamatan sosial dan nilai hukum nasional.
Menuju Ekosistem AI yang Aman dan Bertanggung Jawab
Kasus Grok AI menjadi preseden penting bagi industri kecerdasan buatan di Indonesia. Pemerintah mengirim pesan keras bahwa seluruh pemain teknologi — termasuk OpenAI, Google, Meta, dan lainnya — wajib memastikan kepatuhan terhadap standar etika, budaya, dan hukum lokal.
Komdigi membuka peluang rekonsiliasi dan memastikan pemblokiran Grok AI dapat dicabut jika pihak xAI bersedia berdialog serta menerapkan filter konten yang memadai. Namun hingga saat itu, pemerintah meminta masyarakat tetap waspada terhadap penyebaran deepfake dan mendukung terciptanya ruang digital yang aman dan sehat.
Tahun 2026 tampaknya akan menjadi penentu bagi kedaulatan digital Indonesia di tengah percepatan revolusi AI global — sebuah era di mana kebijakan, etika, dan inovasi teknologi akan semakin sering bersinggungan secara frontal.
