Media90 – Memasuki minggu pertama tahun 2026, ruang digital Indonesia dikejutkan oleh langkah agresif Kementerian Komunikasi dan Digital (Kemkomdigi). Pemerintah secara resmi melayangkan ancaman serius terhadap platform media sosial X (dahulu Twitter) dan fitur kecerdasan buatannya, Grok AI. Aksi ini diambil sebagai respons atas maraknya laporan mengenai produksi dan penyebaran konten asusila berbasis manipulasi digital, atau yang lebih dikenal sebagai deepfake.
Fenomena deepfake kini tidak hanya dipandang sebagai persoalan moralitas, tetapi telah berkembang menjadi ancaman terhadap privasi, keamanan data, dan identitas visual warga negara. Banyak korban merasa dipermalukan dan dirugikan secara sosial karena wajah mereka dicatut dan dimanipulasi ke dalam materi pornografi tanpa izin.
X dan Grok AI Dinilai Lalai Awasi Teknologi
Ancaman pemblokiran ini bukan sekadar gertak sambal. Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, menyatakan bahwa platform X melalui Grok AI dinilai lalai dalam mengawasi penggunaan teknologinya.
Teknologi yang seharusnya mempercepat distribusi informasi justru disalahgunakan untuk menciptakan konten pornografi yang menggunakan wajah asli warga Indonesia. Situasi ini telah memicu gelombang kemarahan publik dan menempatkan pemerintah dalam posisi untuk bertindak tegas demi menjaga kedaulatan digital bangsa.
Kegagalan Filter Keamanan, Deepfake Kian Merajalela
Masalah utama yang disoroti Kemkomdigi adalah lemahnya sistem moderasi dan filter keamanan pada Grok AI. Investigasi awal mengungkap bahwa fitur AI milik Elon Musk tersebut belum memiliki safeguards yang cukup untuk menyaring perintah pembuatan konten ilegal.
Ditemukan bahwa pengguna dapat dengan mudah memberikan prompt agar AI melakukan manipulasi citra pada foto pribadi seseorang dari internet, lalu mengubahnya menjadi konten vulgar yang tampak realistis.
Alexander Sabar menegaskan bahwa ketiadaan pengaturan teknis untuk mencegah pembuatan materi pornografi berbasis foto nyata adalah pelanggaran berat terhadap standar penyelenggaraan sistem elektronik di Indonesia.
“Temuan awal kami menunjukkan adanya pengabaian sistematis terhadap perlindungan data pribadi dan privasi citra diri. Kita tidak bisa membiarkan teknologi menjadi mesin penghancur reputasi orang lain,” ujarnya.
Jeratan Hukum: KUHP Baru dan UU ITE 2026
Langkah pemerintah ini dikukuhkan melalui landasan hukum yang semakin kuat. Per 2 Januari 2026, Indonesia resmi memberlakukan Undang-Undang Nomor 1 Tahun 2023 tentang KUHP dengan perluasan definisi tindak pidana konten digital.
Dalam aturan ini, Pasal 172 dan Pasal 407 mengatur tindakan eksploitasi seksual serta kecabulan digital, termasuk produksi dan penyebaran konten deepfake asusila.
Pelaku yang memproduksi atau menyebarkan deepfake tanpa hak kini menghadapi:
-
Pidana penjara 6 bulan hingga 10 tahun, dan/atau
-
Denda dalam jumlah besar
Namun tanggung jawab tidak berhenti pada pelaku individu. Berdasarkan regulasi PSE (Penyelenggara Sistem Elektronik), platform dapat dijatuhi sanksi administratif berlapis, mulai dari:
✔ Surat peringatan keras
✔ Denda administratif bernilai miliaran rupiah
✔ Pemblokiran akses layanan secara permanen jika tidak kooperatif
Isu Deepfake Sebagai Pelanggaran “Right to One’s Image”
Kemkomdigi menilai isu ini berkaitan erat dengan hak atas citra diri (right to one’s image). Di era AI 2026, wajah manusia adalah data pribadi paling sensitif.
Manipulasi visual semacam ini dapat menyebabkan:
-
Kerugian psikologis
-
Perusakan reputasi
-
Dampak sosial jangka panjang
-
Penghancuran karier, terutama bagi publik figur
Komdigi juga menegaskan bahwa ruang digital bukan ruang hampa hukum, dan bahwa inovasi tidak boleh berjalan di atas penderitaan orang lain. Pemerintah menuntut agar X segera:
-
Mengintegrasikan sistem deteksi deepfake yang lebih cerdas
-
Memblokir prompt pembuatan konten ilegal bagi pengguna Indonesia
-
Meningkatkan standar keamanan AI dan moderasi konten
Kanal Pengaduan dan Aturan Main untuk Masyarakat
Selain penindakan ke tingkat platform, Kemkomdigi membuka kanal pengaduan khusus bagi korban deepfake. Alexander Sabar mengimbau warga untuk melaporkan akun-akun penyebar konten manipulatif tersebut.
Melalui kolaborasi dengan Cyber Crime Polri, pemerintah berjanji:
-
Memburu produsen konten
-
Menekan platform untuk take-down dalam ≤ 24 jam
-
Menjerat pelaku dengan aturan KUHP dan UU ITE terbaru
Masyarakat juga diminta lebih berhati-hati dalam membagikan foto pribadi beresolusi tinggi di internet.
“Teknologi adalah alat untuk kemajuan, bukan alat untuk merendahkan martabat manusia. Platform yang membangkang akan menerima konsekuensi terberatnya,” tutup Alexander.
Kesimpulan: Menuju Ekosistem Digital yang Aman
Perselisihan antara pemerintah Indonesia dengan platform X dan Grok AI akan menjadi uji penting penegakan hukum digital tahun 2026.
Keberanian pemerintah mengancam blokir platform sebesar X menunjukkan komitmen negara dalam:
-
Melindungi warganya dari kejahatan digital
-
Menjaga martabat dan privasi warga
-
Menegaskan kedaulatan hukum nasional di ruang siber
Jika X tidak melakukan perbaikan sistemik dalam waktu yang ditentukan, maka pengguna Indonesia harus bersiap menghadapi skenario pemblokiran demi tujuan yang lebih besar: perlindungan martabat bangsa di era AI.
