Angga Yudha Pratama
Merahputih.com - Kementerian Komunikasi dan Digital (Kemkomdigi) secara resmi menindaklanjuti laporan terkait fitur kecerdasan buatan Grok AI pada platform X yang diduga digunakan untuk membuat konten asusila.
Penelusuran menunjukkan adanya penyebaran manipulasi foto pribadi bersifat sensitif (deepfake) tanpa seizin pemiliknya, yang mencoreng ruang digital Indonesia.
"Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga," ujar Dirjen Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, Rabu (7/1).
Baca juga:
Imbas Konten Pornografi, X Harus Bayar Denda Rp 80 Juta ke Pemerintah
Potensi Pelanggaran Hak Privasi dan Citra Diri
Alexander menekankan bahwa manipulasi identitas visual melalui AI bukan sekadar isu kesusilaan, melainkan perampasan hak individu atas identitas dirinya.
Kemkomdigi kini tengah berkoordinasi intensif dengan Penyelenggara Sistem Elektronik (PSE) untuk memperkuat sistem moderasi dan mekanisme penanganan laporan pelanggaran privasi. Setiap penyedia layanan diwajibkan memastikan teknologi mereka tidak menjadi alat eksploitasi seksual maupun perusakan martabat manusia.
Sanksi Tegas Berdasarkan KUHP Baru 2026
Pemerintah tidak segan menjatuhkan sanksi administratif hingga pemutusan akses (blokir) terhadap Grok AI dan platform X jika tidak kooperatif dalam melakukan proteksi. Berdasarkan UU Nomor 1 Tahun 2023 tentang KUHP yang berlaku sejak 2 Januari 2026, pelaku produksi dan penyebar konten pornografi dapat dijerat Pasal 172 dan Pasal 407.
Ancaman hukumannya cukup berat, yakni pidana penjara mulai dari 6 bulan hingga maksimal 10 tahun, atau denda materiil yang signifikan.
Baca juga:
Artis Porno Bonnie Blue dan Rekan Prianya Dilarang Masuk NKRI 10 Tahun
Kemkomdigi juga membuka kanal pengaduan bagi warga yang menjadi korban manipulasi digital agar segera menempuh jalur hukum. Alexander mengingatkan bahwa meskipun teknologi terus berkembang, kepatuhan terhadap hukum tetap bersifat mutlak bagi seluruh penyedia layanan asing yang beroperasi di wilayah Indonesia.
“Kami mengimbau seluruh pihak untuk menggunakan teknologi akal imitasi secara bertanggung jawab. Ruang digital bukan ruang tanpa hukum, ada privasi dan hak atas citra diri setiap warga yang harus dihormati dan dilindungi,” ujar Alexander.
