Grok AI Belum Punya Filter Pornografi, DPR Tuntut Langkah Proaktif Kemkomdigi

Merahputih.com - Anggota Komisi I DPR RI, Amelia Anggraini, mengutuk keras penyalahgunaan teknologi kecerdasan buatan (Artificial Intelligence) Grok AI yang memproduksi konten pornografi menggunakan identitas visual orang nyata tanpa persetujuan. Praktik tersebut dinilai merupakan pelanggaran serius terhadap martabat manusia, hak privasi, dan perlindungan data pribadi.

Legislator dari Fraksi Partai NasDem ini menegaskan bahwa manipulasi wajah atau foto seseorang menjadi konten asusila bukan sekadar persoalan kesusilaan biasa.

Menurutnya, tindakan tersebut merupakan bentuk kekerasan berbasis teknologi yang berdampak sistemik pada kerugian psikologis, sosial, hingga reputasi korban.

"Manipulasi identitas visual tanpa izin untuk konten asusila adalah perampasan hak individu atas citra dirinya," tegas Amelia dalam keterangan tertulisnya, Jumat (9/1).

Baca juga:

Manipulasi Gambar Jadi Konten Porno, DPR Dukung Komdigi Blokir Grok AI

Menanggapi temuan Direktorat Jenderal Pengawasan Ruang Digital Kemkomdigi mengenai minimnya filter keamanan pada Grok AI, Amelia mendesak pemerintah untuk bertindak proaktif.

Ia menuntut Kementerian Komunikasi dan Digital (Kemkomdigi) tidak menunggu kasus menjadi viral sebelum mengambil tindakan tegas terhadap platform penyedia layanan AI.

Amelia juga mengingatkan bahwa berdasarkan UU Pelindungan Data Pribadi (UU PDP), wajah dan video merupakan data pribadi yang terlindungi.

Amelia mendorong Kemkomdigi menagih kepatuhan platform, termasuk X, untuk menerapkan standar prevention by design guna mencegah pembuatan konten seksual berbasis orang nyata.

Baca juga:

Lindungi Hak Citra Diri, Penyebaran Konten Asusila via Grok AI Terancam 10 Tahun Penjara

Terkait penegakan hukum, Amelia menekankan bahwa ruang digital tunduk pada aturan hukum yang berlaku. Ia merujuk pada KUHP Nasional yang berlaku sejak 2 Januari 2026, khususnya Pasal 172 dan Pasal 407 tentang pornografi.

Komisi I DPR RI berkomitmen mengawal kasus ini demi memastikan adanya perlindungan nyata bagi warga negara dan kepatuhan mutlak dari penyedia platform digital.