Manipulasi Gambar Jadi Konten Porno, DPR Dukung Komdigi Blokir Grok AI

MerahPutih.com - Anggota Komisi I DPR RI, Syamsu Rizal, mendukung langkah tegas Kementerian Komunikasi dan Digital (Komdigi) yang mengancam akan memblokir Grok AI dan platform media sosial X apabila terbukti digunakan untuk memproduksi dan menyebarkan konten pornografi.

Politikus yang akrab disapa Daeng Ical itu menilai, kemampuan Grok AI dalam memanipulasi gambar seseorang hingga menjadi konten asusila merupakan ancaman serius yang sangat mengkhawatirkan. Ia juga menyoroti belum optimalnya sistem moderasi konten pada Grok AI untuk mencegah penyalahgunaan.

“Selama ini kita melihat Grok AI di platform X dimanfaatkan oleh pengguna untuk mengubah foto atau gambar seseorang menjadi konten asusila. Dengan permintaan yang spesifik, Grok AI dapat menuruti instruksi tersebut. Ini jelas berbahaya,” ujar Daeng Ical, Kamis (8/1).

Baca juga:

Kontroversi Grok AI: Chatbot Elon Musk yang Ubah Nada Soal Ras dan Keberagaman

Ia menegaskan, penyalahgunaan kecerdasan buatan tanpa pengawasan ketat dapat berdampak luas, tidak hanya merugikan individu yang menjadi korban, tetapi juga merusak tatanan sosial dan moral masyarakat.

“Jika Grok AI dan platform X tidak mampu mengendalikan sistemnya dan tetap membiarkan produksi serta penyebaran konten pornografi, maka Komdigi harus bersikap tegas dengan memblokirnya,” tegasnya.

Menurut Daeng Ical, negara memiliki kewajiban melindungi warganya dari dampak negatif teknologi digital, khususnya yang berkaitan dengan eksploitasi, pornografi, dan pelanggaran privasi. Ia menilai pembiaran terhadap praktik tersebut akan menjadi preseden buruk bagi ekosistem digital nasional.

“Langkah tegas ini penting karena jika dibiarkan, penggunaan AI yang tidak bertanggung jawab akan sangat membahayakan dan merusak moral bangsa,” tutup legislator asal Makassar tersebut.

Baca juga:

Lindungi Hak Citra Diri, Penyebaran Konten Asusila via Grok AI Terancam 10 Tahun Penjara

Sebelumnya, Komdigi menyatakan Grok AI dan platform X dapat dikenakan sanksi administratif hingga pemutusan akses jika tidak patuh dan kooperatif terhadap regulasi yang berlaku di Indonesia.

Direktur Jenderal Pengawasan Ruang Digital Komdigi, Alexander Sabar, menegaskan bahwa platform X sebagai Penyelenggara Sistem Elektronik (PSE) wajib mematuhi seluruh peraturan perundang-undangan di Indonesia.

Menurut Sabar, penyedia layanan AI maupun pengguna yang terbukti memproduksi dan/atau menyebarkan konten pornografi atau melakukan manipulasi citra pribadi tanpa hak dapat dikenakan sanksi administratif dan/atau pidana sesuai ketentuan hukum yang berlaku. (Pon)