Angga Yudha Pratama
Merahputih.com - Perusahaan kecerdasan buatan milik Elon Musk, xAI, resmi memperketat kebijakan moderasi pada fitur Grok di media sosial X.
Langkah ini diambil setelah gelombang kecaman publik, tekanan politik, hingga investigasi regulasi di berbagai negara terkait penyalahgunaan AI untuk menciptakan konten seksual non-konsensual.
Baca juga:
Indonesia dan Malaysia Blokir Grok Milik Elon Musk, Kementerian Komdigi Soroti Pelanggaran HAM
Manajemen xAI mengonfirmasi bahwa mereka telah menerapkan langkah teknis untuk mencegah pengguna memanipulasi gambar tokoh nyata ke dalam busana yang terbuka. Pembatasan ini berlaku bagi seluruh pengguna, termasuk pelanggan berbayar.
"Kami telah menerapkan langkah-langkah teknologi untuk mencegah akun Grok mengedit gambar orang asli dalam pakaian terbuka seperti bikini," tulis xAI melalui akun resmi X Safety.
Kebijakan ini muncul hanya beberapa jam setelah Jaksa Agung California, Rob Bonta, mengumumkan investigasi terhadap xAI atas dugaan produksi massal deepfake porno tanpa izin.
Gubernur California, Gavin Newsom, turut mengecam keras platform tersebut sebelum perubahan ini diberlakukan.
"Keputusan xAI untuk menciptakan dan menyediakan tempat bagi predator untuk menyebarkan deepfake eksplisit, termasuk gambar anak-anak yang ditelanjangi secara digital, adalah tindakan keji," tegas Newsom.
Baca juga:
Selain di Amerika Serikat, tekanan internasional terus meningkat. Indonesia dan Malaysia bahkan telah memberlakukan larangan sementara terhadap Grok. Negara lain seperti Inggris, Irlandia, Prancis, dan Australia juga tengah melakukan penyelidikan serupa.
Di sisi lain, Elon Musk sempat menantang pengikutnya untuk menguji batas moderasi Grok. Ia berargumen bahwa konten dewasa (NSFW) pada Grok seharusnya hanya diizinkan untuk karakter imajiner, bukan manusia asli, dengan standar yang setara dengan film kategori dewasa (R-rated).
