Dikecam di Berbagai Negara, X Akhirnya Hentikan Grok AI Lucuti Pakaian Orang Nyata

MERAHPUTIH.COM — MODEL AI Grok milik Elon Musk tidak lagi dapat mengedit foto orang nyata untuk menampilkan mereka dalam pakaian yang mengungkap tubuh di yurisdiksi tempat hal tersebut ilegal. Kebijakan ini muncul setelah kekhawatiran luas atas deepfake AI yang diseksualisasi.

“Kami telah menerapkan langkah-langkah teknologi untuk mencegah akun Grok mengizinkan pengeditan gambar orang nyata dalam pakaian yang mengungkap tubuh,” bunyi pengumuman di X.

Perubahan kebijakan X diumumkan beberapa jam setelah jaksa tertinggi California mengatakan negara bagian tersebut sedang menyelidiki penyebaran deepfake AI yang diseksualisasi, termasuk yang melibatkan anak-anak, yang dihasilkan model AI tersebut.

“Kami kini menerapkan pemblokiran berbasis wilayah (geoblock) atas kemampuan semua pengguna untuk menghasilkan gambar orang nyata dengan bikini, pakaian dalam, dan busana serupa melalui akun Grok dan Grok di X di yurisdiksi tempat hal itu ilegal,” kata X dalam pernyataan pada Rabu (14/1).

X juga menegaskan kembali bahwa hanya pengguna berbayar yang dapat mengedit gambar menggunakan Grok di platform mereka. Menurut pernyataan tersebut, kebijakan ini menambah lapisan perlindungan dengan membantu memastikan bahwa pihak yang menyalahgunakan Grok untuk melanggar hukum atau kebijakan X dapat dimintai pertanggungjawaban.

Baca juga:

Grok AI Belum Punya Filter Pornografi, DPR Tuntut Langkah Proaktif Kemkomdigi

Dengan pengaturan not safe for work (NSFW) diaktifkan, Grok seharusnya hanya mengizinkan ketelanjangan tubuh bagian atas dari manusia dewasa imajiner (bukan orang nyata), sesuai dengan apa yang lazim terlihat dalam film berperingkat R. “Itu merupakan standar de facto di Amerika. Hal ini akan berbeda di wilayah lain sesuai hukum setiap negara,” kata miliarder teknologi tersebut.

Sebelumnya, Musk membela X dengan menyatakan para pengkritik hanya ingin menekan kebebasan berbicara, seraya mengunggah dua gambar buatan AI yang menampilkan Perdana Menteri Inggris Sir Keir Starmer mengenakan bikini.

Dalam beberapa hari terakhir, para pemimpin dunia mengkritik fitur pengeditan gambar Grok. Akhir pekan lalu, Malaysia dan Indonesia menjadi negara pertama yang melarang alat AI Grok setelah pengguna mengatakan foto-foto telah diubah menjadi gambar eksplisit tanpa persetujuan.

Peneliti kebijakan Riana Pfefferkorn mengatakan ia terkejut X membutuhkan waktu lama untuk menerapkan pengamanan baru Grok. Ia menegaskan fitur pengeditan seharusnya dihapus segera setelah penyalahgunaan mulai terjadi. Pertanyaan juga masih tersisa tentang bagaimana X akan menegakkan kebijakan barunya, seperti bagaimana model AI akan mengetahui apakah sebuah gambar ialah orang nyata dan tindakan apa yang akan diambil ketika pengguna melanggar aturan.

“Musk tidak menampilkan perusahaannya secara serius. Akan membantu jika ia berhenti melakukan hal-hal seperti mengunggah ulang gambar AI Keir Starmer memakai bikini,” tegas Pfefferkorn.(dwi)

Baca juga:

Indonesia dan Malaysia Blokir Grok Milik Elon Musk, Kementerian Komdigi Soroti Pelanggaran HAM