Dwi Astarini
MERAHPUTIH.COM — INDONESIA dan Malaysia resmi memblokir akses ke chatbot kecerdasan buatan (AI) Grok milik Elon Musk. Pemblokiran dilakukan karena kemampuan Grok menghasilkan deepfake bermuatan seksual. Grok, sebuah alat di platform X milik Musk, memungkinkan pengguna membuat gambar. Belakangan, kecerdasan buatan itu disalahgunakan untuk mengedit foto orang sungguhan sehingga tampak mengenakan pakaian terbuka.
Kedua negara tetangga ini menyatakan Grok berpotensi digunakan untuk menghasilkan gambar pornografi dan nonkonsensual yang melibatkan perempuan dan anak-anak. Indonesia dan Malaysia juga menjadi negara pertama di dunia yang melarang penggunaan alat AI tersebut.
Kementerian komunikasi Malaysia dan Indonesia mengumumkan langkah terhadap Grok melalui pernyataan terpisah, akhir pekan lalu. Komisi Komunikasi dan Multimedia Malaysia menyatakan pada Minggu bahwa mereka telah mengirimkan pemberitahuan kepada X sejak awal tahun untuk meminta pengamanan yang lebih ketat setelah menemukan penyalahgunaan berulang Grok dalam menghasilkan konten berbahaya.
Namun, dalam tanggapannya, X dinilai gagal menangani risiko mendasar dari desain platformnya dan lebih banyak menyoroti mekanisme pelaporan oleh pengguna. Komisi tersebut menambahkan Grok akan tetap diblokir hingga pengamanan yang efektif diterapkan serta mengimbau masyarakat melaporkan konten daring yang berbahaya.
Menteri Komunikasi dan Digital Indonesia Meutya Hafid, dalam unggahan di Instagram, mengatakan penggunaan Grok untuk memproduksi konten seksual eksplisit merupakan pelanggaran terhadap hak asasi manusia, martabat, dan keamanan daring. Kementeriannya juga telah meminta klarifikasi kepada X milik Musk terkait dengan penggunaan Grok.
Dalam beberapa tahun terakhir, otoritas Indonesia memang memperketat penindakan terhadap sumber pornografi daring lainnya, dengan platform seperti OnlyFans dan Pornhub sudah lebih dulu diblokir. Sejumlah pengguna X di Indonesia, yang menemukan foto mereka dimanipulasi di platform itu, mengaku marah karena hal tersebut bisa terjadi.
Baca juga:
Inggris Juga Ambil Langkah Menutup Akses Grok
Seperti dilansir BBC, tekanan untuk memblokir Grok juga telah meningkat di Inggris. Menteri Teknologi Inggris Liz Kendall menyatakan akan mendukung langkah tersebut. Namun, hal itu justru mendorong Musk menuduh pemerintah Inggris ingin mengekang kebebasan berpendapat.
Menteri Teknologi Inggris Liz Kendall juga mengatakan ia akan mendukung regulator Ofcom jika memutuskan untuk memblokir akses ke platform X di Inggris karena gagal mematuhi undang-undang keselamatan daring.
Kendall menyatakan Undang-Undang Keamanan Daring Inggris memberikan kewenangan untuk memblokir layanan agar tidak dapat diakses di Inggris jika mereka menolak mematuhi hukum Inggris.
“Jika Ofcom memutuskan menggunakan kewenangan tersebut, mereka akan mendapatkan dukungan penuh dari pemerintah,” tegas Kendall.(dwi)
Baca juga:
Grok AI Belum Punya Filter Pornografi, DPR Tuntut Langkah Proaktif Kemkomdigi
