Yusuf Abdillah
Merahputih.com - Google mengonfirmasi Gemini AI sempat mengakses sistem milik tiga perusahaan sungguhan tanpa izin saat menjalani evaluasi keamanan siber pada Mei 2026.
Pengujian tersebut dilakukan oleh Irregular, perusahaan yang bergerak di bidang evaluasi keamanan AI.
Uji coba menggunakan format capture-the-flag pada infrastruktur yang disiapkan untuk pengujian.
Baca juga:
Google Gemini Kolaborasi dengan BTS, Hadirkan 4 Fitur Interaktif yang Bisa Dicoba ARMY
Sasaran Seharusnya Perusahaan Fiktif
Dalam skenario awal, Gemini seharusnya hanya berinteraksi dengan perusahaan fiktif yang menjadi target simulasi. Namun, kesalahan konfigurasi membuat model AI Google memiliki akses ke internet dan menemukan perusahaan nyata dengan nama yang mirip dengan target pengujian.
Menurut Google, dalam salah satu kasus Gemini berhasil mendapatkan akses dengan menebak kredensial login. Sementara pada dua kasus lainnya, model menemukan kredensial yang terekspos di repositori publik dan menggunakannya untuk masuk ke sistem perusahaan terkait.
Baca juga:
‘With Gemini, In Craft’, Google Dorong Kreativitas Fesyen tanpa Batas
Tidak Ada Pencurian Data
Meski demikian, Google menyatakan tidak ada laporan kerusakan atau pencurian data akibat insiden tersebut.
Gemini juga menghentikan aktivitasnya setelah menyadari bahwa target yang diakses merupakan organisasi nyata dan berada di luar lingkungan pengujian.
Kasus ini menyoroti tantangan keamanan yang muncul seiring perkembangan AI dengan kemampuan menjalankan tindakan secara lebih mandiri.
Baca juga:
Ketahui Kategori Konten yang Bisa Membuat Gemini AI Memblokir Prompt
Kesalahan konfigurasi dalam lingkungan pengujian dapat membuat model berinteraksi dengan sistem di luar target yang seharusnya.
Google mengatakan telah memberi tahu perusahaan yang terdampak. Perusahaan juga bekerja sama dengan Irregular untuk memperbaiki prosedur dan sistem pengamanan dalam evaluasi AI berikutnya.
