OpenAI Bentuk Tim Khusus untuk Kontrol AI 'Superintelligent'

PERUSAHAAN pengembang ChatGPT OpenAI baru saja membentuk tim anyar yang dipimpin oleh Ilya Sutskever, ilmuwan utama dan salah satu pendiri perusahaan. Dia bertugas mengembangkan cara dalam mengarahkan dan mengontrol sistem AI 'superintelligent'.

Dalam unggahan blog yang diterbitkan hari ini, Sutskever dan Jan Leike, pemimpin tim penyelarasan di OpenAI, memperkirakan bahwa AI dengan kecerdasan melebihi manusia dapat tiba dalam dekade ini.

Baca Juga:

Kenalan dengan Girl Grup Korea yang Membernya Artificial Intelligence

AI itu dengan asumsi memang tiba pada akhirnya memerlukan penelitian tentang cara mengontrolnya dan membatasinya, kata Sutskever dan Leike, seperti diungkapkan TechCrunch, Kamis (6/7).

“Saat ini, kami tidak memiliki solusi untuk mengarahkan atau mengendalikan AI yang berpotensi superintelligent, dan mencegahnya menjadi nakal. Teknik kami saat ini untuk menyelaraskan AI, seperti pembelajaran penguatan dari umpan balik manusia, bergantung pada kemampuan manusia untuk mengawasi AI. Tetapi manusia tidak akan dapat secara andal mengawasi sistem AI jauh lebih pintar dari kita,” kata Sutskever.

Untuk menggerakkan jarum ke depan di bidang 'penyelarasan superintelligence', OpenAI membuat tim Superalignment baru, yang dipimpin oleh Sutskever dan Leike, yang akan memiliki akses ke 20% dari komputasi yang telah diamankan perusahaan hingga saat ini.

Bergabung dengan para ilmuwan dan insinyur dari divisi penyelarasan OpenAI sebelumnya serta peneliti dari organisasi lain di seluruh perusahaan, tim ini bertujuan untuk memecahkan tantangan teknis inti dalam mengendalikan AI superintelligent selama empat tahun ke depan.

Baca Juga:

Penemuan Teknologi OI Diperkirakan akan Kalahkan Kecerdasan AI

Misi utama mereka adalah melatih sistem AI menggunakan umpan balik manusia, melatih AI untuk membantu mengevaluasi sistem AI lainnya, dan pada akhirnya membangun AI yang dapat melakukan penelitian penyelarasan.

Ini adalah hipotesis OpenAI bahwa AI dapat membuat kemajuan penelitian penyelarasan yang lebih cepat dan lebih baik daripada manusia.

“Saat kami membuat kemajuan dalam hal ini, sistem AI kami dapat mengambil alih lebih banyak pekerjaan penyelarasan kami dan pada akhirnya memahami, menerapkan, mempelajari, dan mengembangkan teknik penyelarasan yang lebih baik daripada yang kami miliki sekarang,” Leike dan rekannya John Schulman dan Jeffrey Wu mendalilkan dalam sebuah unggahan blog sebelumnya.

“Mereka akan bekerja sama dengan manusia untuk memastikan penerus mereka lebih selaras dengan manusia. Peneliti manusia akan semakin memfokuskan upaya mereka untuk meninjau penelitian penyelarasan yang dilakukan oleh sistem AI alih-alih menghasilkan penelitian ini sendiri,” tambah mereka. (waf)

Baca juga:

Foto Hasil AI Menangi Penghargaan, Fotografernya Tolak Penghargaannya