Yandex Perkenalkan YaFSDP, Mesin Pelatihan LLM yang Bisa Hemat Daya GPU

Merahputih.com - Perusahaan teknologi Yandex baru saja meluncurkan YaFSDP, metode open-source untuk melatih model pembelajaran mesin bahasa (LLM) yang memungkinkan interaksi AI generatif secara real-time.

YaFSDP disebut sebagai metode paling efektif untuk melatih LLM dibandingkan dengan metode Fully Sharded Data Parallel (FSDP) lainnya yang tersedia, karena meningkatkan efektivitas komunikasi GPU dan mengurangi penggunaan memori.

Baca juga:

Perusahaan Indonesia Kini Bisa Uji Coba AI Generatif YandexART secara Gratis

FSDP adalah metode pelatihan LLM yang menggunakan beberapa unit pemrosesan untuk mengolah data secara paralel.

Dengan YaFSDP, kecepatan pelatihan diklaim dapat meningkat hingga 26% dibandingkan FSDP biasa, tergantung arsitektur dan jumlah parameter. Hal ini mengurangi waktu pelatihan dan penggunaan sumber daya GPU hingga 20 persen.

Baca juga:

Gandeng Universitas Besar Tanah Air, Yandex Luncurkan Kampanye AI

Sebagai komitmen untuk mendukung komunitas AI global, Yandex membuat YaFSDP tersedia secara publik untuk pengembang LLM dan penggemar AI di seluruh dunia.

"Kami secara aktif bereksperimen dengan berbagai model arsitektur dan ukuran parameter untuk memperluas manfaat YaFSDP," kata Mikhail Khruschev, Senior Developer Yandex.

"Kami berharap ini dapat meningkatkan aksesibilitas dan efisiensi bagi peneliti dan pengembang AI generatif di seluruh dunia," tambahnya.

Baca juga:

Gandeng Yandex, ITB Gelar Seminar Pertimbangan Etika AI

Engineer dan peneliti di Indonesia sedang fokus mengembangkan LLM untuk sektor publik, administrasi pemerintahan, pertahanan, keuangan, dan asuransi. (waf)