Santa-Kruzdagi Kaliforniya universiteti tadqiqotchilari milliardlab parametrlarga ega yirik sun’iy intellekt til modellarini (LLM) boshqara oladigan, ayni paytda hozirgi tizimlarga qaraganda ancha kam quvvat sarflaydigan usulni ishlab chiqdilar.

Yangi usul atigi 13 Vt tizim quvvatini iste’mol qilgan holda milliardlab parametrlarga ega LLVni ishga tushirishga imkon berdi, bu esa maishiy LED chiroq iste’moliga teng. Ushbu yutuq, ayniqsa, sun’iy intellekt tezlatgichlarining hozirgi quvvat iste’molini hisobga olgan holda juda ta’sirli. Nvidianing H100 va H200 kabi joriy ma’lumotlar markazi GPUlari taxminan 700 vatt iste’mol qiladi. 

Shunday qilib, yangi usul bugungi mashhur yechimlardan 50 barobar samaraliroq bo‘lib chiqdi, deb yozadi Tom’s Hardware.

Muvaffaqiyat kaliti o‘quv jarayonlaridan matritsalarni ko‘paytirishni (MatMul) yo‘q qilish edi. Tadqiqotchilar ikkita usuldan foydalanganlar. Birinchisi -1, 0 va 1 qiymatlaridan foydalangan holda sanoq tizimini uchlik tizimga o‘tkazish, bu ko‘paytirishni raqamlarning oddiy yig‘indisi bilan almashtirishga imkon berdi. Ikkinchi usul vaqtinchalik hisoblashni joriy etishga asoslangan bo‘lib, unda tarmoq tezroq ishlashga imkon beradigan, ammo kamroq operatsiyalarni bajarishga imkon beruvchi samarali "xotira" ni oldi. Ish maxsus FPGA tizimida olib borildi, biroq tadqiqotchilar ta’kidlashlaricha, ularning ko‘p samarali usullari ochiq kodli dasturiy ta’minot va bugungi kunda mavjud tizimlarni sozlash yordamida qo‘llanilishi mumkin.

Olimlar Olimlar Meta, OpenAl Google, Nvidia va boshqalar kabi asosiy SI bozor o‘yinchilariga ish yuklarini qayta ishlash, tezroq va ko‘proq energiya yaratish uchun yangi yutuqlardan erkin foydalanishga imkon beradigan rivojlanishning manba kodini ochishlari muhimdir. Oxir oqibat, bu sun’iy intellekt shaxsiy kompyuterlar va mobil qurilmalarda to‘liq ishlay olishiga va inson miyasining funksionallik darajasiga yaqinlashishiga olib keladi.