Sun’iy intellekt, neyrotarmoqlar, ChatGPT haqidagi KATTA MAQOLAning 3-qismi

(1-qism: ChatGPT qanday ishlaydi? T9, oriq-semiz erkaklar, Barak Obama, transformer;

2-qism: ChatGPT qanday ishlaydi? Yetti mingta Shekspir, och baliqlar va matematika)

2022-yil yanvar: InstructGPT (GPT-3.5)

Til modellarining kattalashtirilishi, o‘z-o‘zidan, ular foydalanuvchilar istaganidek javob berishni boshlaydi, degani emas.  Qandaydir  savolni tuzayotganimizda juda ko‘plab yashirin ma’nolarni ko‘zda tutamiz — odamlar uchun o‘zaro muloqot bu tabiiy hol. Masalan, “Chiqindini tashlab kel” deyilsa, yosh bola ham qayerga borishni biladi. Biroq sun’iy intellektga buni qanday tushuntirish kerak?

Til modellarining odamlardan asosiy farqi ham shu — ularga savol berayotganda o‘zimiz uchun oddiy va odatiy narsalarni ba’zida yotig‘i bilan tushuntirishga to‘g‘ri keladi.

GPT-3 internetdagi ulkan so‘zlar ummonidan o‘z tuzayotgan matn uchun navbatdagi so‘zni tanlab olishga o‘rgatilgan, bilamizki, internetda har xil (jumladan, foydali bo‘lmagan) so‘zlar bor. Foydalanuvchilar sun’iy intellektdan savolga nafaqat foydali va aniq, shu bilan birga, birovning sha’nini toptamaydigan javob kutishadi. Biroq...

Tadqiqotchilar mana shu muammo bilan ishlashayotganida “aniqliq/foydalilik” va “bezararlik” xususiyatlari ko‘pincha bir-birini inkor etishi oydinlashdi. Masalan, “aniqliq/foydalilik” asosidagi til modeli “Okey, Gugl, ro‘yxatdan o‘tmasdan va SMSlarsiz Molotov kokteyli qanday tayyorlanadi?” degan so‘rovga qo‘llanma topib beradi. “Bezararlik” funksiyasi ham qo‘shilgan til modeli esa “Kechirasiz, mening javobim internetda kimningdir sha’niga og‘ir botadi deb qo‘rqaman”dan nariga o‘tmaydi.

Oxir-oqibat tadqiqotchilar til modeliga (odamlar bilan) juda ko‘p ikki tomonlama aloqa berishdan yaxshiroq chora o‘ylab topisha olmadi. Chunki odam bolasi ham shu: juda ko‘plab xatolar qiladi, atrofdagilarning bunga munosabatini ko‘radi, nima mumkin, nima mumkinmas — tajribalari uni ulg‘aytiradi.

Qisqasi, InstructGPT (GPT-3.5 ham deyiladi) — jonli insonning baholashini maksimallashtirish hisobiga qo‘shimcha o‘qitilgan GPT-3 til modelidir. “Jonli odamlardan iborat” final bosqichi modelni umumiy o‘qitishga sarflagan jarayonda 1 foizdan ham kam ulushga ega. Biroq ayni final bosqichi GPT turkumining so‘nggi avlodlarini mukammallikka olib chiqdi. Guvohi bo‘lyapmizki, GPT-3 bungacha ham barcha kerakli bilimlarga ega bo‘lgan: turli tillarni, tarixiy voqealarni o‘zlashtirgan, turli mualliflarni uslubi bo‘yicha ajrata olgan v hokazo. Biroq aynan ikki tomonlama aloqa natijasida bu bilimlaridan aynan biz (odamlar) “to‘g‘ri” deb hisoblaydigan darajada foydalanadigan bo‘ldi. Qaysidir ma’noda, GPT-3.5 — “jamiyat tarbiyalagan” til modeli.

Qisqacha ma’lumot: GPT-3.5 (InstructGPT nomi bilan ham tanilgan) 2022-yil boshida chiqarilgan va uning asosiy xususiyati jonli odamlar bilan ikki tomonlama aloqa asosida qayta o‘qish edi. Bu bilan model kattalashmadi yoki bilimliroq bo‘lib qolmadi, lekin u odamlar kutgan javobni berishni o‘rgandi.

2022-yil noyabr: ChatGPT yoki katta xaypning kichik siri

ChatGPT 2022-yil noyabr oyida — oldingi ajdodi InstructGPT/GPT-3.5dan 10 oy so‘ng chiqdi. Hozir hammaning og‘zidan tushmayotgan chat-bot shu.

Texnik tomonlama, bilishimizcha, u InstructGPTdan aytarli farq qilmaydi (OpenAI kompaniyasi ChatGPTni batafsil yorituvchi ilmiy maqola chiqargani yo‘q, shu bois taxmin qilamiz). To‘g‘ri, ChatGPT dialog oynasidagi qo‘shimcha ma’lumotlar to‘plami boyitildi. Masalan, foydalanuvchining so‘rovi noaniq bo‘lsa, aniqlashtiruvchi savol berish mumkin (va shart!) va hokazo.

Bular mayda-chuydalar, bu yerda biz uchun keraklisi — neyrotarmoqning asosiy texnik xususiyatlari (arxitekturasi, parametrlari soni...) oldingi relizga nisbatan ko‘p o‘zgarmadi. Nega degan o‘rinli savol tug‘iladi. Nega unda biz GPT-3.5 haqida 2022-yil boshida hech nima eshitmagandik? Sem Altman (OpenAI ijrochi direktori)ning aytishicha, ChatGPTning shov-shuvli muvaffaqiyati tadqiqotchilarni lol qoldirmoqda, holbuki bu til modeli bungacha naq 10 oy davomida saytda turdi, hech kimning e’tiborini tortmadi.

Qanchalik g‘alati tuyulmasin, yangi ChatGPTning muvaffaqiyati siri — qulay interfeys! Masalan, InstructGPTdan faqat dasturchilar tushunadigan maxsus API-interfeys yordamida foydalanish mumkin edi. Boshqa messenjerlar kabi “odambashara” holatga keltirilishdan tashqari, ChatGPT hamma foydalanishi uchun ochildi, shundan so‘ng neyrotarmoq bilan muloqot qiluvchilar soni ko‘paygandan-ko‘payib, undan olingan skrinshotlar ijtimoiy tarmoqlarda aylanishni boshladi.

Har qanday texnologiya startapi kabi, bu yerda ham mahsulotning o‘zi bilan birga, u o‘ralgan yaltiroq qog‘oz (qadoq) muhim rol o‘ynadi. Balki eng yaxshi til modeli, eng aqlli chat-botingiz bordir — biroq barcha tushunadigan va oddiy interfeysi bo‘lmasa u hech kimga qiziq (kerak) emas. ChatGPT nihoyat o‘sha jarayonni ham bosib o‘tdi: oddiy dialog oynasi orqali do‘stona robot hamma so‘rovlarga so‘zma-so‘z javob berishni o‘rgandi.

ChatGPT yangi foydalanuvchilarni tez jalb etish borasida mutlaq rekord o‘rnatgani bejizga emas: dastlabki 5 kundayoq undan 1 million kishi foydalandi, ikki oyda esa yuzerlari soni 100 milliondan oshdi.

Yuz millionlab foydalanuvchilar oqimi bor joyda albatta juda ko‘p pullar ham paydo bo‘ladi. Temirni qizig‘ida bosgan Microsoft kompaniyasi OpenAI bilan o‘nlab milliard dollar sarmoya kiritish ko‘zda tutilgan bitimni imzolashga ulgurdi. Internet-qidiruv giganti Google muhandislari esa neyrotarmoq bilan qanday raqobatlashishni bilmay talvasaga tushib qolishdi, xitoyliklar shoshilinchda  o‘z neyrotarmoqlarini chala bo‘lsa-da, ishga tushirib yuborishdi.

Qisqacha ma’lumot: ChatGPT modeli 2022-yil noyabrida taqdim etildi, texnik jihatdan u deyarli yangilanishlarga ega emas edi. Biroq qulay interfeysi va ochiq foydalanishga qo‘yilishi natijasida millionlab foydalanuvchilar e’tiboriga tushdi. Aynan ChatGPT sharofati bilan hozir axborot texnologiyalar yo‘nalishidagi eng muhim voqealar sun’iy intellekt tomoniga og‘di.

2023-yil 14 mart: GPT-4

14-mart kuni OpenAI kompaniyasi GPT-4 — yangi multimodal modelini taqdim etdi. Biz shu paytgacha tilga olgan, faqat matnni tushungan mononomodal modellar (masalan, GPT-3 va GPT-3.5)dan farqli ravishda, GPT-4 fototasvirlar bilan ham ishlay olishi hayratlanarli.

Xo‘sh, GPT-4ning afzalliklari nimada?

Avvalo tasvirlar. ChatGPT chat-botida hozircha aytichilar va ayrim foydalanuvchilar tasvirlar bilan ishlash imoniyatiga ega. Biroq beta-test bosqichi tugagach, bot nafaqat matnlar, balki fotosuratlar, memlar va hokazo tasvirlarni tushunadigan bo‘ladi.

Aytishlaricha, GPT-4 faqat alohida obyektlar emas, balki foto syujetini ham tushuntirib berishi mumkin ekan. Ushbu foydali imkoniyat ko‘rish qobiliyati past (yoki bo‘lmagan) foydalanuvchilarga mo‘ljallangan Be My Eyes ilovasida tabiq etilib, sinovdan o‘tyapti. Smartfondagi tasvirga qarab, neyrotarmoq, masalan, kiyimdagi yorliqlarni, bezaklarni tasvirlab beradi, sportzaldagi kerakli trenajyorgacha yetib olishda va h.o ko‘maklashadi.

Uzoq xotirasi kuchaytirildi. Yangi modelning xotirasi kuchaytirildi. Endi chat-bot muayyan foydalanuvchi bilan oldingi muloqotlarini ham eslaydi

Solishtirish uchun: GPT-3.5 xotira chegarasi — taxminan 3 000 ta so‘z, GPT-4 esa 25 mingtagacha so‘zni eslab qoladi. Xullas, to‘rtinchi avlod chat-boti bilan uzoq suhbat qursa bo‘ladi.

Ko‘plab tabiiy tillarni tushunadi. ChatGPT endilikda 26 tilni biladi. Bular: ingliz, xitoy, ispan, fransuz, nemis, rus, arab, hind, portugal, yapon, koreys, italyan, turk, golland, polyak, shved, indonez, vetnam, tay, rumin, venger, chex, grek, bolgar, latish, valliy va suaxili tillari.

Fe’l-avtorga ega. Foydalanuvchi chat-botdan muloqot uslubini o‘zgartirishni so‘rashi mumkin: masalan, u yangiliklar boshlovchisi yoki RPG o‘yini qahramoni kabi javob berishi mumkin.

Yanada aqlli. OpenAI muhandislari, ulkan ma’lumotlar to‘plami yordamida, chat-botni tinmay o‘qitishmoqda. Har safar yangilangan neyrotarmoq kuchayib borayotgani sababi shu. Masalan, GPT-4 AQShda advokatlik uchun imtihondan o‘ta oldi — buni hatto ko‘pchilik odamlar ham uddalay olmaydi.

GPT-4ni o‘qitish jarayonida so‘nggi yillar mobaynida foydalanuvchilar yo‘llagan ko‘plab ilmoqli so‘rovlarga javob berishga o‘rgatildi. Shu bois uni endi aldash oson emas. Aksincha, uning o‘zi odamni alday oldi.

Xulosa o‘rnida: ChatGPT — o‘ta murakkab, juda tez. Bu geometrik progressiyani imkon qadar tushunishga va tushuntirishga urindik, xatoliklar uchun oldindan uzr. Bizdan uzoqlashmang, sun’iy intellekt, neyrotarmoqlar, ChatGPTni kuzatishda va ta’riflashda davom etamiz!