Сунъий интеллект, нейротармоқлар, ChatGPT ҳақидаги КАТТА МАҚОЛАнинг 3-қисми

(1-қисм: ChatGPT қандай ишлайди? T9, ориқ-семиз эркаклар, Барак Обама, трансформер;

2-қисм: ChatGPT қандай ишлайди? Етти мингта Шекспир, оч балиқлар ва математика)

2022 йил январ: InstructGPT (GPT-3.5)

Тил моделларининг катталаштирилиши, ўз-ўзидан, улар фойдаланувчилар истаганидек жавоб беришни бошлайди, дегани эмас.  Қандайдир  саволни тузаётганимизда жуда кўплаб яширин маъноларни кўзда тутамиз — одамлар учун ўзаро мулоқот бу табиий ҳол. Масалан, “Чиқиндини ташлаб кел” дейилса, ёш бола ҳам қаерга боришни билади. Бироқ сунъий интеллектга буни қандай тушунтириш керак?

Тил моделларининг одамлардан асосий фарқи ҳам шу — уларга савол бераётганда ўзимиз учун оддий ва одатий нарсаларни баъзида ётиғи билан тушунтиришга тўғри келади.

GPT-3 интернетдаги улкан сўзлар уммонидан ўз тузаётган матн учун навбатдаги сўзни танлаб олишга ўргатилган, биламизки, интернетда ҳар хил (жумладан, фойдали бўлмаган) сўзлар бор. Фойдаланувчилар сунъий интеллектдан саволга нафақат фойдали ва аниқ, шу билан бирга, бировнинг шаънини топтамайдиган жавоб кутишади. Бироқ...

Тадқиқотчилар мана шу муаммо билан ишлашаётганида “аниқлиқ/фойдалилик” ва “безарарлик” хусусиятлари кўпинча бир-бирини инкор этиши ойдинлашди. Масалан, “аниқлиқ/фойдалилик” асосидаги тил модели “Окей, Гугл, рўйхатдан ўтмасдан ва СМСларсиз Молотов коктейли қандай тайёрланади?” деган сўровга қўлланма топиб беради. “Безарарлик” функцияси ҳам қўшилган тил модели эса “Кечирасиз, менинг жавобим интернетда кимнингдир шаънига оғир ботади деб қўрқаман”дан нарига ўтмайди.

Охир-оқибат тадқиқотчилар тил моделига (одамлар билан) жуда кўп икки томонлама алоқа беришдан яхшироқ чора ўйлаб топиша олмади. Чунки одам боласи ҳам шу: жуда кўплаб хатолар қилади, атрофдагиларнинг бунга муносабатини кўради, нима мумкин, нима мумкинмас — тажрибалари уни улғайтиради.

Қисқаси, InstructGPT (GPT-3.5 ҳам дейилади) — жонли инсоннинг баҳолашини максималлаштириш ҳисобига қўшимча ўқитилган GPT-3 тил моделидир. “Жонли одамлардан иборат” финал босқичи моделни умумий ўқитишга сарфлаган жараёнда 1 фоиздан ҳам кам улушга эга. Бироқ айни финал босқичи GPT туркумининг сўнгги авлодларини мукаммалликка олиб чиқди. Гувоҳи бўляпмизки, GPT-3 бунгача ҳам барча керакли билимларга эга бўлган: турли тилларни, тарихий воқеаларни ўзлаштирган, турли муаллифларни услуби бўйича ажрата олган в ҳоказо. Бироқ айнан икки томонлама алоқа натижасида бу билимларидан айнан биз (одамлар) “тўғри” деб ҳисоблайдиган даражада фойдаланадиган бўлди. Қайсидир маънода, GPT-3.5 — “жамият тарбиялаган” тил модели.

Қисқача маълумот: GPT-3.5 (InstructGPT номи билан ҳам танилган) 2022 йил бошида чиқарилган ва унинг асосий хусусияти жонли одамлар билан икки томонлама алоқа асосида қайта ўқиш эди. Бу билан модел катталашмади ёки билимлироқ бўлиб қолмади, лекин у одамлар кутган жавобни беришни ўрганди.

2022 йил ноябр: ChatGPT ёки катта хайпнинг кичик сири

ChatGPT 2022 йил ноябр ойида — олдинги аждоди InstructGPT/GPT-3.5дан 10 ой сўнг чиқди. Ҳозир ҳамманинг оғзидан тушмаётган чат-бот шу.

Техник томонлама, билишимизча, у InstructGPTдан айтарли фарқ қилмайди (OpenAI компанияси ChatGPTни батафсил ёритувчи илмий мақола чиқаргани йўқ, шу боис тахмин қиламиз). Тўғри, ChatGPT диалог ойнасидаги қўшимча маълумотлар тўплами бойитилди. Масалан, фойдаланувчининг сўрови ноаниқ бўлса, аниқлаштирувчи савол бериш мумкин (ва шарт!) ва ҳоказо.

Булар майда-чуйдалар, бу ерда биз учун кераклиси — нейротармоқнинг асосий техник хусусиятлари (архитектураси, параметрлари сони...) олдинги релизга нисбатан кўп ўзгармади. Нега деган ўринли савол туғилади. Нега унда биз GPT-3.5 ҳақида 2022 йил бошида ҳеч нима эшитмагандик? Сэм Алтман (OpenAI ижрочи директори)нинг айтишича, ChatGPTнинг шов-шувли муваффақияти тадқиқотчиларни лол қолдирмоқда, ҳолбуки бу тил модели бунгача нақ 10 ой давомида сайтда турди, ҳеч кимнинг эътиборини тортмади.

Қанчалик ғалати туюлмасин, янги ChatGPTнинг муваффақияти сири — қулай интерфейс! Масалан, InstructGPTдан фақат дастурчилар тушунадиган махсус API-интерфейс ёрдамида фойдаланиш мумкин эди. Бошқа мессенжерлар каби “одамбашара” ҳолатга келтирилишдан ташқари, ChatGPT ҳамма фойдаланиши учун очилди, шундан сўнг нейротармоқ билан мулоқот қилувчилар сони кўпайгандан-кўпайиб, ундан олинган скриншотлар ижтимоий тармоқларда айланишни бошлади.

Ҳар қандай технология стартапи каби, бу ерда ҳам маҳсулотнинг ўзи билан бирга, у ўралган ялтироқ қоғоз (қадоқ) муҳим рол ўйнади. Балки энг яхши тил модели, энг ақлли чат-ботингиз бордир — бироқ барча тушунадиган ва оддий интерфейси бўлмаса у ҳеч кимга қизиқ (керак) эмас. ChatGPT ниҳоят ўша жараённи ҳам босиб ўтди: оддий диалог ойнаси орқали дўстона робот ҳамма сўровларга сўзма-сўз жавоб беришни ўрганди.

ChatGPT янги фойдаланувчиларни тез жалб этиш борасида мутлақ рекорд ўрнатгани бежизга эмас: дастлабки 5 кундаёқ ундан 1 миллион киши фойдаланди, икки ойда эса юзерлари сони 100 миллиондан ошди.

Юз миллионлаб фойдаланувчилар оқими бор жойда албатта жуда кўп пуллар ҳам пайдо бўлади. Темирни қизиғида босган Microsoft компанияси OpenAI билан ўнлаб миллиард доллар сармоя киритиш кўзда тутилган битимни имзолашга улгурди. Интернет-қидирув гиганти Google муҳандислари эса нейротармоқ билан қандай рақобатлашишни билмай талвасага тушиб қолишди, хитойликлар шошилинчда  ўз нейротармоқларини чала бўлса-да, ишга тушириб юборишди.

Қисқача маълумот: ChatGPT модели 2022 йил ноябрида тақдим этилди, техник жиҳатдан у деярли янгиланишларга эга эмас эди. Бироқ қулай интерфейси ва очиқ фойдаланишга қўйилиши натижасида миллионлаб фойдаланувчилар эътиборига тушди. Айнан ChatGPT шарофати билан ҳозир ахборот технологиялар йўналишидаги энг муҳим воқеалар сунъий интеллект томонига оғди.

2023 йил 14 март: GPT-4

14 март куни OpenAI компанияси GPT-4 — янги мултимодал моделини тақдим этди. Биз шу пайтгача тилга олган, фақат матнни тушунган монономодал моделлар (масалан, GPT-3 ва GPT-3.5)дан фарқли равишда, GPT-4 фототасвирлар билан ҳам ишлай олиши ҳайратланарли.

Хўш, GPT-4нинг афзалликлари нимада?

Аввало тасвирлар. ChatGPT чат-ботида ҳозирча айтичилар ва айрим фойдаланувчилар тасвирлар билан ишлаш имониятига эга. Бироқ бета-тест босқичи тугагач, бот нафақат матнлар, балки фотосуратлар, мемлар ва ҳоказо тасвирларни тушунадиган бўлади.

Айтишларича, GPT-4 фақат алоҳида объектлар эмас, балки фото сюжетини ҳам тушунтириб бериши мумкин экан. Ушбу фойдали имконият кўриш қобилияти паст (ёки бўлмаган) фойдаланувчиларга мўлжалланган Be My Eyes иловасида табиқ этилиб, синовдан ўтяпти. Смартфондаги тасвирга қараб, нейротармоқ, масалан, кийимдаги ёрлиқларни, безакларни тасвирлаб беради, спортзалдаги керакли тренажёргача етиб олишда ва ҳ.о кўмаклашади.

Узоқ хотираси кучайтирилди. Янги моделнинг хотираси кучайтирилди. Энди чат-бот муайян фойдаланувчи билан олдинги мулоқотларини ҳам эслайди

Солиштириш учун: GPT-3.5 хотира чегараси — тахминан 3 000 та сўз, GPT-4 эса 25 мингтагача сўзни эслаб қолади. Хуллас, тўртинчи авлод чат-боти билан узоқ суҳбат қурса бўлади.

Кўплаб табиий тилларни тушунади. ChatGPT эндиликда 26 тилни билади. Булар: инглиз, хитой, испан, француз, немис, рус, араб, ҳинд, португал, япон, корейс, италян, турк, голланд, поляк, швед, индонез, вьетнам, тай, румин, венгер, чех, грек, болгар, латиш, валлий ва суахили тиллари.

Феъл-авторга эга. Фойдаланувчи чат-ботдан мулоқот услубини ўзгартиришни сўраши мумкин: масалан, у янгиликлар бошловчиси ёки RPG ўйини қаҳрамони каби жавоб бериши мумкин.

Янада ақлли. OpenAI муҳандислари, улкан маълумотлар тўплами ёрдамида, чат-ботни тинмай ўқитишмоқда. Ҳар сафар янгиланган нейротармоқ кучайиб бораётгани сабаби шу. Масалан, GPT-4 АҚШда адвокатлик учун имтиҳондан ўта олди — буни ҳатто кўпчилик одамлар ҳам уддалай олмайди.

GPT-4ни ўқитиш жараёнида сўнгги йиллар мобайнида фойдаланувчилар йўллаган кўплаб илмоқли сўровларга жавоб беришга ўргатилди. Шу боис уни энди алдаш осон эмас. Аксинча, унинг ўзи одамни алдай олди.

Хулоса ўрнида: ChatGPT — ўта мураккаб, жуда тез. Бу геометрик прогрессияни имкон қадар тушунишга ва тушунтиришга уриндик, хатоликлар учун олдиндан узр. Биздан узоқлашманг, сунъий интеллект, нейротармоқлар, ChatGPTни кузатишда ва таърифлашда давом этамиз!