Бастамас бұрын: үлкен тілдік үлгісіз AI

30 сабақта ойдан алынған оқу үйірмесі туралы қысқа сұрақтарға жауап беретін шағын жүйе құрастырасыз. Ол таныс қазақша тұлғаларды талдайды, сұрақ түрін анықтайды, бекітілген жазбаны табады да, жауабын дереккөзімен бірге көрсетеді. Дерек не таңдау негізі жетпесе, білмеймін дейді.

Жасанды интеллектіні бұрын оқымаған адам да осы курсты бастай алады. Ақылы API, тұрақты интернет пен арнайы бейнекарта қажет емес. Бірақ бұл бағдарламалаудың алғашқы курсы емес: 16-сабақтан бастап файл, JSON, функция, модуль мен күнді бірге қолданамыз; соңғы сабақтарда бірнеше файлдан тұратын бағдарламаны өлшеп, іске қосамыз.

Курс соңында не аласыз?

Соңында дайын жергілікті үлгіні пәрмен жолында іске қосып, сұрақтан дереккөзге дейінгі жолды көресіз және оның техникалық төлқұжатын аласыз. 2026 жылғы 25 қыркүйекте ARM сәулетін қолданатын, macOS 26.5.2 және Python 3.14.5 орнатылған компьютердегі бақылау өлшемі:

КиБ — 1024 байт, МиБ — 1024 КиБ, ал миллисекунд — секундтың мыңнан бір бөлігі. Жаңа іске қосу шеберхананы ашуға, ал дайын үдерістегі сұрау алдын ала әзірленген құралмен жұмыс істеуге ұқсайды. Бір жұмысшы үдеріс сұрауларды кезекпен орындайды; бірнеше үдеріс әртүрлі ядроны пайдалана алады. Бұл тәжірибеде төрт үдеріс ең жоғары нәтиже берді, ал сегіз үдеріс жұмысты одан әрі жеделдетпеді: ядро санының өсуі жылдамдықты өздігінен арттырмайды. Басқа компьютерде уақыт пен жад өзгеше болады, сондықтан бағдарлама тәжірибе жағдайын да шығарады. 0 / 10 тек жарияланған он бас тарту тексерісінің нәтижесін білдіреді; ол кез келген мәтінде қате болмайды деген уәде емес. 30-сабақта тәжірибені қайталап, мұндай тар үлгінің үлкен LLM-нен қай тұста мықты, қай тұста әлсіз екенін және екі тәсілді қашан біріктіру пайдалы болатынын кестемен талдайсыз.

Алдымен нені білу керек?

Жаңадан бастаушы үшін сенімді жол — Python курсының 1–17-сабақтарын әуелі өту. Айнымалы, мәтін, тізім, сөздік пен жиын; шарт пен қайталау; функция мен return; файл, JSON, модуль қосу және қатені өңдеу керек болады. SQL міндетті емес. SQL курсы кілтті, шектеуді және тексерілетін жазбаны түсінуге көмектеседі, бірақ каталогқа қажет ұғымдарды осы курста қайта түсіндіреміз. Go мен Rust та алғышарт емес.

Бірінші сабаққа дейін өзіңізді тексеріңіз. Терминалды ашып, Python файлын іске қоса алсаңыз; = мен == айырмасын түсіндірсеңіз; тізімді қайталау арқылы оқысаңыз; сөздіктен кілт бойынша мән алсаңыз; return бар функция жазсаңыз және JSON файлын оқысаңыз — дайынсыз. Үш не одан көп әрекет түсініксіз болса, алдымен Python курсының бастапқы бөлігін өтіңіз. Осы курстың 2-сабағы жұмыс орнын дайындайды, бірақ Python негіздерінің бәрін алмастырмайды.

AI туралы бес негізгі ұғым

Жасанды интеллект (AI) — тану, таңдау немесе қорытынды жасау секілді міндеттерді орындайтын бағдарламалардың жалпы атауы. Ол бір ғана құрылғыны не бір ғана әдісті білдірмейді.

Алгоритм — есепті шешетін нақты қадамдар реті. Дерек — сол қадамдар қолданатын жазба. Үлгі — кірісті нәтижеге айналдыратын сақталған тәсіл: ол адам жазған ережеден немесе мысалдардан табылған сандық баптаудан тұруы мүмкін. Үйрету — белгіленген мысалдардан сол баптауды табу. Үлгіні қолдану — дайын ереже не баптауды жаңа сұраққа пайдалану.

1–20-сабақта ережелік жүйе құрамыз: адам сөз бөлшектерін, тексеру ретін және дерек карточкаларын алдын ала береді. 21–25-сабақта шағын үйретілетін үлгі қосылады: ол белгіленген сұрақтардағы нышандарды санайды. 26–30-сабақта екі бөлікті дереккөз тексерісімен біріктіреміз. Үлкен тілдік үлгі (LLM) — үйретілетін үлгілердің бір түрі ғана; AI мен LLM бір ұғым емес.

Курстың тұтас тірек сызбасы:

сұрақ → сөз тұлғасын талдау → сұрақ түрі → кілт → бекітілген карточка → дереккөзді жауап
күмән, қайшылық не карточканың болмауы → себебі көрсетілген бас тарту

Жебе нәтижені келесі қадамға беру дегенді білдіреді. Сызбадағы қызыл жиек әрекетті не деректі, жасыл жебе ретті, сұр жазу қолданылу шегін көрсетеді. Бұл белгілерді алдымен сөзбен түсіндіреміз, содан кейін ғана олар арқылы толық ойды еске түсіреміз.

Тілдер бір ойды қалай құрастырады?

«Үйлерімізге» деген ойды алайық: үй, көптік, бізге тиесілілік және бағыт. Грамматика — осындай мағыналарды байланыстыратын ережелер. Морфема — өз қызметі бар ең кіші сөз бөлшегі. Морфология, яғни сөз құрылысы, сөздің морфемалардан қалай жасалатынын зерттейді.

• Аналитикалық тәсіл үстелдегі бөлек карточкаларға ұқсайды. Ағылшынның to our houses тіркесінде бағыт пен тиесілілік to және our деген жеке сөздермен берілген. Бұл тәсіл ағылшын, қытай, вьетнам, тай және кхмер тілдерінде айқын.
• Жалғамалы тәсіл шампурға ұқсайды: қызметі айқын бөлшектер белгіленген ретпен жалғанады. Қазақша үйлерімізге сөзін талдау үшін үй-лер-іміз-ге деп бөлеміз: үй — көп — біздің — бағыт. Кәдімгі жазуда дефис болмайды.
• Флективті тәсіл бір жапсырмада бірнеше мәлімет тұрғандай. Орысша столом сөзіндегі -ом бір мезгілде жекеше түр мен көмектес септікті білдіруге қатысады. Бұл сипат орыс, поляк, неміс, испан және литва тілдерінде айқын.

Бұлар бір-біріне өтпейтін үш қорап емес. Бір тіл бірнеше тәсілді қолданады. Ағылшын тілі көбіне аналитикалық болғанымен, houses сөзінде қосымша бар. Қазақ тілінде көмекші етістікпен жасалатын аналитикалық құрылымдар кездеседі. Негіздің дыбысы да өзгеруі мүмкін: кітап → кітабым, мұнда п дыбысы б болып өзгереді. Демек, шампур бейнесі бөлшектердің реті мен қызметін көрсетеді, әріптер ешқашан өзгермейді дегенді білдірмейді.

Зерттеудегі пайыз нені білдіреді?

Бүкіл тілге ортақ, ғылымда қабылданған «жалғамалылық пайызы» жоқ. Сан шығару үшін ненің және қандай мәтін жиынында саналатынын алдын ала айту керек. Мысалы, WALS септік пен шақты, қимылдың өту сипатын және райды білдіретін таңдалған көрсеткіштерді қарайды. Қимылдың өту сипаты істің аяқталғанын не қалай өтіп жатқанын, ал рай істің шындыққа қатысын, мысалы хабар, бұйрық немесе шарт екенін көрсетеді. WALS пайыз емес, санат береді.

Тар экранда кең кестелерді саусақпен оңға және солға жылжытыңыз.

Жолдар бір ғана қызмет атқаратын көрсеткіштен бірнеше қызметті бірге атқаратын көрсеткішке қарай берілген; топ ішінде ғылыми дәреже жоқ. Соңғы баған фин мен эвенк тілдерінде белгілердің араласатынын көрсетеді. WALS орыс пен ағылшын тілдерін де осы жалғану санатына қосады. Бірақ орыс тілінің бір қосымшасы бірнеше мағына бере алады, ал ағылшын тілі жеке сөздерді көп қолданады. Бір өлшем жеткіліксіз.

Нақты сандық жалғамалылық көрсеткішін Джозеф Гринберг ұсынған: болжамды морфема жіктерінің саны таңдалған мәтіндегі барлық морфема жіктерінің санына бөлінеді. Оның жүз сөздік ескі мәтін үлгілері мынадай қатар береді. Бұл — нақты мәтіндегі жіктердің пайызы; бүкіл тілдің үлесі емес:

Морфологиясы бай инуит тілінің төмен саны көрсеткіштің шегін бірден байқатады: ол сөз ұзындығын не «жалғамалылық мөлшерін» емес, жіктің болжамдылығын санайды. Қазіргі зерттеулер мұндай көрсеткіштердің мәтін жанрына және сөзді бөлу ережесіне тәуелді екенін де көрсетеді. Жоғарыдағы он тілдің бәріне және қазақ тіліне бірдей тәсілмен алынған салыстырмалы мәндер бұл дереккөздерде жоқ. Сондықтан қазақ тіліне 98%, 99% не 100% беріп, оны бірінші орынға қою — дерексіз сан ойлап табу.

Қазақ грамматикасының ғылыми сипаттамасы басқа нақты тұжырымды растайды: қазақ тілінің сөз тудыруы мен сөз түрленуі суффикстер арқылы жүреді. Бұл — маңызды артықшылық, бірақ дыбыс алмасуын да, кірме сөзді де, көмекші етістікті құрылымды да жоққа шығармайды. Парсы не орыс тілінен енген түбір қазақтың қалыпты жалғауын қабылдай алады; сөз төркіні пайызды өздігінен кемітпейді.

Неліктен қазақ тілін таңдадық?

Басқа тілдер «нашар» немесе «математикаға келмейді» деген себеп жоқ: кез келген табиғи тілді формалды сипаттап, бағдарламамен өңдеуге болады. Қазақ тілі осы оқу жобасына бес тексерілетін себеппен қолайлы:

1. Грамматикалық мағынаның едәуір бөлігі ретімен жалғанатын суффикстермен беріледі.
2. Бөлшектердің орнын негіз → көптік → тәуелдік → септік сызбасымен көрсетуге болады.
3. Көптеген оқу мысалында морфема шекарасы көрінеді, ал дыбыстық нұсқалар шектеулі ережелермен таңдалады.
4. Қазақ тілі ереженің қолайлылығын да, шегін де көрсетеді: дыбыс алмасуы, көпмағыналылық және аналитикалық құрылым бар.
5. Бізде тілдік білім, тексерілетін мысалдар және нәтижені салыстыратын морфологиялық модулі бар ашық adam жобасы бар.

Суффикстердің реті кестеге, шартқа және сөз бөлшектері арасындағы рұқсат етілген ауысу сызбасына табиғи түрде түседі. Сондықтан қазақ морфологиясы бағдарламалау сабағына көрнекі. Бірақ бүкіл тіл дайын формула емес: мәнмәтін, мағына мен ерекше жағдайлар бәрібір тексеруді қажет етеді.

Неге үлкен тілдік үлгісіз AI жасаймыз?

Үлкен тілдік үлгі еркін мәтін құрастыра алады. Бірақ жатық жауапта дереккөзсіз, шынға ұқсайтын мәлімет болуы мүмкін. Мұны галлюцинация, яғни дерексіз ойдан қосу дейміз. Біздің жүйе жаңа факт ойлап шығармайды: жарамды бір карточка табылғанда ғана жауап беріп, оның дереккөзін көрсетеді. Бұл каталогтан карточканы көрсететін, ал жазба болмаса соны ашық айтатын кітапханашыға ұқсайды.

Дегенмен қате мүлде жоғалмайды. Қате карточка, толық емес ереже, теріс талдау немесе бағдарлама қатесі жалған жауапқа әкелуі мүмкін. Біз бір нақты қауіпті — расталмаған факт құрастыруды — азайтып, тексеру жолын ашық қалдырамыз.

Шағын жергілікті бағдарлама аз есептеу қуатын жұмсап, сұрақты сыртқы қызметке жібермеуі мүмкін. 28-сабақта жеке жіктегішті, ал 30-сабақта бүкіл жүйені өлшейміз. Ашық LLM үлгілері үшін есептелген салмақ көлемі біздің файл көлемінен ондаған миллион есе үлкен, бірақ бұл еселік тек көрсетілген жазылымдардың көлемін сипаттайды: жүйелердің міндеті мен мүмкіндігі әртүрлі.

Тірек белгілерімен қалай оқу керек?

Курс Виктор Фёдорович Шаталов әдістемесінің бейімделген қағидаларын қолданады: алдымен тұтас бөлімді көру, содан кейін толық түсіндіру; одан соң ықшам тірек сызбасы; бетті жапқаннан кейін сызбаны еске түсіру және жаңа мысалда әрекет ету. Әр бес сабақтан соң қайта тапсыруға болатын меңгеру межесі бар. Қате жолды жаппайды, қай тірекке оралу керегін көрсетеді.

Мына ретпен жұмыс істеңіз: өмірлік бейне → дайын нәтиже → жаңа ұғымдар мен белгілер → бетке қарамай еске түсіру → басқа деректегі тапсырма → үлгі жауап → қатені өз сөзіңізбен түсіндіру. Кодты жай ғана оқып шығу — тапсырманы орындау емес.

Алты меже: сөзді қолмен талдау; сол талдауды кодпен орындау; сұрақтың бірмәнді кілтін алу; тек жарамды карточкадан жауап беру; жіктеуіш сапасын адал өлшеу; соңғы бағдарламаны іске қосып, оның шегін қорғау.

Дереккөздер: WALS: грамматикалық көрсеткіштердің жалғануы, WALS: бір көрсеткіш беретін мағына саны, Гринбергтің сандық тіл типологиясы туралы мақаласы, мәтін жиыны көрсеткіштері мен олардың шектеулері туралы қазіргі зерттеу, қазақ грамматикасының сипаттамасы, қазақ тілін ережемен морфологиялық талдау, қазіргі ауызша қазақ тіліндегі көмекші етістік құрылымдары, LLM дерек қателеріне шолу, В. Ф. Шаталовтың тірек белгілері.