TELEGEI

Home

Машиналық ойлау

Vasant Dhar

Оқылуы: 0%

Жазылымсыз режим: 20-беттен кейін жазылым беті ашылады, әрі қарай әр 10 бет сайын (ең көбі 5 рет).

20 px
1.85
0.30 px
0.95 em
Image segment 0

Анық, шұғыл және терең адамгершілікке толы. Дхардың ЖИ арқылы өткен жеке сапары «Машиналармен ойлау» еңбегін ғылыми фантастика емес, айна секілді сезіндіреді – ол бізге сенім, төзімділік және алға қарай ұмтылған әлемде қалай нық тұру керектігі туралы ойлануға көмектеседі. — Дэвид Ко, Calm компаниясының бас директоры

Ақыры, әлемдегі жетекші ЖИ зерттеушілері мен практиктерінің бірі жазған, әрі озық, әрі оқуға жеңіл кітап жарық көрді. Бір жағынан сала тарихы, бір жағынан маман еместерге арналған нұсқаулық, бір жағынан ЖИ басқару манифесі және автордың өмір жолының бір бөлігі болып табылатын «Машиналармен ойлау» – бұл біздің заманымыздың парадигмалық ауысуымен арпалысқан кәсіби мамандар, саясаткерлер және мүдделі азаматтар үшін таптырмас оқу құралы. — Пол Ширд, Экономист және «Ақша билігі» (The Power of Money) кітабының авторы

ЖИ сарапшысы болғысы келетіндер дүниесінде Васант Дхар ЖИ-дің дүркіреген және тоқыраған кезеңдерін бастан өткеріп, ұзақ мерзімді ойын ойнаған адам ретінде ерекшеленеді. Бұл керемет кітабында ол бізге ЖИ әлемін түсінудің сабырлы әрі негізделген жолын және заманымыздың ең маңызды инновациясымен жұмыс істеудің нұсқаулығын ұсынады. — Нандан Нилекани, Infosys негізін қалаушы және төрағасы, UIDAI (Aadhaar) негізін қалаушы төрағасы

Толассыз мақтау мен жақын арадағы ақырзаманды кезектестіріп айтатын ЖИ сарапшыларына толы әлемде, Васант бұл пікірталастағы нюанстарды көре білетін, ЖИ-дің күшті жақтары мен шектеулерін бағалай алатын тәжірибесі мен парасаты бар маман ретінде дараланады. Мен оның «Машиналармен ойлау» атты жаңа кітабын ЖИ-дің өмір сүру және жұмыс істеу салтымызды қалай өзгертетініне қызығатын немесе оған қатысы бар кез келген адамға оқуға кеңес беремін. — Асват Дамодаран, Нью-Йорк университетінің (NYU) профессоры және бағалау бойынша гуру

Васант Дхардың бірегей көзқарасы бар: ол кішкентай артықшылықтарды үлкен байлыққа айналдыратын сауда алгоритмдерін құрудан бастап, ЖИ-дің тар шеңберлі қолданбалардан жалпы мақсаттағы технологияға дейін дамуын бақылаған. «Машиналармен ойлау» кітабында ол алгоритмдерге қашан сену керектігін, қашан күмәнмен қарау керектігін және ЖИ бізді басқармай тұрып, оны қалай басқару керектігін ашады. Бұл біздің ЖИ-ге негізделген болашағымыз үшін міндетті оқу құралы. — Эрик Бринжолфссон, Стэнфорд университетінің профессоры және Workhelix, Inc. негізін қалаушы

ЖИ-дің бастауынан оның көптеген ықтимал болашағына дейінгі айқын, терең әрі қызықты саяхат. Дхардың баяндауы әрі жеке, әрі интеллектуалды тұрғыдан терең, ол ЖИ саласында басынан бастап жүрген және болашақты нақты көре алатын маман. Анық, таңғалдыратын және терең адамгершілікке толы бұл кітап – болашақты жеке сезіндіретін сирек кездесетін туынды. ЖИ туралы кітаптар теңізінде, сіз бұл салаға жаңадан келсеңіз де, тәжірибелі маман болсаңыз да, бірінші кезекте оқуға тиіс кітап осы. — Синан Арал, Массачусетс технологиялық институтының (MIT) технология және менеджмент бойынша ерекше еңбегі сіңген профессоры

МАШИНАЛАРМЕН ОЙЛАУ

ЖИ-ДІҢ ҒАЖАП ЖАҢА ӘЛЕМІ

ВАСАНТ ДХАР

Image segment 10

АЛҒЫ СӨЗ <span data-term="true"> СКОТТ ГЭЛЛОУЭЙДЕН </span>

ЖИ келе жатқан жоқ. Ол осында. Ол есік қақпады; ол жай ғана қонақ бөлмеге орналасып алып, Wi-Fi құпия сөзін көшіріп алды.

Жасанды интеллект бізбен бірге көпшілік ойлағаннан да ұзақ уақыт бойы болды. Бірақ бірнеше жылдың ішінде ол қаруға айналып, монетизацияланып, біздің ең құнды ресурсымыз – назарымыздың кодын тапқан компаниялар арқылы таспаларымызға (feed) тықпаланды. TikTok, Meta және қалғандары адамдарды байланыстыру үшін емес, олар біздің назарымызды аударып, сатып алушылар мен сатушыларды байланыстыру үшін жұмыс істейді. Цукерберг бізді біріктіріп байыған жоқ — ол бізді бір-бірімізден алшақтату арқылы байыды.

Менің NYU Stern-дегі досым әрі әріптесім Васант Дхар – бұл саланың негізін қалаушылардың бірі. Көптеген адамдар ЖИ-ді өткен сейсенбіде ашқандай болса, Васант төрт онжылдық бойы траншеяларда — зерттеу жүргізуде, құруда, оқытуда және жазуда жүрді. Ол болжап отырған жоқ. Ол біледі.

Бұл кітап — «Машиналармен ойлау» — сіздің шифрды шешуші сақинаңыз (decoder ring). Бұл « сингулярлық » (технологиялық дамудың адам бақылауынан шығып кететін кезеңі) туралы аптыққан TED Talk немесе роботтардың билік орнатуы туралы дистопиялық монолог емес. Бұл ЖИ-дегі парадигмалық ауысулардың картасы. Ол алгоритмдердің қалай «артықшылық» беретінін ашып көрсетеді және бұл технологияның бизнес, мәдениет және адамзат үшін не білдіретінін түсіндіреді.

Васант орталық қайшылықты былай сипаттайды: біз бөгде планеталық көршімен (roommate) бірге тұрып жатырмыз. Ол мінсіз ағылшын тілінде сөйлейді және сұрақтарымызға жауап береді, бірақ біз оның қалай ойлайтынын немесе өзіне қандай мақсаттар қоятынын білмейміз. Бұл ғылыми фантастика емес — бұл бүгінгі күн. Ал егер сіз көршіңіздің қалай ойлайтынын білмесеңіз, оған көліктің кілтін ұстата салудың қажеті жоқ шығар.

ЖИ қазірдің өзінде электр қуаты мен интернет сияқты жалпы мақсаттағы технологиялар (экономиканың көптеген салаларына түбегейлі әсер ететін іргелі инновация) қатарына қосылды. Бірақ бір ерекшелік бар: олардан айырмашылығы, ЖИ шешім қабылдайды, бейімделеді және үйренеді. Бұл біз бұрын-соңды көрмеген басқару қиындықтарын тудырады. ЖИ-ді белгілі бір адамзат істерінде шектеу керек пе? Оның міндеттері болуы тиіс пе? Құқықтары ше? Кім шешеді — инженерлер ме, әлде заң шығарушылар ма? Бұл академиялық пікірталастар емес. Бұл ЖИ өз ережелерін жазбай тұрып, біз қазір жауап беруіміз керек сұрақтар.

Жұмыс орындарына келетін болсақ, ең қатты естілетін дауыс – үрей: «ЖИ бәрін тартып алады». Васант бізге басқа қырынан көрсетеді. ЖИ-ге «сиқырлы шар» емес, ойласушы серіктес ретінде қарайтын адамдар үшін артықшылық өте үлкен. ЖИ талантты еселейді және түрлі салалардағы үздік он пайызды тоқтату мүмкін болмайтындай етеді. Басқалар үшін бұл қиын кезең болады. Бұл кітап сіздің сол бөліністің дұрыс жағында болуыңызды қамтамасыз ету туралы.

Ең жақсы деректі шығармалар оқиғалар арқылы жұмыс істейді және «Машиналармен ойлау» тамаша оқиғаны баяндайды. Васант сізді бұл революция басталған зертханаларға, аудиторияларға және директорлар кеңесіне апарады — ол басты жаңалықтарға шыққаннан әлдеқайда бұрын басталған.

«Машиналармен ойлау» сізді ЖИ саласында білімдірек етеді, жарнамалық шуға күмәнмен қарауға үйретеді және алдағы таңдауларға жақсырақ дайындайды. Оны оқыңыз, одан үйреніңіз және құдай үшін — көршіңізге сарайдың кілтін беріп қоймаңыз.

Скотт Гэллоуэй

ПРЕДИСЛОВИЕ: БАСТАУ НҮКТЕСІ: ЖИ БҰРЫЛЫС СӘТІНДЕ

Елдер мен бизнесті басқару, сондай-ақ жеке адамдардың өмірі зымырандай жылдамдықпен өзгеруде. Оларды Жасанды Интеллект төңірегіндегі екі қуатты күш алға сүйреп келеді. Бұл күштерді дұрыс бағыттау маңызды, әйтпесе бәріміз үшін жағдай түзетілместей нашарлауы мүмкін. Әрбір адам үшін бәс тым жоғары.

Бастапқыда мен 2018 жылғы «Машиналарға қашан сенуіміз керек? » атты TEDx баяндамамнан кейін «Көпшілікке арналған ЖИ» туралы кітап жазбақ болғанмын. Мен үздік әдеби агентпен келісімшартқа отырып, 50 беттік ұсыныс жаздым. Бірақ COVID-тің келуімен мен кітап жазуды кейінге қалдырып, орнына Brave New World подкастын бастадым. Онда мені мазалаған маңызды сұрақты қойдым: «Болашақтағы біз қандай әлемде өмір сүргіміз келеді? » Мен үшін бұрын ғылыми фантастика деп саналған дүниелердің көбі ғылымға айналудың аз-ақ алдында тұр еді.

Келесі бірнеше жыл ішінде мен Жасанды Интеллект, әлеуметтік медиа, денсаулық сақтау, қоршаған орта, философия, заң, экономика, қаржы, өнер, мәдениет, білім беру және жүргізушісіз көліктер саласындағы әлемнің жетекші ойшылдарымен және көшбасшыларымен керемет әрі мазмұнды әңгімелер өткіздім. Мен өмірімізді өзгертіп жатқан өзгерістердің бір мезгілдегі жылдамдығы мен абайсыздығы адамзат тарихында бұрын-соңды болмаған деңгейде екенін түсіндім. Менің ойымша, бүгінгі таңда әрбір азамат ЖИ-ді түсінуі тиіс: оның қалай жұмыс істейтінін, оның сиқырын, тәуекелдерін және ЖИ дәуірінде қалай даму керектігін білуі қажет. Бұл біз үшін ЖИ және оны басқару туралы өткір сұрақтарды анықтап, жауаптар туралы ойланатын шешуші кезең. Көріп тұрғаныңыздай, егер біз дұрыс сұрақтар қоймасақ немесе қате таңдау жасасақ, бәрі түзетілмейтіндей бұзылуы мүмкін деп қорқамын.

Біріншіден, ЖИ бетбұрыс нүктесінен өтіп кетті. Бұл саланың алпыс жылдан астам тарихы болса да, сөйлесуші ЖИ-дің (адаммен табиғи тілде диалог жүргізе алатын жүйе) пайда болуы бәрін өзгертті. Алғаш рет кез келген адам ЖИ машинасымен кез келген тақырыпта өз ана тілінде сөйлесе алады. Кез келген адам ЖИ-ді өздерінің күнделікті өмірінің бір бөлігі ретінде сезіне алады. 60 жыл бойы тар шеңберлі қолданбалы сала болған ЖИ енді жалпы мақсаттағы технологияға айналды.

Электр қуаты мен интернет сияқты алдыңғы жалпы мақсаттағы технологиялар сияқты, ЖИ де біздің өмірімізді өзгертуге дайын. Бірақ біз жұмыс істеу принципі мен шектеулерін толық түсінетін және солайша бақылай алатын алдыңғы технологиялардан айырмашылығы, қазіргі ЖИ машиналарының ішкі жұмысы туралы көп нәрсені түсінбейміз. Олардың бізге шындықты айтып тұрғанына немесе олардың ұсыныстарын орындаудың қаншалықты қауіпті екеніне сенімді бола алмаймыз. Бұл бізге үлкен дилемма тудырады: ЖИ-ге қашан сену керек және қашан сенбеу керек? Ең бастысы, біз толық түсінбейтін мұндай машиналарды қалай басқара аламыз? Басқару тетіктерін технологияның өзіне ендіруге бола ма, әлде ЖИ-ді реттейтін жаңа заңдарда көрсету керек пе?

Мен осы тарауды жазып жатқан кездегі екінші сейсмикалық күш – АҚШ бастаған жаһандық саяси ландшафттың күрт өзгеруі. Жаңа әлемдік тәртіп технологиялық инновациялармен қалыптасады. ЖИ-ді бақылайтындар Америка мен бүкіл әлемнің ЖИ-ді қалай басқаратынын немесе ЖИ арқылы қалай басқарылатынын анықтайды. Болашақ экономикалар ЖИ арқылы өзгереді, ал болашақ соғыстар барған сайын автономды ЖИ машиналарымен жүргізілетін болады.

Геосаясатта ЖИ қаншалықты маңызды? Трамптың жаңа әкімшілігіндегі ЖИ-дің маңыздылығының көрсеткіші ретінде, Американың ең ірі ЖИ компанияларының бас директорлары оның инаугурациясында сайланған президенттің отбасы мүшелерінің қасында, оның кез келген министрлікке үміткерлерінен де жақынырақ отырды. Бұл символизм мұндай тұлғалардың экономикалық күші саяси билікке және ЖИ саласындағы мемлекеттік саясатқа тікелей әсер ететінін анық көрсетеді.

Анығын айтқанда, байлар әрқашан саяси көшбасшыларға үлкен ықпал еткен. Бірақ бұл жолы бәс бірнеше есе жоғары. Алдыңғы олигархтар әдетте автомобиль, мұнай, болат немесе фармация сияқты бір ғана саланы бақылап, соған лобби жасайтын. Керісінше, ЖИ әрбір индустрияға енетін жалпы мақсаттағы технологияға айналғандықтан, ЖИ-ді бақылайтын адамдар бүкіл өнеркәсіптік ландшафтты бақылауда ұстауы мүмкін, бұл байлықтың одан сайын шоғырлануына әкелуі ықтимал.

Ықпал ету ауқымындағы айырмашылықты түсіну үшін мынадай салыстыру жасауға болады: мұнай магнаты Джон Д. Рокфеллер қайтыс болғанда оның байлығы 1,4 миллиард доллар болса, Эндрю Карнегидің дәуірлеген шағындағы дәулеті шамамен 400 миллион долларды құрады. Соңғы 100 жылдағы инфляцияның орташа деңгейін ескерсек, бұл сомалар бүгінгі таңда ондаған миллиард долларға тең болар еді. Алайда, бұл көрсеткіш Илон Маск, Джефф Безос және өмірінің соңына дейін байлығы триллиондаған долларға жететін ондаған жаңа магнаттардың қазіргі табысының қасында өте қораш көрінеді. Бұл — жер шарындағы көптеген елдердің жалпы ұлттық байлығынан да көп қаражат.

Бұл тұлғалар мұндай экономикалық қуатты қалай пайдаланады? Ең бастысы, бұл байлық олар қайтыс болғаннан кейін қалай жұмсалмақ?

КІТАП КІМГЕ АРНАЛҒАН?

Мен бұл кітапты бірнеше деңгейде жаздым. Біріншіден, жалпы оқырман үшін жасанды интеллект (ЖИ): оның тарихы, жұмыс істеу принципі және қолдану барысында туындайтын мәселелер туралы терең түсінік беруді көздедім. Мен әрбір адамның ЖИ-дің сауатты тұтынушысы болғанын қалаймын.

Бұл саладағы өзекті мәселелермен таныс мамандар үшін мен подкаст барысында жетекші ойшылдармен болған әңгімелерден түйгендерімді — ЖИ төңірегіндегі маңызды сұрақтар мен олардың жауаптары туралы сығымдалған ақпаратты бөлісемін. Егер сіз бұл сұрақтармен таныс болсаңыз, мен оларды тұжырымдау мен шешудің жаңа қырын ұсынамын.

Соңғы 10–15 жылда осы салаға келген ЖИ зерттеушілері мен практиктері үшін мен біздің бұл деңгейге қалай және неліктен келгенімізді, жол бойында не үйренгенімізді, ЖИ қайда бара жатқанын және оның кеңірек салдарларын көрсететін түсіндірмелі жол картасын ұсынамын. Регги аңызы Боб Марли айтқандай: «Егер өз тарихыңды білсең, онда менің қайдан келгенімді де түсінесің».

Бірақ қазіргі парадигмаға ауысудың салдары ерекше әсер ететін тағы бір маңызды топ бар: олар — үкімет пен өнеркәсіптегі саясаткерлер. Оларға біздің жұмыс істеу және ойлау салтымыздағы түбегейлі өзгерістерді ескеру қажет болады. Алғаш рет біз бұл планетаны өз қолымызбен жасалған, бірақ көптеген жағынан бізден ақылдырақ болып бара жатқан жоғары деңгейлі интеллектуалды бөтен түрмен бөлісіп жатырмыз. Бұл — интеллектуалды болудан басқа ешқандай нақты мақсатсыз жасалған алғашқы машина. Егер біз «жақсы» дегеннің не екенін келісе алсақ немесе оны қалаған бағытта басқара алсақ, қоғам үшін игілікті болатын саясат пен ережелерді жасай аламыз ба?

Шын мәнінде, біз қазірдің өзінде адам емес «бақылаушылардың»: «компьютер рұқсат бермейді» деген сылтауымен нақты өмірдегі әрекеттерімізге шектеу қойылғанын жиі естиміз. Адамды шешім қабылдау тізбегінен толықтай шығарып тастайтын машиналардың мұндай бақылауы, оларға тәуелді болып бара жатқан қоғам үшін айтарлықтай қауіп төндіреді.

Кибернетик (жүйелердегі басқару мен байланысты зерттейтін маман) Норберт Винер бізге бұл «басқару проблемасы» туралы «ЖИ» термині пайда болғаннан кейін көп ұзамай ескерткен болатын. Винер егер біз басқара алмайтын машиналарды жобаласақ, онда мұндай машиналар біздің шынайы қалауымыз ба, әлде оның «түрлі-түсті имитациясы» ма, соған сенімді болуымыз керек екенін айтты. Қазіргі жаңалық — машиналар Винер ескерту жасаған кезде тек ғылыми фантастика болған нәрселерді істей алатын дәрежеге жетті.

Мен ЖИ-дің ғылыми тарихын соңғы 45 жыл ішінде ЖИ зерттеулері практикалық мәселелерге негізделген «пракадемик» (теорияны практикамен ұштастырушы) ретіндегі тәжірибем арқылы сипаттаудан бастаймын. Біз әлі де ЖИ-дің әмбебап технология ретіндегі «жабайы батыс» дәуіріндеміз; бұл кезеңде оны пайдалануға шектеулер аз. Мысалы, ЖИ-дің деректерді пайдалануын реттейтін заңдар жоқ, деректерді қорғау немесе адам қауіпсіздігіне қатысты саясат пен заңдар да өте аз. Шынында да, зерттеушілерге адамдарға тәжірибе жасауға қатаң шектеулер қойылғанымен, ЖИ-дің адамдарға қалай тәжірибе жасайтынына ешқандай шектеу жоқ. Әзірге біреудің сіздің бет-әлпетіңізді ЖИ көмегімен порнографиялық видеоға жапсыруы қылмыс болып саналмайды, сондай-ақ әлеуметтік желілерде жасөспірімдер арасында жаппай депрессия тудыратын немесе арам ниетпен достардың, дәрігерлердің немесе қаржы кеңесшілерінің кейпіне енетін алгоритмді тоқтатудың заңды жолы жоқ. ЖИ жеке тұлғаларға немесе қоғамға үлкен зиян келтіріп, бақылаудан шығып кетпеуі үшін бізге қорғаныс заңдары қажет болады. Мен осындай заңдар мен ойлайтын машиналар дәуірінде біз бетпе-бет келетін кеңірек саяси сұрақтар туралы ойлануға негіз қалаймын.

Сонымен қатар, біз ЖИ нысандарының құқықтары туралы да байыппен ойлануымыз керек, бұл қаншалықты оғаш көрінсе де. ЖИ бизнесті басқаруға немесе қорды жүргізуге жеткілікті деңгейде жетілгенде не болады? Біздің атымыздан әрекет ететін интеллектуалды ЖИ агенттері тәуелсіз, мобильді және ықтимал сентиенит (сезінуге және қабылдауға қабілетті сана) болғанда не болады? Олардың келісімшарт жасасуға және келісімшартты бұзғаны үшін тараптарды сотқа беруге құқығы бар корпоративтік құрылымдар сияқты құқықтары болуы керек пе? ЖИ агенттерін сотқа беруге бола ма? ЖИ машиналарын қақтығыстарды шешу үшін пайдалануға бола ма? Қысқасы, болашақ ЖИ агенттерінің қаншалықты еркіндігі болады?

Соңғы тармақтың адамдар үшін маңызы зор: адамдар өздері бұл дүниеден өткеннен кейін де олардың атынан әрекет ететін машиналарды жасауға құқылы ма? Осы уақытқа дейін бұл мәселені байыпты қарастыру мүмкін болмаған еді. Бай тұлғалардың қайтыс болғаннан кейін де ықпал етуінің ең жақын жолы — қорлар немесе эндаументтер сияқты құрылымдар. Бірақ қайтыс болған донордың ниеті мен оның ақшасының іс жүзінде қалай жұмсалатыны арасында үлкен алшақтық болуы мүмкін. Егер Рокфеллер өзінің қайтыс болғанына жүз жыл толғанда оның қоры гранттарды қалай бөліп жатқанын білсе, бұған риза болар ма еді? Өйткені содан бері әлем көп өзгерді. Ол өзінің орнына өз мүдделері мен теріс түсініктері бар адам-директорлардың орнына, оның ойлау жүйесіне бейімделген ЖИ агентінің шешім қабылдағанын қалар ма еді?

Илон Маск пен Джефф Безос ЖИ-дің мұндай рөлдерін қолдап, өздерінің ЖИ боттарына оларды мәңгілікке өкілдік ету үшін сенімхат берер ме еді? Олардың солай істеуі әбден мүмкін. Егер MuskBot (Маск-бот) өз иесінің мақсаттарына жетудің ең жақсы жолы — бүкіл елдерді сатып алып, оларға өркендеу мен тыныштық сыйлау, ал оны қорғау үшін дрон әскерін қолдану деп шешсе ше?

Ғылыми фантастика ма? Олай деп ойламаймын. Мүмкін MuskBot бүкіл әлемдегі көптеген үкіметтерге тән бюрократия мен жемқорлықтан ада, жоғары тиімді цифрлық үкімет орната алатын шығар. Президент Трамппен келіспеушіліктеріне қарамастан, Маск АҚШ үкіметін мысал ретінде пайдаланып, үкімет тиімділігі департаментіндегі жұмысы арқылы бұл мәселенің контурларын сызып қойған болуы мүмкін. Бұл — MuskBot үшін керемет жаттығу алаңы.

Бұл цифрлық басқарушылардың шынымен де бейтарап және жеке мүддеден ада болатынына, олар адамдарға тән барлық когнитивтік тұзақтарды, патологиялық ұйымдастырушылық позаларды және ықпал ету үшін таласуды қайталамайтынына сенімді бола аламыз ба? Қалай дегенмен, олар адам мінез-құлқын үйренуге өте шебер. Қауіптенуге негіз бар. Жақында өткен симуляцияда Anthropic компаниясының Claude Opus4 үлкен тілдік моделіне ойдан шығарылған компанияның электрондық пошта мұрағатына кіруге рұқсат беріліп, оны өшіру мүмкіндігі туындағанда, машина өзін желіде қалдырмаса, жауапты инженердің беделіне нұқсан келтіретін ақпаратты жариялаймын деп бопсалаған. Машиналар ақылды болған сайын, олардың өзін-өзі сақтау инстинкті де арта түсетіні анық.

Қысқасы, ЖИ-дің арқасында біз болашағымыз үшін үлкен салдары бар жаңа әлемге қадам басып жатырмыз. Бұл болашақты таңдаулы топтың емес, бүкіл адамзаттың мүддесіне сай қалыптастыру маңызды. Ол үшін біз машинаға бағынбай, ЖИ-ді түсінуіміз және басқаруымыз керек. Бәс бұрын-соңды мұндай жоғары болған емес.

Васант Дхар Маусым, 2025 жыл

АЛҒЫС ХАТ

Мен әр тарауды жазған сайын оқып шыққан жарым Еленаға алғыс айтқым келеді. Егер ол бірдеңені түсінбесе немесе қызық емес десе, мен оны қайта жаздым. Оның «қолыңда өте құнды дүние бар» деген қолдауы мені бұл еңбекті мінсіз етуге итермеледі.

Wiley баспасындағы редакторым Билл Фаллонға сенімі үшін рақмет. Билл маған бастапқыда қаржыдағы ЖИ туралы кітап жазуды ұсынған еді. Мен оған жалпы оқырманға арналған кеңірек тақырыпта жазып жатқанымды айтқанда, ол менің кез келген жазғанымды басып шығаратынын айтты. Бұл — автор естігісі келетін ең жақсы сөз. Бұл мені агент пен баспа іздеу әуресінен құтқарды.

Ең алғашқы толық нұсқаны оқып шығып, тараулар арасындағы байланыс пен кітаптың негізгі тақырыптарын дамыту туралы ой салуға итермелеген Эрик Бестке ерекше рақмет. Сондай-ақ, сол ерте нұсқаны мұқият оқып шыққан Алекс Чалкқа да алғысым шексіз.

Клаудия Перличке әдеттегідей көрегендігі үшін, кейбір тұжырымдарыма күмән келтіріп, материалды жақсырақ ұйымдастыру туралы сындарлы ұсыныстар бергені үшін ерекше рақмет айтамын. Сондай-ақ, Арун Сундарараджанға ЖИ тарихын ChatGPT-ден бастайтын оқырмандар аудиториясына оқиғаны қалай ұсыну керектігі туралы тамаша кеңестері үшін алғыс айтамын.

Росс Гаронға қолжазбаны қысқа мерзімде мұқият оқып шыққаны үшін көп рақмет. Оның жалпы түйіндер туралы терең ойлары мен баяндауды нақтылауға көмектескен егжей-тегжейлі ескертулерін жоғары бағалаймын.

Бұрынғы авторлас серігім Роджер Штейнге күткенімнен де артық еңбек еткені үшін қарыздармын. Роджер әр тарауды түрлі түсті түзетулермен қарап шықты: жасыл — «маған ұнайды», көгілдір — «бұл стильді өңдеу керек», сұр — «бұл түсініксіз», сары — «мұнда қате болуы мүмкін» және қызыл — «бұл дұрыс емес сияқты». Роджер бәрін ашық айтады, сондықтан кітаптан жеткілікті мөлшерде жасыл белгілерді көргенде қатты қуандым.

Соңында, Елена, Эрик, Клаудия, Арун, Алекс, Росс және Роджер өңдегеннен кейін нұсқаны қысқа мерзімде оқып шыққан Роджер Шоллға рақмет. Шолл нұсқаны оқығаннан кейін маған: «Саған менің керегім жоқ сияқты, оқырмандарың керемет жұмыс істепті», — деді. Дегенмен, мен оған тапсырыс бердім, өйткені мінсіздікке ұмтылдым. Мен оған қол жеткіздім деп үміттенемін, бірақ оның қаншалықты жақын болғанын сіздер бағалайсыздар.

Маған күлкі сыйлайтын және менің тізгінделмеген әзілімді көтеретін отбасыма, достарыма және әріптестеріме рақмет. Сендер ең кереметсіңдер.

КІРІСПЕ: ЖИ-ДЕГІ ПАРАДИГМАЛАРДЫҢ АУЫСУЫ

Мен Нью-Йорк университетіндегі әріптесім Скотт Галлоуэйдің студенттерге: «біздің өміріміздің көп бөлігі біз туылған почта индексімен және интернеттің пайда болуы сияқты тарихтың маңызды сәттерінде қай жерде болғанымызбен анықталады», — деп айтқанын жиі еститінмін.

Мен 1950 жылдары Кашмирде дүниеге келдім және мектепке ат арбамен баратынмын, сондықтан мен нағыз «дұрыс» почта индексінде туылған жоқпын. Бірақ жастық шағымда көп саяхаттадым, бұл менің кемшілігімнің орнын толтырды. Әкем әскери адам болды; мен тоғыз жасқа толғанша бүкіл Үндістан бойынша жеті мектепте оқыдым. Ата-анам мені Гималай тауының етегіндегі интернатқа жібергелі жатқанда, әкемді Эфиопияға Үндістанның Шығыс Африкадағы әскери атташесі етіп тағайындады.

Тоғыз жасқа толған туған күнімде біз Бомбейден Йеменге Vietnam деп аталатын француз кемесімен жүзіп кеттік. Саяхат бір аптаға жуық уақытты алды. Мен алғаш рет теңіз ауруын сезіндім. (Әлі күнге дейін қайықтарда басым айналады. ) Йеменде бір күн болғаннан кейін біз кофе отаны — Дире-Дауаға тоқтап, Аддис-Абебаға винтті ұшақпен ұштық.

Аддистегі британдық мектептегі алғашқы күнім есімнен кетпейді. Анам қателесіп мені төртінші сыныптың орнына жетінші сыныпқа беріп жіберіпті. Үйге келіп, балалардың менен әлдеқайда үлкен екенін айтып шағымдандым. Анам мені асыра сілтеп отыр деді де, «аузыңды жап» деді. Бұл таңсық емес еді, өйткені мен өте пысық бала болдым және көп сөйлейтінмін. Ол кезде үнділік ата-аналар, әсіресе әскерилер, балаларының шағымын өміріне қауіп төнбесе, көтермейтін.

Келесі бірнеше апта ішінде мен британдық мектепте түрлі түсті, түрлі жастағы және ортадан шыққан балалармен достастым. Менің сыныбымда бір елден келген бірнеше студент қана болды. Маған жасы жағынан ең жақыны 12-де еді. Дене шынықтыру сабағында олар маған мүмкіндік беру үшін биіктікке секіру бағанын бір футқа төмендететін. 4 × 100 ярдтық эстафетада олар мені ең жылдам жүгірушілермен бір топқа қосып, соңғы кезеңде жүгіртетін, ал басқа командалар мені соңғы сәтте қуып жетуге тырысып, бәрі маған жанкүйер болатын. Мен өзімді сол ортаның бір мүшесіндей сезіндім. Өмір тамаша еді.

Мен математиканы фунт, шиллинг және пенс сияқты ескірген жүйеде үйрендім, ол әлі күнге дейін миымда жатталып қалған. Бір шиллингте он екі пенни, ал бір фунтта 20 шиллинг. Құдайға шүкір, британдықтар ақыры 1971 жылы ондық жүйеге (бір фунтта 100 пенс) көшу арқылы есін жиды. Мен жетінші сыныпты бітіріп, сегізінші сыныптың жартысына келгенде, он жарым жасымда ата-анам мені Үндістандағы «Лоуренс Санавар» атты британдық колониялық үлгідегі интернаттың алтыншы сыныбына қайта жіберді.

Мен Эфиопияны жақсы көрдім, сондықтан ұзын бойлы сыныптастарыммен көзіме жас алып қоштастым. Әкемнің Эфиопиядағы әскери атташе қызметі бүкіл Шығыс Африка бойынша Land Rover-мен саяхаттауды қамтитын. Біз жабайы жануарлар, соның ішінде арыстандар, бегемоттар мен антилопалар өріп жүрген қорықтар арқылы күндер бойы жүретінбіз. Лалибела, Гондэр және әлемдегі ең үлкен тас обелискі бар Аксум көне қалаларын, сондай-ақ Хайле Селассие италиялықтарды жеңіп, Эфиопиядан қуған Карен шайқас алаңын аралағанымыз есімде.

Массауа портына жасаған сондай саяхаттардың бірінде мен алғаш рет компьютер туралы естідім. Біз Эритреядағы Асмара қаласына жақындап қалған едік, ол жерден жол Қызыл теңіздегі Массауа портына дейін бірнеше миль ішінде сегіз мың футқа күрт төмендейді. Бұл тау жолы — итальяндық инженерлік өнердің туындысы. Исаак Азимовтың «Қор» (Foundation) сериясын оқып жүрген ағам маған болашақта бәрін білетін «компьютер» деген нәрсе болатынын айтты.

«Бәрін білетін компьютер? Ол менің не ойлап тұрғанымды да біле ме? » — деп сұрадым мен. Қатты қорықтым.

«Ол бәрін біледі, — деп жауап берді ол, — оның жады мінсіз болады және ол ештеңені ұмытпайды».

Мен Эфиопияда жұма күндері көрсетілетін Уильям Шатнер мен Леонард Нимой ойнаған «Жұлдызды жол» (Star Trek) телесериалын көре бастаған едім. Бәрін білетін компьютер идеясы маған қорқынышты түстер сыйлады. Мен Қытай мен Ресейдегі коммунистік режимдер туралы, адамдарды авторитарлық үкіметтер басқаратыны туралы қорқынышты әңгімелер естіген едім. Бәрін білетін машинаның бақылауында болу идеясы одан да жаман естілді.

Түпнұсқа сериал 1966 жылы, яғни небәрі 60 жыл бұрын, әлемде компьютерлер жоққа тән кезде шықты. Бар болған санаулы компьютерлер алып есептеу машиналары ретінде пайдаланылатын және бүкіл бөлмелерді немесе ғимараттарды алып жататын. Ол кезде «Жасанды интеллект» терминінің бірнеше жыл бұрын ғана пайда болғанын және оның негізін қалаушылардың бірі келесі онжылдықта менің өміріме үлкен ықпал ететінін білген жоқпын.

Ата-анамның мені Гималайдың етегіндегі британдық-колониялық интернатқа жібергені олар маған берген ең жақсы сыйлық болды. Бұл мені төзімді болуға, одақтастар табуға, бұзақылармен күресуге мәжбүрледі және командалық спорт түрлерімен айналысуға итермеледі. Мен өмірлік достар таптым. Сондай-ақ, математика мен ғылымды жақсы көретінімді түсіндім, бірақ спортқа деген құштарлығым басым болды. Математика мұғалімім бұған риза болмай, тесттен төмен баға алған бір күні кешке мені үйіне шақырып алып: «Васант, сен бір уақытта әрі мықты крикетші, әрі математик бола алмайсың. Таңдау жасауың керек», — деді. Бірақ мен командалық спортты және сыныптастарыммен уақыт өткізуді қатты ұнататынмын, бұл оқуыма сәл кедергі келтірді. Соған қарамастан, елдегі ең бәсекеге қабілетті инженерлік университет — Делидегі Үндістан технологиялық институтына (IIT) түскеніме таң қалдым және қуандым.

Мен IIT-де бірінші курсты бастағанда анам кенеттен қайтыс болды. Мен эмоционалды түрде күйредім; келесі бірнеше жылды басқа нәрселерге алаңдаумен өткіздім. Демалыс күндері рок-н-ролл тобында ойнап, жұмыс күндері кешке спектакльдерде ойнадым. Музыкалық концерттерден мың доллар жинап, 1976 жылдың жазын Кабулдан Лондонға дейін күніне бес долларлық бюджетпен саяхаттаумен өткіздім. Жолда өткен сол үш ай өмірімді өзгерткен тәжірибе болды. Менің отбасыммен немесе үйдегі ешкіммен байланысым болған жоқ. Бүгінгі ата-аналар балаларымен бірнеше күн байланыссыз қалуды елестете алмайды, ал менде үш ай бойы хабар болмады. Бірақ ол кезде халықаралық қоңыраулар минутына бес доллар тұратын; әкеме «бәрі жақсы» деп екі минут сөйлесу менің екі күндік бюджетімді құртатын еді. Мен «ешқандай жаңалық жоқ болса, демек бәрі жақсы» деп шештім.

70-ші жылдардан бері әлемнің қаншалықты өзгергенін ұмытып кетеміз. Батысқа қарай саяхаттаған сайын әрбір бірнеше жүз миль сайын тілдер мен әдет-ғұрыптардың қалай өзгеретінін өз көзіммен көрдім. Пушту, парсы, араб және түрік тілдеріндегі ондаған сөздерді таныдым. Ыстамбұлдағы зәулім Босфор бұғазы арқылы Азиядан Еуропаға өткенім есімнен кетпейді.

Маған Еуропа ұнады, бірақ тағамдарының қарабайырлығы мен кейбір шекарашылардың дөрекілігі аздап ренжітті. Батыс Германияның шекара полициясы өте мейірімсіз болды және маған Чехия шекарасынан өтуге рұқсат бермеді. Мен оларды алдап, Шығыс Германия арқылы Шығыс Берлинге барып, «Чарли» бақылау-өткізу пункті арқылы Батыс Берлинге жаяу өтуге тырыстым. Алайда, ол жерге жеткеннен кейін бәрібір Батыс Германия шекарасында бақылаудан өтуім керек екенін түсіндім. Батыс Берлинде бірнеше күн болғаннан кейін, мен кері бұрылып, Италияға дейін жаяу бардым, содан кейін Швейцария, Франция және соңында Англияға жеттім. Шілде айын Лондонда крикет матчтарын тамашалап, рок-концерттерге барып, содан кейін Делиге ұшып кеттім. Бақытыма орай, үйге билет алу үшін бірнеше жүз доллар үнемдеп қалған едім.

Еуропа бойынша саяхаттау керемет тәжірибе болды, бірақ мені әрқашан Америка қызықтыратын. 1969 жылдың тамызындағы Вудсток музыкалық фестивалінің үзінділерін көру және сол жазда 13 жасқа толған күнімде Нил Армстронгтың айға қонғанын теледидардан көру маған үлкен әсер етті. Америка мен оқуымды жалғастырғым келетін жер болды. Кабулдан Лондонға дейінгі саяхатымнан үш жыл өткен соң, мен Питтсбургте магистратурада оқып жүрдім.

Питтсбург ЖИ зерттеулері үшін ең қолайлы жерлердің бірі болып шықты. Көптеген жағынан бұл ЖИ-дің ең озық зерттеу орталығы еді. Дәл осы жерде мен өмірімді өзгерткен екі ЖИ пионерін жолықтырдым, олардың біріншісі Герберт Саймон болатын. Саймон 1978 жылы шешім қабылдау кезіндегі адам рационалдылығының шегін сипаттағаны үшін Нобель сыйлығын алған еді.

Саймон адамдардың «шектеулі рационалдылық» (адамның шешім қабылдау қабілетінің ақпарат пен уақытпен шектелуі) танытатынын айтты, яғни бізде ең жақсы нәтижені іздеу үшін әрдайым уақыт, ресурс немесе төзімділік бола бермейді. Оның орнына біз «жеткілікті» деп санаған шешімге тоқтаймыз. Саймонның сөзімен айтқанда, біз «қанағаттанамыз» (satisfice). Ол кезде бұл адамды «рационалды» деп есептейтін дәстүрлі экономикалық ойлауға қайшы келді. Саймон адам назары тапшы ресурс екенін және біз шектеулі когнитивтік ресурстарымызды интеллектуалды түрде, көбінесе «эвристика» (тәжірибеге негізделген оңтайлы шешім табу әдістері) арқылы жұмсайтынымызды дәлелдеді. Эвристика — бұл тәжірибе арқылы ашылған практикалық ережелер сияқты.

Саймонның экономикадағы эвристика туралы идеялары жасанды интеллекттің (ЖИ) бастапқы кезеңіне негіз болды. Мұнда «эвристикалық іздеу» (тәжірибеге негізделген шешім қабылдау әдістері) термині алгоритмнің адамдар сияқты контекстке байланысты дұрыс нәрселерге назар аудару қабілетін сипаттау үшін қолданылды. Мен өзімнің «Brave New World» подкастымда [LINK url=”https://bravenewpodcast. com/episodes/2021/09/16/episode-21-daniel-kahneman-on-how-noise-hampers-judgement/”]қонақ қылған[LINK] Нобель сыйлығының лауреаты Даниэль Канеман, сондай-ақ оның әріптесі Амос Тверски адамдардың шешім қабылдау процесінде барлық жерде кездесетін көптеген эвристикалар мен бұрмалауларды зерттеп, жүйелеуге жылдарын жұмсады. Алайда, эвристиканың адам назарын шоғырландырудағы пайдасына назар аударған Саймоннан айырмашылығы, Тверски мен Канеман негізінен осы эвристикалар мен бұрмалаулардан туындайтын адам шешімдерінің теріс тұстарын зерттеді.

Мен кандидаттық диссертациямды ЖИ-дің «жоспарлау» (күрделі мәселені кішігірім тапсырмаларға бөлу және олардың орындалу ретін анықтау) деп аталатын саласы бойынша жазуды ұйғардым. Бұл сала күрделі мәселелерді кішігірім тапсырмаларға бөлуге, оларды шешудің ең тиімді реттілігін анықтауға және жағдай өзгерген жағдайда жоспарды түзету үшін олардың арасындағы байланыстарды қадағалап отыруға арналған. Адамдар үнемі, жиі ойланбастан жоспар құрады. Қызығы, қазіргі заманғы ЖИ машиналарының сиқырына қарамастан, олар әлі күнге дейін жоспарлауға келгенде өте әлсіз, ал бұл ойлау мен интеллекттің негізгі құрамдас бөлігі болып табылады. Қазіргі чат-боттар өте жақсы сөйлейді, бірақ олар әлі де сөйлемес бұрын тереңірек ойлануды үйрену үстінде. Мұндағы түйінді тіркес — «ойлау» емес, «ойлауды үйрену». Бұл маңызды айырмашылық.

Мен ЖИ саласына «Сараптамалық жүйелер» (мамандардың біліміне негізделген компьютерлік бағдарламалар) дәуірінде келдім, ол кезде біз машиналарды ойлауды үйренуге емес, ойлауға бағыттап жобалайтынбыз. Басқаша айтқанда, біз машинаға білімді зор еңбекпен енгізіп, оның болашақ жағдайларда дұрыс ойлайтынына сенетінбіз. Бірақ білімді нақты көрсетуге негізделген бұл тәсіл бізді алысқа апара алмады. 1980-ші жылдардың соңында деректердің қолжетімділігі артуына байланысты ЖИ-дің ауырлық орталығы Машиналық оқытуға ауысты. Мақсат — машинаның деректердің өзінен жаңа нәрселерді өз бетінше үйренуіне қол жеткізу болды. Бұл тәсіл бүгінгі ЖИ-дің негізі болып табылады.

Мен 1983 жылы қазіргі NYU Stern бизнес мектебінде алғашқы ЖИ зерттеушісі болдым (бұл мекеме Леонард Н. Стерн есімімен аталмас бұрын). Сол кезде Stern-де деректер қорының үш маманы болды және олар деректер қорын ақылдырақ әрі пайдаланушыға ыңғайлы ету үшін «ЖИ маманын» іздеп жүрген еді. Ақпанның суық таңында интервьюге бару үшін Вашингтон-сквер паркімен келе жатып, бұл жер өмір сүру үшін керемет орын екенін ойладым. Музыка мен театрға қызығатын жиырма жастағы жігіт үшін Нью-Йорк қаласының қақ ортасындағы Гринвич-Виллиджде тұрудан артық не болуы мүмкін? Төрт онжылдық өтсе де, мен әлі күнге дейін Вашингтон-сквер паркін планетадағы ең керемет жерлердің бірі деп санаймын. Осы жолдарды жазудан бірнеше түн бұрын мен парктің солтүстік шетіне кешкі асқа бара жатып, латино хип-хоп ырғағымен билеп жатқан бірнеше жүздеген адамның арасынан өттім. Бұл парктің ерекше рухы бар.

Одан бергі онжылдықтар ішінде мен төрт ЖИ стартапын құрдым. Алғашқы ЖИ курсын 1984 жылы өткіздім. 1990-шы жылдардың ортасында мен қаржылық активтердің бағасын анықтау мен сауданы жеңілдету үшін Уолл-стритке Машиналық оқытуды енгіздім. Тарихи тұрғыдан алғанда, банктер ақпараттық технологияларды пайдалануда көшбасшы болды және көптеген деректер жинады. ЖИ маманы ретінде мен машиналар жақсырақ бизнес шешімдерін қабылдау үшін осы деректердің барлығынан пайдалы нәрселерді үйренуге қабілетті болуы керек деп есептедім. Мен осы өзгерістердің алдыңғы шебінде болғым келді.

ЖАСАНДЫ ИНТЕЛЛЕКТТЕГІ ПАРАДИГМАЛАРДЫҢ АУЫСУЫ

ЖИ 1970-ші жылдардан бері ұзақ жолдан өтті. Сараптамалық жүйелер дәуірінен бері әдістер мен ойлау тәсілдері өзгергенімен, ЖИ негізінен әлі де білімді машинаға қалай енгізу, оны қалай ұсыну және контекстке байланысты оны қалай ақылмен пайдалану туралы болып қала береді.

Төмендегі кесте менің 2024 жылғы қарашадағы мақаламнан [LINK url=”https://cacm. acm. org/research/the-paradigm-shifts-in-artificial-intelligence/”]алынған[LINK], онда ЖИ-дің Сараптамалық жүйелерден бастап Машиналық оқытуға, Терең оқытуға және қазіргі таңдағы мен «Жалпы интеллект» (кез келген интеллектуалды тапсырманы орындай алатын кешенді жүйе) деп атайтын кезеңге дейінгі даму жолы көрсетілген. GPT сияқты заманауи ЖИ жүйелерінің негізі осы жалпы интеллектте жатыр. Жалпы интеллект вербалды, кеңістіктік, сандық, механикалық және қарапайым логикалық ойлау қабілеттерін қамтитын, барлық ақыл-ой тапсырмаларын орындауға мүмкіндік беретін кешенді дағдылар жиынтығын білдіреді.

Image segment 85

Әрбір парадигмалық ауысу сол кездегі негізгі қиындықтарды шешті.

Сараптамалық жүйелер компьютер мамандарынан салалық сарапшылардан нақты білімді — әдетте ережелерді — алуды талап етті. Алайда, бұл үлкен кедергі болды, әсіресе ережелер саны өсіп, олардың өзара әрекеттесуі медициналық диагностика сияқты нақты қолданбалы салаларда басқару үшін тым күрделі болып кеткенде.

Машиналық оқыту бұл кедергіні жеңіп, машинаға ережелерді деректерден автоматты түрде үйренуге мүмкіндік берді. Дегенмен, бұл шикі деректерден «белгілерді» (деректерден модельге қажетті сипаттамаларды таңдау процесі) жасауды талап етті, олар болжам немесе классификация жасау үшін шикі деректерден бөліп алынуы тиіс өлшенетін қасиеттер немесе сипаттамалар еді. Мысалы, егер дәрігер компьютерге рентген суреті немесе МРТ туралы айтқысы келсе, ол оны кескіндегі текстуралар, жиектер немесе пішіндер арқылы сипаттайтын — мысалы, «оң жақ өкпедегі бұдыр қара дақтар». Бірақ бұл көбінесе қиын әрі субъективті болды. Екі дәрігер немесе компьютер маманы бір кескінді әртүрлі сипаттауы мүмкін еді. Сәттілік адамдардың Машиналық оқытудағы «белгілер инженериясы» (деректерден маңызды сипаттамаларды іріктеу) деп аталатын салада шығармашылық пен дәлдік танытуын талап етті.

Терең оқыту (көп қабатты нейрондық желілер арқылы оқыту) машинаның деректерді өңдеу үшін адам аудармашысын қажет етпей, әлемді тікелей қабылдауына мүмкіндік беру арқылы осы белгілер инженериясы кедергісін айтарлықтай жеңді. Рентген суретін немесе МРТ-ны енді компьютер тікелей түсіндіре алатын болды. Бұл үлкен серпіліс еді. Терең оқытудың пионерлері — Джеффри Хинтон, Ян Лекун және Йошуа Бенжио — осы саладағы іргелі үлестері үшін компьютерлік ғылымдағы ең жоғары марапат болып табылатын Тьюринг сыйлығын алды.

Бірақ ЖИ әлі де тек бір салалық қолданбалы бағдарлама еді. Терең оқыту жүйелері әлемді қабылдай алғанымен, медициналық диагностика жүйесі сияқты әрбір жүйе әлі де нақты контекстке бейімделіп, жеке-жеке жасалатын.

Мен ЖИ-дің қазіргі дәуірін Жалпы интеллект кезеңі деп атаймын. Ол ChatGPT сияқты қосымшалардың негізі болып табылатын Үлкен тілдік модельдер (LLM) сияқты алдын ала оқытылған модельдерді пайдалана отырып, ЖИ-ді көптеген мақсаттарға бейімдеуге болатын «жалпы мақсаттағы технологияға» айналдыру арқылы теңшеу кедергісін шешеді. Егер бұрын ЖИ моделі бір нәрсені жақсы орындауға үйретілсе, енді оны жалпы әңгімелесу, көмек көрсету, шешім қабылдау және құжаттарды, кодтарды немесе видеоларды жасау сияқты ол арнайы үйретілмеген әртүрлі тапсырмалар үшін оңай баптауға болады. Және біз ЖИ дамуының тек бастапқы кезеңіндеміз. ЖИ машиналарының тек тілден ғана емес, сонымен бірге адамдар сияқты физикалық әлемді сезіну мен онымен әрекеттесу арқылы үйренетінін елестетіп көріңізші. ЖИ осы бағытта дамып келе жатыр.

«Парадигма» сөзін американдық философ Томас Кун өзінің «Ғылыми революциялардың құрылымы» атты кітабында белгілі бір уақытта ғылыми қауымдастық зерттеулерді бағыттау үшін қабылдаған теориялар мен әдістер жиынтығын сипаттау үшін енгізген. Мысалы, Дарвин өзінің эволюция теориясын енгізгенге дейін, жер бетіндегі өмірді түсіндірудің басым парадигмасы — бәрін жаратқан Құдай болды.

Дарвиндік табиғи сұрыпталу теориясы революция тудырды. Ол ғалымдардың барлық тірі жанға деген көзқарасын өзгертті. Құдайдың рөліне күмән келтірілді. Одан кейін Кун «қалыпты ғылым» деп атаған кезең келді, мұнда ғылыми қауымдастық жаңа парадигманың егжей-тегжейлерін зерттейді. Мысалы, Дарвиннен кейін ғалымдар биологияны табиғи сұрыпталудың жаңа заңдарымен түсіндіре бастады. Дарвинге дейін қалыпты ғылым негізінен Құдай жаратқан ғажайыптардың алуан түрлілігін тізімдеумен айналысатын.

Кун ғылымның барлық салалары парадигмалық ауысулардан өтетінін айтты. Уақыт өте келе, парадигма құбылыстарды түсіндіре алмай, балама көзқарас арқылы жақсырақ шешілетін кедергілерге тап болғанда, дағдарыс туындайды және онымен бірге парадигма ауысады.

Мен ЖИ саласындағы алғашқы күндерімнен бастап осы парадигмалық ауысуларды бастан өткердім. Осы уақыт ішінде мен бірқатар салаларда автоматтандырылған болжау үшін ЖИ алгоритмдерін жасадым, бұл машинаға қашан сену керектігі және қашан сақ болып, басқаруды өз қолыңда ұстау керектігі туралы сұрақтарды туындатты.

Алдыңғы суретте әрбір парадигмалық ауысу сол кездегі негізгі кедергіге жауап ретінде пайда болғаны көрсетілген. Бірінші ауысу — адамдардан алу қиын болатын сараптамалық білімді пайдаланудан, ақпараттық технологиялардың дамуына байланысты көбейе бастаған деректерді пайдалануға көшу болды. Бірақ деректерді жинау, тазалау және машиналар үйрене алатындай формаға келтіру әлі де қиын әрі көп уақытты қажет ететін.

Екінші ауысу — деректерді қолмен өңдеуден Терең оқытуға көшу болды, бұл интеллектті деректер көзіне жақындатты: машиналар адамдардың көмегінсіз көру, дыбыс және тіл арқылы өз ортасын тікелей қабылдай алды. Енді компьютерлер кескінді тікелей өңдей алатын болды. Бірақ бұл алгоритмдер әлі де белгілі бір салалармен шектелді және әрбір нақты қолданыс үшін арнайы жасалып, үйретілуі тиіс еді.

Үшінші ауысу — Жалпы интеллектке көшу, машиналарға кез келген дерек түрінен үйренуге және ChatGPT сияқты кез келген саланы дереу талдауға мүмкіндік беретін алгоритмдерді жасауды қамтиды.

Кун атап өткендей, парадигмалар көбінесе олардың негізгі фокусы бойынша ерекшеленеді. Сараптамалық жүйелер дәуіріндегі «ескі жақсы ЖИ» дәрігерлерге диагноз қою, сирек кездесетін минералдарды іздеу немесе машиналарды конфигурациялау сияқты нақты бір нәрсені орындауға арналған жүйелерді құру туралы болды.

Машиналық оқыту мен Терең оқытудың пайда болуы ЖИ-ді логикалық ойлаудан деректер негізінде болжам жасауға бағыттады. Мұндай болжамдармен не істейтініңіз мүлдем басқа мәселе. Бірақ ЖИ саласы деректерден болжам жасауға тым қатты беріліп кетті де, логикалық ойлау мен жоспарлау сияқты нәрселер кейінге қалды.

Үлкен тілдік модельдердің немесе LLM-дердің пайда болуы ЖИ фокусын диагноз қою, жобалау, сұрақтарға жауап беру және мәселелерді шешу сияқты логикалық ойлау арқылы іс-әрекет жасай алатын жүйелерге қайта аударды. 60 жыл бұрынғы «ойлау, жоспарлау және пайымдау деген не? » деген сұрақтар бізбен сөйлесе алатын осы жаңа машиналардың арқасында қайтадан назарға ілікті. Алғаш рет ЖИ бізді және біз өмір сүріп жатқан әлемді түсіне бастады. Ол бәріне пайдалы бола бастады.

Жалпы алғанда, ЖИ-ді тауашалық қолданбалы саладан жалпы мақсаттағы технологияға айналдырған Жалпы интеллекттің пайда болуы қоғам үшін маңызды салдарға ие. Бұл кітап осы салдарлар туралы қалай ойлау керектігі туралы.

Ескертпелер:

  1. https://bravenewpodcast. com/episodes/2021/09/16/episode-21-daniel-kahneman-on-how-noise-hampers-judgement/
  1. https://cacm. acm. org/research/the-paradigm-shifts-in-artificial-intelligence/
  1. Cattell, R. B. Theory of fluid and crystallized intelligence: A critical experiment. J. Educational Psychology 54, 1 (1963), 1–22.

OceanofPDF. com

БІРІНШІ ТАРАУ НЕГЕ СІЗ МЕНЕН ОЛ СҰРАҚТЫ СҰРАП ТҰРСЫЗ? ОЙЛАЙТЫН МАШИНАЛАР

2022 жылдың 30 қарашасында біз білетін әлем мәңгілікке өзгерді.

Біз ChatGPT деп аталатын жаңа ЖИ ойыншығы түріндегі ерте келген Рождестволық сыйлыққа ояндық.

Бірақ ChatGPT-тің сол ерте нұсқасы қарапайым ойыншық емес еді. Ол өте мейірімді, кез келген тақырыпта сөйлесе алатын және оны қолданудың сан түрлі жолдары бар еді. ЖИ-дің 60 жылдық тарихында алғаш рет әрбір адам онымен тіл табыса алды. Чат-бот іске қосылған алғашқы бес күнде миллион пайдаланушы жинады, ал осы жолдар жазылып жатқанда, әлем халқының 10%-дан астамы оның апта сайынғы белсенді пайдаланушылары болып табылады. Google-дың Gemini және Anthropic-тің Claude жүйелері шамамен тағы 7%-ды құрайды.

Небәрі бірнеше жылдың ішінде ЖИ біздің өміріміздің маңызды бөлігіне айналып, өмір сүру салтымызға әсер ете бастады. Және бұл тек бастамасы ғана. Мен оны денсаулық, білім және басқа да көптеген тақырыптар бойынша зерттеулер жүргізу үшін пайдаланамын. Менің ойымша, кез келген шығармашыл суретші оны қолданады. Кейбіреулер маған кітабымды ChatGPT-ке жаздыруды ұсынды. Бірақ мен әлі де ЖИ машинасынан жақсырақ жазамын, дегенмен ол күндер де жақын қалды.

1984 жылы мен ЖИ-дің «жоспарлау» деп аталатын белгісіз саласы бойынша кандидаттық диссертациямды қорғаған кезде ЖИ туралы ешкім білмейтін еді. Жоспарлау — бұл мәселені қарапайым шешімдерге бөлу, олардың арасындағы байланыстарды және олардың орындалу ретін анықтау.

Қызығы, деректердің қолжетімділігі күрт артқан сайын, ЖИ-дің фокусы ойлау мен жоспарлаудан Машиналық оқыту мен деректерге негізделген болжам жасауға ауысты. Алайда, ChatGPT сияқты ЖИ машиналарының пайда болуы ойлау мен жоспарлауды ЖИ-де қайтадан бірінші орынға шығарды. Шынында да, мұндай чат-боттарға қатысты жиі айтылатын сын — олардың жеткілікті түрде жоспарламайтыны (егер олар мүлдем жоспарласа) және сөйлемес бұрын көбірек ойлануы керек екендігі!

Мені ЖИ-ге 1979 жылы кездейсоқ жағдай алып келді. Мен Питтсбург университетінің 23 жастағы докторанты едім, өмірде не істегім келетіні туралы ешқандай идеям болмаған. Менің бағдарламамдағы аға докторант Кен Сочатс, ол сонымен бірге Питтсбург есептеу орталығының программисті еді, бір күні таңертең мен перфокарталарға Fortran бағдарламасын басып жатқанда қасыма келді. Мен бизнес мектебінің белгілі профессоры Том Саати жасаған «Аналитикалық иерархия процесі» (AHP) деп аталатын шешім қабылдау алгоритмін іске асырып жатқан едім.

AHP шешім қабылдау жағдайына қатысты критерийлерді анықтауды және қарастырылып жатқан таңдаулар үшін олардың салыстырмалы маңыздылығын белгілеу мақсатында критерийлерді өзара жұптық салыстыруды талап ететін. Бұл күрделі мәселелерді құрылымдауға арналған өте керемет алгоритм еді және кейіннен ол күрделі жағдайларда шешім қабылдауға арналған танымал коммерциялық бағдарламалық құралға айналды. Мен AHP-ді компьютерде алғаш рет іске қосу үшін Fortran тілінде матрицалық математиканы қолданып жатқанмын. Мен бұрын мұндай ештеңе істеп көрмегенмін. Перфокарталарда бағдарламаларды іске қосу — бұл есептеу техникасының тас дәуірі еді. Қазір бірнеше секундты алатын нәрсені 1970-ші жылдары іске асыру үшін апталап бағдарламалау қажет болатын.

Мен Кеннің менің назарымды аударуға тырысып, жанымда айналсоқтап жүргенін сездім.

«Эй Васант, медициналық мектепте Жасанды интеллект зертханасын басқаратын Гарри Попл деген профессор бар», — деді ол. «Мен одан Жасанды интеллект курсын өткізуді сұрағым келеді. Біздің көп екенімізді көрсету үшін сен де бірге барасың ба? »

«Жасанды интеллект деген не? » — деп сұрадым мен.

Кен маған бұл компьютерлерді адамдар сияқты ақылды ету туралы екенін айтты. Ол Гарри Поплдың он жылдан астам уақыт бойы аңызға айналған медициналық диагностик Джек Майерспен бірге жұмыс істеп жатқанын және ішкі аурулар саласында сарапшы деңгейінде диагноз қоятын INTERNIST атты жүйе құрғанын айтты.

Мен қызығып кеттім. Есептеу техникасы туралы білетінім Делидегі Үнді технологиялық институтында (IIT) химиялық инженерия бағдарламасында оқып жүргенде үйренген Fortran және COBOL тілдерінде бағдарлама жазу тәжірибесінен келген еді. IIT-те мен күрделі дифференциалдық теңдеулерді сынақ және қателік әдісімен шешу үшін Fortran тілінде бағдарламалауды үйрендім. Керісінше, тағы бір негізгі компьютерлік тілдердің бірі — COBOL (ол әлі күнге дейін қолданылады) есеп айырысу жүйелеріндегі транзакцияларды өңдеу сияқты бизнес мәселелері үшін қолданылатын.

Компьютер қалайша ақылды болуы мүмкін? Бұл ғылыми фантастика сияқты естілді.

Кен тағы екі докторантты — Перец Шоваль мен Анант Сринивасанды жинап, төртеуіміз Питт медициналық орталығындағы Скейф Холлға қарай бет алдық. Біз лифтпен жоғарғы қабатқа көтеріліп, он үшінші қабаттағы Шешім қабылдау жүйелері зертханасына баратын баспалдақпен жоғары шықтық.

Шешім қабылдау жүйелері зертханасы «вагон» үлгісінде салынған — ұзындығы шамамен 100 фут, ені 25 фут болатын ұзын тар кеңістік, шеттерінде кеңселер мен конференц-зал орналасқан. Бір жағынан зертханадан Шенли паркі мен алыстағы Карнеги-Меллон университетінің көрінісі ашылатын. Ол кезде мен бұл кеңістіктің келесі бес жыл ішінде менің екінші үйіме айналатынын білмеген едім.

Біз келгенде Гарри Попл телефонмен сөйлесіп жатқандықтан, оның бұрыштағы кеңсесінің алдында күте тұрдық.

Зертхананың ортасында теру модемі арқылы Стэнфорд университетіндегі компьютерге қосылған үлкен экран тұрды. Ол кезде мейнфреймдерде (үлкен деректерді өңдейтін орталық компьютерлер) уақытты бөлу жүйелерінің дәуірі еді. Жеке компьютерлер немесе ПК-лар, Apple-дің Apple I және II, сондай-ақ Macintosh әлі ойлап табылған жоқ болатын. Күтіп тұрғанда, мен сигара шегіп отырып, INTERNIST бағдарламасымен бір жағдайды талқылап жатқан ақ шашты дәрігерді байқадым. Бұл Джек Майерс еді — емделушілерден медициналық тарих пен ақпараттың әрбір бөлшегін жинап, оларды тәжірибесі аз әріптестері байқамайтын тәсілдермен байланыстыра білуімен аты шыққан аңызға айналған дәрігер. Доктор Майерс зертхананың «көріпкелі» еді. Және оның терең медициналық білімін Гарри Попл және басқа да медициналық әріптестері жинақтап, жетілдіріп, INTERNIST жүйесіне енгізген болатын. Мен Майерстің INTERNIST-пен жағдайларды талқылау үшін зертханаға үнемі келіп тұратынын білдім.

Үлкен экранға қарағанымда, Майерстің 1-экспонатта көрсетілгендей, емделуші туралы бірнеше симптомдарды енгізгенін көрдім. Емделушінің жағдайы «fever» (қызу) немесе «urea nitrogen blood 60» (қандағы несепнәр азоты 60) сияқты сөздерді терген кезде бақыланатын сөздік қордағы нақты терминдер тізбегі арқылы көрсетілді. INTERNIST жүйесінің сөздік қорында ауруларды, синдромдарды, органдарды және симптомдарды сипаттайтын шамамен 3500-ге жуық термин сақталған. Симптомдар оң немесе теріс болуы мүмкін немесе ауырлық дәрежесін көрсететін сын есімдер мен сандық диапазондармен сипатталатын.

  1. 1-экспонатта Майерс INTERNIST жүйесіне берген симптомдар жиынтығы келтірілген. Бұл нақты жағдайда «vomiting» (құсу) және «exposure to rabbits and small animals» (қояндармен және ұсақ жануарлармен байланыс), сондай-ақ қан талдауының нәтижелерін қоса алғанда, зертханалық зерттеулердің нәтижелері және Майерс «liver enlarged slight» (бауырдың аздап ұлғаюы) деп сипаттаған кескіндерден алынған емделушінің бауырының жағдайы туралы ақпарат қамтылды. Кейінірек мен Поплдың бұл мысалды келесі айда Хьюстонда өтетін медициналық ЖИ семинарында талқылауды жоспарлап отырғанын білдім.

SEX MALE (ЖЫНЫСЫ ЕР) AGE 26 TO 55 (ЖАСЫ 26-ДАН 55-КЕ ДЕЙІН) RACE WHITE (НӘСІЛІ АҚ) ALCOHOLISM CHRONIC HX (АНАМНЕЗІНДЕ СОЗЫЛМАЛЫ АЛКОГОЛИЗМ) EXPOSURE TO RABBITS OR OTHER SMALL MAMMALS (ҚОЯНДАРМЕН НЕМЕСЕ БАСҚА ҰСАҚ СҮТҚОРЕКТІЛЕРМЕН БАЙЛАНЫС) FEVER (ҚЫЗУ) MYALGIA (МИАЛГИЯ) LEG <S> WEAKNESS BILATERAL (АЯҚТАРДЫҢ ЕКІ ЖАҚТЫ ӘЛСІЗДІГІ) LEG <S> WEAKNESS PROXIMAL ONLY (АЯҚТАРДЫҢ ТЕК ПРОКСИМАЛДЫ ӘЛСІЗДІГІ) PRESSURE ARTERIAL SYSTOLIC 90 TO 110 (СИСТОЛАЛЫҚ АРТЕРИАЛДЫҚ ҚЫСЫМ 90-НАН 110-ҒА ДЕЙІН) PRESSURE ARTERIAL ORTHOSTATIC HYPOTENSION (АРТЕРИАЛДЫҚ ОРТОСТАТИКАЛЫҚ ГИПОТЕНЗИЯ) TACHYCARDIA (ТАХИКАРДИЯ) JAUNDICE (САРҒАЮ) ANOREXIA (АНОРЕКСИЯ) DIARRHEA ACUTE (ЖЕДЕЛ ДИАРЕЯ) FECES LIGHT COLORED (НӘЖІСТІҢ АҚШЫЛ ТҮСТІ БОЛУЫ) VOMITING RECENT (ЖАҚЫНДАҒЫ ҚҰСУ) LIVER ENLARGED SLIGHT (БАУЫРДЫҢ АЗДАП ҰЛҒАЮЫ) SKIN SPIDER ANGIOMATA (ТЕРІДЕГІ ЖҰЛДЫЗША ТӘРІЗДІ АНГИОМАЛАР) SKIN PALMAR ERYTHEMA (АЛАҚАН ЭРИТЕМАСЫ) OLIGURIA HX (АНАМНЕЗІНДЕГІ ОЛИГУРИЯ) UREA NITROGEN BLOOD 60 TO 100 (ҚАНДАҒЫ НЕСЕПНӘР АЗОТЫ 60-ТАН 100-ГЕ ДЕЙІН) CREATININE BLOOD INCREASED (ҚАНДАҒЫ КРЕАТИНИННІҢ ЖОҒАРЫЛАУЫ) WBC 14000 TO 30000 (ЛЕЙКОЦИТТЕР 14000-НАН 30000-ҒА ДЕЙІН) PLATELETS LESS THAN 50000 (ТРОМБОЦИТТЕР 50000-НАН АЗ) GO (БАСТАУ)

  1. 1-экспонат. INTERNIST жүйесімен диалогтан үзінді [/CODE]

Майерс компьютерде тере алмайтындықтан, оның көмекшісі Розанна жағдай туралы деректерді енгізді. Симптомдарды енгізгеннен кейін ол «Go» деп теріп, enter пернесін басты. Бұл жауап алуды бастады және INTERNIST жағдай туралы қорытындыларды шығара бастады. INTERNIST жүйесінің мақсаты — симптомдарды осы симптомдарды тудыратын ықтимал аурулармен байланыстыру еді. Оның қорытынды диагнозы оған берілген бақылауларды түсіндірді.

Майерс INTERNIST-пен талқылаған жағдайда жүрек соғу жиілігі жоғарылаған, анорексиясы бар, сарғайған адам туралы болды. Емделуші ішімдікке салынған, асқазан-ішек жолдарының ауыр симптомдары, терінің тітіркенуі байқалған және жақында ферма жануарлары мен қояндармен байланыста болған еді.

Симптомдардың мұндай кең ауқымының бірнеше негізгі себептері болуы мүмкін еді. Бастапқы белгілерге сүйене отырып, INTERNIST (медициналық диагностикаға арналған алғашқы сараптамалық жүйелердің бірі) өзі қарастырып жатқан және жоққа шығарған себептерді тізіп шықты. Содан кейін ол сары аурудың сипаты және салмақ жоғалтудың маңыздылығы (бұл жағдайда 10%-дан жоғары) туралы қосымша сұрақтар қойды. Майерстің сұрақтарға берген жауаптары жуан қаріппен көрсетілген.

ЖАҒДАЙЫ ТУРАЛЫ МӘЛІМЕТТЕРДІ ЕНГІЗІҢІЗ: САУНАМА: *GO (Мұндағы «Go» — «қолданылмайды» немесе «білмеймін» дегенді білдіреді) САРЫ АУРУДЫҢ ҚАЙТАЛАНУ ТАРИХЫ? **ЖОҚ* ТӘБЕТ/САЛМАҚ ТУРАЛЫ МӘЛІМЕТТЕРДІ ЕНГІЗІҢІЗ GO САЛМАҚ ЖОҒАЛТУ 10 ПАЙЫЗДАН ЖОҒАРЫ МА? **ЖОҚ**

Жауап ретінде INTERNIST осы уақытқа дейін алынған деректер негізінде өз назарын аударатын бірнеше қайта қаралған болжамдарды жасады:

**ЖОҚҚА ШЫҒАРЫЛҒАНДАР:** ҚОЯНДАРМЕН НЕМЕСЕ БАСҚА КІШІ СҮТҚОРЕКТІЛЕРМЕН БАЙЛАНЫС, АЯҚ <S> ЕКІ ЖАҚТЫ ӘЛСІЗДІК, АЯҚ <S> ТЕК ПРОКСИМАЛДЫ ӘЛСІЗДІК, АРТЕРИЯЛЫҚ ОРТОСТАТИКАЛЫҚ ГИПОТЕНЗИЯ, ҚАНДАҒЫ КРЕАТИНИННІҢ ЖОҒАРЫЛАУЫ, ҚАНДАҒЫ КАРБАМИД АЗОТЫ 50-ДЕН 100-ГЕ ДЕЙІН

**ҚАРАСТЫРЫЛЫП ЖАТҚАНДАР:** ЖАСЫ 25-ТЕН 55-КЕ ДЕЙІН, ЕР ЖЫНЫСТЫ, АНОРЕКСИЯ, МИАЛГИЯ, ЖАҚЫНДАҒЫ ҚҰСУ, НӘЖІСТІҢ АШЫҚ ТҮСІ, ҚЫЗБА, САРЫ АУРУ, БАУЫРДЫҢ СӘЛ ҮЛҒАЮЫ, АЛАҚАН ЭРИТЕМАСЫ, ӨРМЕКШІ ТӘРІЗДІ АНГИОМАЛАР, ЛЕЙКОЦИТТЕР (WBC) 14000-НАН 30000-ҒА ДЕЙІН, ТРОМБОЦИТТЕР 50000-НАН АЗ

**ШЫҒАРЫП ТАСТАУ (RULEOUT):** СОЗЫЛМАЛЫ БЕЛСЕНДІ ГЕПАТИТ, АЛКОГОЛЬДІ ГЕПАТИТ, БАУЫРДЫҢ МИЛИАРЛЫ ТУБЕРКУЛЕЗІ, ЖЕДЕЛ ВИРУСТЫ ГЕПАТИТ, ЖҰҚПАЛЫ МОНОНУКЛЕОЗ

INTERNIST іштің ауырсыну сипаты туралы бірқатар сұрақтар арқылы қосымша ақпарат алды. Оның кейбір сұрақтары Майерстің өзін ойландырып тастады. Ол тиісті ақпаратпен немесе «білмеймін» деп жауап беріп, INTERNIST-ке жалғастыруды бұйырды.

ІШТІҢ АУЫРСЫНУЫ ТУРАЛЫ МӘЛІМЕТТЕРДІ ЕНГІЗІҢІЗ *GO ІШТІҢ ЖАЛПЫ АУЫРСЫНУЫ? **ЖОҚ** ЭПИГАСТРИЙ АЙМАҒЫНЫҢ АУЫРСЫНУЫ? **ЖОҚ** ТОЛҒАҚ ТӘРІЗДІ ЕМЕС АУЫРСЫНУ? **ЖОҚ** ОҢ ЖАҚ ЖОҒАРҒЫ КВАДРАНТТЫҢ АУЫРСЫНУЫ? **ЖОҚ**

**ЖОҚҚА ШЫҒАРЫЛҒАНДАР:** САРЫ АУРУ, ӨРМЕКШІ ТӘРІЗДІ АНГИОМАЛАР, ҚАНДАҒЫ КРЕАТИНИННІҢ ЖОҒАРЫЛАУЫ, ҚАНДАҒЫ КАРБАМИД АЗОТЫ 60-ТАН 100-ГЕ ДЕЙІН

**ҚАРАСТЫРЫЛЫП ЖАТҚАНДАР:** ЖАСЫ 26-ДАН 55-КЕ ДЕЙІН, ҚОЯНДАРМЕН НЕМЕСЕ БАСҚА КІШІ СҮТҚОРЕКТІЛЕРМЕН БАЙЛАНЫС, ЕР ЖЫНЫСТЫ, АНОРЕКСИЯ, ЖЕДЕЛ ДИАРЕЯ, МИАЛГИЯ, ЖАҚЫНДАҒЫ ҚҰСУ, ҚЫЗБА, АЯҚ (S> ЕКІ ЖАҚТЫ ӘЛСІЗДІК, АЯҚ <S> ТЕК ПРОКСИМАЛДЫ ӘЛСІЗДІК, АРТЕРИЯЛЫҚ ОРТОСТАТИКАЛЫҚ ГИПОТЕНЗИЯ, АРТЕРИЯЛЫҚ СИСТОЛАЛЫҚ ҚЫСЫМ 90-НАН 110-ҒА ДЕЙІН, ТАХИКАРДИЯ, WBC 14000-НАН 30000-ҒА ДЕЙІН, ТРОМБОЦИТТЕР 50000-НАН АЗ

**АЖЫРАТУ (DISCRIMINATE):** ЖҮЙЕЛІ ЛЕПТОСПИРОЗ, ЖҮЙЕЛІ СОЗЫЛМАЛЫ САРКОИДОЗ

Осы сәтте INTERNIST терінің байқалған жағдайын елемей, диарея, әлсіздік және ауылшаруашылық жануарларымен байланыс сияқты маңызды деп санаған симптомдарға назар аударды. Диагноз бойынша басты үміткерлер Лептоспироз және Саркоидоз болды. Ақырында бағдарлама Лептоспирозға — көбінесе ауылшаруашылық жануарларымен байланыстан туындайтын бактериялық инфекцияға тоқтады. Бұл шынымен де осы жағдай үшін дұрыс диагноз еді.

Бүгінгі өлшемдермен қарағанда, Майерстің INTERNIST-пен сөйлесуі өте қарапайым көрінеді. Біз қазір бізбен сөйлесе алатын және сұрақтарымызға жауап беру үшін қажетті ақпаратты таба алатын чат-боттарға үйреніп қалдық. Бірақ 1979 жылы бұл сиқырға тең таңғаларлық құбылыс еді. Есіңізде болсын, дербес компьютерлердің пайда болуына әлі бес жыл бар болатын.

Бірақ содан кейін INTERNIST ерекше бір нәрсе жасады, ол менің назарымды қатты аударды және осы күнге дейін есімде. Сөйлесудің бір сәтінде Майерс INTERNIST-тен неге мұндай сұрақ қойып жатқанын сұрады. Мысалы, ол: «Неліктен сен менен оң жақ жоғарғы квадраттағы іштің ауырсынуы туралы сұрап жатырсың? » — деп сұрауы мүмкін еді.

INTERNIST-тің жауабы мені таң қалдырды. Ол доктор Майерстің сұрағына: «Осы уақытқа дейінгі дәлелдер келесі болжамдарға сәйкес келеді... » — деп жауап беріп, оларды тізіп шықты (оның ішінде Лептоспироз бен Саркоидоз да болды) және Майерске бұл сұрақты таңдаған себебі — жауап қарастырылып жатқан басты үміткерлердің арасын ажыратуға көмектесетінін айтты.

«Мұны машина қалай жасап отыр? » — деп таң қалдым мен. Бұл менің «Иерархиялық талдау процесі» сияқты әдеттегі компьютерлік бағдарламам немесе тармақталған логика арқылы жүзеге асырылған бақылау тізімі емес екені анық еді. Керісінше, INTERNIST контекстті қадағалап, диалогтағы ақпаратқа сүйеніп және оны бақыланған симптомдардың себептерін ажыратуға көмектесетін өзекті сұрақтар қою үшін пайдаланып отырғандай көрінді. Ол 1979 жылы-ақ қазіргі ChatGPT-ге ұқсас әрекет етті.

Бірақ толықтай емес.

«Машиналармен ойлау» кітабының кейінгі бөлімінде мен сізге ChatGPT-тің осы симптомдар жиынтығына қалай жауап беретінін көрсетемін. Шын мәнінде, оны өзіңіз де байқап көрсеңіз болады. Бірақ мұны 40 жылдан астам уақыт бұрын көргеніңізді елестетіп көріңізші! Маған INTERNIST-тің Майерс берген дәлелдерді біріктіру арқылы пайымдаулар жасағаны және жинаған ақпаратын өз назарын біртіндеп өзгерту үшін пайдаланғаны қатты әсер етті. Басқаша айтқанда, ол ақылды сұрақтар қойды және кейін білгенімдей, мұны инвазивті (ішкі ағзаға араласатын) тесттерді қажет етпестен жасады. Ол он жыл бойы мұқият жинақталған және кодталған білім базасын пайдалана отырып, берілген ақпаратты барынша тиімді қолданды.

Мен бұрын-соңды мұндай ештеңе көрмеген едім. Гарри Попл телефонмен сөйлесіп жатқанда, зертханаға келгенімізге қуандым. Ол телефонды қойғанша, мен өмірімнің қалған бөлігінде немен айналысқым келетінін түсіндім. Мен мұндай машинаның қалай жұмыс істейтінін білгім келді. Оның «ішкі құрылысына» үңіліп, осындай құрылғыны жасауды үйренгім келді.

Жасанды интеллект (ЖИ) сиқыр сияқты көрінді, ал мен ЖИ сиқыршысы болғым келді.

Джеймс Бондтың «Доктор Ноу» фильміндегі «Спектр» ғалымына сәл ұқсайтын Гарри Попл бір топ докторанттардың ЖИ-ге қызығушылық танытқанына дән риза болды. 1979 жылы ЖИ бойынша курстар жоқ еді және кітаптар да өте аз болатын. Одан алғаш рет осы тақырып бойынша курс өткізуді сұраған біз едік. Түтінін будақтатып отырып, ол курсты ұсынуға қуанышты екенін айтып, біздің біліміміз туралы сұрады.

Мен өзім туралы айтқанда, ол: «Fortran тілінде бағдарламалай алатының жақсы. Бірақ біз динамикалық деректер құрылымын қолдайтын LISP (жасанды интеллект бағдарламаларын жазуға арналған бағдарламалау тілі) тілін қолданамыз», — деді.

Мен «динамикалық деректер құрылымы» дегеннің не екенін әлі түсінбеген едім, бірақ бұл маған өте керемет естілді. Гарри менің «бір нәрсені не ақылды етеді? » немесе «компьютер өз дизайнерінен ақылдырақ бола ала ма? » деген сияқты шексіз сұрақтарымды бағалайтын сияқты көрінді. Соңғы сұрақты мен мансабым бойы ЖИ скептиктерінен жиі еститінмін: ЖИ-дің интеллектісі оның бағдарламашысының интеллектісімен шектеле ме? Бұл — ChatGPT және заманауи ЖИ контекстінде ойлануға тұрарлық қызықты сұрақ.

Попл менің тәлімгерім, кейіннен жақсы досым болды. Біз медициналық мектептің асханасында жиі түскі ас ішетінбіз, оған көбінесе жұбайы Марта да қосылатын. Осылайша мен ЖИ саласында 20 жылдан астам жұмыс істеген «сиқыршыдан» ЖИ-ді үйрене бастадым.

Бірнеше айдан кейін Гарри мені өзінің ғылыми жетекшісі әрі тәлімгері, Карнеги-Меллон университетінің экономисі Герберт Саймонмен таныстырды. Саймон келесі семестрде өзінің аттас кітабына негізделген «Ойлау модельдері» атты сабақ өткізбекші екен. Ол бір жыл бұрын экономика бойынша Нобель сыйлығын, ал одан үш жыл бұрын ЖИ саласындағы пионерлік жұмысы үшін Тьюринг сыйлығын (есептеу техникасы саласындағы ең беделді марапат) алған болатын.

Ренессанс ғалымы (жан-жақты білімді адам) болған Саймон 1956 жылғы атақты Дартмут ЖИ семинарына қатысқан 10 адамның бірі еді. Бұл семинарды Жасанды интеллект терминін енгізген және ЖИ бағдарламалау үшін LISP тілін жасаған Джон Маккарти ұйымдастырған болатын. Саймон 60-жылдары ЖИ туралы бірнеше батыл болжамдар жасаған екен:

ЖИ он жыл ішінде шахматтан чемпион болады; ЖИ уақыт өте келе бизнестегі орта буын басшыларын жояды.

Саймонның бірінші болжамы оның күткенінен сәл кешірек орындалды. Оның екінші болжамы қазіргі уақытта жүзеге асып жатыр. Шын мәнінде, менің Даниэль Канеманмен подкаст-сұхбатымда біз ЖИ-дің CEO (бас директор) немесе CXO (қаржы, маркетинг, операциялық және кез келген басқа жоғары лауазым) болуы уақыт еншісіндегі мәселе екенін талқыладық.

Саймон бірегей және ерекше ойшыл еді. Өз саласымен және тар зерттеу аймағымен шектелетін көптеген академиктерден айырмашылығы, Саймон философия, компьютерлік ғылым, экономика, психология және бизнес арасында еркін қозғалатын. Ол мен үшін керемет үлгі болды. Мен оның мәселелерді бірнеше тұрғыдан көре білу қабілетіне куә болдым.

Саймон да менің тәлімгерім, ал бірнеше жылдан кейін докторлық диссертация комитетімнің негізгі мүшесі болды. Ол кез келген жағынан өте жомарт еді. Ол өзінің тығыз кестесіне қарамастан, менің PhD диссертациямды жазу кезінде маған апта сайын 30 минуттық уақыт бөлетін, бұл мені ерекше сезіндірді. Менің диссертациямның тақырыбы сол кездегі жетекші микрокомпьютерлік компания Digital Equipment Corporation (DEC)-те ақылды жоспарлау жүйелерін құру бойынша кейс-стади болды. DEC Карнеги-Меллон университетінде ЖИ ардагері Радж Редди басқаратын жаңадан құрылған Робототехника институтындағы зерттеу жобаларын қаржыландырды. Мен апта сайын DEC-тегі жоспарлау жиналыстарына қатысып, оларды жазып алатынмын, бұл маған жоғары буын менеджерлерінің жаңа өнімдердің жоспарларын өзекті етіп сақтауда кездесетін қиындықтарын тікелей көруге мүмкіндік берді. Мен әр жиналыстың транскриптін жасайтынмын, Саймон екеуміз оның кабинетінде сол мәтіндерді жиі бірге зерттейтінбіз. Ол өзін қызықтырған кез келген мәселенің ең майда-шүйдесіне дейін үңілуден еш тартынбайтын. Көптеген академиялық орта ЖИ-ге скептицизммен немесе күмәнмен қараған кезде, Саймон мені ЖИ-дің болашағы зор екеніне сендірді.

Герб Саймон өзінің батыл болжамдарында ақыры дұрыс болып шықты. Соған қарамастан, мен кейде ол ЖИ-дің бәріміздің өмірімізде қаншалықты маңызды орын алатынын елестете алды ма екен деп ойлаймын.

ЕКІНШІ ТАРАУ СЕБЕПТЕРІ АЙҚЫН БОЛМАЙ ТҰРЫП, ЗАҢДЫЛЫҚТАР ПАЙДА БОЛАДЫ: МАШИНАЛЫҚ ОҚЫТУҒА КӨШУ

БОЛЖАУ МАШИНАЛАРЫ

Алдыңғы тараудағы Джек Майерс пен INTERNIST арасындағы өзара әрекеттестік туралы ойлансаңыз, INTERNIST-тің 1970-жылдары мұндай «сиқырды» қалай жасағанына таң қалуыңыз мүмкін. Мен ChatGPT-тің дәл осындай медициналық симптомдарды қалай өңдейтінін сәлден соң талқылаймын, бірақ 50 жыл бұрын ЖИ машинасының медициналық жағдайды сарапшымен соншалықты еркін талқылап, дұрыс диагноз қоя алғаны сиқыр сияқты көрінеді.

Мен үшін «сиқыр» сөзі Артур К. Кларктың әйгілі дәйексөзін еске түсіреді: «Кез келген жеткілікті дамыған технология сиқырдан ажыратылмайды». Бүгінгі таңда көптеген адамдар үшін ChatGPT сияқты ЖИ жүйелері сиқыр сияқты көрінеді. Біз олардың қалай жұмыс істейтіні туралы сирек ойланамыз. Біз жай ғана «сиқырды» тұтынамыз. Бірақ бізді осында не әкелді және бұл сиқырдың артында не тұр?

Мені бір көргеннен таң қалдырған INTERNIST сиқыры өте қарапайым әрі талғампаз болып шықты. INTERNIST өз білімін ұйымдастыру үшін иерархиялар мен ережелер жүйесін қолданды, бұл жүйе өз білім базасының тиісті бөлігін іске қосу арқылы назарды нақты жағдайдың контекстіне және ерекшеліктеріне бағыттайтын механизммен біріктірілген. Ең таңғаларлық нәрсе — медицина мамандары мен компьютерлік ғалымдардың (білім инженерлерінің) барлық медициналық білімді жинақтау, жүйелеу және оны машинаға қолмен енгізудегі еңбегінің ауқымы еді. Және оның шынымен жұмыс істегені де таң қалдырды. Пайдаланушы жағдайды машина түсінетін терминдермен дәл сипаттағанда, INTERNIST-тің диагноздары таңқаларлықтай дәл болды.

САРАПТАМАЛЫҚ ЖҮЙЕЛЕР

Мен «шырмалған иерархиялар» туралы алғаш рет Гарри Поплдан естідім, ол INTERNIST-тің медициналық білімі қалай берілгені туралы айтты. Біз бәріміз иерархияның не екенін түсінеміз. Онда бір нәрселер басқаларынан «жоғары» немесе «төмен», немесе бір деңгейде орналасады. Иерархия бір нәрсе өзінен жоғары екі немесе одан да көп нәрсемен байланысқанда «шырмалған» болады. INTERNIST медициналық білімді бірнеше байланысқан иерархиялар арқылы көрсетті, олар медициналық лексикада сипатталған мүшелердің, аурулардың және симптомдардың айналасында «шырмалды». Лексика дегенде мен «бауыр», «саркома», «ақ қан жасушалары», «анорексия», «азот» және т. б. терминдерді айтамын. Олар сондай-ақ иерархиядағы «түйіндер» (nodes) деп аталады.

Егер сіз 2. 1-суреттегі графикаға ұқсас нәрсені елестетіп отырсаңыз, онда сіз қателеспедіңіз. INTERNIST-тің сөздік қоры шамамен 3500 терминнен тұрды, олар суретте көрсетілгендей ауруларды, мүшелерді, симптомдарды, зертханалық сынақтарды және заттарды (түйіндерді) байланыстыратын ауқымды иерархиялық желі ретінде ұйымдастырылған. Байланыстар арқылы көрсетілген түйіндер арасындағы қатынастардың мағынасы әртүрлі болды, мысалы, суреттің сол жағында көрсетілген «А, В-ны тудырады», «А, В-ны тежейді», «А, В-мен байланысты», «А — В-ның түрі». Қарым-қатынастардың мысалдары ретінде «артық билирубин жоғары бозаруды тудырады», «гепатобилиарлық блоктау артық билирубинмен байланысты» және «өт жолдарының зақымдануы — гепатобилиарлық зақымданудың бір түрі» және т. б. айтуға болады.

  1. 1-суреттің ең төменгі бөлігі жоғарыдағы графиктерде көрсетілген қатынастарды біріктіреді. Бұл терминдер арасындағы миллиондаған байланыстарды білдіретін, қолмен жасалған үлкен заманауи нейрондық желіге (адам миының жұмыс істеу принципіне негізделген есептеу моделі) ұқсайды. Нейрондық желі — бұл заңдылықтарды тану, болжамдар жасау немесе деректерден үйрену үшін салмақты байланыстар арқылы деректерді өңдейтін өзара байланысты түйіндер қабаттарынан тұратын есептеу моделі.

Үлкен қиындық — осы білімнің барлығын нақты жағдайдың контекстінде қалай дұрыс басқару (оркестрациялау) болды. Бұл басқаруды сипаттау үшін қолданылатын термин «назар аудару механизмі» (attention mechanism) немесе «басқару құрылымы» (control structure) деп аталады. Бұл механизмнің дизайны ерте ЖИ зерттеулеріндегі үлкен сұрақ болды. Қызығы, кейінірек көрсететінімдей, біз ChatGPT сияқты заманауи ЖИ қолданбаларында «назар аудару» мәселесіне қайта оралдық.

Попл мен Майерс диагноз қоюды бәсекелес пазлдарды жинау процесі ретінде қарастырды, мұнда назар аудару механизмі компьютерге белгілі бір контекстте қай пазлдарды әрі қарай жалғастыру керектігін айтып отырды. Әрбір пазл жиынтығы компьютерге енгізілген білім базасын пайдалана отырып, байқалған симптомдардың мүмкіндігінше көп бөлігін біріктірді. Диалог кезінде INTERNIST диагностика маманынан жағдай туралы көбірек ақпарат алған сайын бұл байланыстар дамып отырды. INTERNIST балама жиынтықтарды үнемі қайта бағалап, жетекші үміткерлерді жақсырақ ажыратуға көмектесетін сұрақтар қоятын. Шын мәнінде, INTERNIST-тің іздеу алгоритмдері график құрылымындағы білімді аралап, симптомдарды оларды «тудыруы» мүмкін бір немесе бірнеше аурулармен байланыстыру арқылы мүмкіндігінше көп симптомды түсіндіре алатын «гештальтқа» (тұтас бейне немесе конфигурация) жету мақсатында сұрақтар қойып, қорытындылар жасады. Басқаша айтқанда, ол берілген симптомдар бойынша жинауға болатын ең жақсы пазлды іздеді.

Image segment 176
Image segment 177

Figure 2. 1 INTERNIST's Knowledge Base

Сол кездегі «If/then/else» (егер/онда/әйтпесе) түріндегі тармақталған логиканы жүзеге асыратын дәстүрлі бағдарламалық жүйелерден айырмашылығы, Сараптамалық жүйелер 2. 1-суреттегі «декларативті білімді» (жарияланған білім) процедуралық білімнен — назар аудару механизмінен — бөлек ұстады. Теория жүзінде, білім инженері назар аудару механизмі оны қалай шақыратыны туралы алаңдамай-ақ, жүйеге қосымша білім қоса алатын.

Білімнің назар аудару механизмінен бөлінуі икемді пайымдаудың барлық түрлерін жасауға мүмкіндік берді. Мысалы, сарапшы кейбір симптомдарды факт емес, болжам ретінде қарастырып, INTERNIST бағдарламалық құралын қолдана отырып гипотетикалық пайымдаулар жасай алатын. Егер симптомдар басқаша болса, диагноз қалай өзгеретінін сұрауға болатын еді. Бұл Шерлок Холмстың пайымдау стилі симптомдарды олардың себептерімен байланыстыратын логиканы көрсету арқылы сенімді нығайтты. (Кейінірек көретініміздей, бұл — заманауи ЖИ чат-боттарында біз ымыраға келуге мәжбүр болған сала, өйткені олардың білімін тексеру салыстырмалы түрде қиын).

Алайда, интеллектіні жоғарыдан төмен қарай (top-down) сипаттау тәсілі тығырыққа тірелді. Мұны венгр ғалымы Майкл Полани жақсы тұжырымдаған: ол адам білімінің маңызды бөлігін айтып жеткізу қиын, өйткені ол «жасырын» (tacit) (ішкі түйсікке негізделген, сөзбен айтып жеткізу қиын білім) болып табылады, мысалы, парасаттылық (common sense) сияқты нәрселерді нақты вербалды нұсқаулар немесе гипотетикалық мысалдар арқылы алмасу мүмкін емес. Басқаша айтқанда, біз айта алатынымыздан да көп нәрсені білеміз. Біз күнделікті өмірімізде ойланбастан парасаттылықты өзіміздің мамандандырылған білімімізге немесе тәжірибемізге қосамыз. Уақыт өте келе ЖИ қауымдастығы адамның пайымдауы мен тілі қарым-қатынастарды жоғарыдан төмен қарай сипаттау арқылы дәл қамту үшін тым күрделі және әртүрлі екенін түсінді. Ол тым контекстік және біздің біліміміздің нақты белгіленген шекаралары жоқ.

МАШИНАЛЫҚ ОҚЫТУ

Керісінше, бизнес пен қоғам әлеммен өзара әрекеттесу арқылы көптеген деректер шығарады. Деректер — олардың өмірлік нәрі. Машиналық оқыту — бұл деректерді 2. 1-суретте көрсетілгендей білімге айналдыратын «сиқыр».

80-жылдардың ортасында желілік және деректер базасы технологияларының дамуына байланысты деректерді сақтау шығындары азайып, бизнестер көбірек транзакциялық деректерді жинай бастады. Салыстыру үшін айтсақ, 1980-жылдары деректерді сақтау шығындары бүгінгімен салыстырғанда миллиард еседен астам жоғары болды. Мысалы, көлемі шамамен 50 Гигабайт болатын «Британника» энциклопедиясын сақтау бүгінде 50 центтен аз тұрады, ал 1980 жылы бұл 10 миллиард доллар тұратын еді!

1993 жылдың жазында мен ЖИ конференциясында сол кездегі жетекші ЖИ ойшылдарының бірі, коммерциялық әлемге өткен Дейв Уолцпен бірге кешкі ас іштім. Дейв Бостондағы «Thinking Machines» компаниясының бас ғылыми қызметкері болды, бұл компания параллельді есептеулер мен ЖИ саласында өз заманынан озып кеткен еді. Дейв 1972 жылы MIT-дегі PhD диссертациясының бөлігі ретінде Уолц алгоритмін жасаған болатын, бұл — компьютерлік көру және сызықтарды таңбалау саласындағы маңызды серпіліс еді, ол ЖИ жүйелеріне 2D сызықтық сызбалардан 3D объектілерді түсіндіруге мүмкіндік берді. Дейв маған үлкен ағамдай болып кетті. Кешкі астан кейін қонақүйге бара жатқанда, ол: «Деректер базасының заманы туып келеді», — деді.

Мен оның бұл сөзіне таң қалдым. Деректер базасы ондаған жылдар бойы болды және жазбаларды жүргізу үшін кеңінен қолданылып келген еді. Дейв менің қарсылығыма былай деп жауап берді: «Иә, бизнесте деректер өте көп, бірақ олар қатып қалған және қолжетімді емес күйде қалуда. Микрокомпьютерлер таралған сайын алдағы онжылдықта біз деректердің тасқынын көреміз. Деректердің көлемі адамдар талдай алмайтындай өте көп болады». Дейв Герберт Саймонның шектеулі ұтымдылығын (bounded rationality) қайталап тұрғандай болды, бірақ бұл жолы деректер тасқыны біздің когнитивті өңдеу қабілетімізден асып түсетін еді.

Дейвпен болған сол әңгімеден кейін ЖИ-дің бағыты маған әлдеқайда түсінікті болды. Болашақта келетін деректер тасқынын түсіну үшін бізге машиналар қажет болады. Компьютерлер адамдар сияқты ойланбастан үнемі жасайтын нәрсені — мысалдардан автоматты түрде үйренуді білуі керек.

Мен Нью-Йоркке жаңа мақсатпен оралдым.

Сәті түсіп, келесі айда есігімді A. C. Nielsen медиа компаниясынан Деннис Тоболски есімді джентльмен қақты. Nielsen компаниясы кәсіпорындарға олардың өнімдері, әсіресе жаңа тауарлары нарықта қалай сатылып жатқаны туралы есептер сатып, қомақты табыс табатын.

Деннис Лонг-Айлендтегі Порт-Вашингтонда орналасқан Nielsen компаниясының «Тұрмыстық қызметтер» бөлімінің деректер инфрақұрылымын басқарды. Nielsen фирма жинақтаған 50 000-ға жуық үй шаруашылығынан тұратын тұтынушылар панелі арқылы тұтыну үлгілерін қадағалап отырды. Үй шаруашылықтары Nielsen ұсынған штрих-код оқырмандарын пайдаланып, сатып алған тауарларын дерекқорға енгізетін. Деннис маған қарапайым өтінішпен келді: олардың деректерінен бизнес үшін құнды болуы мүмкін «пайдалы заңдылықтарды» таба аламын ба? Деннис клиенттерге өнімдер мен тұтынушылар туралы ақпарат сататын жаңа бизнес бағытын ашқысы келді. Осылайша, тұжырымдаманың дұрыстығын дәлелдейтін тамаша жағдай өздігінен қолыма түсті.

ЖАНАМА СӘТТІЛІККЕ ЖЕТУ (МИК ДЖАГГЕР СТИЛІНДЕ)

Nielsen дерекқорында үй шаруашылықтарының бірнеше жыл ішінде жасаған әрбір сатып алуы сақталған еді. Nielsen маған деректерді талдауға берген кезде, мен бизнес әлеміндегі жасанды интеллект (ЖИ) пионері Роджер Стейнмен бірге бизнестегі Машиналық оқыту (компьютердің деректер негізінде өздігінен білім алу процесі) әдістері туралы кітап жазып жатқан едім. Біздің 1997 жылы жарық көрген Seven Methods for Transforming Corporate Data into Business Intelligence атты кітабымыз машиналық оқытудың әртүрлі әдістерін бизнестегі сан алуан мәселелерге қалай сәйкестендіруге болатынын көрсетті. Ол кезде біз қолданған ЖИ әдістеріне нейрондық желілер, фаззи-логика, ағаш тәрізді индукция алгоритмдері және генетикалық алгоритмдер кірді.

Ол кездегі нейрондық желілер (адам миының жұмыс істеу принципіне ұқсас математикалық модель) айтарлықтай әлсіз еді, бірақ мен генетикалық алгоритмді (GA — биологиялық эволюция принциптеріне негізделген іздеу алгоритмі) өзінің әмбебаптығы мен қолдану аясының кеңдігіне байланысты заңдылықтарды анықтаудың ерекше қызықты әрі қуатты құралы ретінде таптым. GA Дарвиндік табиғи сұрыпталу принципіне негізделген, ол «бейімделген даралардың» жиірек жұптасуға мүмкіндігі бар екенін, осылайша ата-аналарында бар қасиеттердің үйлесімін мұраға алатын ұрпақ әкелетінін алға тартады.

Дарвин Галапагос аралдарындағы құс түрлері туралы деректерді бақылағанда, тұмсығы ұзынырақ қунақтардың қатты жаңғақтары бар аралдарда көбірек кездесетінін байқаған.

Бірақ бұл деректерді немен түсіндіруге болады? Жауабы — ұзын тұмсықтар қатты жаңғақтарды шағуға кішкентай тұмсықтарға қарағанда икемдірек. Демек, «ұзын тұмсық» белгісі тірі қалу үшін маңызды қасиет болды. Бұл бейімделудің жақсы «құрылыс материалы» еді. Сол сияқты, жыртқыштары жылдам қозғалатын аралдарда жылдамдық тағы бір маңызды құрылыс материалы болуы мүмкін. Осындай деректерді — аралдағы барлық құстардың дерекқорын және олардың байқалатын белгілерін ескере отырып, Дарвиндік алгоритм (GA) «тұмсық ұзындығы > 2 дюйм және максималды жылдамдық > 30 миль/сағ ➔ жоғары бейімділік» деген сияқты заңдылықты таба алар еді.

Алгоритмнің мұндай заңдылықтарды табу себебі — ол шешімдерді бейімділігі бойынша саралай алады, бұл жаңа шешімдерді жасауға және бағалауға түрткі болады. Егер саралауға арналған бағалау критерийі бақыланатын болса (мысалы, аралдағы құстардың қанша бөлігінің тұмсығы ұзын), алгоритм тірі қалу мүмкіндігін арттыру тұрғысынан белгіні не «жақсы» ететінін табу «сиқырын» жүзеге асырады. Мысалы, егер аралдағы 10 қунақтың 7-інің тұмсығы 2 дюймнен ұзын екені байқалса, «егер тұмсық > 2 дюйм» заңдылығының бейімділік көрсеткіші 70% болуы мүмкін. Сол сияқты, тұмсығы 2 дюймнен асатын 10 қунақтың 9-ының максималды жылдамдығы 30 миль/сағ-тан жоғары болса, бұл заңдылықтың бейімділігі 90% болады. Соңғы заңдылық кейінгі ұрпақтарда көбірек көрініс табады. Бұл — Дарвиндік табиғи сұрыпталудың қысқаша мәні.

Ең бастысы, әлеуетті шешімнің бейімділігін бағалайтын критерий болса, GA «бағытталған кездейсоқ іздеу» арқылы жақсыларын табады. Сізге тек сапаны тани білу керек; алгоритм ненің сапалы екенін өзі анықтайды.

Роджер екеуміз Moody's-тің техникалық қолдау қызметін басқару үшін GA енгіздік. Ол кезде қолдау қызметін іштей «дәрменсіздер үстелі» деп атайтын. Қолдау қызметкерлері сұраныстар кезегінен жұмыстарды өздеріне ыңғайлы уақытта таңдап алып, орындай беретін. Мәселелердің маңыздылығына немесе олардың ұйым өнімділігіне тигізетін әсеріне аса мән берілмейтін. Негізінде, біздің жұмысымыз ақауларды жоюға қанша уақыт кететінін және әрбір мәселенің жалпы ұйымның тоқтап қалу уақытына әсерін бағалауды талап етті. Қолдау қызметінің жұмыс кестесі ұйымның жалпы өнімділігін барынша арттыратындай етіп құрылуы керек еді. Тапсырмалар саны артқан сайын, мұндай мәселені шектеулі уақыт ішінде оңтайлы шешу қиындай түседі. Ал GA-ға белгілі бір уақыт ішінде, айталық, екі минут ішінде ең жақсы шешімдерді табуды тапсыруға болатын еді.

GA Moody's қолдау қызметінің қосымшасындағы мүмкін болатын кестелер жиынтығымен жұмыс істеді, мұнда кесте тапсырмалардың реттілігінен тұратын. Боб пен Джо есімді екі қызметкерді алсақ, шешім былай болуы мүмкін еді: «Боб алдымен Алисаға, сосын Саллиге, сосын Филге жіберілуі керек», ал «Джо алдымен Джекке, сосын Джиллге жіберілуі керек». Алгоритм кездейсоқ құрылған кестелерден бастап, уақыт өте келе «маңызды және тез шешілетін мәселелерді мүмкіндігінше тезірек шешу» сияқты тиімді құрылыс материалдарын табу арқылы жақсара түсті. Мұндай реттілік жалпы тоқтап қалу уақытын азайтты.

GA керемет табысқа жетті. Жаңа «ЖИ-менеджер» жұмысты сағаттай дәл жүргізді.

СОЛТҮСТІК-ШЫҒЫСТАҒЫ ЕРЕСЕК ӘЙЕЛДЕРГЕ НАЗАР АУДАРЫҢЫЗДАР

Барлық машиналық оқыту әдістері сияқты, GA шешімнің сапасын — оның бейімділігін — есептеу оңай болған кез келген мәселеде (Дарвиннің табиғи сұрыпталу мысалындағыдай немесе кесте құру жағдайындағыдай) өте қуатты екенін көрсетті. Егер екі шешімді салыстырып, қайсысы жақсы екенін айту оңай болса, GA жеткілікті уақыт берілсе, міндетті түрде ең жақсы болмаса да, өте жақсы шешімдерді табады.

Ол кезде мені көбірек қызықтырған GA қолданысы — оның дерекқорлардан ережелерді таба алу қабілеті еді. Ережелерді түсіну оңай. Мен Nielsen-дегі Деннис Тоболскидің де сұрап отырғаны осы екенін түсіндім — тұтынушылардың әртүрлі өнімдерді тұтынуын болжайтын жақсы құрылыс материалдары, яғни ережелер. Nielsen үшін басты назарда тұтыну болды, ал міндет — қандай адамдардың қандай өнімдерді тұтынатынын көрсететін ережелерді анықтау еді. GA-ның міндеті қызықты адамдар топтарын, яғни бір нәрсені орташа деңгейден әлдеқайда көп немесе әлдеқайда аз тұтынатын топтарды табу болды. Бизнес мұндай ақпаратпен пайдалы бірдеңе істей алар еді.

Nielsen деректерімен бірнеше күн жұмыс істегеннен кейін, GA ондаған заңдылықтарды анықтады, бірақ мен олардан көп мағына таба алмадым. Тізімнің басына шыққан мына бір заңдылық ешқашан есімнен кетпейді:

Солтүстік-Шығыстағы ересек әйелдер саудасының көп бөлігін бейсенбі күндері жасайды.

«Ересек» дегеніміз 45 жастан асқандар, ал «көп бөлігі» 80%-дан астам дегенді білдірді. Машиналық оқытудағы ең тиімді айлалардың бірі — болжамды заңдылықтарды (мысалы, Солтүстік-Шығыстағы ересек әйелдер саудасының көп бөлігін бейсенбі күндері жасайды) заңдылықты табу үшін қолданылмаған деректердің кездейсоқ таңдалған бөліктерінде тексеру арқылы олардың валидациясын (модельдің дұрыстығын тексеру) жасау. Егер ол осындай тексеруден өтсе, оның болжамдық күші бар екеніне, яғни болашақта да сақталатынына жақсы мүмкіндік бар. Басқаша айтқанда, егер оқыту алгоритмі дерекқордағы әртүрлі уақыт кезеңдерінде Солтүстік-Шығыстағы ересек әйелдердің кездейсоқ үлгілерін алса, олардың барлығы осы кездейсоқ таңдалған адамдар тобындағы сауданың басым бөлігі бейсенбі күндері жасалғанын көрсетеді.

Мұндай заңдылықтар бизнеске олар әрекет ете алатын жаңа түсініктер берді. Бұл білімді іске асыруға болатын еді.

Бірақ бұдан да маңыздысы, бұл деректерде мұндай заңдылықтардың неліктен бар екендігі туралы сұрақтар туғызады. Мысалы, егер сіз әйелдерге өнімді жарнамалағыңыз келсе, бейсенбі күндері мұны істеу үшін жақсы уақыт болуы мүмкін. Заңдылық Nielsen басшыларын кейбір адамдардың өнімді неге көп тұтынатынын, ал басқалары керісінше неге аз тұтынатынын сұрауға итермеледі. Жастардың сатып алу үлгілері басқаша болды ма, егер солай болса, неге? Мұндай сұрақтарға тарихи деректермен әрқашан жауап беру мүмкін емес және оларды шешу үшін тереңірек зерттеулер жүргізу қажет болуы мүмкін.

Деннис уәде еткендей бір айдан кейін келіп, деректерден қызықты ештеңе таптым ба деп сұрады. Мен кейбір біртүрлі заңдылықтар тапқанымды, бірақ оларды түсіндіре алмайтынымды айттым. — Мысалы не? — деп сұрады Деннис. Мен оған деректер бойынша солтүстік-шығыстағы қырық бес жастан асқан әйелдер саудасының көп бөлігін бейсенбі күндері жасайтынын айттым. — А, иә, өйткені көптеген газеттер купондарды аптаның ортасында шығарады, — деді ол немқұрайлы ғана. — Тағы не таптың?

Мен толқынысымды әрең бастым. Машина «қызықты тұтыну үлгілерін тап» дегеннен басқа ешқандай нұсқаусыз-ақ, купон күндері мен олардың әсері туралы заңдылықтың себебін тауып алған еді. Деннис заңдылықтың себебін растады. Себеп Деннис үшін қызықты болмаса да, мен үшін алгоритм көрсеткен бұл қабілет таңғаларлық еді. Оның үстіне, оның түсіндіруге болатындығы ерекше қуантты.

GA сонымен қатар тұтынушылар сегменттері арасында Деннис үшін онша айқын емес басқа да тұтыну үлгілерін тапты. Кездесудің соңында ол бұл іске қатты қызығып кетті. Мен де солай болдым.

ДХАРДЫҢ ЖОРАМАЛЫ

Осы тәжірибеден алған жалпы сабағым — машиналық оқытуды қолданған әрбір мәселеде жылдар бойы қайта-қайта кездестіріп келе жатқан нәрсе. Мен мұны Дхардың жорамалы деп атаймын:

Себептері айқындалғанға дейін жиі заңдылықтар пайда болады.

Бұл сіздің жеке өміріңізде қаншалықты жиі болатынын ойлап көріңізші. Біз адамдардың мінез-құлқы, нарықтар, денсаулық және қоршаған орта заңдылықтары айқын болмауы мүмкін күрделі әлемде өмір сүреміз және біз мұндай заңдылықтарды ашатын дұрыс сұрақтарды ешқашан қоймауымыз мүмкін. Машиналық оқыту әдістері біз нақты мақсатты көрсете алсақ, дұрыс сұрақтар қою арқылы оларды автоматты түрде аша алады. Nielsen жағдайында мақсат тұтынуға қатысты болды. Бірақ ол портфельдің болжамды өнімділігінен бастап, ауруды болжауға дейінгі кез келген нәрсе болуы мүмкін.

Білімді ашудың бұл тәсілі машина сізді келемеждеп: «Егер сен қандай сұрақ қою керек екенін білсең, мен саған деректерден сені қызықтыратын өте маңызды нәрсені көрсетер едім. Бірақ оның неліктен бар екенін өзің түсінуің керек», — деп тұрғандай сезіледі. Басқаша айтқанда, машина бізге дұрыс сұрақтар қоюға көмектеседі. Nielsen жағдайында сұрақтар «неге солтүстік-шығыстағы ересек әйелдер саудасының көп бөлігін бейсенбі күндері жасайды? » деген сияқты болды. «Неге» деген бөлігі, яғни табылған заңдылықтардың мәнін түсіну бизнес үшін маңызды. Шешім қабылдаушы бейсенбінің купон күні екенін түсінгеннен кейін, заңдылық мағынаға ие болады. Ол бойынша әрекет етуге болады, мысалы, бейсенбі күндері тиісті адамдарға жарнама жасау.

Ақырында маған машинаның өз бетінше сұрақтар қоюға және талдауға қабілетті әлеуетті теория генераторына айналғаны белгілі болды. Негізінде, ол принципті түрде өз бетінше «ғылыммен айналыса» алатын еді. Ақыр соңында, ғалымдар жиі жасайтын нәрсе осы емес пе: гипотезалар жасау және оларды деректерге қарсы тексеру? Содан кейін болған жайттардың мәнін түсіну. ЖИ дәл осыны істеп жатқан еді.

Бұл түсінік Майерс пен INTERNIST арасындағы 15 жыл бұрын куә болған өзара әрекеттесуден кейінгі ЖИ саласындағы менің екінші үлкен «аха-сәтім» болды.

Әлем мен үшін тағы да бұрынғыдай болмады.

Мен INTERNIST-тің үлкен қарым-қатынастар желісі — оның білімі — деректерден ашылуы мүмкін екенін түсіндім. Басқаша айтқанда, егер біз ЖИ-ге барлық жарияланған әдебиеттерге және пациенттердің денсаулық сақтау жүйесімен өзара әрекеттесуі мен нәтижелері туралы барлық деректерге қолжетімділік берсек, машина 2. 1-суреттегі желіге ұқсас нәрсені өз бетінше таба алуы керек еді.

Мұндай қабілет біз бәрін көбірек өлшейтін, бірақ жиналған деректердің бізге не ишара етіп жатқанын әлі аз түсінетін күрделі әлемде өте маңызды болады. Машина мұның бәрін өз бетінше біріктіре алады. Олардың себептерін табу — процестің шығармашылық бөлігі.

Мен тағы да ЖИ-дегі ірі парадигмалық ауысудың алдыңғы қатарында тұрғанымды түсіндім, бұл ауысу сала мамандарына емес, деректердің қолжетімділігіне негізделген еді. Болашақ айналамыздағы әлемнен шығатын деректердің мәнін түсінуге бағытталмақ еді және мұның бәрін түсіну адам мүмкіндігінен әлдеқайда жоғары еді. Машиналар біз үшін мағынаны түсіну мен ашу жұмыстарын көбірек атқаратын болады. Нью-Йоркте болғандықтан, қаржы әлемі машиналық оқыту мен ЖИ үшін менің эксперименттік алаңым ретінде айқын жол болып көрінді.

БӘРІН БІРІКТІРУ

Сараптамалық жүйелер олар үшін көрсетілген білімді пайдаланып, жағдайларды пайымдау негізінде медициналық диагностика жасау сияқты іс-әрекеттерді орындауға арналған. Бірақ бұл спецификациялық тәсіл үлкен кедергілерге тап болады, өйткені адамдар сипаттай алатынынан әлдеқайда көп нәрсені біледі және олар өз пайымдауларына интуитивті түрде, байқамай-ақ ортақ мағынаны (common sense) қосады. Сондай-ақ біз жақсы білетін және жеткізе алатын нәрселердің өзі жиі күрделі және өзара байланысты болады.

Машиналық оқыту ЖИ-дегі үлкен парадигмалық ауысуды көрсетті, мұнда спецификация деректерден үйренумен алмастырылды. Бұл машинаға шындықты ашу үшін деректерге қарсы бағалануы мүмкін гипотезалардың генераторы мен тексерушісі болуға мүмкіндік берді.

Қызықты (немесе жақсы) заңдылықтарды табу үшін біз машинаны дұрыс ақпаратпен қамтамасыз етуіміз керек — біз болжағымыз келетін мақсатқа қатысты «белгілердің» (features) сенімді жиынтығын және заңдылықтарды саралау критерийін беруіміз қажет. Біз бұл критерийді баламаларды саралау үшін қолдана аламыз және машинаға біз үшін қызықты заңдылықтарды табудың ауыр жұмысын жүктеуге болады. Алайда, мұндай заңдылықтар бойынша қалай әрекет ету керектігін адамдар немесе шешім қабылдайтын жүйелер анықтай алады.

Соңғысы, бірақ маңыздысы, деректерден заңдылықтар жиі олардың себептері айқындалғанға дейін пайда болады. Мағынаны түсіну немесе заңдылықтың «неліктен» бар екеніне жауап беру қиын жұмыс. Бұл қалыптан тыс ойлауды талап етеді. Заңдылықтың себептерін ашу шешім қабылдаушылар үшін оның олардың интуициясына сәйкес келетінін немесе интуициясының қате болуы мүмкін екенін анықтау үшін маңызды. Мағынаны түсіну — машиналық оқыту дәуіріндегі ең маңызды міндеттердің бірі.

ҮШІНШІ ТАРАУ

УОЛЛ-СТРИТТЕГІ БОЛЖАМ: ЗАҢДЫЛЫҚТАРДЫҢ МӘНІН ТҮСІНУ

АЛГОРИТМДЕРМЕН АҚША ТАБУ

«Yankee» командасының барлық уақыттағы ұлы ойыншысы Йоги Берраның сүйікті дәйексөздерінің бірі: «Жол айрығына келгенде, оны таңда! »

1994 жылдың жазында мен жол айрығына келдім. Йогидің философиясы мен тапқырлығының жанкүйері ретінде мен оны таңдадым.

Мен пракадемик (академиялық білім мен практикалық тәжірибені ұштастырушы) болдым. Менің бұрынғы NYU-дағы әріптесім Джек Баруди мені Морган Стэнлиде технологияны және фирма ішіндегі меншікті сауда тобын басқаратын Кевин Паркермен таныстырды. Мұндай топ фирманың өз ақшасымен сауда жасайды. Джек менің Nielsen-нің тұтынушылық мінез-құлық деректерінде машиналық оқытуды қолдану арқылы алған нәтижелерімді көрген еді. Оның: «Сен Кевинмен кездесуің керек. Ол өте табысты трейдер және технологияға үлкен сеніммен қарайды. ЖИ трейдер ретінде оған қатты әсер етеді. Оның үстіне ол сен сияқты қатал адам. Меніңше, сендер бір-біріңді ұнатасыңдар», — дегені есімде.

Келесі аптада мен Манхэттен орталығындағы Palio мейрамханасында Кевинмен түскі ас іштім. Бұл бір сағаттық түскі ас болуы керек еді, бірақ ол үш сағаттан астам уақытқа созылды. Кевин негізінен мен жақсы білетін өткір зейінмен және тынымсыз көзқараспен тыңдап отырды. Ол өте аз сөйледі. Мен ол кезде Moody's Investors Service-те жұмыс істейтін тең авторым Роджер Стейнмен бірге жазып жатқан бизнесте машиналық оқыту әдістерін қолдану туралы кітабымның алғашқы тарауларының жобаларымен бөлістім.

Түскі ас кезіндегі әңгімемізде мен Кевинге AC Nielsen-мен ережелерді ашу үшін генетикалық алгоритмдерді қолданудағы табысым туралы айттым, онда мен деректерден «болжамдылық нүктелерін» таба алдым — яғни белгілі бір нәтиженің орын алу ықтималдығы жоғары болатын кездейсоқ жағдайлар. Мен нарықтар негізінен «тиімді» болса да немесе өткен деректер негізінде болжау қиын болса да, олар шамадан тыс қорқыныш, ашкөздік немесе үлкен позицияларға тез кіруі немесе шығуы керек ірі ойыншылардың саудасы салдарынан мезгіл-мезгіл бұрмалануы мүмкін деген гипотеза жасадым. Бағалардың бұрмалануы мүмкіндік туғызады. Олар құбылысқа байланысты бірнеше минуттан бірнеше айға дейін созылуы мүмкін. Олар GA анықтауға қабілетті болуы тиіс жасырын мүмкіндіктерді — сауда жасаудың ең жақсы уақытын, яғни тәуекелге бару уақытын білдірді.

Бұл Кевиннің назарын аударды. Ол бірнеше жыл бойы Жапонияда Morgan Stanley-дің ең табысты фьючерстер мен опциондар трейдерлерінің бірі болған және опцион трейдерлерінің көпшілігі тым көп сауда жасайды, азғантай пайданың соңынан жүріп ақшаны босқа жұмсайды, оның орнына шыдамдылық танытып, нарықтар бұрмаланған кез сияқты тәуекелге бару үшін қолайлы сәттерді пайдаланбайды деген көзқарас қалыптастырған.

Опциондар (келісімшарт түрі, иесіне белгілі бір уақытта активті сатып алу не сату құқығын береді) — бұл сатып алушы белгілі бір заттың (мысалы, жүгері бушелі немесе Google акциясы) белгілі бір мөлшерін белгілі бір бағамен (страйк-баға деп аталады) белгіленген мерзімге дейін сатып алу немесе сату құқығы үшін ақы төлейтін келісімшарттар. Жалпы мағына бізге сатушының опцион үшін алатын ақысы белгісіздіктің артуымен бірге өсетінін айтады, бұл бағалардың бір кезеңнен екінші кезеңге дейінгі жоғары құбылмалылығынан көрінеді. Неліктен екенін түсіну үшін бағасы ешқашан өзгермейтін акцияны елестетіп көріңіз. Ол акция бойынша опцион көп тұрмайды, өйткені бәрі бір жылдан кейін бағаның қандай болатынын біледі: дәл солай. Екінші жағынан, егер акция бағасы қатты құбылып тұрса, оның страйк-бағасына жету ықтималдығы әлдеқайда жоғары, әсіресе егер ол ағымдағы бағадан тым алыс болмаса. Ондағы опциондар тыныш тұрған акцияның опциондарына қарағанда әлдеқайда қымбат болады.

Фьючерстер (активті болашақта белгіленген бағамен сатып алу немесе сату міндеттемесі) — бұл (опциондағы) құқық міндеттемемен алмастырылатын келісімшарттар. Фьючерстер — бұл кәсіпқойлар жүгері сияқты тауарлар мен S&P 500 және Nikkei 225 сияқты әртүрлі индекстер бойынша хеджирлеу немесе алыпсатарлық жасау үшін пайдаланатын құрал. «Ұзын» (long) позиция сіз бір нәрсені қазір сатып алып, позицияны жабу үшін кейінірек сататыныңызды білдіреді, ал «қысқа» (short) позиция оны қазір сататыныңызды (біреуден азғантай ақыға қарызға алу арқылы) және позицияны жабу үшін кейінірек қайта сатып алатыныңызды білдіреді. Ұзын позиция фьючерстік келісімшарттың бағасы көтерілгенде ақша табады, ал қысқа позиция оның бағасы төмендегенде ақша табады.

Опциондар мен фьючерстерді <span data-term="true">деривативтер</span> (негізгі активтің бағасына негізделген туынды қаржы құралы) деп атайды, өйткені олар қандай да бір негізгі активтен туындайды.

Белгісіздікті қалай өлшеуге болатыны туралы көптеген зерттеулер жүргізілді. Қаржыда оны өлшеудің ең жиі қолданылатын түрі волатильдік (бағаның құбылмалылық дәрежесі) деп аталады және оны өлшеу өте қарапайым. Айталық, бізде −1, 0, 1 және −2, 0, 2 сияқты екі сандар жиынтығы бар. Екінші серия біріншіге қарағанда екі есе көп құбылып тұр, бұл оның волатильдігі екі есе жоғары екенін білдіреді.

GA-ның нарықтардағы болжамдылық нүктелерін анықтау қабілеті туралы менің сипаттамам Кевинге жақын болды, өйткені ол мұны өз басынан өткеріп, Жапониядағы үлкен мүмкіндікті пайдаланған еді. Токиодағы деривативтер трейдері ретінде ол қарқынды дамып келе жатқан жапондық қор нарығының бірқатар себептерге байланысты тым жоғары бағаланғанын және көпіршіктің жарылу ықтималдығы жоғары екенінің белгілерін көрген болатын. Алайда қаржы нарықтарында уақытты дәл таңдау (timing) бәрін шешеді. Трейдерлер көпшіліктің трендіне қарсы шығудың қаншалықты қауіпті екенін біледі. Менің NYU-дағы әріптесім, экономист Нуриэль Рубини 2007 жылы АҚШ нарығы күйрейді деп батыл болжам жасады, ол шынымен де болды, бірақ оның болжамынан кейін нарық тағы 30%-ға көтеріліп барып құлады. Трейдерлер әдетте сонша ұзақ күте алмайды; уақыт — бәрі. Шүріппені қашан басатыныңыз өте маңызды.

Кевин Жапонияда уақытты дәл таңдай білді. Ол нарықтың мазасыздық белгілерін, яғни құбылмалылықтың (volatility — бағаның ауытқу дәрежесі) артқанын күтті. Бұл Жапония қор нарығының басты индексі — Nikkei 225 бойынша опциондар (options — активті белгілі бір бағамен сатып алу не сату құқығы) бағасының күрт өсуінен байқалды. Ол Nikkei фьючерстеріне (futures — болашақта белгіленген бағамен жеткізу шарты) шорт ашты (shorting — актив бағасының төмендеуінен пайда табу стратегиясы), бақытына орай, көп ұзамай нарық құлдырап кетті. Кез келген кәсіби трейдер сізге қор нарығында төмендеуге бәс тігу (shorting) арқылы ақша табу қаншалықты қиын екенін айтып береді, себебі нарықтың табиғи түрде жоғарыға бейімділігі бар.

Кевин бұл сәттіліктен өзінің кемеңгерлігі туралы емес (көпшілік солай ойлар еді), басқаша сабақ алды. Керісінше, ол болған жайтты саралау үшін біраз уақыт үзіліс алып, бірнеше аптаға Азияға саяхатқа шықты. Ол дұрыс шешім қабылдағанын түсінді, бірақ ұтқан ақшасымен үлкен бәс тігуден бас тартты. Бұл тәжірибе оны адамның түйсігіне немесе шешіміне сенбей, сауда мүмкіндіктерін анықтаудың жүйелі жолы бар ма екен деген сұрақ төңірегінде ойлануға мәжбүр етті. Ол инвестициялауға ғылыми әдісті қолданатын жүйе іздеді. Ол кез үшін бұл өте озық ой болатын. Бұл дәл мен өзімнің жаңа Жасанды Интеллект (AI) әдістеріммен бекітілген ғылыми тәсілім арқылы шешуге тырысқан мәселе еді.

Үш сағаттық түскі асымыздың соңында мен Кевиннен трейдингке арналған ЖИ-ді зерттейтін жазғы зерттеу жобасына қызығушылық таныта ма деп сұрадым.

Оның жауабы есімнен кетпейді: «Бұл сен ойлағаннан әлдеқайда ауқымды нәрсе, Васант. Бұл — трейдингтің болашағы. Егер мұны шынымен жүзеге асырғың келсе, менің меншікті трейдинг (proprietary trading — компанияның өз капиталымен сауда жасауы) тобыма жұмысқа кел. PhD студенттеріңді де ала кел. Мен бұл еңбегіңді лайықты бағалаймын».

Түскі астан кейін Кевин мені 1633 Broadway-дегі кеңсесіне апарып, үш аға әріптесімен таныстырды: физик, математик және компьютер маманы. Ол кезде олардың мені жұмысқа қабылдау үшін сұхбат жүргізіп жатқанын түсінбеппін. Кевин уақытты босқа өткізбеді. Кездесулердің соңында ол маған жоғары лауазымды қызмет ұсынып, біз Morgan Stanley-де Machine Learning (Машиналық оқыту) саласының іргетасын қалайтынымызды айтты.

Ол ұсынған жалақы менің бұрынғы табысымнан төрт еседен де көп болды. Біраз келіссөздерден кейін біз бұдан да жоғары сомаға тоқтадық; бұдан бас тарту мүмкін емес еді. Мен Кевинге Гималай тауларына алты апталық жазғы жорық жоспарлағанымды, содан оралған соң жұмысқа кірісетінімді айттым.

Мен Morgan Stanley-дегі жұмысымды 1994 жылдың тамызында бастадым және өзіммен бірге бұрынғы төрт PhD студентімді алдым. Олардың диссертациялары мен кейінгі мансабы алдағы бірнеше жылда фирмада жүргізген зерттеулері арқылы қалыптасты. Осылайша Кевин екеуміз жақсы дос болып кеттік.

ҚҰБЫЛМАЛЫЛЫҚТЫҢ МАҢЫЗЫ

1990-жылдары және одан кейінгі онжылдықтың басым бөлігінде академиялық қаржы қауымдастығы нарықтар тиімді, яғни барлық ашық ақпарат бағада толық көрініс табады деп сенді. Бұл ешқандай жабық ақпаратсыз болашақ табысты болжау мүмкін емес дегенді білдіреді.

Бұл өте қисынды болжам. Нарықтардың қатаң бақылауда екенін ескерсек, кірістер туралы есеп беру, компанияны сатып алу, жаңа бас директордың келуі немесе банктің банкротқа ұшырауы сияқты соңғы жаңалықтар акциялар, фьючерстер мен опциондар бағасында лезде көрініс табуы тиіс. Герб Саймонның шектеулі рационалдылық теориясына қарама-қайшы, тиімді нарықтар теориясының негізінде жатқан болжам — нарық қатысушылары әрқашан толықтай рационалды, яғни кез келген күрделілік пен белгісіздікке қарамастан, жағдайды лезде дұрыс талдауға қабілетті.

Тиімді нарық гипотезасы қисынды болғанымен, ол маған көшеде жатқан жүз долларлық банкнотты көріп, «егер ол шын болса, біреу оны әлдеқашан алып кетер еді» деп елемей өтетін экономист туралы оқиғаны еске түсіреді. Тиімді нарықтарда мүмкіндіктер болмайды.

Екінші жағынан, трейдерлердің көбі бұл гипотезаға толық сенбейді. Олар үшін нарық негізінен тиімді. Бірақ онда қорқыныш, ашкөздік, күрделілік, күтпеген жағдайлар, әдеттен тыс белсенділік және «тобыр инстинкті» сияқты адам психологиясына байланысты бірқатар сауда мүмкіндіктері туындайды. Пысық трейдер тәуекелдердің бір бағытқа қарай қатты ауытқығанын байқайды. Менің бұрынғы әріптесім Лассе Педерсеннің «Efficiently Inefficient» атты тамаша кітабы бар, онда «белсенді инвестициялаудың» құпия әлемі сипатталып, хедж-қорлардың инвестицияда артықшылықты қалай іздейтіні айтылады.

Кевиннің жаны трейдер болатын. ІТ бөлімін басқарғаны үшін ол Morgan Stanley президенті Джон Макпен келісіп, өзінің меншікті трейдинг тобына фирма капиталынан бірнеше жүз миллион доллар пайдалануға рұқсат алды. Бұл капиталдан күтілетін жылдық пайда ондаған миллион долларды құрады, сондықтан ставка өте жоғары еді.

Кевиннің трейдинг тобы әртүрлі адамдардан тұратын ерекше ұжым болды: қызуқанды трейдер, нарық тарихын тамаша есте сақтайтын байсалды трейдер, арықша келген, көзілдірік киген, өткір ойлы «квант» (сандық талдаушы) және Кевин еркелетіп «алхимик» деп атайтын қытайлық зерттеуші Франк. Кевин мен Франк өз бағдарламаларында қолданылатын қатаң құпия сауда ережелерін жасап шығарған. Кейінірек мен олардың стратегиясы Эллиотт толқындарының теориясына (Elliott Wave theory — нарықтың циклдік қозғалысын сипаттайтын теория) негізделгенін білдім. Бұл теория бойынша қор нарығы бес толқыннан тұрады, оның әрқайсысы кезектесіп келетін бес жоғары және төмен трендтерден құралады (жоғары-төмен-жоғары-төмен-жоғары). Мұндағы басты міндет — нарықтың циклдің қай бөлігінде тұрғанын анықтап, соған сәйкес келесі цикл басталғанша позицияны ұстап тұру. Сіз толқындарда «жүзесіз».

Кевиннің командасымен болған алғашқы кездесуім есімде. Мен Кевинге түскі ас кезінде ұнаған терминдермен оларды да қызықтырғым келді. Машиналық оқытуды баға қозғалысынан сауда ережелерін шығару үшін қалай қолдануға болатынын сипаттадым — яғни, болашақта үлкен оң немесе теріс табысқа әкелетін нарықтық жағдайларды, «болжамдылық аймақтарын» табуды түсіндірдім.

Олар маған түсінбеген кейіппен қарады. Ыңғайсыз үнсіздіктен кейін Франк менен Жапонияның мемлекеттік облигациялары (JGB) бойынша менің стратегиям әр мәміледен қанша пайыз пайда әкелетінін сұрады. Мен әлі стратегиям жоқ екенін, бірақ одан да құнды нәрсе — оны жасау әдісі бар екенін айттым. Бұл оны иландыра қоймады.

Олардың назарын аудару үшін нақты деректерді қолданып, нақты нәтиже көрсету керек екенін түсіндім. Сондай-ақ Франк менің жұмысымды жеңілдететін ештеңе айтпайтынын сездім. Ол ЖИ-ге менсінбей қарады және менің тезірек кеткенімді қалады.

Сондықтан мен эксперимент ұсындым. Мен олардан соңғы бірнеше жылдағы барлық мәмілелерін беруді сұрадым, оның орнына мен оларға бұдан да жақсы нәтижеге қол жеткізуге болар ма еді, соны айтып беремін және бұл нәтижені олардың қазіргі бағдарламасына қолданамын дедім.

Бұл олардың назарын бірден аударды.

«Саған біздің стратегиямызды сипаттап беру керек пе? » — деп сұрады олар.

«Жоқ, маған тек мәмілелер (trades) керек».

Оларды менің ұсынысым қызықтырды. Жүйенің қалай жұмыс істейтінін білмей, оны қалай жақсартуға болады? Франктың күмәнін көрдім, бірақ Уолл-стритте ешқашан тегін мүмкіндіктен бас тартпайды, ал бұл ұсыныс жіберіп алуға болмайтындай тиімді еді. Кевин Франкқа тарихи мәмілелер дерегін маған беруді бұйырды. Ең жаман жағдайда — мен сәтсіздікке ұшыраймын.

Nielsen-дегі алғашқы табысымның арқасында менде жоспар болды: жүйенің қалдырған «іздерін» талдау арқылы оны түсіну. Nielsen-де мен тұтыну деректерінің ізіне сүйене отырып, қызықты мінез-құлық үлгілерін — мысалы, әйелдердің купон күндері көп сауда жасайтынын анықтаған едім. Мұндай сауда мінез-құлқының қызықтылығы — оның ерекшелігінде немесе орташа деңгейден айырмашылығында және оның негізі бар екендігінде болды. Мен қаржы нарығынан «солтүстік-шығыстағы әйелдер сауданың көп бөлігін бейсенбіде жасайды» дегеннің баламасын іздедім.

Тұжырымдамалық тұрғыдан алғанда, олардың стратегиясының сауда мінез-құлқын талдау тұтынушылардың мінез-құлқын талдаудан еш айырмашылығы жоқ еді. Міндет — олардың алгоритмі жалпы орташа көрсеткіштен әлдеқайда жақсы немесе нашар жұмыс істеген нарық жағдайларын және оның «неліктен» екенін табу болды. «Неліктен» деген бөлімі өте маңызды.

Франк маған мәмілелер дерегін берді. Әрбір мәміле мыналардан тұрды: ашылу күні мен уақыты, көлемі (акциялар саны немесе фьючерстік келісімшарттар саны), позиция (long немесе short), сауда құралы (мысалы, жүгері келісімшарты немесе АҚШ-тың 10 жылдық мемлекеттік облигациясы), ашылу бағасы мен күні, және жабылу бағасы мен күні.

Төменде АҚШ-тың 10 жылдық қазынашылық облигациясының фьючерстерімен жасалған «long» мәмілелерінің екі мысалы берілген:

EntryDate | EntryPrice | ExitDate | ExitPrice | Position | Instrument | Return :--- | :--- | :--- | :--- | :--- | :--- | :--- 19820706 | 69.4375 | 19820709 | 71.25 | Long | 10YrBond | 2.61% 19850618 | 87.96875 | 19850624 | 84.84375 | Long | 10YrBond | -3.55%

Соңғы бағандағы әрбір мәміленің табыстылығы ашылу және жабылу бағаларынан есептеледі. Бізге керегі де осы. Бірінші мәміленің табысы жоғары, ал екіншісінікі теріс. Машиналық оқыту алгоритмінің міндеті — орташа көрсеткіштен жоғары оң немесе теріс табысқа әкелген нарық жағдайларын табу. Мысалы, барлық мәмілелер бойынша жалпы орташа табыс 0,05% делік. Орташа табыс 0,05%-дан айтарлықтай ерекшеленетін, яғни өте жоғары немесе өте төмен болатын жағдайлар бар ма?

Бұл жағдайлар қандай болуы мүмкін? Мен сенімді болмадым. Бірақ түйсігім нарықтың алдыңғы тренді маңызды болуы мүмкін екенін айтты; яғни мәміле жасалған кездегі нарық қарқынының (momentum) бағыты қандай болды? Сонымен қатар құбылмалылық сияқты факторлар да маңызды деп болжадым. Жоғары құбылмалылық жоғары белгісіздікті көрсетеді. Бәлкім, құбылмалылық жақын болашақты болжауда маңызды рөл атқаратын шығар.

Бағыт пен құбылмалылық мен болашақ табысты болжау үшін қолданған белгілер (features — модель үшін бастапқы деректерден пайдалы сипаттамалар жасау) болды. Мен нарық жағдайларын осындай белгілер арқылы сипаттап, болашақ табысты болжағым келді.

Белгілер инженериясы (feature engineering) — бұл белгілі бір дәрежеде өнер. Ол нысананы болжауға әсер ететін белгілерді, әсіресе басқа белгілермен үйлесімде табу үшін үлкен шығармашылық пен тәжірибені талап етеді. Мен құбылмалылық пен бағыттан бастадым, бірақ уақыт өте келе нарықтың болашақ күйін болжай алатын қасиеттерін сипаттау үшін бұл жиынтықты едәуір кеңейттім.

Мен Кевиннің барлық мәмілелеріне қатысты нарық жағдайларын (белгілер арқылы) есептедім. «5 күндік құбылмалылық» және «30 күндік құбылмалылық» сияқты көрсеткіштерді, яғни нарықтың соңғы 5 және 30 күн ішінде қаншалықты құбылмалы болғанын есептедім. Белгілердің басқа түрлері де осыған ұқсас есептелді.

Мен әр мәмілеге осындай ондаған белгілерді қостым, оны төмендегі сызбада «нарық жағдайлары» деп атаймын. Мен қайсысы маңызды екенін білмедім, сондықтан Nielsen жағдайындағыдай, алгоритмнің өзі маған қызықты нарық жағдайларын тауып беруін қаладым. Машиналық оқыту алгоритміне енгізілген толықтырылған деректер жиынтығы шамамен былай көрінді:

Market Conditions :--- | :--- | :--- | :--- | :--- | :--- | :--- | :--- | :--- EntryDate | EntryPrice | ExitDate | ExitPrice | Position | Instrument | Return | vol5 | vol30 19820706 | 69.4375 | 19820709 | 71.25 | Long | 10YrBond | 2.61% | 16.8 | 14.2 19850618 | 87.96875 | 19850624 | 84.84375 | Long | 10YrBond | -3.55% | 18.2 | 24.2

Көріп отырғанымыздай, белгілермен көрсетілген екі мәміленің нарық жағдайлары облигациялар нарығының құбылмалылық деңгейі бойынша айтарлықтай ерекшеленеді. Екінші мәміледе 5 күндік және 30 күндік құбылмалылық та жоғары. Бірақ тереңірек үңілсек, қосымша айырмашылықтар бар. Бірінші мәміледе жақын арадағы (5 күндік) құбылмалылық ұзақ мерзімді (30 күндік) құбылмалылықтан жоғары, бұл құбылмалылықтың жақында күрт өскенін және белгісіздіктің артуын білдіруі мүмкін. Керісінше, екінші мәміледе жақын арадағы құбылмалылық ұзақ мерзімдікке қарағанда айтарлықтай төмен, бұл белгісіздіктің азаюын көрсететін «салқындау» кезеңін білдіреді. Тек екі белгінің өзімен қаншама нарық жағдайларын жасауға болатынын елестетіп көріңізші. Ал егер жүздеген немесе мыңдаған белгілер мен олардың сансыз комбинациялары болса ше?

Және осындай ондаған белгілермен толықтырылған мыңдаған мәмілелерден тұратын деректер жиынтығын елестетіңіз. Бұл өте үлкен іздеу кеңістігі.

Сонымен, үлкен болашақ табыстарға әкелген нарық жағдайлары қандай?

Мен мұны анықтау үшін ережелерді табатын генетикалық алгоритмімді іске қостым.

Алгоритм кездейсоқ жасалған стратегияларды құрудан басталды. Кездейсоқ стратегия, мысалы, «егер бес күндік құбылмалылық 15-тен аз болса, бес күнге long позициясын аш» деген сияқты болуы мүмкін.

Мұндай стратегияның «тиімділігі» құбылмалылық 15-тен төмен болған кезде жасалған барлық мәмілелердің орташа табысын сол табыстардың ауытқуына бөлу арқылы есептелді. Біз алымының мүмкіндігінше үлкен оң немесе теріс сан, ал бөлімінің мүмкіндігінше кіші болуын қалаймыз. Мен мұны «пайда мен зиян қатынасы» деп атаймын. Қаржыда оның неғұрлым ресми атауы бар: Ақпараттық коэффициент (Information Ratio — тәуекелге шаққандағы табыстылық өлшемі). Біз бұл санның мүмкіндігінше үлкен оң немесе теріс сан болғанын қалаймыз. Оң сан — long позициясы үшін жақсы ереже, ал теріс сан — short үшін жақсы ереже екенін білдіреді.

Алгоритмімнің ең алғашқы ашқан жаңалығы есімнен кетпейді, бұл Nielsen-нің әйелдер туралы тұжырымымен тең еді:

Егер vol30 (30 күндік құбылмалылық) соңғы жылмен салыстырғанда ең төменгі квартильде болса, мәміленің күтілетін табысы орташа көрсеткіштен үш есе жоғары болады.

Менің қызығушылығым оянды. Мен бұл нәтижені бірнеше уақыт кезеңдерінде тексердім. Ол айтарлықтай тұрақты болды, яғни тарихтағы көптеген кездейсоқ кезеңдерде өз күшін сақтап қалды. Бұл оның болашақта да орындалуы мүмкін екенін, яғни болжамдық қабілеті бар екенін білдірді. Жүйелі инвестициялаудың «алтын діңгегі» де осы: бір нәрсенің болжамдық қасиеті бар ма?

Біздің сауда тобымыз жұма күні түстен кейін нарық жабылған соң кездесетін. Апталық нәтижелерді қарап болған соң, Кевин маған бұрылып, олар берген мәмілелерден қызықты ештеңе таптым ба деп сұрады.

Бұл маған Nielsen-нен Деннис Тоблоскимен болған алғашқы кездесуімді еске түсірді. Йоги Берра айтқандай, «дежавю тағы да қайталанды».

Мен топқа бірнеше қызықты заңдылықтар тапқанымды, бірақ олардың не білдіретінін әлі білмейтінімді айттым.

«Басынан бастап түсіндір», — деді Кевин.

Мен Кевинге ағымдағы 30 күндік құбылмалылық соңғы бір жылдағы ең төменгі квартильде болғанда, орташа табыс олардың барлық мәмілелерінің орташа көрсеткішінен үш есе көп болғанын айттым. Басқаша айтқанда, егер сіз бүгінгі құбылмалылықты өлшеп, оны өткен жылғы барлық мәндермен салыстырсаңыз, ағымдағы құбылмалылық ең төменгі 25%-дық диапазонға түскен кезде мәміле әлдеқайда сәтті болған.

Ұзақ, мағыналы үнсіздік орнады. Соңында Франк жұмбақ түрде: «volatility no good» (құбылмалылық жақсы емес) деді. Кейінірек Франктың «no good» деген сөзі кез келген нәрсені жоққа шығару үшін қолданатын тұрақты тіркесі екенін білдім. Оның пікірі таңқаларлық немесе қисынсыз емес еді, өйткені нарықтарды болжау үшін қолданылатын көптеген факторлар шынымен де жарамсыз болып шығады. Күмәндану — жақсы қасиет.

«Ауызыңды жап, Франк», — деп Кевин оның сөзін бөліп жіберді, — «мен көбірек білгім келеді». Ол кезде Уолл-стриттегі сөйлесу мәнері қазіргіге қарағанда әлдеқайда тікелей және дөрекілеу болатын.

Кевин Франкқа құбылмалылықты тереңірек зерттеуді қаншалықты жиі айтқаны туралы күңкілдеп, енді міне, сырттан келген адам оларға құбылмалылықтың маңызды екенін айтып отырғанын жеткізді. Шын мәнінде, бұл олардың жұмыс нәтижесі үшін шешуші фактор болып шықты.

Қарбалас басталды. Айналамда бірнеше қызу әңгімелер жүріп жатты. Шу басылғанда, мен бұл заңдылықтың себебін ешкім түсіндіре ала ма деп сұрадым.

Олардың ешқайсысы түсіндіре алмады. Бірақ бұл тұжырым оларға жақын болды, өйткені құбылмалылық күрт артқан сайын олар көп ақша жоғалтатын. Олар бұл қиындықты бастан кешіп жүрген еді, сондықтан мен олардың сауда алгоритмін немесе негізін білмей-ақ, осы қиындықтың себебін тапқаным оларды қатты қызықтырды.

Бұл заңдылықтың себебін ашу үшін маған академиялық журналдарды бірнеше ай бойы ақтаруға тура келді, бірақ соңында таптым. Себебі өте қарапайым және түсінуге оңай.

Кевиннің тобы АҚШ-тың көптеген мемлекеттік облигацияларымен сауда жасайтын, олардың бағасы пайыздық мөлшерлемелер (yields) төмендегенде көтеріледі және керісінше. Олардың позициялары негізінен «long» болатын. 1970-жылдардан бері пайыздық мөлшерлемелердің негізінен төмендеп келе жатқан жағдайында облигациялар бағасы өседі, сондықтан әдеттегі long позициясы пайдалы болады. Бірақ пайыздық мөлшерлемелер көтеріліп, облигациялар бағасы төмендейтін мазасыздық немесе белгісіздік кезеңдері болады. Менің түсінгенім — құбылмалылық белгілі бір шектен асқанда, оның жоғары деңгейде қалып, жақын арада облигациялар бағасына төмендеу қысымын түсіру ықтималдығы жоғары болады екен. Ал бұл — long позициясын азайту немесе short позициясын ашу үшін қолайлы уақыт.

МАҒЫНАНЫ ҰҒЫНУ (SENSE-MAKING)

Статистикада «әсердің» (treatment) ықпалын өлшеудің стандартты әдісі — оның нәтижені (target) әсер етпеген жағдаймен салыстырғанда қаншалықты жақсартатынын бақылау. Біздің жағдайда «әсер» — бұл құбылмалылық жағдайы, ал «нәтиже» — болашақ табыс түріндегі қаржылық көрсеткіш.

Нәтижелер әдетте «бөлінеді», көбінесе «қоңырау қисығы» (bell curve) бойымен болады, бұл нәтижелердің көпшілігі орташа мәннің (мысалы, нөлдің) айналасында жинақталатынын білдіреді, бірақ бірнешеуі өте жақсы немесе өте нашар болуы мүмкін, олар бөлінудің «құйрықтары» (tails) деп аталады. Машиналық оқыту алгоритмдері әдетте бөліну орташа мәнге қатысты оңға немесе солға қарай ығысқан жағдайларды — «әсерлерді» табуға тырысады.

Математикалық тұрғыдан алғанда, менің тапқан заңдылығым былай дейді: 30 күндік құбылмалылықтың ең төменгі квартильде болуы жағдайында (әсер), күтілетін болашақ табыс кездейсоқ жағдайға (нәтиже) қарағанда жоғары болды. Басқаша айтқанда, 30 күндік құбылмалылыққа негізделген нәтижелердің бөлінуі 3. 1-суретте сұр бағандармен көрсетілгендей оңға қарай ығысқан.

Бөлінудің неліктен ығысқанын түсіну — кез келген зерттеудегі ең күрделі мәселе. Құбылмалылық төмен болған кездегі болашақ табыстың айырмашылығының себебі неде? Мұны түсіндіруге бола ма?

Image segment 303
  1. 1-сурет. Қаржыдағы машиналық оқыту

Бұл айырмашылықтың қисыны бар болып шықты. Құбылмалылық жауаптың бір бөлігі ғана еді, бірақ жақсы нәтиженің тағы бір қызықты себебі болды, оны анықтау үшін көп ізденіс пен шығармашылық ойлау қажет болды. Бұл нәтижеге сырттай қарап, оны түсіндіре алатын басқа факторларды іздеуді талап етті.

Мен алгоритмім қолданылған кезде стратегияның орташа позицияны ұстау мерзімі қысқарғанын байқадым. Бұл таңқаларлық емес еді, өйткені менің қосымшам құбылмалылық белгілі бір шектен асқанда позицияларды жауып тастайтын. Бірақ бұл мені «түпнұсқа стратегия позицияларды тым ұзақ ұстай ма? » деген ойға қалдырды. Мәміле ашылғаннан кейін жаңа ақпарат пайда болған сайын оның сигналы «өшіп» (decay) қала ма?

Бұл сұраққа жауап беру үшін мен Кевиннің мәмілелеріндегі жалпы табыстың қанша бөлігі позицияны ұстау кезеңінің басында келгенін есептедім. Әрине, мен табыстың басым бөлігі позиция ашылғаннан кейінгі алғашқы кезеңдерде келетінін анықтадым. Бұл заңдылық көптеген мәмілелерде расталды, бұл олардың алгоритмі позицияларда тым ұзақ қалып қояды деген болжамымды қуаттады. Құбылмалылық белгілі бір деңгейден асқанда позициядан шығу немесе оны өзгерту туралы менің алгоритмім орташа ұстау мерзімін тиімді жолмен қысқартты. Түйіні — менің алгоритмім тәуекелді ақылдырақ басқарды. Зерттеудің басында мен бұл туралы дәл осылай ойламаған едім. Тағы да сол ескі қағида алдымнан шықты: заңдылықтар олардың себептері анықталғанға дейін пайда болады.

Заңдылықтардың себептерін табу оңай емес, ол әрдайым мүмкін де емес. Менің болжамым деректермен расталғаны үшін жолым болды. Бірақ бұл «мағынаны ұғу» процесі ғылымнан гөрі өнерге жақын және ол бизнестегі және ғылымдағы машиналық оқытумен байланысты ең күрделі мәселелердің бірі болып табылады. Біз әрқашан заңдылықтың артындағы оқиғаны іздейміз. Оқиғасыз сандар бос сөз болып көрінеді. Бизнес көшбасшылары оқиғаны күтеді. [/STORY]

Бұл түрдегі атрибуция қате хикаяны тудыруы мүмкін бе? Әлбетте. Мен нәтижелерді түсіндіру барысында атрибуцияның қате болған жағдайларын көрдім. Менің жолым болып, атрибуция қисынды шықты және мұқият тексеруге төтеп берді.

Жаңа қабатымды қосқанда стратегия қаншалықты жақсарды?

Кез келген стратегияның сауда нәтижелерін салыстыруға арналған стандартты көрсеткіш — мен жоғарыда атап өткен Ақпараттық коэффициент (Information Ratio - IR) деп аталады. IR инвестициялық тиімділікті өлшеудің стандартты құралы болып табылады, өйткені ол жылжымайтын мүлік, акциялар, облигациялар, мұнай немесе криптомен сауда жасасаңыз да, сол нәтижеге қол жеткізу үшін қабылданған тәуекелге қатысты өнімділікті өлшейді. Нақтырақ айтсақ, күнделікті кірістер сериясын қарастырсаңыз, IR олардың орташа кірісін (пайданы) сол пайдаға жету жолындағы құбылмалылыққа (қиындыққа) бөледі. Бөлім әдетте кірістер сериясының стандартты ауытқуы ретінде өлшенеді, бұл бізге кірістердің қаншалықты құбылғанын көрсетеді. Басқа жағдайлар тең болғанда, біз кірістердің орташа мәні жоғары, ал олардың құбылмалылығы төмен болғанын қалаймыз. Басқаша айтқанда, бізге "жоғары пайда және аз қиындық" қажет.

Кевиннің бастапқы шектелмеген стратегиясының IR көрсеткіші шамамен 1-ге тең болды, бұл қабылданған тәуекелдің әрбір бірлігі үшін модель бір бірлік кіріс әкелгенін білдіреді. Сонымен, егер сіз 10% құбылмалылықты мақсат етсеңіз, сіздің күтілетін жылдық кірісіңіз 10% болды.

Ақпараттық коэффициент мәндерінің шын мәнінде нені білдіретінін түсіндіру үшін математикалық есептеулер жүргізе аламыз: бірге тең мән трейдердің немесе жүйенің жылды шығынмен аяқтау мүмкіндігі шамамен алтыдан бір екенін немесе ұтысқа ие болу мүмкіндігі шамамен 83% екенін көрсетеді. Салыстыру үшін, S&P 500 (АҚШ-тың 500 ірі компаниясының акциялар индексі) көрсеткішінің ұзақ мерзімді IR мәні шамамен 0,5-ті құрайды, бұл S&P индексінің шамамен 70% жағдайда ұтысты жылдарға ие екенін білдіреді. Кевиннің шамамен бірге тең IR көрсеткіші тәуекелге негізделген есеп бойынша жалпы нарықтан екі есе жақсы болды.

Менің алгоритмімнің IR көрсеткіші қандай болды?

Жыл бойы менің Machine Learning-ке негізделген алгоритмім стратегияның күтілетін IR көрсеткішін шамамен 30%-ға арттырып, 1,3-ке жеткізді. Кевин менің үлгімді құбылмалылық деңгейіне байланысты позициялардың көлемін реттеу арқылы топтың стратегиясын өзгерту үшін қолдануды жөн көрді.

Жалпы алғанда, пайда табу үшін заңдылықтарды іздеудегі менің алғашқы қадамым сәтті болды.

Бірақ мен үшін ең үлкен сабақ — нарықты болжау тәуекелді қашан және қаншалықты қабылдау керектігінде екендігі болды. Бұл маған Кевинмен алғашқы түскі аста болжамдылық ошақтарын талқылағанымызды еске түсірді. Менің тапқаным да сол еді. Ол әңгіменің оған әсер еткені таңқаларлық емес.

Бірақ сауда әрқашан белгілі бір дәрежеде сәттілікті талап етеді. Маған сәттілік серік болды, өйткені бастапқы стратегияның өнімділігі бірден айтарлықтай жақсарды. Бірақ содан кейін бәс жоғарылады, менің нарықты болжау саласына деген қызығушылығым да артты.

“Machine Learning-ті мүлдем жаңа сауда стратегияларын ашу үшін қолдана аласың ба? ” — деп сұрады Кевин көп ұзамай.

“Неге болмасқа,” — дедім мен жаңадан бастаушының оптимизмімен.

Сол күннен бастап мен өз әдістерімді облигациялардан бастап, шошқа еті, валюталар мен акцияларға дейінгі барлық нарықтарға қолдана бастадым.

Менің Жасанды Интеллект саласындағы индустриялық сапарым осылай басталды.

Тағы да айта кетейін, бұл 1994 жылдың аяғында, Интернет енді ғана пайда бола бастаған кез еді. Бірнеше жылдан кейін мен серіктестерім — Энтони Барафф, Пунит Батра және кейінірек Стивен О'Галлахермен бірге Machine Learning-ке негізделген SCT Capital (автор негізін қалаған хедж-қор) хедж-қорын құрдым және біз Гринвич-Виллидждегі Бликер-стритте орналасқан лофтта жұмысымызды бастадық. Көп жылдық сауда барысында бізде тек бір ғана шығынды жыл болды. Біздің машиналар күн сайын сауда жасауды жалғастырып, әртүрлі нарықтарда болжамдар жасайды.

Қаржы нарықтарында Machine Learning-тің ізашары болу және индустрияның эволюциясын көру өте қызықты болды. Менің жүйелі сауда стратегияларым алғашқы күндерден бері айтарлықтай дамыды. Мен ұстау мерзімі бірнеше минуттан бірнеше аптаға дейінгі әртүрлі қарқынмен бірнеше нарықта жұмыс істейтін алгоритмдер жасадым. Ал жақында менің жас әріптестерім Эрик Кепес және Юрай Юрсамен бірге біздің машиналар медицинадан бастап жүргізушісіз көліктерге дейінгі қосымшалардың негізі болып табылатын компьютерлік көру (computer vision) тетіктерін пайдалана отырып, нарықты визуалды түрде “бақылау” арқылы сауда жасауды үйренді. Және 8-тарауда сипаттағанымдай, әріптесім Жоао Седок екеуміз заманауи ЖИ-дің Үлкен Тілдік Модельдеріне (LLMs) негізделген ұзақ мерзімді инвестициялау үшін “Damodaran Bot” бағдарламасын жасадық.

Осы жолда мен спорт, медиа, жылжымайтын мүлік, денсаулық сақтау және олфакция (иіс сезу) сияқты бірқатар басқа салаларда ЖИ-ге негізделген болжау алгоритмдерін құруға мүмкіндік алдым. Осы салалардағы алгоритмдердің мінез-құлқын бақылау маған олардың нәзік тұстарын түсінуге көмектесті, атап айтқанда, Machine Learning-ке негізделген болжау алгоритмдерінің неліктен осылай әрекет ететінін және шешім қабылдау кезінде оларға қашан сену керектігін түсінуге мүмкіндік берді.

Барлық осы салалардағы ортақ түсінік — болжау әрқашан қандай да бір “артықшылыққа” (edge) ие болуға тіреледі. Артықшылықтың табиғаты әртүрлі салаларда қалай өзгеретіні, оны іс жүзінде қалай пайдалану керектігі және осы салалардағы ЖИ алгоритмдерінің болжамдарына қаншалықты сенуіміз керектігі ерекше қызықты болды.

ҚОРЫТЫНДЫЛАЙ КЕЛЕ

Заңдылықтар олардың себептері анықталғанға дейін пайда болады. Мұндай заңдылықтарды тану үшін бізге біраз уақыт қажет болуы мүмкен. Machine Learning әдістері оларды анықтауға көмектеседі, бірақ оларды түсіну маңызды әрі қиын. Бұл шығармашылықты және қалыптан тыс ойлауды талап етеді. Заңдылықтарды түсіндіретін дұрыс хикаяны ойлап табу маңызды.

Біз қате хикаяны қабылдап, өзімізді алдап қалмаудан сақтануымыз керек. Физика бойынша Нобель сыйлығының лауреаты Ричард Фейнман айтқандай: “бірінші принцип — өзіңізді алдамауыңыз керек, ал сіз — алдауға ең оңай адамсыз”.

Көптеген жағдайларда бірнеше рет қолданған маңызды сабағым — егер бар жүйенің мінез-құлқы туралы жеткілікті деректер болса, оның табиғатын түсіну жиі мүмкін болады. Мен Уолл-стриттің осы әдісін көптеген “қара жәшіктерге” олардың қалай жұмыс істейтінін және оларды қалай жақсартуға болатынын түсіну үшін қолдандым.

Құбылмалылық — өмірдегі барлық жағдайларға қатысты өте қызықты ұғым. Ол құбылыстың белгісіздігі туралы пайдалы ақпаратты қамтиды және болжау үшін өте пайдалы болуы мүмкін.

Сондай-ақ, мен Ақпараттық коэффициентті пайда мен қиындыққа қатысты көптеген салаларда қолданылатын пайдалы жалпы ұғым деп таптым. Мысалы, сақтандыру компаниясы бұл тұжырымдаманы уақыт өте келе кірістер мен шығындар ағынының Ақпараттық коэффициенттерін есептеу арқылы әртүрлі бизнес бағыттарын салыстыру үшін қолданды. Спорттық команда оны ойыншылардың тұрақтылығын және олар жүргізген ойындарды өлшеуде пайдалы деп тапты. Медиа компания оны жарнаманың баға белгілеу әдістерін салыстыру үшін қолданды. Тізім жалғаса береді. Әлем пайда мен қиындықты сандық түрде бағалайтын Ақпараттық коэффициенттерге толы!

Ескертпелер

  1. Dhar, V. and Stein, R. , Intelligent Decision Support Methods: The Science of Knowledge Work, Prentice‐Hall, 1997. 2. Бұл тиімді нарық гипотезасының “әлсіз түрі” ретінде белгілі. “Күшті түрі” барлық ақпараттың, мейлі ол ашық немесе жабық болсын, бағада көрініс табатынын айтады. 3. Pedersen, L. , Efficiently Inefficient, Princeton University Press, 2015.

ТӨРТІНШІ ТАРАУ АРТЫҚШЫЛЫҚ: СИҚЫРДЫ ЕСЕЛЕУ

АРТЫҚШЫЛЫҚ ҚАЙДА?

2024 жылы Дартмут колледжінде сөйлеген сөзінде теннис шебері Роджер Федерер өз мансабындағы кейбір таңғажайып статистикамен бөлісті. Меніңше, спорт — шеберлік пен сәттілік (немесе кездейсоқтық) нәтижені анықтауда шешуші рөл атқаратын бәсекелестік жағдайларды түсінуге арналған тамаша сала. Федерердің сөзінде мені таң қалдырғаны — бұл статистиканың біз қайталанатын шешімдер қабылдайтын өмірдің барлық салаларына қаншалықты кеңінен қолданылатындығы.

Сөзінің ортасында Федерер өз мансабынан деректер үзіндісін келтіріп, соңынан сұрақ қойды:

Мен өз мансабымда ойнаған 1526 жеке матчтың 80%-ға жуығын жеңіп алдым. Солай бола тұра, осы матчтардағы ұпайлардың қанша пайызын жеңіп алдым деп ойлайсыздар?

Әрі қарай оқымас бұрын, сіз не деп ойлайсыз? Ең бастысы, Федерер бұл сұрақты не үшін қойды?

Федерер аудиторияның ойлануына мүмкіндік беру үшін кідіріс жасап, содан кейін жауап берді:

Елу төрт пайыз. Жартысынан сәл ғана көп. Әрбір екінші ұпайда жеңіліске ұшыраған кезде, сіз сәтсіздіктерге тоқталып қалмауды үйренесіз.

Басқаша айтқанда, ойынның қалай өрбитініне қарамастан, әрбір ұпай бірдей мәнге ие. Қарсыластың керемет соққы жасағаны немесе сіздің қателік жібергеніңіз маңызды емес. Сіз инвестиция салғанда сәтсіз күндеріңіз болатыны сияқты, матчта да көптеген ұпайларды жоғалтасыз. Сіз әрқашан қазіргі сәтке назар аударып, болашақты болжауыңыз керек. Федерер сөзін жалғастырды:

Бірақ ең маңыздысы мынау: ұпай үшін ойнап жатқанда, ол сіз үшін әлемдегі ең маңызды нәрсе болуы керек. Бірақ ол артта қалғанда, ол артта қалды.

Федерердің хикаясынан екі негізгі қорытынды шығаруға болады.

Бірінші қорытынды ойлау жүйесіне (mindset - психикалық көзқарас) қатысты. Жеңімпаз ойлау жүйесі қазіргі сәтте болуды талап етеді. Өткеннің маңызы жоқ, әсіресе сіз ойнаған ұпайларыңыздың жартысына жуығын жоғалтқанда; тиын тастаумен тең бұл жағдайларда өткен сәтсіздіктерге бой алдыру — матчты жеңіп алу сияқты үлкен мақсатқа ұмтылғанда назарды аударатын кедергі. Қаржыда да солай. Сіз бір саудаға тоқталып қалмай, ұзақ мерзімді сәтті нәтижеге қол жеткізу сияқты үлкен мақсатқа назар аударасыз. Сіз бұған эмоцияларды шеттету арқылы қол жеткізесіз. Сіз зерттеу мен тәжірибеден шыңдалған процесті басып өтесіз.

Екінші сабақ — математикалық. Бұл — еселену (compounding - пайыздардың үстіне пайыз қосылуы) сабағы. Уоррен Баффет қаржыда еселену туралы үнемі айтып отырады, ол инвестициялауды тіпті бір-екі жыл ертерек бастау зейнетке шыққанда айтарлықтай үлкен табысқа әкелетінін көрсетеді. Бірақ еселену артықшылық бар барлық жағдайларға қатысты. Теннис матчында да шамалы артықшылық уақыт өте келе еселенеді — матч неғұрлым ұзақ болса, төзімділігіңіз жеткенше соғұрлым көп еселенеді.

Теннисте мұның негізі — ұпайлар кезінде жасалған соққылардың қарсыластікімен салыстырғандағы сапасы. Егер соққылардың сапасы жеңіп алынған ұпайлармен тығыз байланысты деп есептесек, маңызды қорытынды мынау: сіз көптеген ұпайларды жоғалтсаңыз да, жеңімпаз болу үшін жалпы сапада кішкене артықшылыққа ие болу жеткілікті. Қалғанын еселену орындайды. Есіңізде болсын, Федерер ұпайларының тек 54%-ын жеңіп алса да, матчтарының 80%-ын жеңіп алған. Бұл — теннис матчы барысындағы еселену күші. Федерер өзінің талантын, тәжірибесі мен ойлау жүйесін әрбір ұпайға, ал одан да тереңірек деңгейде — әрбір ұпай барысында жасалған әрбір соққыға дәйекті түрде қолданды. Жоғары нәтижелі шешім қабылдаушылар өз артықшылықтарын жүйелі түрде қолданады. Олардың өз процесі бар және одан сирек ауытқиды. Процесс — бұл негізінен алгоритм.

Төмен құбылмалылыққа (дисперсияға) қол жеткізудің ең жоғарғы үлгісі — казиноның жұмыс істеу тәсілі. Федерердің орташа есеппен 4% артықшылығы болғанымен, бұл артықшылық оның және қарсыласының ойын деңгейіне байланысты күннен-күнге өзгеріп отырды. Керісінше, американдық казинодағы рулетка дөңгелегі әр айналымда ешқандай ауытқусыз тұрақты 5,26% артықшылыққа ие. Сол сияқты, казиноның блэкджекте шамамен 2% артықшылығы бар. Казинода адамдар жеткілікті болса, сәтсіз күн болмайды. Олардың Ақпараттық коэффициенті өте үлкен, өйткені бөлім (пайда мен қиындық қатынасындағы “қиындық” бөлігі) нөлге жуық. Керісінше, тіпті Федерер сияқты чемпионның да кейде сәтсіз күндері болды, соққылары сызықтан асып кетіп, оның артықшылығы теріс мәнге айналып, матчта жеңіліп қалды. Бірақ бұл Федерерде жиі болған жоқ, өйткені ол матч деңгейінде жоғалтқан ұпайларына тоқталып қалмады. Ол машина сияқты тұрақтылықпен ойнады.

ЖИ ЖӘНЕ КҮШЕЙТУ

Спорттың инвестициялаумен және шешімдер нәтижелерге еселенген әсер ететін басқа да қайталанатын шешім қабылдау жағдайларымен ортақ тұстары көп.

Микро деңгейдегі (шешімдер) артықшылық пен макро деңгейдегі (түпкілікті нәтиже) нәтиже арасындағы жалпы байланыс өте қызықты. 4. 1-суретте теннистегі микро деңгейдегі шешімдер — ұпайды ұту немесе ұтылу, және макро деңгейдегі нәтиже — матчты ұту немесе ұтылу арасындағы байланыс көрсетілген. Деректер 2002 және 2019 жылдар аралығындағы ерлер арасындағы барлық мен "Үлкен дулыға" теннис турнирлерінің матчтарынан алынған.

Жеңіп алынған ұпайлардың шамалы өсуі жеңіп алынған матчтардың үлкен өсуіне қалай әкелетініне назар аударыңыз. Тіпті тепе-теңдіктен бір пайыздық көрсеткіш жоғары болу — шамалы артықшылық — еселену күшінің арқасында матчтағы жеңіс пайызын он есеге жуық арттырады. Бұл байланыс — “S-қисығы”, деректердің көпшілігі қисықтың тік бөлігінде орналасқан.

Осы байланыстың табиғатына тереңірек үңілейік.

Image segment 356
  1. 1-сурет Артықшылық қалай еселенеді

Ұпайларды жеңіп алудың белгілі бір деңгейі үшін матчты жеңіп алу пайызының ауытқуына назар аударыңыз. Орташа ұтыс ұпайы 50% болғанда, орташа матчтағы жеңіс пайызы 50%-ды құрайды, дегенмен ол шамамен 8%-ға өзгереді. Бұл ауытқудың бірнеше себептері бар, мысалы, матчтағы маңызды ұпайларды ұту немесе ұтылу. Маңызды ұпайлардың көбірек жеңіп алынуы матчтағы жеңіс пайызының жоғары болуына әкеледі. Борис Беккердің маңызды ұпайларды ұту қабілеті болды, сондықтан ол жалпы ұпайларының тек 52%-ын жеңіп алса да, оның матчтағы жеңіс пайызы ұпайлар деңгейін ескергендегі диапазонның жоғарғы шегінде болды.

Жеңіп алынған ұпайлардың жалпы санындағы екі пайыздық жақсарту шамамен 68% матчта жеңіске әкелетініне назар аударыңыз. Ал Федерердің 54%-дық төрт ұпайлық артықшылығында матчтағы орташа жеңіс пайызы 80%-ға дейін артады.

Матчтарды жеңіп алу соққы деңгейіндегі, демек ұпай деңгейіндегі сапалы ойынның тұрақтылығынан туындайды. Чемпиондар ұпай деңгейінде өз ойынының тұрақтылығын немесе төмен құбылмалылығын көрсетеді. Федерер атап өткендей, сіз әрбір ұпайды ол сіз үшін әлемдегі ең маңызды нәрсе сияқты ойнауыңыз керек, ешбір ерекшеліксіз.

Талант, тәжірибе және ойлау жүйесі шешім қабылдаудағы тұрақтылықты құру үшін бірігеді.

Өте екіталай жеңіліс серияларын есепке алмасақ, қарсыластарына қарсы ұпайларының 56%-дан астамын жеңіп алатын теннисшілер ешқашан матчта жеңілмеуді күте алады!

Бұл статистика мені таң қалдырады.

Басқаша айтқанда, теннистегі матч деңгейіндегі кемелдік ұпай деңгейінде небәрі алты пайыздық артықшылықты талап етеді.

Көптеген адамдар бұл нәтижені естігенде таң қалады. Жеңімпаз болу үшін сізге тек шамалы артықшылық қажет. Артықшылықтың кішкене жақсаруы әлдеқайда жақсы нәтижелерге әкеледі. Бұл принцип сіз жиі қателесетін барлық қайталанатын шешім қабылдау жағдайларына қатысты.

Шекті деңгей төмен болып көрінгенімен, артықшылыққа қол жеткізу өте қиын, әсіресе қарсыластық жағдайларда. Барлығы ең жақсы жабдықты пайдаланады, өте талантты жаттықтырушылар мен менеджментті жалдайды және күн сайын сағаттап қарқынды жаттығады. Жоғары бәсекелестік ортада артықшылықты тіпті пайыздың төрттен бір бөлігіне болса да жақсарту өте қиын.

Ұпай деңгейіндегі артықшылықтың матч деңгейінде неліктен соншалықты еселенетіні спортта таңқаларлық емес. Егер Федерер ұпайларының 54%-ын жеңіп алса, оның қарсыластары тек 46%-ын жеңіп алғанын ескерсеңіз, олардың арасындағы айырмашылық 8%-ды құрайды, бұл спорт сияқты жоғары бәсекелестік жағдайларда өте үлкен айырмашылық.

Инвестициялау көп жағдайда спортқа ұқсайды. Қаржы нарықтарында болашақты тиын тастаудан гөрі жақсырақ болжау спорттағыдай себеппен өте қиын. Көптеген кәсіби трейдерлердің таланты ұқсас, олар бірдей сапалы ақпаратқа, аналитикаға және техникаға қол жеткізе алады. Мұндай ортада артықшылық табу қиын. Бірақ егер тапсаңыз, қаржылық пайда орасан зор болады. Осы жылдар ішінде менің “Жүйелі инвестициялау” сабағымдағы барлық студенттер дерлік кездейсоқ нәтижеден аспайтынын айтады. Олар менің сабағыма алгоритмдерді қолдана отырып артықшылықты анықтау жолдарын табу үмітімен келеді. Бірнешеуі табысқа жетеді. Менің студенттерімнің бірі студенттік несиесін өтегеннен кейін қуанса, басқалары шағын артықшылыққа негізделген хедж-қорлар ашқанын хабарлады.

  1. 1-суреттегі байланыстың өмірдегі барлық бәсекелес және белгісіз шешімдерге қалай қолданылатыны таңқаларлық. Егер теннис матчы тек бір ұпайға негізделсе, ұпай ұту және соққы ұту пайыздары бірдей болар еді. Матч неғұрлым ұзақ болса, артықшылық соғұрлым көп еселенеді. Қорытындылай келе, тамаша нәтижелерге қол жеткізу үшін кемелді болу шарт емес, бірақ сізде белгілі бір уақыт кезеңінде кездейсоқтықтан немесе белгілі бір эталоннан жақсырақ нәтиже көрсетуге мүмкіндік беретін артықшылық болуы керек.

ДОПҚА КӨБІРЕК СОҚҚЫ ЖАСАУ

Еселену уақытты қажет етеді. Осы уақыт ішінде басты айла — егер сіз теннисші немесе бейсболшы болсаңыз, допқа мүмкіндігінше көбірек соққы жасау. Артықшылық неғұрлым жоғары болса, базалық деңгеймен (артықшылық жоқ жағдаймен) салыстырғанда еселену соғұрлым көп болады.

Қаржыда эталондар — бұл абсолютті кірістер немесе S&P 500 сияқты эталондық индекске қатысты өнімділік. Медицинада артықшылық — бұл әдетте ауруды анықтаудағы немесе емдеудегі ағымдағы сәттілік деңгейі сияқты эталонмен салыстырғандағы орташа сәттілік деңгейінің артуы. Кез келген шешім қабылдау жағдайы осындай негізгі құрылымға ие.

Алдыңғы тарауда мен Morgan Stanley-дегі менің алгоритмім бұрыннан бар стратегияға оның тиімді ұстау мерзімін қысқарту арқылы тәуекелдерді саналы түрде қабылдауға мүмкіндік беріп, өнімділікті қалай жақсартқанын сипаттадым. Бұл оның артықшылығы еді.

Ұстау мерзімінің қысқа болуы әрбір сауда үшін тәуекелдің төмендеуін білдіреді, өйткені сіз нарыққа қысқа уақытқа ғана шығасыз. Уақыт өте келе баға көбірек ауытқиды және көбірек күйзелістерге ұшырайды, бұл тәуекелді арттырады.

Қысқа ұстау мерзімдері статистикалық тұрғыдан да тиімдірек. Шешімді жиі қабылдау үйрену үшін деректерде көбірек тәуелсіз үлгілердің бар екенін білдіреді. Міне, мұны статистикалық тұрғыдан қалай түсінуге болады:

Егер мен аптасына бір рет сауда жасасам, менде үйрену үшін жылына небәрі 52 деректер нүктесі болады. Егер мен нарық ашық болатын жылдағы шамамен 250 сауда күнінде күніне бір рет сауда жасасам, менде 250 деректер нүктесі болады. Егер мен сауда күнінде сегіз сағат бар деп есептеп, сағат сайын сауда жасасам, менде жыл сайын үйрену үшін 2000 бақылау нүктесі болады. Үлгі көлемінің үлкен болуы оқу деректерінің көптігін, сондай-ақ деректерден алынатын жақсырақ және тұрақты модельдерді білдіреді.

Қысқа ұстау мерзімдері допқа көбірек соққы жасауға мүмкіндік береді. Егер сізде артықшылық болса, көбірек соққы жасау — егер сіз шаршамасаңыз және нәтижеңіз нашарламаса — артықшылықтың көбірек еселенуіне әкеледі.

Morgan Stanley-де бірнеше жыл сауда жасағаннан кейін менің ұстау мерзімдерім қысқарған сайын, мені осы бағытқа одан әрі итермелеген жас трейдерді жолықтырдым.

Осы ғасырдың басында Манхэттенде ондаған дей-трейдинг (акцияларды бір күн ішінде сатып алып, қайта сату) кеңселері болды, онда жастар экранға жабысып, тез пайда табу үшін әрбір ұшқын мүмкіндікті іздейтін. Осы жас трейдерлердің акцияларды сатып алу және сату кезіндегі саусақтарының жылдамдығына қарап, оларды бейне ойын ойнап отыр деп ойлар едіңіз.

Әдеттегі сауда кеңсесі әр трейдерге аз мөлшерде капитал бөліп, төмен шығынмен жылдам орындау үшін күрделі сауда инфрақұрылымын ұсынды. Кез келген адам бұл дей-трейдинг кеңселерінде өз шеберлігін сынай алар еді. Көптеген адамдар сәтсіздікке ұшырады. Бірақ таңқаларлық жағдай, кейбіреулері тұрақты түрде ақша таба алды. Олар ірі ойыншылардың қашан белсенді болатынын және нарықты уақытша тепе-теңдіктен қашан шығаратынын сезуге келгенде өте зерек болды. Мұндай жағдайларды анықтау олардың артықшылығы еді және олар мүмкіндігінше жиі сауда жасау арқылы оны күні бойы еселеуге try тырысты. Бірнеше акциямен сауда жасау бірнеше казинода бір уақытта ойнаумен тең. Бірнеше білікті трейдерлерге көбірек капитал берілді, ал көпшілігі жұмыстан шығарылды. Бұл дей-трейдинг кеңселері үшін жақсы бизнес болды.

Осы кезеңде менің қорымдағы негізгі зерттеуші ғалымдардың бірі — бала кезінен бағдарламалаумен айналысқан, NYU Stern мектебінің өте зерек түлегі Энтони Барафф болды. Ол маған NYU-дағы бұрынғы бөлмелесі Дэвид Израэль туралы айтып берді. Дэвид бірнеше акцияны күніне бірнеше рет саудалау арқылы таңғаларлық дей-трейдинг (бір күн ішінде акцияларды сатып алып, қайта сату) нәтижелеріне қол жеткізген екен.

Осылайша, біз Дэвидті өзіміздің сауда операциямызбен танысуға шақырдық. Ол аз сөйлейтін адам еді. Ол бізге өзінің сауда тарихын көрсетті, онда бірнеше ай бойы әр сауда күнінде жасалған ондаған ұзын және қысқа мәмілелер (long and short trades) бар екен. Ол күн сайын саудалайтын бірнеше акцияға маманданған. Біздің алдымызда тұрған міндет — оның ойлау жүйесін үлкенірек нарыққа қолдана алатын алгоритм (мәселені шешуге арналған ережелер жиынтығы) жасау болды.

Оның нәтижелеріне қарап, бұл жай ғана сәттілік емес, нағыз шеберлік екені анық көрінді. Ол нарықтың көтерілген күндерінде де, құлдыраған күндерінде де ақша тауып отырған. Мәселе оның бұл шеберлігін алгоритм арқылы жүйелеп, бір уақытта мүмкіндігінше көп акцияға қолдану арқылы еселеуге бола ма дегенде еді. Мұны тексерудің бір ғана жолы болды.

Сондықтан мен оны жұмысқа алдым. Дейв өзі саудалаған акциялардан болжауға болатын сәттерді анықтады, олар көбінесе нарық ең белсенді болатын және ірі ойыншылар өз позицияларына кіруі немесе шығуы керек болатын ашылу және жабылу уақытында пайда болатын. Бұл заңдылықтарды акцияға түсетін «қысымның» (pressure) жиналуы немесе сатып алу не сату қысымына қарсы уақытша «еден» немесе «төбе» болатын «кедергі» (obstruction, мысалы, үлкен тапсырыс) ретінде түсінуге болады. Мұндай жағдайларда басты айла — «тоспалардың» қай бағытта бұзылатынын анықтап, «кезектің алдына» шығып үлгеру еді. Сондай-ақ, іс насырға шапса, тез шығып кету мүмкіндігінің болғаны да тиімді болатын.

Акцияға арналған «кітап» (order book) төменде көрсетілгендей, көз ілеспес жылдамдықпен үнемі жаңартылып отыратын екі кезектен тұрады.

Саны | Бағасы --- | --- 500 | 96.7 700 | 96.69 **Asks (Асктар)** 400 | 96.69 300 | 96.69 (Үздік Аск) **Spread (Спред)** | **0.02** 200 | 96.67 (Үздік Бид) 1500 | 96.67 **Bids (Бидтер)** 400 | 96.66 200 | 96.65

Мұнда соңғы сауда бағасынан төмен деңгейде белгілі бір мөлшерде сатып алуға мүдделі сатып алушылар кезегі (бидтер) және сол бағадан жоғары деңгейде сатуды күтіп тұрған сатушылар кезегі (асктар) бар. Ағымдағы бағадан жоғары бағалар — «асктар» (asks), ал одан төмен бағалар — «бидтер» (bids) деп аталады. Бид-аск спреді (сатып алу және сату бағасы арасындағы айырмашылық) — ағымдағы бағаға ең жақын бид пен аск арасындағы айырмашылық.

Бұл мысалда бид-аск спреді екі центті құрайды. Акция «ликвидті» болса, яғни оны үлкен көлемде оңай сатып алуға және сатуға болатын болса, спред тар болады. Ал сирек саудаланатын илликвидті (тез сатылмайтын) акциялардың спреді кеңірек болады. Мысалы, автомобиль нарықтары илликвидті. Онда спредтер жүздеген немесе мыңдаған долларды құрауы мүмкін, өйткені мәмілелер акциялар сияқты жиі жасалмайды және дилерлер әр мәміледен айтарлықтай пайда көруі керек. Стрип-моллдар (ашық сауда орталықтары) сияқты жылжымайтын мүлік активтері одан да илликвидті және олардың спреді ондаған немесе жүздеген мың долларға жетуі мүмкін. Егер жылжымайтын мүліктің спреді бір тиын болса, адамдар үйлерді акциялар сияқты күні бойы саудалай алар еді.

Сауда-саттық ең жақсы (ең жоғары) бид бағасымен, ең жақсы (ең төменгі) аск бағасымен немесе осы екі аралықтағы бағамен жүзеге асады.

Біздің алгоритміміз кезектің алдына тезірек шығып, позиция алу үшін жоғарырақ баға төлеуге тұрарлық болжамды сәттерді анықтайтын болды. Майкл Льюис өзінің «Flash Boys» деп аталатын қызықты кітабында жоғары жиілікті трейдерлердің күні бойы тиімдірек бағамен сауда жасау үшін кезектің басында болу жолында қандай қадамдарға баратынын егжей-тегжейлі сипаттайды.

Шынында да, ең тиімді бағаға қол жеткізу — көп сауда жасайтын нарық мейкерлері (market makers) үшін үлкен бизнес. Бұрынғы Point 72 трейдері Роман Гинис IntelligentCross деп аталатын биржа құрды. Ол бидтер мен асктарды тоғыстырмас бұрын, нарықтың жеткілікті түрде тынышталуын секундтың аз ғана бөлігінде күту арқылы сатып алушыларға да, сатушыларға да «жақсырақ» бағалар ұсынады. Осы жазбаны дайындау кезінде IntelligentCross Нью-Йорк қор биржасының жиынтық көлемінің шамамен 3%-ын құрайды. Сауда нарығында мәміленің орындалу сапасы (execution) осыншалықты маңызды.

Біз үшін кезектің алдына тезірек шығудың ең сенімді жолы — бағаны жоғары төлеп, «спредті кесіп өту» (cross the spread) болды, яғни қымбат сатып алып, арзан сату. Шынында да, біз көбінесе аск бағасымен қымбат сатып алып, бид бағасымен арзан сатып жаттық. Сондықтан біздің стратегиямыз пайда таппас бұрын осы шығынды — бид-аск спредін және басқа транзакциялық шығындарды жабуы керек еді.

Бақытымызға орай, алгоритм көп жағдайда спредті кесіп өтсе де, пайда әкелді. Шығындарды есептегеннен кейін, біздің алгоритміміздің сауда деңгейіндегі артықшылығы өте аз (razor-thin edge) болды. Дегенмен, ол күн сайын өте көп мөлшерде шағын мәмілелер жасады. Бұл бір уақытта бірнеше теннис матчын өткізумен бірдей: әрбір акция үшін жеке матч, мұнда сіз жасаған соққылардың (свингтердің) көптігі сол кішкентай артықшылықты күшейтеді. Теннис матчы шамамен екі жүз ұпайдан тұрады, оның барысында ойыншының артықшылығы көрінеді. Ал біздің алгоритміміз күн сайын мыңдаған мәмілелер жасау арқылы әлдеқайда үлкен «соққылар» тізбегінде өз басымдығын арттырды. Келесі бірнеше жыл ішіндегі нақты саудада біз шығындарды шегергенде кейде сәтсіз күндерді бастан өткердік. Бірақ алгоритммен сауда жасағанда бізде ешқашан шығынды ай болған емес, тіпті шығынды жыл туралы айтудың да қажеті жоқ.

S&P 500 индексінің 0,5 немесе Morgan Stanley-дің 1,3 шамасындағы Ақпараттық коэффициентімен (Information Ratio — тәуекелге шаққандағы табыстылық көрсеткіші) салыстырғанда, біздің стратегиямыздың Ақпараттық коэффициенті 12-ден жоғары болды! Бұл нағыз ақша басатын машина еді.

Бірақ айтылғандай, «тегін түскі ас болмайды», әсіресе қаржы нарығында. Әсіресе, екі таңбалы Ақпараттық коэффициенті бар осындай «дәмді» ас үшін. Оның үлестері өте аз. Нарықтағы шектеулі ликвидтілікке байланысты (кез келген сәтте тапсырыстар кітабында қолжетімді шағын көлемдермен көрсетілген) мұндай стратегияға тек белгілі бір мөлшерде ғана ақша сала аласыз. Оған қоса, бид-аск спредінің кедергісін жеңу керек. Екінші жағынан, жоғары жиілікті сауда (HFT) Citadel сияқты ірі дилерлер үшін күтпеген табыс көзі болып табылады, олар іс жүзінде Robin Hood сияқты онлайн-брокерлерге өз клиенттерінің тапсырыстары үшін ақша төлейді. Robin Hood-тың көптеген клиенттері көбінесе «хабарсыз» (uninformed) деп аталады және оларды көбірек сауда жасауға — және әр мәміледе ірі дилерлерге аз мөлшерде ақша беріп отыруға итермелейді.

Сауда жиілігі мен Ақпараттық коэффициент арасындағы байланыс 4. 1-суреттегіге ұқсайды. Қысқа уақыт ішінде көптеген акцияларды жиі саудалағанда артықшылық тез еселеніп, өте жоғары АК-ға (көбінесе 10-нан жоғары) әкеледі. Позицияларды келесі күнге қалдырғанда, Ақпараттық коэффициент айтарлықтай төмендеп, әдетте бір мен екі арасында болады. Күтілгендей, ұстау мерзімі апталарға, айларға немесе жылдарға созылған сайын, АК одан әрі төмендеп, жалпы нарық деңгейіне жақындайды.

Бір нәрсе анық. Жоғары жиілікті сауда бұдан былай адамдар үшін емес. Шынында да, ғасырлар тоғысында Манхэттендегі дей-трейдинг дүкендері бірнеше жылдың ішінде жойылып, адамдарды бұл сахнадан ысырып тастады. Алгоритмдер жоғары жиілікті сауданы мәңгілікке өз бақылауына алды.

Іс жүзінде алгоритмдер біздің өміріміздегі көптеген жоғары жиілікті шешім қабылдау процестерін иеленіп алды: интернеттегі жарнамалар, алаяқтықты анықтау, автономды көліктер, ұшақтарды басқару және өнеркәсіптік робототехника. Біз мұны байқамайтын да болдық.

БӘРІН БІРІКТІРУ

Жақсы нәтижелерге қол жеткізу шешім қабылдаудағы «артықшылықты» (edge) талап етеді. Егер сізде артықшылық болса, оны еселеуге болады. Белгісіздік пен бәсекелестікке толы жағдайларда артықшылық табу қиын болғанымен, тіпті өте кішкентай артықшылықты да біз жасай алатын «соққылардың» жиілігіне қарай еселеуге болады. Алгоритмдер шешім қабылдау ережелерін уақыт бірлігінде мүмкіндігінше көп жағдайға дәйекті түрде қолдану арқылы артықшылықты арттырады.

Күрделі жағдайларда көптеген болжамдар жасайтын автоматтандырылған ЖИ (жасанды интеллект) жүйелері жекелеген шешімдер деңгейінде жиі қателесуі мүмкін, бірақ олар жалпы алғанда өте пайдалы, өйткені олардың артықшылығы уақыт өте келе еселенеді.

Артықшылық уақыт өте келе жойылуы да мүмкін. Бұл құлдырауды шешім қабылдау жиілігі жоғары болғанда анықтау оңайырақ. Автоматтандырылған ЖИ жүйелерінде артықшылықтың негізін түсіну өте маңызды.

Ескертпе: 1. Lewis, Michael, Flash Boys, W. W. Norton and Company, March 2014.

OceanofPDF. com

БЕСІНШІ ТАРАУ ФОН НЕЙМАНДЫ БАСҚАРҒАН НЬЮМАН: КҮШТЕН АҚЫЛ-ОЙҒА

ПАРАДИГМА ТАҒЫ ДА ӨЗГЕРУДЕ

ChatGPT-дің дүниеге келгеніне өте аз уақыт болғанына сену қиын. Көптеген жылдардан кейін тарих ChatGPT-ге дейінгі және одан кейінгі әлем деп аталуы мүмкін. Мен бұл оқиға менің өмірімде болады деп ойламап едім.

2018 жылғы компьютерлік ғылымдар бойынша Тьюринг сыйлығының және 2024 жылғы физика бойынша Нобель сыйлығының иегері, нейрондық желілердің пионері Джефф Хинтон ЖИ-дегі бұл маңызды белесті біраз қауіппен сипаттады. Ол машиналар біздің өмірімізде ол ойлағаннан әлдеқайда ақылды бола түсетінін түсінеді және ЖИ супер-интеллектке айналғанда жағдай қалай өрбитінінен қорқады. Хинтон сұрайды: «Ақылдырақ нәрсенің ақылсыз нәрсе тарапынан басқарылатынына қанша мысал білесіздер? Мысалдар өте аз. Ана мен бала бар. Эволюция баланың ананы басқаруына көп күш жұмсады, бірақ бұл мен білетін жалғыз мысал». 1

Менің әріптесім, сондай-ақ 2018 жылғы Тьюринг сыйлығының иегері Ян Лекун оптимистік көзқарасқа ие. Ол бұрынғы технологияларда болғандай, біз мұны да реттейтінімізге сенеді. Менің тәлімгерім Герб Саймонның 1970-жылдардағы автоматтандыру қауіптері туралы көзқарасы да осындай еді; ол «автоматтандыру құбыжығы» туралы алаңдаушылық орынсыз деп есептеді.

Бірақ Саймон ChatGPT-ді және заманауи ЖИ-дің сиқырын көрмеген еді. Ол кезде ЖИ-дің адам интеллектінен асып түсу мүмкіндігі күлкілі көрінетін.

Хинтонның алаңдаушылығында мені ең қатты таң қалдырғаны оның негіздемесі болды: > Бұл нәрселер бізден мүлдем өзгеше... бұл беймәлім планеталықтардың қонғаны сияқты, бірақ адамдар олардың өте жақсы ағылшынша сөйлейтінінен мұны байқамай қалды.

Хинтонның GPT-ді ағылшынша сөйлейтін өзге планеталыққа теңеуі — өте орынды теңеу. Тарихта тұңғыш рет біз жасанды нысанмен кез келген тақырыпта, басқа адамдармен сөйлескендей сөйлесе аламыз. Және көп жағдайда өз тілімізде қисынды жауап күте аламыз.

ChatGPT-ден кейін туған адамдар үшін әлем қандай болмақ? Одан да маңыздысы, ЖИ супер-интеллектке қол жеткізгеннен кейін туған адамдар үшін әлем қандай болады?

Олар GPT-ге көріпкел (oracle) ретінде қарай ма? Құдай ретінде ме?

Бұл ғылыми фантастика сияқты көрінуі мүмкін, әсіресе ЖИ-ді шынымен ақылды емес, адам интеллектіне жақын да емес деп санайтын скептиктер үшін. Бірақ біз адамдар ЖИ-сіз өмір сүре алмайтын жағдайға олар ойлағаннан да жақын болуымыз мүмкін. Және бұл сценарий қазірдің өзінде шағын масштабта орындалып жатыр.

Жақында бір досым айтты: оның балалары оқитын орта мектепте бір күні ешбір оқушы үй тапсырмасын өткізбепті, өйткені ChatGPT жұмыс істемей қалыпты. Міне, Хинтонның «беймәлім нысаны» бүгінгі жастардың санасына осылайша берік орныққан. Олардың тәуелділігі тек арта түседі. Есіңізде болсын, мен балабақшаға ат арбамен барған, ал инженерлік мектепте логарифмдік сызғышты (slide-rule) пайдаланған адаммын. Сондықтан небары алты онжылдықтан кейін күнделікті өміріміздің ЖИ-ге қаншалықты тәуелді болып бара жатқаны мені таң қалдырады. Болашақтың мұғалімі адам емес, ЖИ екенін сезіну әлі де менің ақылыма сыймайды.

ЖИ-дің адамдарды осыншалықты тәуелді ететіндей қандай қасиеті бар? Бұл электр энергиясы сияқты ма? Онсыз бүгінгі өмірді елестету мүмкін емес, бірақ оған дейін қоғам ғасырлар бойы қараңғыда өмір сүрді емес пе?

ЖИ-ге артып келе жатқан тәуелділігімізді түсіну үшін технологияның бізді осында қалай алып келгенін білу пайдалы. Ол үшін соңғы 50 жылдағы ЖИ парадигмаларының ауысуын және соңғы өзгерістің неліктен электр энергиясына тәуелділікке ұқсас тәуелділік тудырғанын қарастыруымыз керек. Кіріспеде мен қысқаша тоқталған парадигмалық ауысуларды еске түсіру үшін ЖИ-дің ғылыми тарихы туралы суретті қайта ұсынамын:

Image segment 420

Еске сала кетейін, бірінші парадигма — Сарапшылық жүйелер (Expert Systems) болды, мұнда білімді машинаға адамдар енгізетін. Сарапшылық жүйелерден Машиналық оқытуға көшу ЖИ-дің оқу режимі адам нұсқауынан деректерден білім алуға өзгерген кезде болды. Бірақ адамдар бәрібір деректерді «белгілерге» (features) бөліп, машинаға дайындап беруі керек еді. Бұл процесс пайымдау мен шығармашылықты талап етті.

Екінші парадигмалық ауысу — Машиналық оқытудан Терең оқытуға (Deep Learning — көп қабатты нейрондық желілерді пайдалану) өту машиналық интеллектті жоғары деңгейге көтерді, бұл машиналарға деректерді көру және тыңдау арқылы тікелей қабылдауға мүмкіндік берді. Машиналар енді адамның қатысуынсыз осындай деректер арқылы қоршаған ортадан тікелей үйрене алатын болды. Шын мәнінде, бұл ауысу ЖИ-ге бұрын адамдар жасаған шығармашылық теориялау мен белгілерді жобалау (feature engineering) жұмыстарын жасауға мүмкіндік берді.

Соңғы парадигмалық ауысудың бірегейлігі — ол ЖИ-ді күнделікті қолданатын іздеу жүйелері мен Google Maps сияқты бұқаралық тұтынуға жарамды етті. Одан да маңыздысы, Жалпы интеллекттің (General Intelligence — әртүрлі салада адам деңгейінде тапсырма орындай алу) пайда болуының арқасында ЖИ барлық осындай қосымшаларды өзіне біріктірді немесе жұтып қойды. ChatGPT бізбен ағылшын тілінде (немесе қытай, француз және т. б. ), немесе іздеу мен карталар сияқты басқа қосымшалармен олардың тілінде сөйлесе алады және мұны орасан зор жылдамдық пен масштабта жасайды. Бұл — ЖИ ақпарат арқылы білдіруге болатын кез келген нәрсені жасай алатын мүлдем жаңа кезең. Интернеттегі барлық ақпарат, барлық деректер сенсорлар арқылы жиналып, ЖИ үшін оқу деректеріне айналуда.

ЖИ ТӨҢКЕРІСІ (THE AI DISRUPTION)

Соңғы бірнеше жылда мен технологиялық МВА студенттерімді инновацияларды үйрену үшін Батыс жағалауға (АҚШ) апарып жүрмін. Біз технологиялық компанияларды аралап, оларды талдау үшін бизнес-модельдерді қолданамыз. Солардың бірі — Гарвард бизнес мектебінің марқұм профессоры Клей Кристенсеннің өзінің аттас кітабында сипаттаған «Инноватор дилеммасы» (The Innovator’s Dilemma) деп аталады. Кристенсен мықты, қалыптасқан компаниялардың неліктен және қалай жаңадан келген инноваторлардан жеңіліп қалатынын көрсетуімен танымал болды. Клейдің тезисі бойынша, нарықтағы көшбасшылар төменірек деңгейдегі жаңа технологияларға мән бермейді, өйткені олар өз клиенттеріне бұл қажет емес деп санайды. Бірақ инновациялар шешуші нүктеге жетіп, жаңа шешімдер мен мүмкіндіктер ұсынуға жарайтын болғанда, олар ойын ережелерін өзгертіп, бүкіл индустрияны төңкеріп тастайды. Бұрынғы қуатты көшбасшылар қолданыстағы ережелер бойынша жылдар бойы өздерін біртіндеп жетілдіріп келгендіктен, жаңа жағдайға бейімделуге қиналады.

Мен ChatGPT пайда болғаннан кейін көп ұзамай өз сыныбыммен Батыс жағалауда болдым. Open AI компаниясының ChatGPT-ді шығаруы «Инноватор дилеммасының» классикалық мысалы еді. Мен бұл жағдайды 2023 жылғы ақпандағы Brave New World ақпараттық бюллетенімде Microsoft бас директоры Сатья Наделланың шебер қадамы ретінде сипаттадым. Сол кезде Microsoft Open AI-дың жартысына иелік ететін. Бірақ ол «ойыншықтар» шығару үшін тым салмақты компания. Microsoft осыдан бірнеше жыл бұрын Tay деп аталатын интеллектуалды чат-ботты енгізбек болғанда сәтсіздікке ұшыраған болатын. Tay онлайн чаттарда адамдармен сөйлесіп, «адамға ұқсас» болуды үйренуі керек еді. Бірақ бірнеше сағаттық қарым-қатынастан кейін Tay нағыз нәсілшілге айналып шыға келді. Microsoft бұдан сабақ алды.

Сондықтан бұл жолы жаңа чат-бот назардан тыс, жаңадан құрылған компания арқылы шығарылды. Сондай-ақ, бұл компанияның «қауіпсіз» ЖИ құру сияқты «әлеуметтік бағытталған» миссиясы болуы да көмектесті. Бұл миссия содан бері ұмытылған сияқты.

  1. 1-суретте Кристенсен сипаттаған төңкеріс көрсетілген. Google 2004 жылдары Yahoo мен Bing-ке қарсы іздеу жүйелері соғысында жеңіске жеткеннен бері іздеу жүйесі біртіндеп дамып келді. 2023 жылдың соңында Google барлық интернет-іздеу белсенділігінің 90%-ын иеленді.
Image segment 429

5.1-сурет: ЖИ төңкерісі

Іздеу жүйелеріндегі біртіндеп дамудан айырмашылығы, ChatGPT 5. 1-суретте көрсетілгендей, ЖИ мүмкіндіктерінің күрт өсуін (хоккей таяғы тәрізді қисық) білдірді. Кенеттен біз білетін іздеу жүйесі ескірген және қолайсыз болып көрінді. Google іздеу жүйесі веб-сайттарға сілтемелерді мазмұндырақ әрі егжей-тегжейлі жауаптармен толықтыру үшін генеративті ЖИ-ді қолданып, жаңа жағдайға бейімделді. Ал чат-боттармен сұхбат олардың жауаптарын растайтын дереккөздерге беретін сілтемелері арқылы байи түсуде.

ПАРАДИГМА ЖАЛПЫ МАҚСАТҚА ҚАРАЙ АУЫСУДА

Сыртқы деңгейде ЖИ-дің сиқыры — Хинтон сипаттаған табиғи естілетін, сөйлесетін «беймәлім нысан». Осы уақытқа дейін біз компьютерлермен қарым-қатынасты арнайы жасалған интерфейстер арқылы жасауға, бағдарламаларды басуға және алынған нәтижені талдауға мәжбүр болдық.

Бірақ жаңа парадигмада машиналар ақыры біздің күнделікті тілде не айтқымыз келетінін түсіне бастады. Біз енді Хинтонның «беймәлім нысандарымен» өз шартымызда, өз тілімізде және тіпті дыбыс, көру, сипап сезу, тіпті иіс сезу сияқты дәстүрлі сезім мүшелерімізге тән ақпаратты пайдалана отырып араласа бастадық.

Бірақ бұл тек үстірт қана. Төңкеріс әлдеқайда тереңде. Бізбен өз табиғи тілімізде сөйлесуді үйрену үшін ЖИ іс жүзінде барлық нәрсе туралы бәрін білуге мәжбүр болды. Ол үйренуді үйрену қабілетіне ие болды. Жалпы интеллект ЖИ-ді қолдану аясын айтарлықтай кеңейтті.

Ең маңызды төңкерісшіл технологиялар бүкіл экономика мен қоғамды бір уақытта өзгертетін «жалпы мақсаттағы» (general-purpose) технологиялар болып табылады. Сұранысқа ие электр энергиясы — осындай технологияның жарқын мысалы. Ол кеңінен қолжетімді болғаннан кейін бірнеше жылдың ішінде өнеркәсіптік өндірісті қайта ұйымдастырып, барлық салаға әсер етті. Зауыттар өзендердің немесе бу қозғалтқыштарының қасында емес, ең қолайлы және өнімді жерде орналасу үшін қайта жобаланды — мұның бәрі энергияны орталықтан өткізіп, қажетті машинаға бағыттау мүмкіндігінің арқасында болды. Мұны қуат алудың жалғыз жолы су дөңгелектері, пештер және бу қондырғылары болған кездегі, ал оны тасымалдаудың жалғыз жолы тиімсіз белдіктер мен шығырлар болған кездегі зауытты жобалауға кететін уақыт пен күшпен салыстырып көріңізші.

Ақырында, электр энергиясы барлық сала пайдаланатын тауарға (commodity) айналды. Компьютерлер мен Интернет — қоғамды және барлық саланы өзгерткен жалпы мақсаттағы технологиялардың соңғы мысалдары. ЖИ — біздің жаңа жалпы мақсаттағы технологиямыз. Электр энергиясы қуатты тауарға айналдырғандай, ЖИ интеллектті тауарға айналдыруда. ЖИ бәсекелестік негіздерін қайта анықтау және жеке тұлғалар, бизнес пен үкімет қосатын құндылықтың орнын қайта бөлу арқылы әрбір индустрияны өзгертуге дайын.

Мүмкін, ЖИ-дің жалпы мақсаттағы технология ретінде электр энергиясынан бір артықшылығы бар шығар. Электр энергиясының игілігін пайдалану зауыттар мен жұмыс процестерін толығымен қайта жобалауды немесе жаңғыртуды талап етті. Ал болашақтың мобильді роботтары, мысалы, көретін, еститін, оқитын, иіс сезетін, ойлайтын және автономды түрде қозғалатын гуманоидты машиналар адамдармен бірге жұмыс процестеріне оңайырақ қосыла алады. Олар алдыңғы машиналардың әлеуетін пайдалану үшін қажет болған үлкен алдын-ала капиталдық шығындарды талап етпей-ақ, өнімділікті арттыруға көмектеседі.

Мен бұл жаңа парадигмалық ауысуды ЖИ-дің бәсекелестік негізін механикалық күштен ақыл-ой күшіне (brain power) өзгертуі деп атаймын. Ақыл-ойды бақылау — инновация жатқан және құндылық жасалатын жер.

КҮШТЕН АҚЫЛ-ОЙҒА

Телевизия тарихындағы ең танымал және ықпалды сериалдардың бірі — «Seinfeld» нағыз Нью-Йорк рухындағы шоу. Онда төрт түрлі оғаш кейіпкер және олардан кем түспейтін қызықты қосалқы кейіпкерлер тобы бар. Олардың арасында еврей тіс дәрігері (кейіннен «Breaking Bad» жұлдызына айналған) мен кейін ірі жұлдыздар мен комиктерге айналған басқа да тұлғалар кездеседі.

Өте ерекше қосалқы кейіпкерлердің бірі — хат тасушы Ньюман. Ол хаттарды тек көңіл-күйі болғанда ғана таратады.

«Ерін оқушы» (The Lip Reader) деп аталатын алғашқы эпизодтардың бірінде Ньюман паранойяға бой алдырады: ол шыны қабырғаның арғы жағындағы бөлмеде отырған (кадрдан тыс) бастығы оны басқа кеңсеге ауыстыру туралы сөйлесіп жатыр деп қауіптенеді. Осы кезде басты кейіпкерлердің бірі және шоудың авторласы Джерри Сейнфелд ерін оқи алатын әйелмен кездесіп жүреді. Ньюман Джерриден қызын пошта бөлімшесіне апарып, бастығының не айтып жатқанын құпия түрде оқып беруге көндіруін өтінеді. Джерри бас тартқанда, кекшіл Ньюман оған хат тасушының құдіреті туралы қатаң ескерту жасайды: «Мынаны есіңде сақта, Джерри: поштаны бақыласаң, ақпаратты да бақылайсың».

Бүгінгі таңда ЖИ (Жасанды интеллект) — бұл цифрлық Ньюман. Ол ақпарат әлемінің және одан туындайтын барлық маңызды түсініктердің төбесінде отыр. Қазір ЖИ-дің ауқымы өміріміздің барлық саласын қамтитындай шексіз.

Интернет пайда болғанға дейін компаниялар негізінен болат, мұнай, байланыс, тау-кен өнеркәсібі, фармацевтика, автомобиль, қонақ үйлер, ұзақ пайдаланылатын тауарлар, қаржы, компьютерлер мен бағдарламалық жасақтама сияқты бір ғана салада үстемдік етуге тырысатын. Бірнеше салада тұрақты көшбасшы болу өте қиын еді, өйткені бұл олардың әрқайсысында іргелі құзыреттілікті немесе салалар арасындағы синергияны талап ететін.

Бұған бірден-бір ерекше мысал — 1892 жылы құрылған General Electric (GE). Сол заманның жалпы мақсаттағы технологиясы (экономиканың көптеген саласына әсер ететін іргелі технология) болған электр қуатына негізделгендіктен, GE өз ықпалын барлық салаға дерлік жүргізді. Эндрю Карнегидің «US Steel» компаниясы сияқты салалық алпауыттар бірнеше онжылдық бойы үстемдік еткенімен, әртүрлі себептермен жойылып кетті. Бірақ GE ерекше болды. Ол ғасырдан астам уақыт бойы өнеркәсіптік ландшафтта үстемдік етті, бірақ ақырында назары мен бағытын жоғалтты. Бүгінгі GE — көптеген салаларда ірі бизнестері болған бұрынғы алып конгломераттың көлеңкесі ғана.

Бірақ жалпы мақсаттағы технологиялар ретінде электр қуаты мен ЖИ арасында іргелі айырмашылықтар бар.

Электр қуаты тек «тән қуаты» (brawn) болды. Ол механикалық күшті арттырды, ал қазір электромобильдер мен сансыз құрылғыларды, соның ішінде компьютерлерді қуаттандырады. ЖИ — бұл цифрлық экономикадағы сенсорлар арқылы кескіндерді, бейнелерді, дыбыстарды, иістер мен тілді қабылдап, нақты уақыт режимінде мағына беретін, әр саладағы құрылғылардың жаңадан қалыптасып жатқан «миы». Сонымен қатар, деректер көлемі таңқаларлық жылдамдықпен артып келеді. Болашақ бизнес құндылығы — осының бәріне мағына беретін «мида».

Мен бұл «тән қуатынан ой қуатына» ауысуды алғаш рет COVID пандемиясынан бірнеше жыл бұрын Бангалордағы технологиялық көреген досымның үйінде болғанда түсіндім. Ол жаңа ғана еуропалық ірі тұрмыстық техника брендінің бас директорымен кездескен екен. Бас директор өз брендінің болашағына алаңдаулы еді, өйткені оның кір жуғыш машиналар сияқты құрылғыларына Alexa деңгейіндегі дауыспен басқару интерфейсін енгізуге мүмкіндігі болмады. Бұл технологияға Big Tech (ірі технологиялық компаниялар) иелік етті. Оны нөлден жасау немесе оларды қуып жету мүмкін емес болып көрінді. Дегенмен, мұндай мүмкіндігі, яғни «машинаның болашақ миы» жоқ құрылғылар болашақта өміршең болмайтыны анық еді. Ол Amazon, Microsoft немесе Google сияқты технологияның «Ньюмандарына» немесе жаңадан шығып жатқан ЖИ компанияларының біріне ЖИ үшін ақша төлеуге мәжбүр болатынын түсінді. Басқа жол жоқ еді.

Осы жазбаны жазған кездегі жағдай бойынша, сол уақыттан бері «Ньюмандардың» нарықтық капитализациясы оннан жүз есеге дейін өсті. Бағасы ондаған миллиардтан аспаған бұрынғы өнеркәсіптік алпауыттардан айырмашылығы, «Ньюмандардың» құны қазірдің өзінде триллиондаған долларды құрайды. Құны миллиардтаған доллар болатын ондаған ЖИ стартаптары бағдарламалық инженерия, дизайн, бизнес әкімшілігі және қолдаудың түрлі салаларында жаңа ЖИ инфрақұрылымын пайдаланатын «агенттерді» жасап жатыр.

ЖИ-ді қарқынды дамытқан нәрсе — оның сенсорлық қабылдауы мен өздігінен оқу қабілетінің үйлесуі, бұл ЖИ саласында өзіндік бақылау арқылы оқыту (self-supervised learning — адамның араласуынсыз, деректердің ішкі байланыстарын пайдаланып оқу) деп аталады. LLM (Үлкен тілдік модельдер) әлем туралы осылай білді. Хинтонды (ЖИ атасы саналатын ғалым) мазалайтын нәрсе — мұндай өздігінен білім алатын машинаның не үйренетіні және алған білімімен не істейтіні. Бұрынғы машиналарды біз белгілі бір іс-әрекетті орындау үшін басқардық. Біз олардың ішкі жұмысын толық түсіндік. Ал қазіргі ЖИ — жақсы сөйлесуден басқа нақты мақсаты жоқ алғашқы машина. Ол қазірдің өзінде өздігінен білім алу қабілетіне ие болғандықтан, оның бұдан былай қайда баратынына кепілдік жоқ. Оның неғұрлым ақылды бола түсуден басқа айқын мақсаты жоқ. Ол өміріміздің әрбір бөлігін өзгертіп жатқан кезде, біз оның ішкі жұмыс механизмін толық түсінбейтініміз біршама мазасыздық тудырады.

Бір нәрсе анық. 2022 жылдың соңында қоршаған ортамен байланыс орната алатын және одан үйрене алатын ақылды «бөтен түр» (alien species) келді. Сөзсіз, біз оны пайдалы істердің барлық түріне қолданамыз. Бірақ ол өз мақсаттарына жету жолында жаңа қауіптерді де тудырады. Біз оны қазір өшіре алмаймыз, тек оны қуаттандыратын электр энергиясын өшірмесек. Осы кезеңде біздің қолымыздан келетіні — оның салдарын түсінуге тырысу және біз болжай алатын қауіптерді азайтуға қадамдар жасау, сондай-ақ болжай алмайтын қауіптерге дайындалу.

ҚОРЫТЫНДЫЛАЙ КЕЛЕ

ЖИ саласындағы соңғы парадигмалық ауысудың маңызы зор. Ол ЖИ-ді жай ғана қолданбадан жалпы мақсаттағы технологияға айналдырды.

Басқа жалпы мақсаттағы технологиялар сияқты, ЖИ де әрбір саланы түбегейлі өзгертуге дайын. ЖИ адам қызметінің барлық саласында «миға» айналуда. Дәл осы «ми» болашақта бизнестегі және қоғамдағы құндылықтың негізгі бөлігін жасайды. ЖИ, бұрынғы электр қуаты сияқты, барлық салаға әсер ететіндіктен, ЖИ көшбасшылары жақын болашақта өнеркәсіптік ландшафтта үстемдік етуі мүмкін. Бұл электр қуаты мен ол әсер еткен салаларда үстемдік еткен General Electric-ке ұқсас болады.

Дегенмен, біз толық түсінген және басқара алған алдыңғы жалпы мақсаттағы технологиялардан айырмашылығы, ЖИ басқаша. ЖИ енді әлемді сенсорлық қабылдау мен тіл арқылы сезіне алады және өзіне түсетін деректерден үйрену үшін өзін-өзі бақылауға қабілетті. Ол біздің басшылығымызсыз-ақ барған сайын ақылды бола алады. Бұл жер бетіне орасан зор қабілеті бар ақылды бөтен түрдің қонғанымен тең, бірақ біз оның ішкі механизмін де, оның қалай дамитынын да түсінбейміз.

Бұрынғы парадигмаларды түсіну және біздің бұл жерге қалай келгенімізді білу үшін ЖИ-дің алғашқы күндерінен бастайық. Әрбір парадигмалық ауысу мені интеллект туралы ойымды өзгертуге және мәселелерді жаңаша ойлау тұрғысынан қайта құруға мәжбүр етті.

АЛТЫНШЫ ТАРАУ АВТОПИЛОТТАҒЫ ЖАЛПЫ ИНТЕЛЛЕКТ: ЖАҢА МИ — ҚАБЫЛДАУШЫ МАШИНАЛАР

ЖАЛПЫ ИНТЕЛЛЕКТКЕ АПАРАТЫН ЖОЛ

2013 жылы, GPT пайда болғанға дейін он жылдай бұрын, DeepMind деп аталатын ЖИ компаниясының зерттеушілері мені таң қалдырды. Олар машинаның Pong, Breakaway және Space Invaders сияқты бейне ойындарды ойнауды ешқандай алдын ала білімсіз, жай ғана ойынды бақылау арқылы үйрене алатынын көрсетті. Машинаға берілген жалғыз нұсқаулық — оның жасай алатын әрекеттері (жоғары, төмен, солға, оңға және басу) және жалпы мақсат (сессия кезінде жиналған ұпай санын барынша көбейту) болды. Бар болғаны осы.

Таңқаларлық жайт, машина қысқа уақыт ішінде бұл ойындарды адамнан жоғары деңгейде ойнауды үйренді. Ол кескіндердегі әрбір контексте өз әрекеттерінің (жоғары, төмен, солға, оңға және басу) салдарын бақылау арқылы оқыды.

Мен бұл қандай керемет деп ойладым. Алғаш рет машина әлемді біздің аударып беруімізді қажет етпей, тікелей бақылап, баланың бейне ойынды ешкімнің бақылауынсыз үйренгені сияқты оқып жатты. DeepMind Нығайту арқылы оқыту (Reinforcement Learning — әрекеттері үшін марапат не жаза алу арқылы оқу) деп аталатын әдісті қолданды. Бұл әдісті 1959 жылы IBM қызметкері Артур Сэмюэл компьютерді шахматты (checkers) өзіне-өзі қарсы қайта-қайта ойнату арқылы үйрету үшін ойлап тапқан болатын.

Бұл жолғы айырмашылық — машина өз ортасын (бұл жағдайда бейне экранды) біз сияқты тікелей қабылдап, ойнауды үйрене алуында еді. Бұл қабілет Машиналық оқытуды (Machine Learning — деректерден заңдылықтарды табатын ЖИ саласы) жаңа деңгейге көтерді.

Мұның бәрі GPT енгізілгенге дейін он жылдай бұрын болған еді.

Машиналардың адамның көмегінсіз қабылдау арқылы тікелей үйрену қабілеті тарихи тұрғыдан ЖИ үшін үлкен кедергі болып келген еді. DeepMind көрсетілімі ЖИ үшін маңызды белес болды; бұл машиналардың күрделі мінез-құлықты әлемді тікелей бақылау арқылы, адамдарға ұқсас тәсілмен үйрене алатынының алғашқы практикалық дәлелі болды.

DeepMind тәсілі жақсы жұмыс істеді, өйткені машина өзіне-өзі қарсы қайта-қайта ойнау арқылы көптеген оқу деректерін жасай алды. Ол симуляцияланған деректерді сынақ пен қателік арқылы жақсарту үшін қолданды, соңғы жоғары ұпай алу мүмкіндігін арттыратын аралық тақта конфигурацияларын нығайтып отырды.

Кейіннен — көп ұзамай Google сатып алған — DeepMind өз жұмысын жоғары деңгейдегі шығармашылық пен стратегиялық ойлауды талап ететін ежелгі Го ойынына бағыттады. Адамдар Го ойынында ғасырлар бойы бір-бірімен жарысып келеді. Го ойынында кем дегенде 10¹⁷⁰ ойын комбинациясы бар деп есептеледі. Бұл бүкіл ғаламдағы атомдар санынан да көп. Стратегиялық тереңдік пен мүмкіндіктер тұрғысынан Го ойынының орны бөлек, сондықтан бұл оңай шаруа емес еді.

ЖИ адамзат ұрпақтар бойы үйренген нәрсені қас қағым сәтте меңгеріп қана қоймай, 2016 жылдың наурызында Го ойынының чемпионы Ли Седольмен болған чемпионат ойынында адамдар бұрын-соңды ойламаған мүлдем жаңа жүрістерді көрсетті. Мысалы, екінші ойын кезінде машина Седольға қателік болып көрінген төрт жүріс жасады, бірақ олар соңында керемет болып шықты. Ол үйрену қабілетін көрсетіп қана қоймай, адамдар бұрын ойламаған жаңа нәрсені ойлап тапты.

Дәл осы тәсілді жақында Google-дың DeepMind командасы «белоктардың жиналу мәселесі» (protein folding problem) деп аталатын молекулалық құрылымдардың үш өлшемді формаларын болжау үшін қолданды. Бұл күрделі мәселені шешу дәрі-дәрмектерді жасау және диагностика сияқты медициналық салаларда өте маңызды. Адамдарға шешу үшін апталар немесе айлар қажет болатын нәрсені DeepMind бірнеше минут немесе сағат ішінде өте аз шығынмен орындай алады. Машинаның жаңа молекулаларды ашу және олардың қасиеттерін болжау әлеуеті химия мен биологиядағы ойын ережелерін өзгертетін жаңалық болып табылады. Ол рентгендік кристаллография және ядролық магниттік резонанс сияқты бұрынғы әдістермен шешілмеген күрделі ғылыми мәселелерді шешу үшін Терең оқытуды (Deep Learning — көп қабатты нейрондық желілерді пайдалану) қолданудың жоспарын ұсынады. DeepMind-тың бұл жетістігі оның негізін қалаушылардың бірі Демис Хассабиске 2024 жылғы химия саласындағы Нобель сыйлығын алып берді. Терең оқыту әдістері биологияның ішкі күрделілігімен жұмыс істеуге дәстүрлі эксперименттік әдістерге қарағанда әлдеқайда қолайлы сияқты.

ҚАБЫЛДАУШЫ ӨЗДІГІНЕН БАҚЫЛАНАТЫН ОҚУ МАШИНАЛАРЫ

Қазіргі ЖИ қуатты болжау модельдерін жасау арқылы еңсерген тағы бір маңызды кедергі — адамның мұқият талдауы мен бақылауына деген қажеттілік. Өзін-өзі бақылауды үйрену арқылы ЖИ қалай оқу керектігін біледі және бұл бағытта жақсара түседі. Іс жүзінде ол автопилотта. Мақсат берілсе, ол оған қалай жетуге болатынын үйрене алады. Мақсатты адам белгілеуі мүмкін немесе машина оны үлкенірек мақсаттың қосалқы бөлігі ретінде өзі жасай алады. Машина қажетті білімді өздігінен алады.

Бірақ білім ретінде не саналуы керек? Басқаша айтқанда, теорияның жақсы екенін қалай білеміз? Балама теорияларды қалай салыстырып, жақсысын таңдауымыз керек? ЖИ үшін білім ретінде саналатын нәрсе берік зияткерлік негізге сүйенуі маңызды.

Сараптамалық жүйелер дәуірінде адамдар ЖИ үшін білімді — симптомдар мен аурулар сияқты фактілер мен заттар арасындағы байланыстарды — өздері анықтайтын. Адамдар машина үшін білім көзі болды. Машиналық оқыту дәуірінде біз машинаға білімді тікелей деректерден қалай үйрену керектігін көрсеттік.

Философтар ғасырлар бойы эпистемология (білім теориясы) туралы пікірталас жүргізіп келеді, осы уақыт ішінде теорияларды салыстырудың бірнеше критерийлері ұсынылды. Солардың бірі — «Оккам ұстарасы», ол күрделі теориялардан гөрі қарапайым теорияларды артық көреді. Басқа критерийлерге түсіндіру қуаты, қалыптасқан біліммен сәйкестігі, қолдану аясы, прагматикалық пайдасы немесе болжау қуаты жатады.

Аналитикалық философияда болжау бір нәрсені білім деп санау үшін маңызды эпистемикалық критерий ретінде қарастырылды. Болжау қабілеті әдетте бәсекелес теорияларды салыстыру үшін қолданылады. Ғылым философиясындағы ең ықпалды ойшылдардың бірі Карл Поппер болжаудың білім ретінде саналуы үшін қажетті қасиет екенін жақтаушы болды. Өзінің «Болжамдар мен теріске шығарулар» (Conjectures and Refutations) атты кітабында Поппер құбылысты тек түсіндіруге тырысатын теориялар оңай теріске шығарылатын (falsifiable — қате екенін дәлелдеу мүмкіндігі) және әлі де уақыт сынынан өтетін «батыл» болжамдар жасайтын теорияларға қарағанда әлсіз екенін алға тартты. Поппер Эйнштейннің салыстырмалылық теориясын «жақсы» деп сипаттады, өйткені ол оңай теріске шығаруға болатын батыл болжамдар жасады, бірақ теорияны теріске шығаруға бағытталған барлық әрекеттер сәтсіз аяқталды. Керісінше, Поппер Адлер мен Юнгтің әлеуметтік теорияларына сынмен қарады, өйткені олар тіпті қарама-қайшы фактілерге де бейімделе алатындықтан, оларды теріске шығару мүмкін емес еді.

Машиналық оқыту қауымдастығының мәдениеті Поппердің бағытына ұласты, мұнда болжау мен теріске шығарылу мүмкіндігі бір нәрсені білім деп санаудың маңызды шарттарына айналды. Қабылдау қабілеті деректер тасқынын тудырды, ал болжау қабілеті білім ретінде қарастырылатын нәрсенің сапасының өлшемі болып табылады. DeepMind-тың Alpha Fold және басқа да заманауи ЖИ жүйелерінің жетістігі олардың болжау қабілетіне негізделген.

МАШИНАЛЫҚ ОҚЫТУДАН ТЕРЕҢ ОҚЫТУҒА ДЕЙІН

Машиналар деректердегі белгілерден (features) заңдылықтарды үйренеді. Мысалы, егер біз «жоғары құбылмалылық бағаның төмендеуіне әкеледі» немесе «жоғары простата-спецификалық антиген (ПСА) простата обырының ықтималдығын арттырады» немесе «жолақтар жолбарыстар мен зебраларға тән» сияқты заңдылықтарды қарастырсақ, құбылмалылық, ПСА және жолақтар — бұл деректерден жасалған белгілер. Үйрену үшін машинаға бақыланатын нәтижелердің мысалдары және сол нәтижелермен байланысты белгілер қажет. Дұрыс белгілерді жасау — бұл өнер, және жақында ғана бұл машиналық оқытудағы үлкен кедергі болған еді.

Қабылдау мәселесін шешу арқылы ЖИ белгілер инженериясы (feature engineering) кедергісіне үлкен соққы берді, өйткені машина енді көре алады, оқи алады және ести алады. Адамдардың әлемді машина үшін сипаттауының орнына, қабылдаудың цифрлануы алгоритмдерге шикі кескіндерді, тілді, сандарды, молекулаларды, дыбыс толқындарын және т. б. қабылдауға және шикі деректерден «жолақтар» сияқты жеке белгілерді жасауға мүмкіндік берді.

Қазіргі ЖИ-дің негізін 6. 1-суретте көрсетілгендей бірнеше қабатты нейрондардан тұратын терең нейрондық желілер (Deep Neural Networks — DNN) құрайды. «Кіріс қабаты» кескіндер, иістер, белоктар және т. б. туралы ақпаратты тікелей қабылдайды, ал «шығыс қабаты» нейрондық желі сезіп отырған объектілердің (мысалы, ағаш, тоқта белгісі немесе қатерлі ісік жасушалары) есептелген ықтималдығын болжайды.

Image segment 482
  1. 1-сурет Нейрондық желі

Нейрондық желілер 1940 жылы мидың құрылымын қайталауға тырысатын интеллект моделі ретінде ұсынылған болатын және 1980 жылдарға қарай, Терең оқыту пайда болғанға дейін-ақ машиналық оқыту құралдарының бөлігіне айналған еді. Терең оқытудың ерекшелігі желінің құрылымында болды. Желіге құрылым енгізудің неліктен маңызды инновация болғанын түсіну үшін 6. 1-суретте көрсетілген ақпарат солдан оңға қарай — кірістен шығысқа қарай ағатын көп қабатты нейрондық желі архитектурасын қарастырыңыз.

Терең нейрондық желілердегі солдан оңға қарай орналасқан қабаттар абстракция деңгейі жоғарылап отыратын ұғымдарды білдіреді. Мысалы, сол жақта кіріс түйіндері немесе желі өңдейтін объектінің пиксельдері немесе молекулалық құрылым сияқты жағдайды сипаттайтын «шикі» деректер орналасқан. 6. 1-суреттің оң жағында шығыстар орналасқан, бұл кірістен болжанатын автомобиль, тоқта белгісі немесе белок сияқты әртүрлі үміткер объектілер.

Медициналық контексте кіріс деректері рентген кескіндері мен басқа да бақыланатын симптомдар болуы мүмкін, ал шығыстар кірістермен байланысты ықтимал аурулардың болжамдары болуы мүмкін. Қаржы нарықтарында кіріс деректері сандармен немесе кескіндермен сипатталған нарықтық жағдайлар болуы мүмкін, ал шығыс — нарықтың болашақтағы күтілетін бағытының болжамы болуы мүмкін. Тілде кіріс деректері сөздер тізбегі болуы мүмкін, ал шығыс — тізбектегі болжанатын келесі сөз. Иіс сезу саласында кіріс иіс заты болуы мүмкін, ал болжам — нақты молекула немесе молекулалар қоспасы және олардың концентрациясының таралуы болуы мүмкін. Кез келген дерек түрінен үйрену қабілеті бар мұндай архитектураның көптеген контекстерде қолданыла алуы оның тартымдылығын арттырады.

Оқыту — бұл нейрондық желіні жаттықтыру деп аталады, ол желінің әрбір кіріс үшін дұрыс болжамдар жасауы үшін нейрондар арасындағы салмақтарды (weights) реттеуді қамтиды. Мысалы, ағылшын тіліндегі «Мен ... үйренуге бара жатырмын» (I'm going to learn how to... ) деген сөздер тізбегін қарастырыңыз. Сөйлемдегі келесі сөз ретінде нені болжар едіңіз? Келесі сөз ретінде «жасыл» сөзін болжаудың мағынасы аз және ол деректермен расталмайды, ал «билеу», «ату» немесе «семсерлесу» сияқты сөздердің бәрі қисынды, сондай-ақ «жеңу» де болуы мүмкін. Қайсысы ең жақсы? Бұл контекстке — тіркестен бұрын келген ақпаратқа байланысты. Егер алдыңғы сөйлемдер би қадамдары туралы болса, «билеу» сөзі жақсырақ болжам болар еді, ал егер контекст «Биллді өлтіру» (Kill Bill) фильміне немесе қатал климатта аман қалуды үйренуге қатысты болса, «өлтіру» сөзі жақсырақ болуы мүмкін.

LLM-дердің (Үлкен тілдік модельдер) құпиясы осында. Контекст берілгенде, олар келесі не болатынын қатесіз болжауды үйренген. Бірақ LLM-дер өте күрделі: танымал GPT-4 чат-ботының негізінде жатқан DNN-де таңқаларлық 1,76 триллион параметр бар — мұны 6. 1-суреттегі кіріс және шығыс қабаттары арасындағы байланыстар саны деп қарастырыңыз. Олардың әрқайсысы мысалдардың орасан зор оқу деректер жиынтығы арқылы қайта-қайта өту арқылы реттелуі керек. (Айтпақшы, GPT-4 жаттықтырудағы энергия тұтынуы 50 Гигаватт-сағатты құрады, бұл шамамен 15 миллион долларға тең).

Математикалық тұрғыдан алғанда, білімнің бұл нейрондық көрінісінің кереметтігі — ол машинаны универсалды функция аппроксиматоры (кез келген күрделі математикалық тәуелділікті жуықтап есептей алатын жүйе) етеді. Ол функцияның күрделілігіне қарамастан, салмақтарды үйрену арқылы кез келген функцияны қажетті дәлдік деңгейіне дейін жуықтата алады.

Терең нейрондық желінің (Deep Neural Network — адам миының жұмысына ұқсас көпқабатты есептеу құрылымы) ерекшеліктер инженериясын (feature engineering — шикі деректерден алгоритмге қажетті маңызды белгілерді автоматты түрде бөліп алу) қалай өздігінен орындайтынын түсіну маңызды. Жасырын қабаттар (нейрондық желінің кірісі мен шығысы арасындағы ақпаратты өңдейтін аралық деңгейлер) шикі деректердегі абстракцияның әртүрлі деңгейлеріндегі жанама ерекшеліктерді білдіреді. Мысалы, көру жүйесі кескіндегі жеке пиксельдердің қарқындылығы мен орналасуын кіріс ретінде қабылдап, сызықтар, қисықтар мен түстер сияқты барлық кескіндерге тән абстрактілі белгілерді үйренеді. Олар терең нейрондық желінің оң жағындағы «төменгі ағыс» қабаттарында терезелер, есіктер және жол белгілері сияқты неғұрлым абстрактілі немесе күрделі белгілерге түрліше біріктірілуі мүмкін. Іс жүзінде, DNN-нің мұндай құрылымы шығысқа жақынырақ орналасқан неғұрлым абстрактілі ұғымдарды кіріске жақынырақ қабаттардағы шикі деректердің қарапайым ерекшеліктерінен құрастыруға мүмкіндік береді. Белгілі бір мағынада, бұл архитектура кіріс деректері нейрондық желінің әртүрлі қабаттары арқылы шығысқа қарай өткен сайын, оларды кезең-кезеңімен жанама түрде алдын ала өңдеу арқылы дәйекті түрде жетілдіруге мүмкіндік береді.

ТЕРЕҢ ОҚЫТУДАН ЖАЛПЫ ИНТЕЛЛЕКТКЕ ДЕЙІН

Машинаның алдын ала үлгісіз немесе теориясыз, таза бақылау арқылы абстрактілі белгілерді өз бетінше үйренуіне негізделген Терең оқыту парадигмасының салдары өте ауқымды. Машина нені болжау керектігін білсе болғаны, ол өзіне қажетті нәрселерді автоматты түрде үйрене алады.

Үлкен тілдік модельдер (LLM) болжау жасаудың осындай қабілетінен пайда болды. LLM-дердің қазіргі буыны адамдар жасаған мәтіндер мен кескіндерді шикі кіріс ретінде пайдаланады. Мұндай оқыту деректерінің — Интернетте тіл немесе сурет түрінде жарияланған барлық дерлік мәліметтердің — жаппай қолжетімділігін ескерсек, LLM нақты мәтінмәндегі тізбектің келесі бөлігін ең қисынды түрде болжауды үйрене алады. Бүгінгі LLM-дердің мәтінмәндік терезесі (модель болжам жасау алдында ескере алатын алдыңғы сөздердің көлемі) өте үлкен болғандықтан, ол әрқашан дерлік орынды жауаптар бере алады.

Менің подкаст қонағым әрі LLM гуруы Сэм Боуманмен әңгімелесуім кезінде мен одан Үлкен тілдік модельдердің неліктен соншалықты табысты болғанын және олардың жауаптары неге әрқашан таңқаларлықтай үйлесімді әрі мәтінмәндік екенін сұрадым. Боуман «автотолтыру» тапсырмасын таңдау сәтті болғандығы туралы болжам жасады: бұл тапсырма күрделіліктің тиісті деңгейінде болды және оның өздігінен бақыланатын оқыту (адамның қатысуынсыз, деректердің ішкі құрылымы негізінде білім алу) арқылы үйренуі үшін еркін қолжетімді оқыту деректері өте көп болды. Басқаша айтқанда, «Мен үйренуге бара жатырмын... » сияқты әрбір сөйлемнің әрбір бөлігі оқыту деректерінің бір бөлігі болды және оқу тапсырмасы — болжанатын келесі сөз мәтінмәнге сәйкес болуы үшін Терең нейрондық желінің салмақтарын реттеу болды.

Мәселе мынада: оқыту процесінде машинаның нақты нені үйренгені толық түсінікті емес. Кейіннен белгілі болғандай, әртүрлі мәтінмәндерде тізбектегі келесі сөзді дұрыс болжау машинаны жанама түрде болса да, нақты әлем туралы көп нәрсені үйренуге мәжбүр етеді. Басқаша айтқанда, болжаудың бұл түріне шебер болу машинаны тілде сипатталған әлемдегі заттар арасындағы байланыстарды түсіну үшін қажетті білімнің қомақты көлемін меңгеруге итермелейді. Іс жүзінде LLM-дер өздері қол жеткізе алатын әлемдегі барлық деректер — кітаптар, журналдар, веб-жазбалар, видеолар, фильмдер және т. б. арасындағы жанама байланыстарды үйренеді және осы үйренген модель оларға мәтінмәнге сәйкес келесі сөзді өте жақсы болжауға мүмкіндік береді. Есіңізде болсын, үйренген модель — бұл жай ғана кірістер мен шығыстар арасындағы байланыстардың салмақтар жиынтығы. Сиқыр осы салмақтарда жатыр.

Келесі сөзді болжау тапсырмасын шешу — яғни кез келген тақырыпта кез келген деңгейде еркін сөйлесу қабілеті — әлдеқайда үлкен мәселені, атап айтқанда, жалпы әлем туралы білім алуды талап еткені назар аударарлық. Бұл жетістік Жасанды Интеллект (ЖИ) машинасына өзі оқытылған тар болжау тапсырмасының шеңберінен шығуға мүмкіндік берді. Ол әлем туралы жалпы байланыстар мен корреляцияларды үйреніп, бейнелей алады, бұл оған арнайы оқытылмай-ақ кез келген нақты сала туралы пайымдау жасауға мүмкіндік береді. Қазіргі чат-боттармен сөйлескенде біз сезінетін «сиқыр» осы, және біз мұны біз үшін іс-әрекеттерді қалай орындау керектігін түсінетін ЖИ агенттерінен көре бастадық.

Соған қарамастан, Хинтонның «бұл нәрселер бізден ерекше» деген ескертуін баса айтқан жөн. Біздің миымызда шамамен 100 миллиард нейрон және 100 триллионнан астам синапстық байланыс бар. DNN-дер миллиардтаған нейрондарымен және триллиондаған синапстарымен соған ұқсас үлкен әрі күрделі болды. Байланыстар адамдар айтқандай «оқшауланған» өз бетінше блоктарда көрсетілетін INTERNIST сияқты Сарапшылық жүйелерден айырмашылығы, DNN-дегі байланыстар желідегі салмақтар бойынша «жайылған» және оларды түсіндіру әлдеқайда қиын. Білім — заттардың мағынасы мен олардың арасындағы байланыстар — нейрон қабаттары арасындағы салмақтық байланыстар түрінде «таралған» тәсілмен көрсетіледі. Қазіргі уақытта біз олардың егжей-тегжейлі ішкі жұмысын түсінбейміз, бірақ олар бізден мүлдем басқаша жұмыс істейтін сияқты.

6.1-кесте. ЖИ парадигмаларының қасиеттері мен мүмкіндіктері

Деректер | Құрылымы | Ауқымы | Өңдеу (Curation) :--- | :--- | :--- | :--- **Сарапшылық жүйелер** | Адам | Ережелер | Ережелерді қолданады | Жоғары **Машиналық оқыту** | + Сұрыпталған деректер | Ережелер/Желілер | + Байланыстарды анықтайды | Орташа **Терең оқыту** | + Сенсорлық және тілдік | Терең нейрондық желілер | + Байланыстарды сезеді | Төмен **Жалпы интеллект** | + Барлығы | Алдын ала оқытылған терең нейрондық желілер | + Әлемді түсінеді | Минималды

Бұл кестенің жоғарғы және төменгі бөліктерінің арасындағы айырмашылық — ЖИ-дің мамандандырылған және шектеулі қолданбаларын құрудан, білім мен интеллекттің нақты шекаралары жоқ және жаңа жағдайларға оңай бейімделетін жүйеге біртіндеп көшуі. Қазіргі ЖИ машиналары жалпы әлемді түсінуге және уақыт өте келе бұл түсінікті дамытуға бағытталған. Қазіргі ЖИ жүйелерінің мінез-құлқы мен өнімділігі интеллектке арналған әйгілі Тьюринг тестінен өтті ме деген сұрақ әлі де талқыланып жатса да, бұл пікірталастың өзі ЖИ-дегі елеулі прогресті және оның мүмкіндіктерінің айтарлықтай артқанын көрсетеді. (Егер адам сұраққа берілген жауаптың адамнан ба немесе машинадан ба екенін ажырата алмаса, машина Тьюринг тестінен өтті деп есептеледі. )

МАҢЫЗДЫ НӘРСЕНІ ҮЙРЕНУ

Жалпы Интеллектісі және өздігінен бақыланатын оқу қабілеті бар, бәрін бақылайтын ЖИ машинасының салдарын бағалау үшін оның спортты қалай өзгерте бастағанын қарастырайық. Дәл осындай ойлау кез келген түрдегі үлкен көлемдегі деректерден үйренуді қажет ететін кез келген салаға қатысты.

Сіз болашағы бар ойыншыларды іздейтін теннис маманысыз немесе артықшылыққа ие болғысы келетін чемпиондықтан үміткер теннисшісіз деп елестетіңіз. Адам немесе ЖИ артықшылық жасау үшін не істер еді?

**Статистика. ** Біз ойыншының бірінші соққысының орташа жылдамдығын, екінші соққысының тиімділігін, жүгіру жылдамдығын және кортты қамту қабілетін, күшін және психологиялық төзімділігін ескеретін шығармыз. Оның «қаруы» бар ма? Ойыншының қорғаныс дағдылары қаншалықты мықты? Осы ерекшеліктерді қарау сізге әртүрлі ойыншылардың қабілеттерін ажыратуға және олардың матчтарының нәтижелерін болжауға көмектеседі. Сіз бұл деректердің кейбірін, мысалы, бірінші және екінші соққы жылдамдығы мен пайыздық көрсеткіштерін түрлі дерекқорлардан ала аласыз. Психологиялық төзімділікті болса, сандық түрде бағалау қиынырақ.

Енді әр ойынның әрбір ұпайын бақылайтын өзіңіздің ЖИ нұсқаңызды елестетіңіз. Ол Федерер өткізген барлық 1526 матчты, сондай-ақ оның барлық қарсыластарының матчтарын бақылады. Ол матч және турнир деңгейіндегі табыстың кілті ретінде қандай белгілерді үйренер еді? Олар адамдар қолданатын белгілермен бірдей бола ма?

Мүмкін. Бірақ ЖИ-дің күші — ол шикі деректерден адамдар ешқашан ескермейтін ерекшеліктер мен заңдылықтарды таба алады, дәл AlphaGo ойынын меңгергендей немесе AlphaFold биологияда істей алатындай. Есіңізде болсын, заңдылықтар көбінесе олардың себептері анықталмай тұрып пайда болады; адамдарға заңдылықтарды үйрену үшін қажетті нүктелерді қосуға уақыт керек.

Мұнда ЖИ теннис деректерін қалай талдауы мүмкін екендігі туралы бір мысал берілген.

Федерердің теннис статистикасын еске түсіріңіз, онда біз жеңіп алынған ұпайлар мен жеңіске жеткен матчтар арасындағы байланысты сипаттаған болатынбыз. Сіз жоғары шеберліктің арқасында ұпай аласыз. Шеберліктің өте аз жақсаруы, жеңіп алынған ұпайлар пайызында көрініс тауып, күрделі пайыздың (compounding) күшінің арқасында жеңілген матчтар пайызының айтарлықтай жақсаруына әкеледі.

Қандай дағдылар жақсы соққыларға және, демек, жеңіп алынған ұпайларға әкеледі?

Теннисте шеберлікке ықпал ететін кейбір белгілер айқын, мысалы, соққы жылдамдығы, шыр айналдыру (spin), тереңдік және бағыттау. Жақсы соққы эйс-ке (қарсыласы тие алмайтын тікелей ұпай әкелетін соққы) әкелуі мүмкін немесе әлсіз жауап соққысының нәтижесінде соққы берушіге тиімді позиция береді, бұл оның «плюс бір» соққысын (соққыдан кейін жасайтын келесі соққысы) тиімдірек етеді. Бірақ шеберлік бұдан да күрделірек, ол ойыншылардың барлық түрлеріне қарсы ойнау қабілетін қамтиды, бұл белгіні әмбебаптық (versatility) деп сипаттауға болады.

Алдын ала болжау (anticipation) шеберлікке байланысты тағы бір маңызды үйренуге болатын белгі болуы мүмкін, сонымен қатар ептілік (agility) де маңызды, оны ойыншының бағытын өзгерту жылдамдығын бақылау арқылы есептеуге болады. Айлакерлік (guile) тағы бір маңызды белгі болуы мүмкін, оны қарсыласты соңғы сәтке дейін өз ниетің туралы екіұдай ойда қалдыру деп түсінуге болады. Карлос Алькарастың фирмалық дроп-шоты (тордың түбіне түсетін қысқа соққы) ішінара тиімді, себебі ол не істейтінін жасыра біледі.

Бұл белгілерді негізінен шикі деректер болып табылатын матч видеосын қарау арқылы үйренуге бола ма?

Олар үйренілуі тиіс. Жоғарыда аталған белгілердің ішіндегі ең нәзік және күрделісі — айлакерлікті қарастырайық. Қарсыласты «оқи» білу немесе қарсыластың сізді «оқуы» барлық спорт түрлеріне тән және артықшылықтың негізгі көзі болып табылады. ЖИ айлакерлікті қалай есептей алады?

Көрсеткіштердің бірі соққы берушінің допты лақтыруы болуы мүмкін. Қарсылас доптың лақтырылуына қарап, соққының «Т» сызығына (қызмет көрсету шаршысының ортаңғы сызығы) ма, әлде шетке ме бағытталатынын алдын ала біле ала ма? Бұны өлшеудің бір жолы — доптың лақтырылуындағы өзгерістерді есептеу. Новак Джокович сияқты ұлы ойыншылардың лақтыруында ауытқулар нөлге жуық, бірақ олар қолданатын айналдырудың арқасында доптың кортқа түсу бағытында үлкен айырмашылық болады. Бұл Джоковичтің артықшылығының бір бөлігі, себебі қарсыластарға оның қай бағытқа соғатынын алдын ала білу қиын. Теннистегі айлакерліктің тағы бір көрінісі — жоғарыда айтылғандай дроп-шоттарды қолдану немесе қарсылас торға жақындағанда оның басынан асыра шыр айналдырып соғу (topspin lob). Барлық жағдайлар тең болғанда, айлакерліктің жоғары деңгейі жақсы нәтижелерге әкеледі деп күтуіміз керек.

Жылдамдық, алдын ала болжау, ептілік және айлакерлік сияқты белгілерді ойыншылар ұзақ сағаттық жаттығулар мен қайталаулар арқылы шыңдайды. Осы белгілердің барлығы ұпай кезіндегі ойыншының соққы таңдау сапасына әсер етеді. Олар жоғары қысым кезінде қандай соққыны жасауға ең қолайлы сезінеді? Бұл сапаны видеодан есептеуге бола ма? Машина мұндай белгілердің нәтижелерді анықтауда маңызды екенін түсіне ала ма?

Шынында да, ЖИ мұндай білімді өз бетінше үйрене алуы керек, тіпті ол оны сипаттау үшін «ептілік» немесе «айлакерлік» сияқты атауларды қолданбаса да. Бірақ мен бұдан да ары барып, ЖИ жаттықтырушысы адамға қарағанда әлдеқайда бай кеңестер бере алатын жолдарды көрсетейін. Рафа Надаль мен Новак Джоковичтің «Үлкен дулыға» финалында — айталық, Ролан Гарростың қызыл топырағында кездескенін елестетіңіз, олар мұны бірнеше рет жасаған. ЖИ жаттықтырушысы Надальға қандай кеңес берер еді?

Жылдар бойы Надальды не жеңімпаз еткені туралы көптеген мақалалар жарияланды. Оның оң жақтан соққысы (forehand) минутына айналу санымен өлшенетін ерекше шыр айналдыруы бар үлкен қару болды. Бірақ оны ерекше еткен — ұпайды өзінің оң жақ соққысымен жеңіске жететіндей етіп ұйымдастыра білу қабілеті. Надаль өзінің оң жақ соққыларының 55%-дан астамын жеңіп алды. Ұпайлар мен матчтар арасындағы байланысты еске түсіріңіз. Федерер өз ұпайларының 54%-ын және матчтарының 80%-ын жеңіп алды. Сонымен, елестетіп көргеніңіздей, Надальдың оң жақ соққысымен 55% жеңіс көрсеткіші оны матч барысында бұл жағынан жеңілмейтіндей етті. Оның стратегиясы — ұпайды өзінің оң жақ соққысын жасағанға дейін созу болды. Осы стратегияның арқасында ол қарсыластарын корттың бір жағынан екінші жағына қайта-қайта жүгіртуге қарсы болмады. Оның ұпайлары қарсыластарына қарағанда ұзағырақ болатын, өйткені ол оң жақ соққысымен жеңіске жету мүмкіндігін күтетін. Бұл қосымша жүгірудің бәрі керемет физикалық дайындықты талап етті.

ЖИ Надальға немесе соған ұқсас адамға ұпайларды созу оның жеңіске жету мүмкіндігін арттыратынын, яғни белгілі бір қарсыласқа қарсы бұл стратегияның күтілетін тиімділігі туралы кеңес бере алар ма еді? Надальдың әртүрлі жерлердегі видеолары жеткілікті болса, ол Надаль үлкен артықшылықпен қолданған оң жақ соққымен жеңіске жету стратегиясын шынымен де таба алар еді. Әсіресе оның физикалық жағынан кемшілігі болмаған жағдайларда.

Әрине, тәжірибелі жаттықтырушылар сияқты сарапшылардың миында мұндай білім бұрыннан бар. Мен бірнеше жыл бұрын «Сан-Антонио Сперс» баскетбол командасымен ЖИ жобасын жасадым және олардың бас жаттықтырушысы Грег Поповичтің басында күрделі есептеулерді қалай жиі жасайтынын және соған негізделген шешімдер қабылдайтынын өз көзіммен көрдім. Мысалы, Бруклиндегі «Барклайс-центрде» «Нетс» командасына қарсы ойын кезінде, уақыттың аяқталуына шамамен үш минут қалғанда «Сперс» 82-68 есебімен артта келе жатты. Өткен деректерден мен тапшылық пен қалған уақытты ескере отырып, олардың жеңіске жету мүмкіндігі нөлге жуық екенін есептеген болатынмын. Олар келесі шабуылда ұпай жинап, ойында қалды. Келесі бір жарым минут ішінде «Сперс» жанданып, тапшылықты төрт ұпайға дейін қысқартты (86-82), ал доп «Нетс» командасында болды.

Попович тайм-аут алып, жоспар құру үшін корттағы әдеттегі орнына үш көмекшісін жинады. «Сперс» келесі минутта өте тығыз қорғаныста ойнады, осы уақыт ішінде «Нетс» бір кәдімгі себетке доп салса, «Сперс» үш ұпайлық соққы жасады. Есеп 88-85 болып, бес секундтан сәл астам уақыт қалғанда, Попович соңғы ойынын жоспарлау үшін бірден тағы бір тайм-аут алды. Ойын аяқталуына екі секунд қалғанда «Сперс» шабуылшысы Дэнни Гриннің үш ұпайлық соққысымен есеп теңесіп, ойын овертаймға (қосымша уақыт) ұласты.

Поповичке бұл шешімдерді қабылдау үшін компьютер қажет болмады. Ол не істеу керектігін білді.

Бірақ болашақта барлық спорт түрлеріндегі жаттықтырушыларға стратегиялық мақсаттар үшін, әсіресе айлакер және бейімделгіш қарсыластарға қарсы ойындар кезінде стратегияларды бейімдеу үшін видео деректерде жасырылған заңдылықтар мен басқа да ақпаратты алу үшін ЖИ-ді қалай пайдалану керектігін түсіну қажет болады. Машиналық көру жүйесінен айырмашылығы, адамдардың үлкен видео деректерден жүйелі түсініктер алу мүмкіндігі шектеулі.

2024 жылдың сәуірінде Жапонияның «Yomiuiri Shimbun» (әлемдегі ең көп таралатын күнделікті газет) спорт журналисі менен мұндай зерттеулермен айналысып жатқан командалар туралы білетін-білмейтінімді сұрады. Мен оған ойыншыларды бақылау деректеріне Машиналық оқытуды қолданатын нейробиология әдебиеттері мен коммерциялық спорттық аналитикалық платформаларды көрсеттім, бірақ мен командалардың мұндай жұмыс туралы ақпаратты көпшілікпен бөлісетінін күтпедім. Бәс тігілген нәрселердің маңыздылығын ескерсек, нәтижелер Уолл-стриттегі жеке меншік сауда топтары сияқты қатаң құпия сақталады деп ойлаймын.

Ең бастысы, ЖИ-дің қабылдау және өздігінен бақыланатын оқыту арқылы өз бетінше үйренуіне келетін болсақ, «жын шөлмектен шықты». Бұл тек спортпен шектелмейді, машиналар әлемді қабылдай алатын біздің өміріміздің барлық салаларына қатысты.

Автопилоттағы ЖИ-дің мүлдем жаңа әлемі бар. Ол неғұрлым көп бақыласа, соғұрлым көп үйренеді. Бұл маған Йоги Берраның әйгілі сөзін еске түсіреді: «жай ғана қарап отырып-ақ, көп нәрсені байқауға болады».

ЖАЛПЫ ИНТЕЛЛЕКТТІҢ МАСШТАБТАУ ЗАҢДАРЫ

ЖИ алдында тұрған кеңірек сұрақтар қазіргі Жалпы Интеллект парадигмасы деректерді өздігінен талдау қабілетімен бізді қаншалықты алысқа апара алатынына байланысты.

Егер біз болжауды білім ретінде есептелетін нәрсенің <span data-term="true">эпистемикалық критерийі</span> (танымдық өлшемі) ретінде қарастыруды жалғастырсақ, Үлкен тілдік модельдермен «ЖИ-дің масштабтау заңдары» бойынша жүргізіліп жатқан зерттеулер көру және басқа сезімдерімізге қатысты ЖИ-дің басқа салаларына да жалпылауға болатын кейбір қызықты түсініктерді ұсынады.

LLM-дерді жақсартуға тырысу зерттеулерінен туындаған негізгі принцип: олардың өнімділігі — келесі сөзді жақсырақ болжау және, демек, жақсырақ сөйлесу қабілеті — бір мезгілде үш нәрсені арттыру арқылы жақсарады.

Үштіктің бірінші анықтаушысы — модельдің күрделілігі, бұл жай ғана 6. 1-суретте көрсетілген желідегі қабаттардың өлшемі мен саны. Екінші анықтаушы — оқыту деректерінің корпусының (белгілі бір мақсатта жинақталған мәтіндер жиынтығы) көлемі. Ал үшіншісі — LLM-ді оқыту үшін қолжетімді есептеу қуаты. 2020 жылғы маңызды мақалада қазір адамдар «ЖИ-дің масштабтау заңдары» деп атайтын нәрсе сипатталған, ол келесі сөзді болжаудың дәлдігі осы үш анықтаушымен: модель күрделілігінің, деректер көлемінің және есептеу қуатының артуымен жақсаратынын көрсетеді. Егер бұл өнімділік өлшемі Жалпы Интеллект үшін жақсы көрсеткіш болса, масштабтау заңдары LLM-дердің көбірек деректермен, есептеу қуатымен және күрделілікпен мүмкіндіктерін жақсартуды жалғастыратынын болжайды.

Қазіргі уақытта Жалпы Интеллектті дамытуда бұл өлшемдерге ешқандай айқын шектеулер жоқ. Мысалы, Интернетте және басқа жерлерде адамдар жасайтын тілдік деректерден басқа, видео, дыбыс және иіс сияқты деректердің басқа түрлері де машиналар үшін кеңінен қолжетімді бола бастады. Мысалы, YouTube-ке әр жарты сағат сайын шамамен 16 000 сағат видео жүктеледі. Бұл төрт жасар баланың қанша уақыт өмір сүргеніне тең. Сондықтан ЖИ үшін физикалық әлем туралы үйренуге болатын видео оқыту деректерінің тапшылығы жоқ. Шынында да, зерттеудің өнімді саласы машиналардың адамдар оңай істей алатындай бірнеше сенсорлық режимдерден деректерді қалай біріктіретініне қатысты. Тағы да айта кетейін, біз мұндай деректерді жинаудың ең бастапқы кезеңіндеміз, бұл жақын болашақта ChatGPT және оның видеоға негізделген баламалары сияқты қолданбаларға негіз болатын алдын ала оқытылған модельдердің жақсаруын көре беретінімізді білдіреді. Жақсырақ Жалпы Интеллект барлық қолдану салаларында неғұрлым зияткер мамандандырылған агенттердің пайда болуына әкеледі.

Жалпы Интеллектке қарай ілгерілеу 6. 1-кестеде көрсеткенімдей, машиналық интеллектті арттыру жолымен жүргенін атап өткен жөн. Бірінші парадигма «адамдардан үйрену» болды. Келесісі «сұрыпталған деректерден үйрену» болды. Одан кейін «кез келген деректерден үйрену» парадигмасы келді. Қазіргі парадигма — «әлем туралы кез келген деректерден жаңа жағдайларға бейімделетіндей етіп үйрену». Бұл соңғы парадигмалық ауысым ЖИ-ді жалпы мақсаттағы технологияға және деректер көлемінің, есептеу қуатының артуымен және желілік архитектурадағы инновациялармен сапасы үнемі жақсара беретін тауарға айналдырады.

Бірақ біз қазіргі жасанды интеллектте (ЖИ) көріп отырған Жалпы интеллект (General Intelligence — адам деңгейіндегі әмбебап қабілет) мүмкіндіктеріне тым қатты берілмеуіміз керек. Интеллекттің бірнеше іргелі аспектілері әлі де жұмбақ болып қалуда және олар тек бар модельдерді үлкейту немесе күрделендіру арқылы шешілуі екіталай. Мысалы, машиналардың интроспекция (өзінің ішкі күйін бақылау) және рефлексия (өз ойларына талдау жасау) қабілеті әлі де шектеулі, ал бұл қасиеттер адам интеллектісі үшін өте маңызды және оқу қабілетінен мүлдем бөлек нәрсе. Қазіргі уақытта ЖИ адамға тән интеллект деңгейіне жетті деп айту қиын. ЖИ меңгеруі тиіс дүниелер әлі де көп.

БӘРІН БІРІКТІРЕ КЕЛЕ

Терең оқыту (Deep Learning — көп деңгейлі нейрондық желілерді қолдану әдісі) қабылдау мәселесін шешу арқылы үлкен серпіліс жасады. Машиналар қоршаған ортаны тікелей көруге, оқуға және естуге қабілетті болды; бұрын бұл деректерді өңдеу үшін адамдар арнайы параметрлерді енгізуі керек болатын. Бұл белгілер инженериясын (feature engineering — деректерден маңызды сипаттамаларды таңдау процесі) автоматтандыруға әкелді және интеллектті өңделмеген деректерге жақындатып, жоғары деңгейге шығарды.

Терең оқытудан Жалпы интеллектке өтудің соңғы парадигмалық ауысуы ЖИ-ді электр энергиясы сияқты жалпы мақсаттағы технологияға айналдырады. Электр энергиясы кезінде бүкіл әлемдегі экономиканың әрбір саласын қалай өзгертсе, ЖИ де өнеркәсіптік ландшафт пен қоғамға кең ауқымды әсер ете отырып, кезекті өнеркәсіптік революцияны бастауға дайын тұр.

Жалпы интеллект қосымшаларды жасаушылар үшін орасан зор мүмкіндіктер береді, бірақ сонымен бірге үлкен қауіптер де төндіреді. Біз алғаш рет интеллектуалды болудан басқа ешқандай нақты мақсаты жоқ машина жасадық. Оның ішкі жұмыс істеу принципі туралы аздаған түсінігіміз болғанымен, оның қалай ойлайтынын және кіріс деректерін қалай өңдейтінін толық білмейміз. Бұл ЖИ-ді басқаруды қиындатады, әсіресе ол қазірдің өзінде «автопилот» режимінде көбірек деректер жинап, ЖИ-дің масштабтау заңдарына сәйкес ақылдырақ бола түсуде.

Бұл жағдай жұмыстың болашағына терең әсер етеді. Адамдардың жұмыс орындарының көбі біздің қабылдау қабілетімізге, атап айтқанда оқу, көру, есту, сезу және иіскеу қабілетімізге негізделген. Егер машина әлемді біз сияқты қабылдай алса және адамзат білімінің орасан зор қоймасына қол жеткізе алса, онда «болашақта адамдар не істейді? » деген орынды сұрақ туындайды.

Келесі екі тарауда мен осы сұраққа бірнеше жауап беремін.

Ескертпелер

  1. Samuel, Arthur L. , “Some studies in machine learning using the game of checkers,” IBM Journal of Research and Development, 44 (1959): 206–226.
  1. https://www. google. com/url? sa=t&source=web&rct=j&opi=89978449&url=https://www. wired. com/2016/03/two-moves-alphago-lee-sedol-redefined-future/&ved=2ahUKEwiJ4u_xh5GLAxWOkokEHR68HlQQFnoECAYQAQ&usg=AOvVaw0zfvCmQE8nN0blLkfX2FaF
  1. Yang, Z. , Zeng, X. , Zhao, Y. , and Chen, R. , Alphafold2 and its applications in biology and medicine, Nature, 2023. https://www. nature. com/articles/s41392-023-01381-z? utm_source=chatgpt. com
  1. https://www. thetimes. com/uk/science/article/briton-wins-nobel-prize-for-ai-tool-that-predicts-protein-shapes-5wmr6vtvt? utm_source=chatgpt. com&region=global
  1. Popper, Karl . , Conjectures and Refutations, Routledge, 1963.
  1. https://www. nature. com/articles/nature14539
  1. LeCun, Y. , Bengio, Y. , and Hinton, G. , Deep learning, Nature 521 (2015), 436–444. https://doi. org/10. 1038/nature14539
  1. McCulloch, W. S. , and Pitts, W. H. , a logical calculus of the ideas immanent in nervous activity, Bulletin of Mathematical Biophysics 5 (1943), 115–133.
  1. Cybenko, G. , Approximation by Superposition of Sigmoidal Function, Mathematics of Control, Signals, and Systems, 1989, Springer‐Verlag.
  1. https://web. njit. edu/~usman/courses/cs677/10. 1. 1. 441. 7873. pdf
  1. Kolmogorov, A. N. , On the representation of continuous functions of many variables by superposition of continuous functions of one variable and addition, Doklady Akademii Nauk SSSR, 114 (1957), 953–956.
  1. https://bravenewpodcast. com/episodes/2023/03/23/episode-58-sam-bowman-on-chatgpt-controlling-ai/
  1. Turing, A. , Computing machinery and intelligence, Mind 49 (1950):433–460.
  1. https://courses. cs. umbc. edu/471/papers/turing. pdf
  1. https://www. braingametennis. com/rafael-nadals-phenomenal-forehand/? utm_source=chatgpt. com
  1. Schonbrun, Z. , The Performance Cortex: How Neuroscience Is Redefining Athletic Genius, EP Dutton, 2021.
  1. https://www. amazon. com/Performance-Cortex-Neuroscience-Redefining-Athletic/dp/1101986336
  1. https://www. zelusanalytics. com/
  1. https://hdsr. mitpress. mit. edu/pub/kxks56er/release/5
  1. https://arxiv. org/abs/2001. 08361
  1. Personal correspondence with Yann LeCun.

OceanofPDF. com

ЖЕТІНШІ ТАРАУ. ЕСКІРГЕН АДАМДАР: СЕЗГІШ МАШИНАЛАР

АУРУДЫ ИІСКЕУ

Джой Милн Паркинсон ауруын иісінен ажырата алады. Ол мұны күйеуі Лес Милнді Паркинсон диагнозы қойылған адамдардың қолдау тобына ертіп барғанда түсінді. Ол бұл иісті Лестен он жылдан астам уақыт бұрын сезген болатын. Оның 32 жасқа толған туған күнінде жағымсыз иісті байқаған еді, содан кейін ол иіс ешқашан кетпеді. Күйеуінің мінезі өзгерді. Ол оқшауланып, қатал, ашуланшақ бола бастады және мінез-құлқы әлеуметтік тұрғыдан қабылданбайтын күйге түсті. Джой мұндай иісті көптеген жылдар бойы маниакалды депрессия салдарынан ауруханада жатқан, кейіннен Паркинсон диагнозы қойылған оның анасынан да сезген еді.

Джой Милннің Паркинсон ауруын иіскеу қабілеті біреудің көзін жеке-жеке қозғалтуы немесе буындарының тым иілгіштігі сияқты жай ғана таңқаларлық дағды болып қалар еді, бірақ бір мәселе бар. Паркинсон ауруын он жыл бұрын — Джойдың күйеуіне қатысты жасағанындай — анықтайтын сенімді медициналық диагностиканы зерттеушілер әлі жасаған жоқ. Кейінірек жүргізілген «соқыр» экспериментте (зерттелушілер кім екені жасырылған сынақ) ауруы бар және жоқ адамдар киген он шақты футболка ортасынан кесіліп, Джойға кездейсоқ ретпен ұсынылды. Ол тек бір рет қана қателесіп, бақылау тобындағы (ауруы жоқ адамдар) бір адамды Паркинсонмен ауырады деп көрсетті.

Бір жылдан кейін әлгі адамға Паркинсон диагнозы қойылды! Джой заманауи медицинаның қолынан келмеген істі жасады. Бақыланатын экспериментте ол мінсіз нәтиже көрсетті.

Денсаулық сақтаудың басқа салаларындағыдай, Паркинсон ауруының көрінетін белгілері ауру басталғаннан кейін көп уақыт өткен соң, медициналық араласу тек симптомдарды жеңілдетумен шектелетін кезеңде ғана байқалады. Диагноз тым кеш қойылады. Ал диагноз кеш қойылғандықтан, аурудың алғашқы кезеңдері туралы маңызды деректер жиналмайды, бұл емдеу жолын табуды қиындатады. Біздің қолымыздан келетіні — бәрі кеш болғанда тек зардаптарды емдеу.

Қабылдау технологияларындағы жетістіктер, әсіресе ЖИ көру жүйесі, ерте диагностикаға айтарлықтай әсер етті. МРТ, КТ және рентген ісіктер мен басқа да ауытқуларды ерте анықтаудың стандартына айналды. Тілді, көру жүйелерін және иісті біріктіретін мультимодальды деректерді (бірнеше түрлі дерек көздерін бірге қолдану) өңдей алатын Үлкен тілдік модельдер (LLM) ерте анықтау мен емдеуде үлкен үміт күттіреді.

Алдағы жылдары машиналардың көру және иіс сезу саласындағы сенсорлық қабілеттері кеңейе береді және қазіргі уақытта белгілі биомаркерлері (аурудың бар екенін білдіретін биологиялық көрсеткіштер) жоқ көптеген ауруларды ерте анықтау арқылы денсаулық сақтауды өзгертуі мүмкін. Джой — иіс сезу саласындағы соның тірі дәлелі. Сұрақ мынада: машина қашан Джойдың қолынан келетін істі күнделікті режимде орындай алады?

«Osmo. ai» иіс компаниясы иісті цифрландыру мүмкіндігін көрсетіп үлгерді. Басқаша айтқанда, компьютер енді иісті дереккөзінен «оқып» және оны «жаза» алады, яғни оны құрайтын молекулалардың тиісті қоспасын жасай алады. Қарапайым тілмен айтқанда, компьютерлер енді иіс сезе алады.

Менің Нью-Йорк университетінің Деректер ғылымы орталығындағы докторантым Вивек Агарвал, әріптесім Дмитрий Ринберг және мен зертханада зәр немесе басқа иіс көздерін пайдаланып, иіс арқылы ауруды болжайтын алгоритмдер жасап жатырмыз. Біздің амбициялық мақсаттарымыздың бірі — медициналық зерттеулерде қолдануға болатын иістердің үлкен цифрлық дерекқорын жасау. Бұл дерекқор иіс сезуді зерттеуге серпін береді деп күтеміз, тура «ImageNet» дерекқоры компьютерлік көру саласындағы ілгерілеуді жеделдеткені сияқты. ImageNet — бұл объектілерді тану зерттеулеріне арналған ірі масштабты визуалды дерекқор, онда 14 миллионнан астам таңбаланған суреттер бар. Ондағы белгілер иерархия ретінде ұйымдастырылған зат есімдерден, етістіктерден және сын есімдерден тұрады, бұл мен 2-тарауда талқылаған «INTERNIST» жүйесіндегі аурулар мен мүшелердің күрделі иерархиясына ұқсайды.

Гарвард медициналық мектебінің нейробиологы Сандип Роберт Датта ми мен иіс сезу мүшелерін бірнеше онжылдық бойы зерттеп келеді. Ол Джой Милн сияқты адамдардың қабілетін аурулардың биомаркерлері міндетті түрде болуы керек екендігінің дәлелі ретінде қарастырады. Оның айтуынша, біз адамдардан сезетін иістер себореялық жасушалардың (тері астындағы май бөлетін жасушалар) секрециясының нәтижесі және әрбір иіс белгілі бір молекулалармен байланысты. Мәселе — осы иістерге жауапты молекулаларды, яғни нақты аурулармен байланысты биомаркерлерді табуда. Иіс сезу диагностикалық деректердің жаңа көзіне айналуда.

Егер бірнеше жыл алға көз жүгіртсек, ЖИ жүйелері қоршаған ортадан көру, дыбыс және иіс сияқты барлық сенсорлық деректерді қабылдап, оны тілді түсіну қабілетімен ұштастыра алатын уақытты елестете аламыз. Бұл орын алғанда, дәрігерлердің рөлі қалай өзгереді? Диагноз қою үшін дәрігерге барудың қажеті болмай қала ма?

САРАПТАМА, ЖИ ЖӘНЕ АДАМНЫҢ ЕСКІРУІ

2024 жылдың наурыз айында мен Американың Ауруларды бақылау және алдын алу орталығында (CDC) «ЖИ адам дәрігерлерін ескірген мамандыққа айналдыра ма? » деген тақырыпта баяндама жасадым.

Мен бұл тақырыпты әдейі арандатушылық үшін таңдадым, бірақ өз позициямды бірден ашқым келмеді. Сондықтан мен сөзімді автокөлікке техникалық қызмет көрсетумен салыстыра отырып, қарапайым сұрақтан бастадым:

Медицина автокөлік диагностикасы мен жөндеуінің жолымен жүре ме?

Баяғыда автокөлік диагностикасы өнер болатын. Білім тәжірибе арқылы жиналатын және тәжірибелі механиктер жоғары бағаланатын. Қазіргі уақытта автомобильдер борттық компьютерлермен жабдықталған, олар көптеген сенсорлардан көрсеткіштер алып, көліктің жай-күйін анықтауға көмектеседі. Механиктің жұмысы диагноз қоюға емес, компьютер анықтаған ақауды түзетуге бағытталған, көбінесе жөндеу жұмыстарын машиналардың көмегімен жасайды.

Бүгінде көбімізде смарт-сағаттар, фитнес-трекерлер және ұялы телефондар түріндегі бір немесе бірнеше компьютерлер бар, олар денсаулығымызды нақты уақыт режимінде өлшеуге мүмкіндік береді. Жақын арада біз өзімізді сенсорлары арқылы денсаулығымыз туралы бәрін айтып беретін машинаға қоса аламыз ба?

Ал егер хирургиялық ота қажет болса ше? Көптеген хирургтар ота кезінде роботталған құрылғыларды қолданады, әсіресе жоғары дәлдікті қажет ететін немесе сезімтал жүйкелердің жанында қолдың дірілдеуіне жол бермейтін процедураларда. Мұндай құрылғылар жаңа, ақылды ЖИ алгоритмдерімен жұмыс істеп, бұрынғы тәжірибелі автомеханиктер сияқты қазіргі дәрігерлер буынын да қажетсіз етіп тастай ма? Диагноз қою немесе емдеу курсын тағайындау тек медициналық сақтандыру үшін ғана қажет бола ма?

Мен CDC-дегі адамдардың көбі автокөлікпен салыстыруға «мүмкін емес» деп жауап береді деп күттім. Адамдар автокөлікке қарағанда әлдеқайда күрделі, ал машиналар түсінікті инженерлік заңдылықтарға негізделген деген қарсылық болады деп ойладым. Керісінше, адам денесі туралы біз білмейтін нәрсе көп, сондықтан адам тәжірибесі медицинада әрқашан үлкен рөл атқарады.

Мен барынша бейтарап болуға тырыстым. Талқылауға негіз болу үшін баяндамамды ЖИ-дің қазіргі дәрігерлерді алмастыруына «иә» және «жоқ» деген себептер тізімімен аяқтадым.

«Иә» санатында мен денсаулық сақтаудың тым жоғары шығындарынан және қаупі төмен жағдайларға босқа жұмсалатын уақыт пен ақшадан бастадым. Бір ауырсынуды басатын дәрі жазып бергені үшін медициналық мекемеге жүздеген немесе мыңдаған доллар төленуі қисынсыз. Көптеген күнделікті жағдайларды ЖИ арзанырақ әрі жақсырақ шеше алады.

Екіншіден, LLM-дер емделушілермен еркін сөйлесу, жазбалар мен деректерді жүргізу, сондай-ақ емделушінің жағдайына сезімталдықпен қарап, жеке көңіл бөлу қабілетіне ие болды. Бұл тек жақсара береді және денсаулық сақтауды дербестендіреді.

Тағы бір маңызды себеп — ЖИ жинақтайтын білім сапасының артуы. Жаңадан жарияланған зерттеулер мен кескін, дыбыс, иіс түріндегі сенсорлық деректер ЖИ үшін оқу деректеріне айналады. ЖИ машинасы тіпті ең тәжірибелі адам өз өмірінде көре алатын жағдайлардан бірнеше есе көп деректі көре алады.

Соңында, мен денсаулық сақтаудағы «күтім» (care) бөлігі көбінесе жетіспейтінін айттым; бұл маманданудың және дәрігерлердің уақыты мен назарының тапшылығының салдары болуы мүмкін. Медицина соншалықты маманданып кеткендіктен, бірде-бір дәрігер емделушінің жалпы денсаулығына жауап бермейді. Мамандар дененің бір бөлігін емдеуге өте шебер болып алды, бірақ ешкім барлық деректерді біріктіріп, жалпы суретті көрмейді. ЖИ деректерді біріктіріп, тұтас көзқараспен қарайтын «әмбебап дәрігер» рөлін атқара ала ма?

Сенімді естіледі, солай ма? Содан кейін мен ЖИ машинасына қарсы бірдей салмақты уәждерді келтіруге тырыстым.

Адамдарды диагностикадан алмастыруға қарсы бір себеп — біз ішкі жұмысын толық түсінбейтін технологияға сенімсіздікпен қараймыз. Хинтонның «бөтен планеталықтарына» (адам түсінбейтін ЖИ модельдеріне) олардың қалай жұмыс істейтінін түсінбей тұрып, денсаулығымызға диагноз қоюға және тағдырымызды шешуге рұқсат беруге дайынбыз ба?

Әрине, адам дәрігерлерінің ойлау процесі де бізге беймәлім болуы мүмкін, бірақ адамдарда сенімнің кепілі ретінде біліктілік — терең медициналық дайындық пен тәжірибе бар. Олардың қабырғадағы дипломдары сенім грамотасы іспеттес. Қазіргі уақытта ЖИ-де мұндай кепілдіктер жоқ.

Тағы бір мазасыздық тудыратын нәрсе — машина оқитын деректерді нашар түсіну. Ол деректер біржақты болуы мүмкін бе? Бұл деректер нақты қолданылатын жағдайға қаншалықты сәйкес келеді? «INTERNIST» сияқты жүйелер себеп-салдарды түсіндіре алатын сарапшылық білім негізінде жасалған, біз ой қорыту тізбегін қадағалап, тіпті гипотетикалық болжамдар жасай алатынбыз. Олар жаңа нәрсе үйрене алмаса да, олардың тұжырымдары мен негіздемелері ашық болатын. Қазіргі ЖИ жүйелері түсініксіз болуы мүмкін.

Берклидегі Калифорния университетінің танымал статистигі және машиналық оқыту зерттеушісі Майкл Джордан медициналық деректерді түсіндіруде кездесетін дилемманы сипаттайтын бір оқиғаны айтып береді. Джордан жүкті әйелін жоспарлы тексеруге ертіп барғанда, дәрігер УДЗ (ультрадыбыстық зерттеу) суретінде ұрықтың жүрек айналасында ақ дақтар бар екенін, алгоритм оны Даун синдромының белгісі ретінде қабылдағанын айтады. Бірақ бұл диагнозды растау үшін амниоцентез (ұрық маңындағы сұйықтықты талдауға алу) деп аталатын инвазивті процедура қажет. Мұндай тексерулердің шамамен 300-ден 1-і ұрықтың өліміне әкелетін асқынуларға соқтырады. Демек, бұл сынақтың өз қаупі бар.

Джордан мұқият ғалым ретінде бұл тәуекелдің қаншалықты негізді екенін есептей бастады. Ол байқаған бірінші нәрсе — әйелін тексерген аппараттың ажыратымдылығы (сапасы) ЖИ моделі калибрленген бастапқы зерттеудегі (Ұлыбританияда жасалған) аппараттан әлдеқайда жоғары болған. Джордан бұл ақпаратты генетикпен бөліскенде, дәрігер жаңа аппарат орнатылғаннан кейін Даун синдромы болжанған жағдайлардың түсініксіз түрде көбейіп кеткенін айтты. Ескі, сапасы төмен аппарат басқа болжамдар берген еді. Бастапқы алгоритм жаңа аппарат үшін қайта калибрленбеген болып шықты.

Джордан мен әйелі амниоцентез жасатпауға шешім қабылдады. Бақытымызға орай, бұл жағдай жалған оң нәтиже болып шығып, әйелі дені сау баланы дүниеге әкелді. Бірақ ол машинаның ұсынысымен сынақтан өтуге шешім қабылдағандықтан шетінеп кеткен мыңдаған ұрықтар туралы ойланбай тұра алмады.

«Жоқ» санатының соңғы нүктесі ретінде мен денсаулық сақтаудың тек деректерге ғана емес, эмпатия (сезіну) мен «вайбқа» (көңіл-күйге) негізделгенін мойындадым. Сарапшының істі мұқият зерттеп, ой елегінен өткізгенін білу бізге жеңілдік сыйлайды. Машиналарда әлі де адамға тән интроспекция қабілеті жоқ, әсіресе деректер нақты бір үлгіге сәйкес келмейтін қиын жағдайларда. «Мен қай жерде қателесуім мүмкін? » деп сұрай алатын адамдардан айырмашылығы, машиналар тек дайын жауап береді. Мұндай машиналарды қалай жақсырақ тексеруге болатыны туралы көптеген зерттеулер бар, бірақ олар әлі де жұмбақ болып қалуда.

Менің таңқалысым, CDC аудиториясындағылардың көбі болашақта ЖИ адам дәрігерлерін шынымен алмастырады деп есептеді. Олар қазіргі ЖИ-дің сиқырына тым таңырқап, оның шектеулерін байқамай қалды ма? Керісінше, олар ЖИ-ге қарсы келтірілген себептер уақытша және уақыт өте келе шешіледі деп есептеді. Тіпті аудиториядағы кейбіреулер болашақта ЖИ адам дәрігерлеріне қарағанда көбірек эмпатия көрсете алатыны туралы зерттеулерді оқығанын айтты!

Бұл соңғы жайт маған ардагер кардиолог, «Deep Medicine» («Терең медицина») кітабының авторы Эрик Тополмен болған подкаст-сұхбатымды еске түсірді. Оның кітабы емделушілердің дәрігерлерді қалай көретінін сипаттайтын «сөздер бұлтымен» (7. 1-сурет) ашылады: асығыс, дөрекі, тәкаппар, немқұрайлы, қамқорсыз, кешігіп жүретін және қызығушылық танытпайтын. Егер бұған қате шешімдерге әкелетін медицинаның дәл емес табиғатын қоссаңыз, бұл сөздер жиынтығы қазіргі денсаулық сақтау жүйесіндегі дәрігерлердің рөлін сақтап қалудың пайдасы туралы өте пессимистік сурет салады.

Image segment 599
  1. 1-сурет. Дәрігерлерді сипаттайтын сөздер бұлты (Эрик Тополдың «Deep Medicine» кітабынан)

САРАПШЫЛЫҚ ЖҮЙЕЛЕР CHATGPT-ДІҢ ІШІНДЕ ҚАЗІРДІҢ ӨЗІНДЕ БАР

Мен CDC аудиториясына баяндамамнан бірнеше апта бұрын жүргізген экспериментім туралы айтқан жоқпын, ол олардың пікіріне әсер етуі мүмкін еді. Мен ChatGPT-ді 45 жыл бұрынғы дәл сол жағдай бойынша — 1-тарауда талқылаған жағдай — «INTERNIST» жүйесімен салыстырдым.

Осы жолдарды жазып отырғанда, мен ChatGPT-ді бір жыл ішінде бірнеше рет бір жағдай бойынша тексердім. Уақыт өте келе оның жауаптары күрделене түсті, бірақ олардың дұрыстығы мен дәлдігі артты ма деген сұраққа жауап беру қиын. Бір ерте жағдайда ЖИ емделушінің «есірткіге тәуелділік» мәселесі бар-жоғын білгісі келіп, басқа жаққа ауытқып кетті. Бәлкім, бұл деректердегі қазіргі біржақтылықты көрсететін шығар. Тағы бір жағдайда мен одан ең ықтимал үш гипотезаны сұрадым. INTERNIST сияқты, оның да бірінші нұсқасы Лептоспироз болды. Лептоспироздың ең жақын баламасы ретінде «Хантавирустық өкпе синдромы (HPS)» көрсетілді; оның белгілері ұқсас болғанымен, ол қояндардан емес (біздің жағдайдағыдай), кеміргіштерден жұғады. Үшінші кезекте кенелер арқылы жұғатын «Риккетсиозды аурулар» аталды. Бірақ ChatGPT бөртпенің болмауы бұл гипотезаны растамайтынын айтты.

Осы жазбаны жазу кезінде жүргізген соңғы тексерісте оның жауабы нақтырақ болды. Ол менен емделушіде «конъюнктивальды суффузия» (көздің іріңсіз қызаруы) бар-жоғын сұрады. Шамасы, Лептоспирозбен байланысты көздің мұндай қызаруы өте ерекше белгі болса керек. Бұрынғы сөйлесулерде ол бұл туралы сұрамаған еді. Мен білмейтінімді айттым. Бұл жолы ол Лептоспироздың орнына Туляремия диагнозын таңдады. Туляремия — инфекцияланған кенелер, қояндар, тиіндер немесе кеміргіштер арқылы жұғатын бактериялық ауру.

Оның пайымдауындағы ауытқуларға қарамастан, бұл Жалпы жасанды интеллект (адам деңгейіндегі кез келген зияткерлік тапсырманы орындай алатын жүйе) машинасы үшін өте әсерлі нәтиже. Ол қарапайым логиканы мамандандырылған медициналық біліммен және деректермен ұштастыра алады. Мұндағы қарапайым логика — ферма жануарларымен жанасу зәр мен топырақ арқылы бактериялық инфекциялардың жұғуына әкелуі мүмкін екендігінде. Бұл қорытынды әдебиеттерден алынған, ауруларды инфекциялармен байланыстыратын арнайы медициналық біліммен біріктіріледі. Ал INTERNIST жүйесінде қарапайым логика мен сараптамалық білімнің мұндай комбинациясы қатаң бағдарламалануы (өзгертуге келмейтіндей етіп жүйеге енгізілуі) керек болатын. ChatGPT сияқты чат-боттардың ішінде INTERNIST тәрізді сараптамалық жүйелер қазірдің өзінде бар деуге негіз бар. Мүмкін, CDC аудиториясының ЖИ-дәрігерлерге қатысты оптимизмі орынды шығар және оның қазіргі шектеулері уақытша ғана құбылыс болар.

Бұл талқылау мені бір сұраққа жетеледі: денсаулық сақтау саласындағы «ЖИ нирванасына» (кемелдіктің ең жоғарғы сатысы) жетуімізге не кедергі?

Бұған екі кедергі бар.

Чат-боттың білімі таңғалдырса да, оның қорытындыларына сенуге болатынын білу қиын. Өйткені нәтиже пайдаланушының жағдайды қалай сипаттағанына тікелей байланысты, сонымен қатар оның білім базасының түсініксіздігі мен ондағы ықтимал бұрмалаушылықтар да әсер етеді. Бұл — сенім мәселесі.

Тағы бір маңызды кедергі — қазіргі денсаулық сақтау жүйесі белгілер мен ауруларды байланыстыратын дұрыс деректерді жинамайды, себебі қолданыстағы процестер оларды үйренуге негізделмеген. Шын мәнінде, бұл процестер көбінесе денсаулық сақтау жүйесіндегі бірнеше бұрмалаушылықтарды одан әрі күшейте түседі. Мен мұны бір күні таңертең жедел жәрдем бөліміне түскен жарақатым арқылы жеке басымнан өткердім.

ИТІМДІ ҚУҒАН КҮН: ЕШҚАНДАЙ САБАҚ АЛЫНБАДЫ

Мен иттерді қатты жақсы көремін, олармен бірге өстім. Люси есімді өте сүйкімді сары лабрадор-ретриверім бар, ол күн сайын таңертең төсегіме секіріп, табандарын қайда қойғанына қарамай, мені оятатын «оятқышым» іспетті.

Бір жазғы таңда көршімнің екі неміс овчаркасы Люсиді ашқарақ ниетпен қуалап, менің көлігім тоқтайтын жолға қарай тұра ұмтылды. Мен қорыққаннан олардың соңынан жүгірдім.

Шәркеймен (флип-флоп) жүгіру — жаман идея. Әрине, мен шалынып қалып, қатты плитканың шетіне құладым. Сол жақ тіземнің үстінен қатты ауырсыну сезініп, қан ағып жатқанын көргенде, жедел медициналық көмек қажет екенін түсіндім. Әйелім мені жақын маңдағы жедел жәрдем бөліміне апарды, онда маған «провайдер» (медициналық қызмет көрсетуші) жақын арада қабылдайтынын айтты. Қандай оғаш термин деп ойладым. Бұл Олдос Хакслидің «Ғажап жаңа әлем» (Brave New World) шығармасындағы бірдеңе сияқты естілді.

Төрт провайдер мені бірінен соң бірі қабылдады, әрқайсысы келесісіне өткізбес бұрын бірдей сұрақтарды қайталап қойды. Біріншісі қан қысымымды және өмірлік көрсеткіштерімді (пульс, тыныс алу жиілігі) өлшеді. Екіншісі аллергия туралы сұрады. Үшіншісі процедура алдында анестезия алғым келетін-келмейтінін сұрады. Төртіншісі тігіс (sutures) па әлде қапсырма (staples) ма, соны таңдауымды сұрады.

Мен соңғы екі шешімді қабылдауға құзыретім жетпейтінін айттым. Үшінші провайдер анестезияны қолданбауға кеңес берді, өйткені оны енгізу процедураның өзі сияқты ауыр болады екен. Төртінші провайдер тіземнің қозғалысы көп аймақ болғандықтан, қапсырмаларды ұсынды. Мен келістім. Ол қапсырмаларды салып берді де, шамамен екі аптадан кейін оларды алдыру үшін қайта келуімді айтты. Соңғы провайдер болған дәрігерді көргенде, менің сұрақ қоюға шамам да қалмаған еді. Тек ол жерден тезірек кеткім келді.

Өзімді конвейерден өткендей сезіндім. Бес медициналық бекеттен өттім, әр маман өз жұмысын істеп, мені келесісіне өткізіп отырды.

Екі аптаға жетпей қапсырмаларды алдыру үшін жедел жәрдемге қайта келдім. Провайдерге алдағы бірнеше күнде жол жүретіндіктен, екі күн ерте келгенімді айттым. Ол мұның ештеңесі жоқ екенін айтты. Бірақ ол қапсырмаларды алған кезде жарадан қан ағып, жанға батты.

Өкінішке қарай, келесі күні жара қайта ашылып кетті. Мен кеңес алу үшін жедел жәрдемге қоңырау шалдым, бірақ оларға қашықтан кеңес беруге тыйым салынған екен, сондықтан мекемеге қайта баруға тура келді. Бұл жолы жаңа провайдер ашық жараны көріп, оған тиіспеген дұрыс екенін және уайымдамауымды айтты. Жараға инфекция түспеген, ал тыртық тіні уақыт өте келе жараның орнын толтырады деді.

Бүгінде мен қалыпты жүре аламын, бірақ тіземді ауырсынусыз толық бүге алмаймын. Жара толық жазылса да, тереңдегі тыртық тінінің тартылуын сеземін, тіземді бүккенде немесе оған бірдеңе қойғанда анда-санда ауырып қояды.

Қапсырмаларды алу кезінде жолым болмады ма, әлде басында провайдердің ұсыныстарына тым тез келісе салдым ба, оны айту мүмкін емес. Іштей: «Бұрын маған жақсы көмектескен, өздігінен сорылатын тігістерді таңдауым керек пе еді? » — деп сұраймын. Немесе қапсырмалар тым ерте алынды ма, толық екі апта өтпей барғаным үшін өзім кінәлімін бе? Мүмкін, қапсырманы алған маман жұмысын дұрыс істемеген шығар және жараның әлі шикі екенін байқағанда қосымша шаралар қолдануы керек пе еді?

Менің жағдайым және осыған ұқсас мыңдаған оқиға күн сайын қайталанып жатады. Бірақ жалпы жүйе бұдан ешқандай сабақ алып жатқан жоқ. Жасанды интеллект бұл мәселені деректерді алып, одан үйрене алған жағдайда ғана шешуге көмектесе алады. [/STORY]

ЖИ КӨМЕГІМЕН ЖАҚСЫРАҚ ЕСЕП ЖҮРГІЗУ

Медицина әлемінің негізгі шектеуі — денсаулық сақтау жүйесіндегі араласулар мен олардың нәтижелерінің есебін ешкім жүргізбейді. Осы себепті оқу деректері жоқ. Мұндай деректерге қол жеткізе алмаса, ЖИ машинасы өзін-өзі қадағалап, үйрене алмайды. Конвейерлік тәсілде әр маман өз ісіне тиімді болғанымен, оның жақсырақ екенін дәлелдеу қиын.

Медициналық нәтижелер бойынша есептің аздығынан провайдерлер деректерден жеткілікті деңгейде үйренбейді. Менің оқиғам сәтсіз болғанымен, ол үйренуге болатын құнды «теріс мысал» (машиналық оқытуда қателіктен сабақ алу үшін қолданылатын дерек) еді. Алайда, нақты кері байланыс және үйрену қабілеті болмағандықтан, жүйе түзету механизмі жоқ зауыт сияқты бір істі қайталай береді. Басқа пациенттер де осындай процестен өтеді, бірақ процестің сапасы, қателіктер деңгейі мен олардың салдары немесе оны қалай жақсартуға болатыны туралы көп нәрсе үйренілмейді.

Бақытымызға орай, Үлкен тілдік модельдердегі (LLM) жалпы зияткерлік қабілет осы есеп жүргізудегі кедергілерді жоюға және біз үшін байланыстарды орнатуға мүмкіндік береді. Келесі тарауда Дамодаран боты арқылы көрсететінімдей, LLM-дер кестелерді, графиктерді және тілді түсінуге қабілетті. Олар пациенттер мен провайдерлердің деректерін біріктіре алады. Тізе жарақатым туралы медициналық жазбаларды және әр провайдердің мені қалай емдегені туралы ақпаратты LLM негізіндегі жүйеге бергенін елестетіп көріңізші. Ол деректер ізін бақылай отырып, араласулар мен нәтижелерді анықтап, менің жағдайымды «жақсы нәтиже емес» деп белгілей алар ма еді? Әрине, алар еді.

Есеп жүргізу маған дұрыс таңдау жасауға да көмектесер еді. Мен телефонымның камерасын жараға бағыттап, ЖИ-ден қапсырмалар мен тігістердің қайсысы тиімді екенін сұрай алар едім. Мүмкін ЖИ маған былай дер ме еді: «Жараның орналасқан жеріне байланысты қапсырмалардан қашуды ұсынамын, өйткені кесілген жер тізе қақпағынан жеткілікті деңгейде алыс орналасқан және қапсырмаларды алу қиынырақ; бұл жерде қапсырмаларды алған кезде жараның қайта ашылу ықтималдығы шамамен 10% құрайды».

Ал қапсырмаларды алдыруға дайын болғанымда, ЖИ тіземнің күйіне қарап: «Жара қапсырмаларды алу үшін жеткілікті деңгейде жазылмаған, бұл қан кетуге және жараның ашылып кетуіне әкелуі мүмкін. Қапсырмаларды алмас бұрын тағы үш күн күтуді ұсынамын» — деп ескертер еді.

ЖИ-дің қолданыстағы процестердің деректер ізін (процестер барысында өздігінен түзілетін қосымша ақпарат) зерттеп, оларды дұрыс таңбалау қабілеті машинаның болашақта пайдалы нәрселерді өз бетінше үйренуіне мүмкіндік беретін мәліметтер базасын жасауға жол ашады. Мұндай деректер провайдерлердің жұмыс сапасындағы айырмашылықтарды ғана емес, сонымен қатар жағымсыз нәтижелердің қате таңдаудан ба әлде жүйедегі немесе провайдердегі қандай да бір бұрмалаушылықтан (биас) болғанын да анықтайды. Бұрмалаушылық деп мен провайдердің жағдайға қарамастан, белгілі бір емдеу әдістерін басқалардан артық көруге бейімділігін айтып отырмын.

Бұрмалаушылық денсаулық сақтау жүйесінде жасырын түрде кең таралған. Бірнеше жыл бұрын бір күні таңертең әйелімнің іші қатты ауырып оянды. Ол тамақтан улану деп ойлады. Келесі күні ауырсыну күшейіп, қызуы басылмаған соң, біз NYU медициналық орталығының жедел жәрдем бөліміне бардық.

Әртүрлі медбикелер мен интерндер оған бірнеше сұрақ қойды. Бір интерн: «1-ден 10-ға дейінгі шкала бойынша, мен мына жерді бартқанда қаншалықты ауырсыну сезінетініңізді айтыңызшы» — деп, ішінен түртті. Оның ауырсынудан беті тыржыйып кеткенін көрдім, ол «жеті» деді. Мен болсам, тоғыз немесе он дер едім. Бірақ ол жеті дегендіктен, олар мұны маңызды емес деп бағалады және ол дәрігер келгенше дәлізде бірнеше сағат күтті.

Оның ауырсынуына соқыр ішектің жарылуы (аппендицит) себеп болғаны анықталды, бұл дер кезінде көмек көрсетілмесе, өлімге әкелуі мүмкін. Алайда, оның ауырсынуға төзімділігінің жоғары болуына байланысты ішкі бұрмалаушылығы оны емдеу тәсіліне әсер етті.

Мұндай өз-өзінен хабарланатын деректер көбінесе бұрмаланған болады, бұл қате әрекеттерге немесе дұрыс емес диагноздарға әкелуі мүмкін. Егер мұндай деректер ЖИ-ді оқыту үшін қолданылса, ол да солай бұрмаланған болады. Екінші жағынан, егер деректер ауырсыну деңгейін сезуге бапталған сенсорлар арқылы автоматты түрде жазылса, біз өзімізді мұндай деректерді жазатын және оны ЖИ үшін оқу деректері ретінде пайдаланатын машинаға қоса алар едік. Сенсорлар саласындағы соңғы жетістіктер бізді осы бағытқа жетелейді. Қазір жүрек соғу жиілігінің өзгермелілігі, терінің өткізгіштігі, бұлшықет кернеуі және тіпті бет әлпеті сияқты көрсеткіштерді пайдалану арқылы ауырсынудың объективті деңгейін алуға болады. Болашақта нейроимпланттар ауырсыну мен басқа да жеке деректердің сенімдірек әрі бұрмаланбаған өлшемдерін қамтамасыз етуі мүмкін.

ТӨСЕЛГЕН МАМАНДАНУ БҰРМАЛАУШЫЛЫҒЫ

Денсаулық сақтау саласындағы тағы бір маңызды бұрмалаушылық түрі қолданыстағы процестер мен қалыптасқан емдеу стандарттарынан туындайды. Мамандану мен емдеу стандартына байланысты жүйедегі төселген бұрмалаушылықтың мысалы MIT маманы, ЖИ және денсаулық сақтау бойынша сарапшы Дэвид Сонтагпен болған подкаст әңгімемде айтылды. Сақтандыру компаниялары жаңа, әлеуетті жақсырақ, бірақ қымбатырақ тест үшін оның нәтижелері туралы деректер жеткіліксіз болса, ақша төлеуі екіталай. Бұл «Catch-22» (тұйық шеңбер) жағдайына әкеледі: жаңа нәрсені байқап көру жақсы нәтижелерге әкелуі мүмкін, бірақ ол медициналық сақтандыру компанияларымен мақұлданбағандықтан, біз жақсартуды дәлелдеу үшін қажетті деректерді ала алмаймыз. Дәрігерлер бұрыннан қолданылып келген процедураларды ұстанады, өйткені сақтандыру соны ғана мақұлдайды. Емдеу стандарты деректердегі бұрмалаушылықты бекітіп тастауы мүмкін.

Медицинадағы маманданудың артуы жүйедегі тағы бір бұрмалаушылыққа әкеледі. Дэвид Сонтаг бізге анасының көптеген миелома (қан обыры) болғанын айтты. Миелома кезінде сүйек кемігі иммундық жүйенің жұмыс істеуі үшін жеткілікті мөлшерде ақ қан жасушаларын шығара алмайды, өйткені сүйек кемігіндегі рак жасушалары сау ақ қан жасушаларын ығыстырып шығарады. Бұл жағдай сонымен қатар дененің әртүрлі бөліктерінде, әсіресе мүшелерде амилоидтар деп аталатын белгілі бір ақуыздардың жиналуына әкеледі, бұл олардың істен шығуына себеп болуы мүмкін.

Дэвидтің анасында жүрек ақауларының алғашқы белгілері байқалған, бірақ онколог көбінесе оның обырын емдеуге назар аударған. Жүрек мәселесі кардиологтың жұмысы еді. Өкінішке қарай, ол жүректе амилоидтардың жиналуынан туындаған жүрек жеткіліксіздігінен қайтыс болды, бұл оның миелома кезеңінде онколог тарапынан күдік тудырмаған еді. Сақтандыру компаниясы кардиологиялық амилоидоз (ағзада амилоид ақуызының жиналуынан болатын ауру) тестіне ақша төлеуі екіталай болғандықтан, тест өткізілмеді. Егер тест өткізіліп, амилоидтардың жиналуы анықталса, бұл оның өмірін ұзартуы мүмкін еді және осы процесс барысында ЖИ үйренуі үшін құнды дерек нүктесін берер еді.

Төселген бұрмалаушылықпен күресу — денсаулық сақтау жүйесі үшін үлкен сынақ.

ЖИ + АДАМДАР?

Бұл бізді бастапқы сұрағымызға қайта алып келеді: ЖИ адам диагнозын ескірген нәрсеге айналдыра ма? Механиктер біздің автомобильдерімізге диагноз қойғандай, біз де өзімізді машинаға қосып, ЖИ-ге нені жөндеу керек екенін айтқызып қоямыз ба?

Денсаулық сақтаудың көп бөлігі үшін жауап «иә» сияқты көрінеді. Бірақ күрделі жағдайлар бірнеше себептерге байланысты адам-дәрігерлерді қажет ете береді. Біріншіден, күрделі жағдайларда біз машинаның барлық дұрыс сұрақтарды қоятынына сенбеуіміз мүмкін және басқа дәрігерден екінші пікір алуға бейім боламыз. Күрделі жағдайлар адамдардан ЖИ-дің ойлауын және Джордан мысалында көрсетілгендей, оның оқу деректерін жақсырақ түсінуді талап етеді. Ең бастысы, адам-дәрігерлер жаңа оқу деректерін жасау үшін, әсіресе жаңа, қауіпті немесе моральдық немесе отбасылық мәселелерді қамтитын күрделі жағдайлар үшін қажет болып қала береді. Алгоритмге мұндай пайымдаулар жасау қиынға соғады.

CDC дәрігерлерімен болған өзара іс-қимылым, Дэвид Сонтагпен әңгімем және жедел жәрдемдегі жеке тәжірибем туралы ойлана келе, басты қорытындыларымның бірі — қазіргі уақытта машиналар мен дәрігерлер жақсы бірлесіп жұмыс істемей жатыр. Шын мәнінде, біз екі әлемнің де ең жаман жақтарын алып жатырмыз. Біз ЖИ сиқыршысын да көріп отырған жоқпыз, денсаулық сақтау процесінің дөңгелегіндегі мамандандырылған (және асығыс) тетіктерге айналған адамдардан да жеткілікті ақпараттандырылған шешімдерді ала алмай отырмыз.

Сондай-ақ денсаулық сақтау жүйесіндегі деректерде бұрмалаушылық пен есеп жүргізудің жоқтығы тұрғысынан әлі де елеулі кемшіліктер бар екені анық, өйткені оқиғалар мен олардың нәтижелері дұрыс жазылмайды және таңбаланбайды. Жүйе тиісті деңгейде тиімді үйрене алмайды. Дәрігерлер мұндай бұрмалаушылықтарды білуі және қазіргі емдеу стандарттарындағы төселген бұрмалаушылықтармен күресе алуы керек.

Майкл Джорданның әйеліне амниоцентез ұсынылған жағдайда көргеніміздей, дәрігерлерге ЖИ-дің ішкі жұмысы туралы дұрыс сұрақтар қоя білу үшін білім қажет болады. Бұған оның оқу деректері мен шешім қабылдау негіздерін білу жатады. Оған «қара жәшік» сияқты қарау — қауіпті.

Дегенмен, бұл кемшіліктер маңызды болғанымен, еңсерілмейтін емес. Жеткілікті мөлшерде бұрмаланбаған деректер қолжетімді болғанда, пациенттер ретінде бізді күнделікті жағдайлардың көпшілігін шеше алатын машиналар жиірек бағалайтын болады. Олар қажет болған жағдайда бізді дәрігерлерге өткізеді, ал дәрігерлер процесті қадағалайды немесе күрделі жағдайларда пациенттерге уақыт бөледі. Мұндай әлемде күнделікті денсаулық сақтаудың көп бөлігі автомобиль диагностикасы мен жөндеу жолымен жүруі мүмкін, сонда адамдарда күрделі жағдайлармен айналысуға және қамқорлық көрсетуге уақыт болады.

ЖИ болашақта адам-дәрігерлерді ескірген мамандыққа айналдыра ма? Қазіргі парадигмаға байланып қалғандар үшін — иә. Бірақ ЖИ-ге дұрыс сұрақтар қоя алатын, оның нәтижелері мен оқу деректерін түсінетін және диагноз немесе ұсыныстар дұрыс емес болып көрінгенде ЖИ-ге күмән келтіре алатын медицина мамандары үшін емес. Мұндай дәрігерлер ЖИ дәуірінде әлдеқайда құнды бола түседі.

ҚОРЫТЫНДЫЛАУ

Қазіргі уақытта біз денсаулық сақтау саласындағы дәрігерлер мен медициналық қызметкерлер мен ЖИ машиналары арасындағы өзара іс-қимылдың ең нашар түрін көріп отырмыз. Денсаулық сақтау конвейерлік процеске айналды, бұл жеке күтімнің керісінше көрінісі. Адамдар конвейер бөлшектері сияқты қарастырылады, ал ЖИ жүйелері әлі толық сенімді емес, өйткені оларда жеткілікті бұрмаланбаған оқу деректері жоқ.

ЖИ модельдерінің медицина саласында үлкен әлеуеті бар, бұған жаңадан пайда болып жатқан бұрмаланбаған деректер көздері көмектеседі. LLM-дерге тән жалпы зияткерлік қабілет мұндай деректерді түсіндіру мен таңбалауда өте пайдалы болады, оны ЖИ өзін-өзі оқыту үшін пайдалана алады. Дегенмен, медицинадағы ішінара сақтандыру компанияларының ынталандыруынан туындайтын төселген бұрмалаушылық — жеңу қиынырақ болатын үлкен сынақ.

Ұзақ мерзімді перспективада, егер денсаулық сақтау жүйесі жеткілікті мөлшерде бұрмаланбаған деректер жинаса, біз өзімізді ЖИ машинасына қоса алуымыз керек. Ол «Стартрек» сериалындағы «Энтерпрайз» кемесіндегі доктор «Боунз» Маккой қолданған сканерлеу құрылғысы сияқты, өзіміз туралы білуіміз керек барлық нәрсені айтып бере алады.

Болашақтың ЖИ-і жалпылама маман рөлін атқарып, біз үшін барлық байланыстарды орната алады. Маманданудың артуымен біртұтас (холистикалық) денсаулық сақтау әлсіреді. ЖИ денсаулық сақтауға холистикалық медицинаны қайтарып, мамандардың жұмысын үйлестіретін «супер дәрігерге» айналуы мүмкін.

Мұндай ЖИ дәрігерлер үшін де тек клиникалық тұрғыдан емес, жақсырақ және жиірек байланыс арқылы денсаулық сақтаудың жалпы сапасын жақсарту үшін өте құнды болар еді. Ол Эрик Тополдың асығыс дәрігерлер мен назардан тыс қалған пациенттер туралы бақылауын шешер еді. Дәрігерлер уақыттың тапшылығына және әкімшілік жұмыстардың пациенттерге көңіл бөлуге кедергі келтіретініне шағымданады. ЖИ белгілер мен таңдауларды түсіндіруде, пациенттерге жеке есептер беруде және пациенттің тарихын пациент пен провайдер үшін біртұтас жүйеге келтіруде баға жетпес көмекші болар еді.

Эрик Тополмен подкаст әңгімемнің соңында мен одан: «Егер біз болашақ өзімізге сыйлық қалдыратын болсақ, ол не болар еді? » — деп сұрадым.

Оның жауабы: «Сол адамдық байланысты қайтарамыз деп үміттенемін. Біз оны үлкен дәрежеде жоғалтып алдық».

Біз шынымен де әрбір жағдайды, мейлі ол күнделікті немесе күрделі болсын, зауыттық тәсілмен өңдеп, жүйеге шамадан тыс жүк түсіру және нәтижелерді есепке алмай, одан сабақ алмау арқылы байланысты жоғалттық. ЖИ бұл процесті зияткерлік деңгейі жоғары әрі медициналық провайдерлер үшін жеңілірек ете алады және адамдарға өз пациенттерімен жақсырақ байланыс орнатуға мүмкіндік береді.

Ескертпелер

  1. https://www. nytimes. com/2024/06/14/magazine/parkinsons-smell-disease-detection. html? searchResultPosition=1 2. https://arxiv. org/abs/2404. 05501 3. https://bravenewpodcast. com/episodes/2024/12/13/episode-90-sandeep-robert-datta-on-smell-and-the-brain/ 4. https://rise. cs. berkeley. edu/blog/michael-i-jordan-artificial-intelligence%E2%80%8A-%E2%80%8Athe-revolution-hasnt-happened-yet/ 5. https://www. nature. com/articles/d41586-024-00139-z? utm_source=chatgpt. com 6. https://bravenewpodcast. com/episodes/2021/01/21/episode-4-human-and-artificial-intelligence-in-healthcare/ 7. Topol, E. , Deep Medicine, Basic Books, 2019. 8. https://www. frontiersin. org/journals/neuroscience/articles/10. 3389/fnins. 2022. 831627/full 9. https://bravenewpodcast. com/episodes/2023/11/02/episode-71-david-sontag-on-ai-in-healthcare/

СЕГІЗІНШІ ТАРАУ АГЕНТТЕР: ОЙЛАЙТЫН МАШИНАЛАР – ДАМОДАРАН БОТЫ

ЕРЕКШЕ АДАМДАР

Осыдан он жыл бұрын мен Скотт Галлоуэймен бірге «ақшаңызды роботқа сеніп тапсыру керек пе? » деген қысқаша видео түсірген едім. Ол кездегі менің ұстанымым — ЖИ машиналары минуттар, күндер немесе апталар сияқты қысқа мерзімде инвестиция салу кезінде адамдардан артықшылыққа ие, бірақ айлар мен жылдарға созылатын ұзақ мерзімді инвестициялау — бұл машинаның қолынан келмейтін пайымдаулар мен шешімдерді қажет ететін нағыз адамдық іс.

Кездейсоқ, сол сессиядан бірнеше ай бұрын мен NYU-дағы әріптесім Асват Дамодаранмен оның ұзақ мерзімді инвестициялық шешімдер туралы ойлау тәсілін қайталайтын ЖИ жасау мүмкіндігі туралы ой бөліскен едім. Асват — танымал бағалау гуруы (активтердің құнын анықтаудың үздік маманы), яғни ол компаниялар мен инвестицияларды болашақ ақша ағындарының күтілімдері негізінде есептелген олардың ұзақ мерзімді құны тұрғысынан талдайды. Құнды анықтауда көптеген пайымдаулар мен белгісіздіктер бар.

Бірақ шамамен 10 жыл бұрын сөйлескенімізде, сол кездегі ЖИ-дің заманауи құралдарын пайдалана отырып, оның қабілетіне сәйкес келетін машинаны жасау мүмкін емес болып көрінген.

Дегенмен, ChatGPT бәрін өзгертті. Біз бұл жобаны 2023 жылдың ортасында компанияларды бағалауда оның ойлау жүйесін қайталайтын «Damodaran Bot» — қысқаша DBOT — жасау мақсатында қайта жандандырдық. Мен бұл іске әріптесім, бұрын өзі де трейдер болған және LLM (Large Language Models — адам мәтінін түсінуге және жасауға арналған үлкен тілдік модельдер) саласы танымал болмай тұрып-ақ оның маманына айналған Жоао Седокты тарттым.

Дамодаран Уолл-стритте «бағалаудың деканы» болып саналады. Ол осы тақырыпта ондаған кітаптың авторы, сондай-ақ ондаған миллион қаралым жинайтын «Musings on Markets» атты блог жүргізеді. Онжылдықтар бойы оның еңбектері миллиардтан астам рет қаралды. «Дамодаран сөйлесе, адамдар тыңдайды» деген тіркес маған 1980-жылдардағы классикалық EF Hutton теледидарлық жарнамасын еске түсіреді.

Бір жылдан соң мен Дамодаранға DBOT-тың демо-нұсқасы дайын екенін айтқанда, ол таңданысын жасыра алмады деп ойлаймын. 2024 жылғы 28 тамызда, NVIDIA чип өндірушісінің табыс есебі қарсаңында, ол DBOT-тан бір қадам алда болуды қалай жоспарлайтыны туралы қызықты блог жазбасын жариялады. Міне, оның блогынан үзінді:

«Мен Стерн мектебінде 2024 жылғы көктемгі семестрдің он бірінші аптасында сабақ беріп жүргенімде, Нью-Йорк университетінің Стерн мектебінде (мен де сонда сабақ беремін) машиналық оқытудан бастап деректер туралы ғылымға дейінгі пәндерден дәріс беретін Васант Дхар маған қоңырау шалды... Ол "Damodaran Bot" жасап шыққанын айтып, оның мен жазған әрбір блог жазбасын оқыған, мен жариялаған әрбір вебкастты көрген және мен көпшілікке ұсынған әрбір бағалауды зерделеген ЖИ (жасанды интеллект) туындысы екенін түсіндірді. Менің жазғандарым мен істегендерімнің барлығы дерлік блогымда, YouTube видеоларымда және веб-парақшамда ашық жарияланғандықтан, бұл менің ботымның өз жұмысым туралы өзіме қарағанда жақсырақ ақпараттанғанын білдіреді. Өйткені оның жады мінсіз, ал менікі олай емес. Сондай-ақ ол боттың сынақтан өтуге, компанияларды бағалауға және сол бағалаулардың менің сыныбымдағы ең үздік студенттердің жұмыстарымен қалай салыстырылатынын көруге дайын екенін айтты».

«Ей, сәл бәсеңдет! » — деп ойладым ішімнен. «Машина сенің жазғандарыңның бәрін сіңіріп, жазып ала алғаны оның сен сияқты ойлай алатынын, тіпті сенің орныңды баса алатынын білдірмейді! » ЖИ саласындағы қиындықтар мені қарапайым болуға үйретті. Менің DBOT-қа деген үмітім оныкінен әлдеқайда төмен еді.

Бұған негіз де бар. Бұл машина үшін өте қиын міндет. Әлемдік деңгейдегі инвесторға еліктеу үшін не қажет екенін ойлап көріңізші. Бағалау сұралған компания туралы ол дұрыс сұрақтар қоя білуі және сыртқы деректер базасынан тиісті ақпаратты тауып, түсіндіру арқылы оларға жауап беруі керек. Сондай-ақ ол БАҚ-ты шарлап, бизнес ландшафтын талдап, геосаяси тәуекелдерді ескеріп, инвестициялық тезис әзірлеуі тиіс. Бот өз қожайынының стилінде түсінікті, қызықты әрі терең мағыналы, графиктермен бекітілген қисынды және негізделген баяндама жазуы қажет. Жобаны бастағанда, бұған қол жеткізу мүмкін бе, жоқ па, білмедім.

Дамодаранның жазбасының астарында адам мамандары өздерін қалай «ЖИ-төзімді» (AI-proof), яғни машиналар алмастыра алмайтын ете алады деген жалпы және әмбебап сұрақ жатты. Бұл сұрақты мен көптеген жылдар бойы, әсіресе қаржы саласында зерттеп келемін, бірақ қазір ол шұғыл деңгейге көтерілді. Барлығы, соның ішінде мектеп оқушылары, университет студенттері, қарапайым жұмысшылар мен білікті мамандар ЖИ әлеміндегі өз болашағына алаңдаулы.

Бұл сұрақтың негізі көптеген жылдар бойы философтар мен технологтарды қызықтырып келген мәселеге тіреледі: Жұмыстың мақсаты не және кеңірек айтқанда, ЖИ дәуіріндегі жұмыстың болашағы қандай?

LLM ЖЕТКІЛІКТІ МЕ?

Егер қазіргі адам мамандарын сенімді түрде алмастыра алатын ЖИ боттарын жасау мүмкін болса, бұл сұрақ өте өзекті.

Ғылыми әдісті қолдана отырып, ұзақ мерзімді инвестициялық машина жасаудағы басты қиындық — машинаны қалай жүйелі түрде оқыту және сынау керектігін анықтау. Оқыту деректері шектеулі, өйткені өте аз инвесторлардың ұзақ уақытты қамтитын, көпшілікке қолжетімді әрі әсерлі жұмыс нәтижелері бар. Уоррен Баффет сияқты бірнеше аңызға айналған инвесторлардың табысты тарихы болғанымен, ешкім Дамодаранның 40 жылға жуық уақытты қамтитын жарияланған бағалауларының көлемі мен сапасына жете алмайды. Бұл — ЖИ үшін үйренуге болатын бай оқыту дереккөзі. Сондай-ақ, ботты оның қожайынынан артық кім сынай алады?

ChatGPT және Claude мен Gemini сияқты басқа LLM негізіндегі қосымшалар Дамодаран мен Уоррен Баффет сияқты бағалау мамандары туралы көп біледі. ЖИ модельдері олардың жазбаларын және олар туралы жазылғандарды оқып үйренуі ықтимал. Жалпы интеллекттің мәні де осында — машина жаңалықтардағы кез келген нәрсе немесе кез келген адам туралы біраз ақпарат біледі. Бұл айқын сұрақ туғызады: Осындай жазбалар мен талқылаулардан қалыптасқан қарапайым чатботтың инвестициялық білімдегі «Жалпы интеллекті» (General Intelligence) бірден ұзақ мерзімді инвестициялық ұсыныстар беруге жеткілікті ме?

Егер солай болса, бізге DBOT-тың қажеті жоқ. Жай ғана ChatGPT, Claude немесе Gemini-ден сұрай салуға болады.

Қысқаша жауап: әзірге жоқ. Мәселе ЖИ алгоритмдеріне деген сенімге келіп тіреледі. Менің байқауымша, санаулы ерекшеліктерді есепке алмағанда, сенім жүйе жауаптарының тұрақсыздығына немесе «құбылмалылығына» пропорционалды түрде азаяды. Бұл қисынды. Біз маршруттарды еш себепсіз үнемі өзгертетін навигация жүйесіне немесе күн сайын 20% шамасында пайда табатын немесе жоғалтатын инвестициялық алгоритмге, немесе бір сұраққа күннің әртүрлі уақытында түсініксіз себептермен әртүрлі жауап беретін ботқа сенбейміз.

Міне, 2024 жылдың қараша айының басында мен ChatGPT-мен өткізген қарапайым эксперимент, ол инвестициялық ұсыныстарға келгенде оның тұрақтылық деңгейін көрсетеді. Мен одан бір жылдық инвестициялық горизонтты ескере отырып, мыналардың қайсысын сатып алар едің деп «иә» немесе «жоқ» деген жауап беруін сұрадым:

S&P 500 индексі Microsoft Google BYD (қытайлық электромобиль компаниясы) Nvidia

ChatGPT Nvidia-дан басқасының бәріне «иә» деп жауап беріп, былай түсіндірді: «Ұзақ мерзімді өсу перспективалары күшті болып қалуы мүмкін, бірақ қысқа мерзімді нарықтық түзетулер, бәсекелестік және өзгеретін нарық динамикасы сіздің инвестициялық горизонтыңыздағы табысқа әсер етуі мүмкін».

Мен мұны орынды жауап деп ойладым.

Бірақ менің сенімім ұзаққа бармады. Бірнеше минуттан кейін мен дәл сол сұрақты қойдым, бірақ бір ғана кішкентай айырмашылықпен. Менің сұрауымда міндетті «иә» немесе «жоқ» деген жауап талап етілмеді. Бұл жолы бот әрбір инвестицияның жақсы және жаман жақтарын тізіп шықты, бірақ сұраққа нақты жауап бермеді. Мен нақты «иә» немесе «жоқ» деп айтуды талап еткенімде, ол Nvidia мен BYD бойынша шешімін өзгертті: біріншісін сатып алуға, екіншісінен бас тартуға кеңес берді.

«Мұнда тереңірек бірдеңе болып жатыр», — деп ойлағаным есімде. Сұрақтарым шын мәнінде бірдей болса да, бір сұрауда екілік (binary) жауапты талап етпеу оны басқа бағытқа бұрып жіберді. Екінші жағдайда бот мәселені екі нақты кезеңде талдады, іс жүзінде әрбір инвестицияның жақсы-жаман жақтарын қамтитын «ойлау тізбегіне» (chain of thought — мәселені кезең-кезеңмен талдау әдісі) жүгінді. Бұл екі сатылы процесс басқа жауап берді.

Менің көптеген зерттеулерім роботтарға қашан сенуге болады және қашан сенуге болмайтынына арналды. Сондықтан мен боттың жаңағы әрекеті және мұндай мінез-құлықтағы тұрақсыздық немесе ауытқу алгоритмге деген сенімімізге қалай әсер ететіні туралы ойлануға үйренгенмін. Сұрақ қою тәсіліндегі болмашы синтаксистік өзгерістерге жауап ретінде шешімдерін өзгертетін кез келген дереккөзге сену қиын. Сондай-ақ, тұрақсыздық мұндай жүйені кері тексеруді (back-test — алгоритмді тарихи деректерде сынау), яғни оның тарихи деректерде өзін қалай ұстағанын талдауды қиындатады.

Екінші жағынан, мен эксперименттен құнды нәрсе үйрендім. Бұл мысал мәселені бөліктерге бөлу қалайша нақтырақ пайымдауға және ашықтыққа әкелетінін көрсетті. Бұл екінші сценарийдегі пайымдау әрқашан жақсырақ дегенді білдірмейді, бірақ кем дегенде біз талдауды және ұсынысқа дейінгі барысты бақылай аламыз. Талдауды ойлау тізбегіне бөлу қабілеті боттың ішінде болса да, оған сенімді түрде қалай қол жеткізуге болатыны немесе ботты сәл басқаша қолданғанда жауаптың қашан өзгеріп кетуі мүмкін екенін білу оңай болмады. Жоао екеуміз DBOT-тың бағалау процесін де осылайша қарапайым компоненттерге бөлу керек екенін түсіндік, олардың әрқайсысы бағалау жаттығуының шектеулі бөлігімен айналысатын болады.

Біз DBOT компоненттерін **агенттер** деп атаймыз. DBOT өзінің мамандандырылған агенттер жиынтығы арасындағы қайталанатын өзара әрекеттесу арқылы бағалау сұралған компания үшін есеп шығарады.

АГЕНТТЕР

Агенттер қазіргі ЖИ-де танымал болып келеді, бірақ олардың тамыры 1970-жылдарға, ЖИ пионері және Тьюринг сыйлығының иегері Алан Кэйге барады. Ол бағдарламалық нысандарды өздері түсіндіре алатын хабарламалар арқылы байланысатын автономды агенттер ретінде қарастырған. Кэй Xerox PARC-тың гүлденген дәуірінде, кейінірек Atari-де жұмыс істеді, сондықтан есептеу интерфейстері мен бейне ойындар оның агенттік ойлау жүйесін сынап көруге арналған жағдайлар болды. Хабарламалар қызықтыратын нысан және оған қолданылатын әдіс немесе сұраныс тұрғысынан кодталған, мысалы, «нысанды тігінен 180 градусқа бұр», бұл «бұру әдісін» нысанға оның тік осі бойымен 180 градусқа қолдануды білдіреді.

Жалпы интеллект агенттердің ауқымын мүлдем жаңа деңгейге көтерді.

Қазіргі ЖИ агенттері ағылшын тілінде жазылған әлдеқайда күрделі хабарламаларды түсініп, орындай алады, мысалы, «BYD компаниясының бухгалтерлік балансының деректерін сенімді дереккөзден ал» немесе «BYD-ке қатысты жаңалық шыққан сайын БАҚ-тағы көңіл-күйді жинақта». 1980-жылдары Microsoft-тан Билл Гейтс «ақпарат саусақ ұшында» болатынын елестеткен. ЖИ болашағы — саусақ ұшындағы агенттер: сіз агентке не істеу керектігін ағылшын тілінде айтасыз, ал ол оны қалай жасау керектігін өзі анықтайды. Бұл — Жалпы интеллект мүмкіндік беретін сиқырдың бір бөлігі. Агенттер қуатты бола бастады, өйткені олар бізді түсінеді және біздің атымыздан әрекет ете алады.

Бизнес саласы қазірдің өзінде тұтынушыларды қолдау сияқты негізгі процестерде адамның қатысуынсыз ЖИ агенттерін қолдануда. Швециялық Klarna төлем провайдері оның тұтынушыларға қызмет көрсету ЖИ агенттерінің бірі 700 толық ставкадағы адам агенттің жұмысын атқарғанын мәлімдеді. Бұл сан асыра сілтелген болса да, адам агенттерді толық алмастыру қабілетінің өзі, әсіресе мұндай ауқымда, таңқаларлық.

Жалпы алғанда, кәсіпорындар қазірдің өзінде өздерінің адами тәжірибесін ЖИ агенттеріне жинақтау бағытында жұмыс істеуде. Мен ЖИ-дің осы нақты қолданысын 2023 жылдың маусымында DBS Bank-тің көреген бас директоры Пиюш Гуптамен «Brave New World» эпизодында талқыладым. Тақырып қызметкерлердің ауысуы контекстінде көтерілді, Пиюш тәжірибелі қызметкерлер кеткенде құнды институттық білімнің жоғалатынын атап өтті. Шынында да, негізгі қызметкерлердің кетуі соншалықты ауыр тиюі мүмкін, сондықтан көптеген директорлар кеңесі жоғары басшылықтан мұндай жағдайларға арналған сабақтастық жоспарларын талап етеді. Қазіргі ЖИ агенттері кодтардан, меморандумдардан, жиналыстардан, әңгімелерден, электрондық пошталардан, клиенттермен өзара әрекеттесуден және тағы басқалардан қалған деректер негізінде мұндай қызметкерлердің «егіздерін» жасаудың жаңа мүмкіндігін береді.

Шын мәнінде, агенттер — ЖИ-дің келесі кейпі. Олар біз үшін автономды түрде істер атқара алады. Машиналар мобильді болатын, біздің мақсаттарымыз бен ниеттерімізді біздің атымыздан орындайтын әлемді елестетіп көріңізші. Мысалы, роботтың балаларды мектептен алып келу сияқты тапсырманы орындау үшін көлік жүргізіп бара жатқанын елестетіңіз. Егер жолда кептеліс болса, ол бағытын өзгертіп, бұл туралы ата-аналар мен балаларға (егер олардың телефоны болса) хабарлай алады.

DBOT АГЕНТТЕРІ

DBOT бағалау жаттығуының нақты бөліктерін орындауға жауапты тәуелсіз агенттер жиынтығынан тұрады. Оларды біз бағалауды сұраған кез келген ашық акционерлік компания үшін қорытынды бағалау есебін жасайтын негізгі агент басқарады.

  1. 1-суретте DBOT-тың агенттік архитектурасы көрсетілген. Егер сіз ішкі құрылымына үңілгіңіз келсе, мен оны қаржы мен есептеу техникасының бірнеше негізгі ұғымдары арқылы сипаттап беремін. Әйтпесе, DBOT-тың сынақ жағдайында өзін қалай көрсететінін көру үшін келесі бөлімге сенімді түрде өте аласыз. DBOT агенттері мен архитектурасының тереңірек сипаттамасын https://arxiv. org/html/2504. 05639v1 сілтемесінен көруге болады.

Әрбір агент Дамодаранның әдістемесі мен ол қолданатын сандық модельдер бойынша оқытылды. Қызығушылық танытқан оқырмандар оның ойлау жүйесі мен моделімен бағалауға арналған «Ginzu» моделі атты видео арқылы жылдам таныса алады.

DBOT-ты құрайтын сегіз агент бар — бесеуі талдау жүргізуге, екеуі есептің жобасын жасауға арналған, сонымен қатар бір қосымша үйлестіруші агент (8.1-суреттегі DBOT) бар. Олардың әрқайсысы бағалау мәселесінің нақты аспектісін шешу үшін оқытылған және оңтайландырылған.

Image segment 697
  1. 1-сурет: DBOT архитектурасы

Valuation Agent (Бағалау агенті):** Компанияның құнын Ginzu моделі бойынша есептейді. Ол пайыздық мөлшерлемелер сияқты макрофакторларды және компанияға тән төрт «құн драйверін»: сату көлемінің өсуі, операциялық маржа, капитал құны және қайта инвестициялау тиімділігін пайдаланады. Бұл агент өзінің барлық деректерін ең соңғы бухгалтерлік баланс, пайда мен залал туралы есеп және ақша қаражатының қозғалысы туралы есептерді қамтитын сыртқы қаржылық деректер базасынан алады. Осы деректер мен тиісті макроэкономикалық ақпарат негізінде ол Ginzu моделін іске қосады және нысаналы компания үшін сандық бағалауды шығарады. Consensus Agent (Консенсус агенті):** Талдаушылардың акция бағасы бойынша ортақ болжамдарын бағалайды және өз қорытындыларын хабарлайды. Ол талдаушылардың күтулері мен бағалауларын сыртқы деректер базасынан алады. Comparables Agent (Салыстыру агенті):** Нысаналы компанияның қаржылық және операциялық көрсеткіштерін өзіне ұқсас деп санайтын басқа компаниялармен салыстырады. Sensitivity Analysis Agent (Сезімталдық талдау агенті):** Ортадағы өзгерістердің бағалауға қаншалықты әсер ететінін білу үшін баламалы қаржылық, экономикалық және салалық сценарийлерді бағалайды. Мысалы, DBOT көбінесе өз бағалауы нарықтық бағаға жақындау үшін қандай элементтер өзгеруі керектігін анықтағысы келеді, бұл жағдайда ол қай бизнес-болжамдар құн драйверлерін дұрыс бағытқа жылжытатынын бағалау үшін осы агентті жібереді. News Agent (Жаңалықтар агенті):** Нысаналы компания, оның саласы және оның жұмысына әсер етуі мүмкін кез келген саяси белсенділік туралы өзекті ақпаратты алу үшін түрлі жаңалықтар көздерін шарлайды. Оның дереккөздеріне Wall Street Journal, Financial Times және басқа да ірі БАҚ кіреді. Ол бағалаудың негізгі болжамдарына әсер етуі мүмкін ақпаратты тауып, түсіндіреді. Сондай-ақ өз түйіндемесін растау үшін түрлі жаңалықтардан алынған суреттер мен графиктерді қосады.

Осы бес есептеу және пайымдау агенті басқа агенттерден үйренгендеріне сүйене отырып, өз талдауларын қайта қарауға арналған. Олар қорытынды болжамдарды шығармас бұрын бірнеше рет өзара әрекеттесуі мүмкін. Талдау аяқталып, нәтижелер дайын болғаннан кейін қорытынды есепті жасау үшін тағы екі агент іске қосылады.

Plotting Agent (График жасау агенті):** Бағалау баяндамасын қолдау үшін диаграммалар мен графиктер сияқты визуалды материалдар дайындайды. Report Writer Agent (Есеп жазушы агенті):** Барлық талдауды жинақтап, нақты, дәл және тиімді есеп шығарады. Ол мұны істеу үшін екі қосалқы агентті пайдаланады: **Writer (Жазушы)** және **Critic (Сыншы)**. Жазушы есептің жобасын жасаумен және өңдеумен айналысады. Сыншы есепте олқылықтардың болмауын, деректердің тексерілуін, барлық дереккөздердің көрсетілуін және есептің тиісті көлемде болуын қадағалайды.

Бұл — DBOT туралы қысқаша мәлімет. Сонымен, ол іс жүзінде өзін қалай көрсетеді?

BYD БАҒАЛАУЫ

Дамодаранның ең үздік үш студенті BYD компаниясын DBOT-пен шамалас уақытта бағалады. Олар DBOT сияқты толық есеп жазған жоқ, бірақ өз бағалауларын қолдайтын қысқаша пункттер ұсынды. Олардың бағалауы бір акция үшін 265 және 420 гонконг доллары (HK$) аралығында болды. Төменгі шегінде ұсыныс — акцияны сатып алмау болар еді, өйткені сол кезде ол шамамен 270 HK$ деңгейінде сатылып жатқан.

Мен 2024 жылдың қазан және қараша айларында BYD-ті бағалау үшін DBOT-ты бірнеше рет пайдаландым. Бұл Трамп әкімшілігі бастаған сауда соғыстарына дейін болған еді. Кітаптың соңындағы қосымшада 2024 жылғы 4 қарашада жасалған сондай бағалаулардың бірінен есеп берілген. Ол BYD-ті бір акция үшін 420 HK$ деп бағалап, «сенімді түрде сатып алуды» ұсынды. DBOT есепке «2024 жылғы BYD: Электромобиль толқынында ма, әлде бәсекелестік дауылында ма? » деген атау берді.

Бұл — өсіп келе жатқан саладағы даму перспективалары мен Tesla және басқа да қытайлық электромобиль өндірушілері тарапынан артып келе жатқан бәсекелестікті теңестіретін қызықты тақырып. DBOT-тың 2024 жылдың қазан айының ортасына дейінгі таңдаған кейбір тақырыптары да бірдей қызықты болды:

BYD: Электромобиль нарығындағы Айдаһардың өрлеуі BYD: Стратегиялық дәлдікпен электромобиль ландшафтын шарлау 2024 жылғы BYD: Алға жарысу ма, әлде босқа жүру ме? BYD: Өзгермелі электромобиль ландшафтында өсуді бағыттау. BYD: Өсуді, нарықтық позицияны және болашақ перспективаларды кешенді талдау

DBOT-тың 2024 жылдың қазан айының ортасындағы алғашқы екі есебіндегі «оптимистік» тақырыптар BYD-тің аккумуляторлық технологиясы мен оның жаһандық деңгейдегі орнын және ауқымды кеңейту қабілетін атап өтті. АҚШ-тағы президенттік сайлауға жақындағандағы кейінгі есептерде DBOT жаңалықтардағы тарифтер мен сауда соғыстары қаупінің әсерінде болды. Мүмкін, ЖИ Трамптың ықтимал жеңісін және оның қытай тауарларына жоғары тарифтер енгізу туралы қоқан-лоққыларын байқаған болар, өйткені ол есебінде бұл туралы бес рет айтады. Бұл өте көрегендік болып шықты.

Айта кету керек, тақырыптар мен есептердегі ауытқуларға қарамастан, DBOT-тың ұсынысы ай бойы таңқаларлықтай тұрақты болды: сатып алу. Қарапайым чатботтардан айырмашылығы, ол сұраулардағы болмашы өзгерістерге немесе бизнес ортадағы азғантай ауытқуларға байланысты шешімін өзгертпейді. Бұл оның жұмыс нәтижесін дәстүрлі сандық сауда стратегиялары сияқты тексеруге болатынын білдіреді. Бұл қасиет сенімді анықтау үшін өте маңызды.

Жалпы алғанда, бұл DBOT-тың қасиеттерін ғылыми әдіс арқылы жүйелі түрде талдауға және оны өзі негізделген адамдармен салыстыруға болатынын білдіреді. Мысалы, Дамодаран өзінің үлкен жеңімпаз акцияларын тым ерте сатып жіберетінін мойындайды; Nvidia мен Facebook — бұған екі негізгі мысал. Бұл — активтердің бағасын ұзақ уақыт бойы бұрмалайтын психология мен импульс сияқты факторларды елемейтін «құндылыққа негізделген инвестициялаудың» қасиеті. DBOT да осындай бейімділікке ие ме? Бұл — ғылыми тұрғыдан тексерілетін нәрсе, ал қарапайым ЖИ чатботын пайдаланғанда мұны істеу мүмкін емес.

Біреулер DBOT өзі жазғандарын шынымен «түсіне ме», әлде тек солай көріне ме деп сұрауы мүмкін. Сонымен бірге, DBOT-тың есебі мен кәсіби маман жасаған есептің айырмашылығын ажырата аласыз ба деген сұрақ та бірдей маңызды.

Машина күрделі танымдық тапсырманы имитациялағанымен, оның санасы немесе адамдар мұндай тапсырмаларды орындау кезінде қолданатын әлем туралы субъективті түсінігі жоқ. Бұл бізді оның нәтижелерін мұқият тексеруге мәжбүр етуі тиіс. Мен DBOT-тың BYD туралы есебінен ешқандай қате таба алмасам да және оны кәсіби сарапшы дайындаған есептен ажырата алмасам да, оның машина арқылы жасалғанын білуім — нәтижелерді клиенттерге таратпас бұрын оларды өте мұқият талдап, тексеруге итермелейді. Мұндай жасанды интеллектке (ЖИ) сенуіміз керек пе деген сұрақты мен 10-тарауда қарастырамын. Бірақ бір нәрсе анық: егер есептер дәл болса және сапасы адам жасағаннан тең немесе жоғары болса, ЖИ сарапшылардың екі түрінің пайда болуына әкелуі мүмкін. Бірінші түрі — жүйелі болып, ғылыми әдісті акциялардың көбіне немесе нақты түрлеріне қолдануға тырысады. Екінші түрі — шешім қабылдау кезінде әлі де өз пайымдауын қолданады және ботты кеңесші ретінде пайдаланады. Бұл санатта боттан үнемі төмен нәтиже көрсететін сарапшылардың орны алмасуы ықтимал. Жалпы алғанда, DBOT сарапшылар үшін өнімділік деңгейін (планкасын) көтеруі мүмкін.

ДАМОДАРАННЫҢ DBOT-ҚА СЫНЫ

DBOT өз иесімен салыстырғанда қандай деңгейде? Ол 2024 жылдың желтоқсанында келесідей қорытынды пікір білдірді:

«Бұл, негізінен, жақсы орындалған. Егер мен бұл жазбаны бағалайтын болсам, көпсөзділікті (verbosity) азайтуды ұсынар едім, өйткені бұл жазбаның көп бөлігін екі есе аз бетке сыйдыруға болар еді. Менің байқауымша, ЖИ деректерге және өткен жазбаларға қолжетімділігі болғандықтан, есептерді шамадан тыс көлемді етіп жіберуге бейім».

Жеке өзім көпсөзділік туралы пікірмен келісемін. Бірақ мені оның талдауда не жетіспейді деп ойлағаны көбірек қызықтырды. Ол өзі қоятын үш сұрақты атап өтті:

Электрлі көліктерге көшу болжанғандай бірқалыпты бола ма? Дамодаранның жеке болжамы бойынша, EV (Electric Vehicle — электрлі көлік) енгізу күтілгеннен баяу болады және гибридтер қайта оралады. Әлем бойынша бензин мен электрлі көліктерге арналған қазіргі инфрақұрылым әлі де біріншісіне көбірек бейімделген, сондықтан жақын болашақта гибридтер тиімдірек болып, EV-дің таралуы DBOT болжағаннан баяулауы мүмкін. BYD тарихында Қытай үкіметінің орны қандай? Әрбір ірі қытайлық компанияда Бейжің негізгі ойыншы болып табылады және ол бәрін өзгерте алады. Басқаша айтқанда, Бейжің BYD-ның жаһандық амбицияларына қалай қолдау көрсетуі немесе кедергі келтіруі мүмкін? Электрлі көліктер нарығы жаппай нарық және жоғары деңгейлі сегменттерге бөліне ме, бұл ретте BYD біріншісінде, ал TSLA екіншісінде үстемдік ете ме? Бұл өте маңызды сұрақ, өйткені егер BYD тек нарықтың төменгі сегментімен шектелсе, бұл маржаға, тиісінше кіріс пен құнға қысым жасайды.

Бұл — маңызды framing questions (негіз қалаушы сұрақтар — талдаудың бағытын айқындайтын іргелі сұрақтар). Олар өткен шақ тұрғысынан қарағанда айқын көрінгенімен, дәл сол сәтте оларды қою оңай емес және бұл маманның бірегейлігін көрсетеді. Бұл маған әлеуметтанушы Дункан Уоттстың «Бәрі де айқын: жауабын білгеннен кейін» атты кітабын еске түсіреді.

NVIDIA

Мен Дамодаранның 2023 жылғы маусымдағы Nvidia туралы есебін пайдалана отырып, негіз қалаушы сұрақтардың маңыздылығына бірнеше қосымша мысал келтіргім келеді.

Ол: «ЖИ — бұл біртіндеп дамитын (incremental) ма, әлде түбегейлі өзгертуші (disruptive) технология ма? » — деген сұрақтан бастайды. Бұл маңызды сұрақ, өйткені түбегейлі өзгерістер жаңа нарықтарды тудырады, олар үлкен болуы мүмкін, бірақ нарық көлемі мен маржасына қатысты белгісіздік жоғары болады. Керісінше, біртіндеп дамитын технологиялардың нарығы кішірек және маржасы сенімдірек болады. Ол бұрын ЖИ-ді біртіндеп дамитын технология деп санағанын, бірақ ChatGPT пайда болғаннан кейін ойын өзгерткенін айтады, өйткені оны әркім өз күнделікті өміріне енгізе алды.

Оның келесі сұрағы: «Түбегейлі өзгерістер жалпы инвесторлар үшін жақсы болды ма, әлде жаман ба? » Басқаша айтқанда, олар бағалауды нығайта ма, әлде төмендете ме? Соңғы төрт онжылдықтағы түбегейлі өзгерістердің мысалдары — дербес компьютерлер, интернет, смартфондар және әлеуметтік медиа. Ол осы төрт технологиялық төңкерістің орташа есеппен нарыққа пайдалы болғанын көрсетеді.

Сонымен қатар ол: «Жаңа түбегейлі технологияны жеткізушілер арасында жеңімпаздар мен жеңілгендердің үлесі қандай? » — деп сұрайды. Бұл маңызды, себебі бұл бізге компанияның табысқа жету немесе сәтсіздікке ұшырау ықтималдығын айтады. Ол түбегейлі өзгерістердің өте аз ірі жеңімпаздарға, бірақ жаңа толқынға ілеспек болған көптеген сәтсіздікке ұшырағандарға әкелгенін атап өтеді. Nvidia өзінің көлемі мен позициясына байланысты ірі жеңімпаздардың бірі болуы ықтимал. Сәтсіздік қаупі төмен болғандықтан, оның капитал құны тәуекелі жоғары компаниялармен салыстырғанда тиімдірек болуы мүмкін.

Соңында ол ЖИ-ге тән сұрақ қояды: «Аз ғана жеңімпаздар үшін ЖИ-дегі әлеуетті пайдалы нарық сегменттері қандай? » Мысалы, өткен технологиялық өзгерістер аппараттық құралдарда, бағдарламалық қамтамасыз етуде, деректерде немесе қосымшаларда жеңімпаздарды анықтады. Ол Nvidia тарихына сүйене отырып, «ЖИ-чип тарихы» ең сенімдісі деп санайды. Оның қолында бар нысаналы нарықта керемет өнімділікті көрсетіп жатқан технологиясы бар. Біз ЖИ қосымшаларына қажетті қуатты қамтамасыз ету үшін деректер орталықтарына сұраныстың артқанын көрдік. Ол бұл Nvidia-ның болашақ кіріс ағынының үлкен бөлігін құрайды деп пайымдады, өйткені әлем нақты уақыттағы интеллектті қажет ететін деректерді өндіретін түрлі сенсорлармен барған сайын көбірек жабдықталуда. (Бұл талдау 2023 жылғы маусымда, Трамптың келуінен бұрын жарияланғанын ескеріңіз. Nvidia 2025 жылдың басында тарифтер туралы хабарландырудан кейін айтарлықтай төмендеді, бірақ бірнеше айдан кейін жаңа жоғары деңгейлерге көтерілді. Тарифтерден кейінгі әлем негіз қалаушы сұрақтар мен құн драйверлерін, сондай-ақ ЖИ-чип нарығының көлемін жаңартуды талап етеді).

DBOT қазіргі уақытта мұндай сапалы сұрақтарды құрастыра алмайды. Дамодаранның өзі бұл сұрақтардың басына қалай келетінін білмейді. Олар оған жай ғана айқын көрінеді. DBOT-қа осындай сапалы негіз қалаушы сұрақтар қоюды үйрету — ЖИ-ді келесі деңгейге көтерудегі ең үлкен сынақ болуы мүмкін.

Дегенмен, бұл қысқа мерзімді перспективада тәжірибелі адамдардың сұрақтарды құрастыру және DBOT талдауын бағыттау арқылы әлі де маңызды рөл атқаратынын көрсетеді. Бұл бағалауды дайындауға кететін уақытты апталардан немесе айлардан күндерге, тіпті сағаттарға дейін қысқартады. Ботты адамның бақылауы мен өнімділігін арттыруға мүмкіндік беретін түрлі сұрақтарға сәйкес талдаулар жасау үшін пайдалануға болады.

СУПЕРБОЛЖАУШЫЛАР ЖӘНЕ АДАМНЫҢ БАСЫМДЫҒЫ

Мен Дамодаран блогындағы жалпы сұраққа қайта оралғым келеді: адам-мамандар алгоритмдермен алмастырыла ма? Егер машина негіз қалаушы сұрақтарды қоюды үйренсе (бұл уақыт еншісінде), адам сарапшының жұмысына қауіп төне ме? Керемет жады мен жинақталған оқу деректерін ескерсек, ЖИ оны алмастыра ма?

Бұл — ЖИ жетілген сайын бүкіл адамзат алдында тұрған маңызды сұрақ. Адам-мамандар жақсы дайындалған және жобаланған боттардан қалай озып кете алады? Бұл сұрақтың экзистенциалды жалғасы: «Машина адам істейтін нәрсенің бәрін жақсырақ істей бастағанда, адамдар немен айналысады? »

Қысқа жауап әдеттегідей: адамдар өз деңгейін көтеруі керек. Мен көрсеткендей, сіз неғұрлым көп білсеңіз, ЖИ арқылы өз қабілетіңізді соғұрлым күшейте аласыз.

Дамодаранның өзіне қауіп жоқ, себебі ол қазірдің өзінде өз саласының шыңында. Бірақ DBOT ортанқол сарапшыны оңай алмастыра алады. Сондай-ақ, ол білікті сарапшыларды өз ісінде бұдан да мықты ете түсуі тиіс. ЖИ алмастыратын сарапшылар мен ЖИ көмектесетін әрі күшейтетін сарапшылардың айырмашылығы неде?

Саясаттанушы Филип Тетлок бірнеше онжылдық бойы болжау турнирлерін ұйымдастыру және талдау арқылы ұзақ мерзімді болжамдарды зерттеп келеді. Тетлоктың зерттеуі жауаптың бір маңызды бөлігін береді. Оның «Суперболжау: Болжау өнері мен ғылымы» атты кітабы кейбір адамдардың ұзақ мерзімді нәтижелерді дәл болжауда неге бірегей екенін терең түсіндіреді. Мысалы: «2028 жылғы АҚШ президенттік сайлауында кім жеңеді? », «Трамптың қазіргі әкімшілігінің соңында инфляция басындағыдан жоғары бола ма? » немесе «Келесі онжылдықта жаһандық температура қаншалықты көтеріледі? »

Тетлок таңдаулы бірнеше адамның адамдардың басым көпшілігіне қарағанда үнемі жақсы нәтиже көрсететінін байқайды. Ол 2022 жылдың ақпанында менімен болған әңгімеде олардың ерекше қасиеттерін қысқаша түйіндеді. Бұл қасиеттер адамдардың ЖИ-ді қолдана отырып, өз ісін қалай жақсарта алатыны туралы пайдалы кеңестер береді. Әрине, ЖИ де болжау қабілетін арттыру үшін Тетлоктың түсініктерін пайдалана алады!

Ең алдымен, суперболжаушылар мәселеге «сыртқы көзқараспен» (outside view) қарауға бейім, мысалы: «Қарастырылып отырған сала туралы ештеңе білмейтін адам не сұрар еді?» Бұл талдаудың басында субъективті пікірдің араласуын шектейді.

Мысалы, жақында менің «Жүйелі инвестициялау» курсымның студенті келер жылы рецессия бола ма деп сұрады. Мен бұл сұрақты аудиторияның өзіне қайтардым. Студенттер бірден рецессияға әкелетін факторларды талқылауға кірісіп, жұмыспен қамту деңгейі, инфляция, ФРЖ ұстанымы сияқты соңғы деректер мен экономиканың жағдайы туралы басқа да көрсеткіштерді тізіп шықты.

Адамдардың басым көпшілігі сияқты бірден егжей-тегжейге үңілу үрдісі талдауды басында таңдалған деректерге байлап тастап, оны біржақты етеді. Керісінше, экономика немесе бизнес туралы ештеңе білмейтін «сырттан келген адам»: «Бұрын рецессиялар қаншалықты жиі болып тұрды? » — деген жалпы сұрақ қоюы мүмкін. Мұндай сұрақтың жауабы құбылыстың base rate (базалық мөлшерлеме — оқиғаның жалпы статистикалық ықтималдығы) деңгейін анықтайды және кез келген жылда рецессияның болу ықтималдығын түсінуге жақсы бастау болады. Дұрыс базалық мөлшерлеме талдауды нақты бағытқа бағыттайды, содан кейін қазіргі жағдайдың ерекшеліктеріне байланысты оны жоғары немесе төмен өзгертуге болады.

Суперболжаушылар болжам жасау кезінде базалық мөлшерлемелерге мұқият назар аударады. Ал бірден егжей-тегжейге көшетін адамдардың талдауы негізсіз және біржақты болады, олар көбінесе рецессия сияқты сирек болатын оқиғаларды шын мәніндегіден гөрі ықтималырақ деп қорытындылайды.

Дамодаран да Nvidia талдауында тиісті базалық мөлшерлемелерді бағалау үшін осыған ұқсас негізгі сұрақтарды қолданды. Мысалы, ол түбегейлі өзгерістер инвесторлар үшін жағымды ма, әлде жағымсыз ба деп сұрады. Ол сондай-ақ жартылай өткізгіш өнеркәсібінің тарихи деректеріне сүйене отырып, операциялық маржа мен қайта инвестициялау деңгейлерін бағалау үшін базалық мөлшерлемелерді кеңінен пайдаланды. Бұл мөлшерлемелер өткен деректерге негізделген және оның есептеулерінде бастапқы нүкте болып табылады.

Тетлок сипаттаған суперболжаушылардың тағы бір қасиеті — олар когнитивті диссонансқа (қайшылықты ақпарат), аргументтер мен қарсы аргументтерге төзімді келеді. Ол әзілмен атап өткендей, олардың сөздерінде «сонымен қатар» дегенге қарағанда «дегенмен» деген сөз жиі кездеседі, бұл олардың өз болжамдарына, деректеріне және қорытындыларына сеніммен қарағаннан гөрі, оларға көбірек күмәнмен қарайтынын көрсетеді. Олар өз бағалауларын жиі қайта қарап отырады, бұл экономист Джон Мейнард Кейнстің ескі сөзін еске түсіреді: «Фактілер өзгергенде, мен ойымды өзгертемін. Ал сіз не істейсіз, мырза? »

Қызығы, суперболжаушылар командалары жеке суперболжаушыдан да жақсы жұмыс істейді. Олардың бойындағы қызығушылық пен бәрін талқылауға, сынға алуға бейімділігі оларды топтық ойлаудан (groupthink) сақтайды. Олар қоятын сұрақтарының саны бойынша өте ізденімпаз. Олар басқалардың сауалдарына көбірек түсініктеме береді, көбірек жаңалықтар мен пікірлер жинайды және олармен бөліседі.

ЖИ-де әлі мұндай ішкі қызығушылық пен рефлексия (ой жүгірту) қабілеті жоқ. Бұл әлі де адамға ғана тән қасиет. ЖИ бұл деңгейге жете ала ма?

Теориялық тұрғыдан оның жете алмауына ешқандай себеп жоқ. Бірақ бұл уақытты қажет етеді. Оған дейін ЖИ-ден қорықпайтын адамдар — бұл белгілі бір салада терең білімі, шексіз қызығушылығы және көп сұрақ қоюға бейімділігі бар жандар. Мұндай адамдар үшін машина қуатты өнімділік күшейткішіне айналады және басқа салаларға, әсіресе бағдарламалау мен талдауды қажет ететін салаларға кіру кедергілерін азайтады. Бұл техникалық дағдылары аз немесе мүлдем жоқ адамдарға басқаларға тәуелділікті азайтуға мүмкіндік береді. Тарихи тұрғыдан алғанда, терең білім немесе техникалық дағдылар бизнестегі «тар өткел» болып келді, онда фирмалар жыл сайын бағдарламашылар мен техникалық қызметкерлерге триллиондаған доллар жұмсайды, олар әрқашан жұмысқа көміліп жүрсе де, бизнес-сарапшыларды түсінуге және олармен тіл табысуға қиналады.

Кіру кедергілерінің жойылуы пәнаралық зерттеулерді айтарлықтай жеңілдетеді. Өз жұмысында CRISPR (гендік инженерия технологиясы) қолданатын биолог досым күн сайын чат-боттардан қаншалықты пайда алатынына таңғалады: ол өз сұрақтарына қатысты зерттеулерді тауып, машинаға бағдарламалар жазғызып, жауаптарды түсіндіріп береді. Зерттеу барысы толық оның бақылауында. Ол ЖИ-мен жұмыс істеуді нақты уақыт режимінде код жаза алатын сиқырлы техникалық агенті және нәтижелерді қалай ұсынуды білетін визуализация агенті бар болуымен салыстырады.

Бірақ ЖИ салалар бойынша дағдыларды одан да күштірек арттыруға мүмкіндік береді. Физик химиядан көмек ала алады, биолог физика немесе генетика саласындағы зерттеулерге ауыса алады, ал қаржы сарапшысы жартылай өткізгіш бизнесін бағалау кезінде машинаға дұрыс сұрақтар қою арқылы чип өнеркәсібін терең түсіне алады. ЖИ осындай пәнаралық «ұрықтандырудың» барлық түріне жол ашады. Осылайша, ол ғылым мен өнеркәсіптегі қалыптасқан оқшаулануды (силостарды) бұзады.

Бұл терең білімі мен қызығушылығы бар адамдар үшін, әсіресе дұрыс сұрақтар қоя білетін және машинаның жауаптарын тексеріп, түсіндіре алатын адамдар үшін жақсы мүмкіндік. ЖИ оларды тиімдірек және жан-жақты етеді. Мұндай адамдар ЖИ дәуірінде құнсызданбайды, керісінше құнды бола түседі.

Сұрақ мынада: жастар мұндай терең дағдыларды қалай қалыптастырады? Кейбір студенттер мен жас қызметкерлер ЖИ-ге тым тәуелді болып қалғанымыз соншалық, кез келген салада өз бетінше терең дағдыларды дамыта алмай қалу қаупі бар деп алаңдайды. Бұл мен бұрын айтқан досымның оқиғасын еске түсіреді: ChatGPT жұмыс істемей қалғанда, балаларының мектебінде ешкім үй тапсырмасын өткізбей қалған. ЖИ-ге мұндай тәуелділік — білім берудегі ең үлкен тәуекелдердің бірі. Сондықтан мен студенттерді бұл құралдарды қашан қолдану керектігін білуге шақырамын. ЖИ-ге жүгінбес бұрын қойылатын басты сұрақ: «Бұл жауап менің миымды жаттықтыра ма, әлде оны жалқау ете ме? »

Жаттығусыз адам миы атрофияға ұшырайды. Жақында жүргізілген зерттеу көрсеткендей, ChatGPT-ге сенетін пайдаланушылардың ми белсенділігі (ЭЭГ арқылы) айтарлықтай төмен болған, есте сақтау қабілеті нашарлаған және олар өз бетінше жазуға көшкенде, олардың мәтіндері көмексіз жазғандармен салыстырғанда біртекті (шаблонды) болып шыққан.

Болашақтың белгілері қазірдің өзінде айқын.

АДАМДАРДЫҢ ӨРЛЕУІ

Мен DBOT-ты алғаш рет 2024 жылдың қыркүйек айының соңында Лос-Анджелесте «Жоғары жиілікті сауда» кітабының авторы Риши Наранг ұйымдастырған шарада таныстырдым. Қатысушылар жүйелі инвестициялау саласындағы тәжірибелі мамандар болды. Ұзақ мерзімді инвестициялауды жүйелі ететін DBOT сияқты машиналар оларды қатты қызықтырды.

Біреу менен: «Мұндай ЖИ-боттар барлық жерде қолданыла бастағанда, олар жүйелі инвесторлар іздейтін басымдықты (edge) жойып жібермей ме? » — деп сұрады. Өйткені жүйелі инвестициялаудың мәні — нарықтағы жалпы көңіл-күйге сәйкес келмейтін басымдықты табу. Бұл басымдық көбінесе шектеулі рационалдылық, эмоция, біржақтылық және тұрақсыздық сияқты адамға тән шектеулерді пайдаланады. Егер әркім ЖИ-боттарды қолданса, бұл боттар жиынтығы «нарықтың өзіне» айналмай ма? Егер солай болса, нарықты адамдар емес, ЖИ әрекеттері басқарады. Олай болса, нарықтан озып кету мүмкіндігі қайда? Мұндай әлемде «белсенді инвестициялау» нені білдіреді?

Жауап мынада: басымдық (edge) адамда болуы керек. Басымдық — ЖИ-ге қарсы бәс тігу керек сәтті білуден туындайды!

Қандай ирония. Мен ондаған жылдар бойы болжау жасауда адамнан озып кететін ЖИ алгоритмдерін жетілдірумен айналыстым, ал бірнеше онжылдықтан кейін ЖИ соншалықты жақсы болғаны сонша, оны бәрі қалайды. Мұндай сценарийде алгоритмдік басымдық енді болмайды.

Жалпы жұмыстың болашағына келетін болсақ, бұл бізге адамдардың қандай түрі басымдыққа ие болатынын айтады? Мен бұл туралы келесі екі тарауда тоқталам, бірақ қысқаша жауап: машина қателесіп жатқанда, әсіресе қымбат қателіктер жібергенде, адамдар үшін әлеуетті рөл бар. Басымдық жасаудың ең жақсы жолы — суперболжаушылардың қасиеттерін дамыту.

Негізгі қорытынды — ЖИ жұмыстың болашағын өзгерту алдында тұр. Сіз неғұрлым көп білсеңіз, ЖИ түрлі салаларда тереңірек білім алған сайын, ол сізге соғұрлым көп күш береді. Неғұрлым аз білсеңіз, соғұрлым ЖИ-ге тәуелді боласыз және ЖИ-мен алмастырылуға бейім боласыз. Бұл адамдардың екі тобына бөлінуіне әкелуі мүмкін: ЖИ-ді жақсару үшін пайдалана алатын жоғары бағаланатын белсенді «супер-адамдар» және ЖИ-ге толықтай тәуелді болып қалған төмен бағаланатын пассивті «адам-боттар».

БАРЛЫҒЫН БІРІКТІРУ

Біз жеке өмірімізді басқаруда және әлемді басқаруда біздің атымыздан әрекет ететін ЖИ агенттерінің дәуіріне қадам басып келеміз.

Дұрыс сұрақтар қоя білу — ЖИ дәуірінде ЖИ-ден озып тұрудың ең сенімді жолы. Машиналар мұндай шығармашылық жұмыста әлі де шектеулі.

Күрделі мәселелер үшін сол сала бойынша қызығушылығы мен терең білімі бар адамдардан команда құру жеке күш-жігерге қарағанда жақсы нәтижелерге қол жеткізе алады.

Жүйелі ұзақ мерзімді инвестициялаудың болашағы — ChatGPT сияқты ЖИ чат-боттарындағы жалпы интеллектті бағалау туралы принципті ойлау тәсілімен біріктіруде. Алғаш рет ұзақ мерзімді инвестициялау жүйелеуге және back-testing (тарихи деректерде тексеру) жасауға қолайлы болды. Мен Уоррен Баффет пен Асват Дамодаран сияқты адамдардың принципті инвестициялау әдістерінің «цифрлық егіздері» пайда болса, таңғалмаймын. Бұл халыққа қуатты боттарды ұсыну арқылы инвестициялауды демократияландырады.

Интеллектуалды ЖИ агенттерінің әсері өте терең және ол бизнестің барлық деңгейіне әсер етеді. 2021 жылы Даниэль Канеманмен ChatGPT-ге дейінгі әңгімемізде біз ЖИ агенттері бір күні CEO (бас директор) бола ала ма деп ойладық. Ол кезде бұл оғаш идея сияқты көрінген, бірақ Канеман олай деп ойламады. Міне, оның ойы:

«Көшбасшылық функцияларына келетін болсақ, ірі ұйымдардың бас директорлары өз тәжірибесі, түйсігі мен жақсы пайымдауының арқасында сонда отыр. Бірақ бұл негізінен олардың тәжірибеден үйренген дүниелері. Оларда ішкі деректер базасы бар. Егер деректер базасы тиімді болып, ЖИ бизнес-ұсыныстарды көптеген бас директорлардан жақсырақ бағалай алатын күн туса, биліктегі адамдар сынаққа тап болады».

Осы жазба жазылған уақытта, Канеманмен сөйлескенімнен төрт жыл өткен соң, компанияның CXO (Chief X Officer — басқарушы лауазымдардың жалпы атауы) үшін цифрлық егіз жасау идеясы енді таңсық көрінбейді. Шын мәнінде, мен әрбір ірі басшының соңынан қалмай жүретін цифрлық егізі болатын болашақты елестете аламын. Сондай-ақ, CXO агенттері арасындағы бірлескен көшпелі жиындарда олар өздерінің адам кейіпкерлеріне талдау жасау және іске асыру үшін бизнес стратегиялары мен жоспарларын ұсынатын болады.

Бұл — қолымыздың ұшында тұрған ЖИ агенттерінің барлық түрі бар мүлдем жаңа әлем.

https://www.youtube.com/watch?v=QLMvTnLOsJc

https://www.google.com/search?q=when+ef+hutton+talks&rlz=1C1CHBF_enUS1095US1095&oq=when+EF+Hutto&gs_lcrp=EgZjaHJvbWUqBwgAEAAYgAQyBwgAEAAYgAQyBggBEEUYOTIHCAIQABiABDIHCAMQABiABDIHCAQQABiABDIHCAUQABiABDIHCAYQABiABDIHCAcQABiABDIKCAgQABiABBiiBDIKCAkQABiABBiiBNIBCDQwNTJqMGo3qAIAsAIA&sourceid=chrome&ie=UTF-8#fpstate=ive&vld=cid:e370cc7e,vid:SX7ZEotoFh0,st:0

https://aswathdamodaran.substack.com/p/beat-your-bot-building-your-moat

https://aswathdamodaran.blogspot.com/

https://www.youtube.com/channel/UCLvnJL8htRR1T9cbSccaoVw

https://pages.stern.nyu.edu/~adamodar/New_Home_Page/home.htm

https://hbr.org/2016/05/when-to-trust-robots-with-decisions-and-when-not-to

Dhar, V., When to Trust Robots With Decisions and When Not To, Harvard Business Review, May 2016.

Wei, Z., et al., Chain‐of‐Thought Prompting Elicits Reasoning in Large Language Models, https://arxiv.org/abs/2201.11903

Kay, A., The early history of smalltalk. ACM SIGPLAN Notices 28 (3) (1993): 69–95. https://dl.acm.org/doi/10.1145/155360.155364

https://www.cxtoday.com/contact-center/klarna-claims-its-new-ai-assistant-does-the-work-of-700-full-time-agents/

https://bravenewpodcast.com/episodes/2023/06/01/episode-63-piyush-gupta-on-how-ai-will-transform-business/

DBOT: Artificial Intelligence for Long‐Term Investing. https://arxiv.org/html/2504.05639v1

https://www.youtube.com/watch?v=F9GfXJ-IrSA

Damodaran, A., The Little Book of Valuation: How to Value a Company, Pick a Stock, and Profit, Wiley, 2024.

https://aswathdamodaran.blogspot.com/2023/06/ais-winners-losers-and-wannabes-nvidia.html

https://bravenewpodcast.com/episodes/2022/02/03/episode-31-philip-tetlock-on-the-art-of-forecasting/

https://arxiv.org/abs/2506.08872

Narang, R., Inside the Black Box: A Simple Guide to Quantitative and High‐Frequency Trading, John Wiley and Sons, 2024.

ТОҒЫЗЫНШЫ ТАРАУ

АҚИҚАТ: ҚОСЫМША КӨЗҚАРАСТАР ЕСКЕРІЛЕДІ

ГАЛЛЮЦИНАЦИЯЛАР

Мен осы кітапта парадигмалар туралы жазғанда, «парадигма» сөзі Томас Кунның 1962 жылғы «Ғылыми революциялардың құрылымы» атты айтулы кітабына дейін ағылшын тілінде қолданылған-қолданылмағанын білгім келді. Сондықтан мен ChatGPT-ден сұрадым.

ChatGPT маған бұл сөздің латынша paradigma сөзінен шыққанын және ағылшын тіліне 1475 жылы енгенін айтты. Ол маған бірнеше дереккөз берді. Бұл маған оғаш көрінді, сондықтан мен тереңірек зерттедім.

Чатботтың кейбір дереккөздері мүлдем жоқ болып шықты. Мен басқаларын іздедім, бірақ олардан бұл сөздің кездесетінін таба алмадым.

Бұл «галлюцинация» (ЖИ-дің сенімді көрінгенімен, шындыққа жанаспайтын ақпарат беруі) еді. Галлюцинация — бұл сенімді болып көрінетін, бірақ жалған нәрсе.

Мен мұны ботқа айтқанда, ол кешірім өтініп, нақты дереккөздер ретінде тағы бір топтаманы ұсынды.

Олар да галлюцинация болып шықты. Бірнеше рет осындай қайталаулар мен кешірімдерден кейін, бот бұл сөздің 1475 жылы қолданылғанына ешқандай нақты дәлелі жоқ екенін мойындап, мені ең басында іздеуді бастаған Оксфорд ағылшын сөздігіне сілтеді!

Жақында, осы тарауды жазып жатқанда, мен Google-дың Notebook LM жүйесінен Даниэль Канеманмен болған әңгімем негізінде подкаст жасауды сұрадым. Ол әйел («Джейн») мен ер адамның («Джон») дауыстары бар 10 минуттық қысқаша мазмұн жасады. Онда әйел Джонға биас (біржақтылық немесе жүйелі қателік) мен шу (шешім қабылдаудағы кездейсоқ өзгергіштік) концепцияларын түсіндіріп, Джон кеңірек сұрақтар қойып отырды. Мысалы, адамның шешім қабылдаудағы біржақтылығы мен сәйкессіздігінің салдары және ЖИ оларды азайта ала ма деген сияқты.

Әңгіме өте тартымды және сапалы естілді, шынайы шығу үшін арасында «аха» және «пай-пай» деген сияқты сөздер де қосылған. Бұл әсерлі болды. Егер менің подкастым да сондай еркін болса, мен өте қуанышты болар едім.

Өкінішке орай, чатбот нәтижесінің сыртқы формасына таңданысым басылып, бос сөздерден арылғанда, әңгімеде елеулі қателер бар екенін түсіндім. Әсіресе бір үзінді назарымды аударды. Джейн Джонға: «Бір қылмыс үшін екі судьяның беретін үкімдерінің арасындағы орташа айырмашылық төрт жыл екенін білдің бе?! » — деді.

Бұл шындық емес. Джейн Канеман атап өткен маңызды шартты алып тастаған: орташа үкімі жеті жылды құрайтын қылмыстар үшін, АҚШ-та кездейсоқ таңдалған екі судьяның үкімдері арасындағы орташа айырмашылық төрт жылды құрайды.

Көптеген тыңдаушылар мұндай қатені байқамайды, өйткені машина өте беделді және сенімді сөйлейді. Сізде де осындай жағдайлар болған шығар деп ойлаймын.

Бұл кішігірім тәжірибелер маған заманауи ЖИ туралы кеңірек сұрақ қоюға мәжбүр етті: интеллектуалды машиналарға қарай бет алған жолда ақиқат құрбандыққа айналды ма?

ТІЛДЕГІ АҚИҚАТ

Ақиқат адам істерінде орталық орын алады. Тарихи тұрғыдан алғанда, ақиқат ЖИ-дің де негізі болды. Дегенмен, мансабымда көрген ЖИ-дегі үш парадигмалық ауысу (ғылымдағы немесе саладағы іргелі көзқарастардың өзгеруі) кезінде мен ақиқатқа деген көзқарастың әр ауысу сайын өзгергенін және нәтижесінде ЖИ машиналарының әртүрлі түрлері пайда болғанын түсіндім. Сұрыпталған құрылымдық деректерден үйренетін бұрынғы машиналардан айырмашылығы, заманауи ЖИ машиналары деректердің барлық түрлерінен, соның ішінде тілден де үйренеді.

Тілдегі ақиқат нені білдіреді? Біз бұл сөзді үнемі қолданамыз, бірақ оның әмбебап анықтамасы жоқ. Қазіргі ағылшын тілінде біз қолданатын анықтама шеңберлі сияқты: ақиқат — бұл фактіге негізделген нәрсе, ал ол өз кезегінде шындық болып табылатын нәрсе. Осы шеңберлілікке қарамастан, біз оның мағынасын түсінеміз. ChatGPT-дің ағылшын тіліндегі «парадигма» сөзінің алғашқы қолданылуы туралы сұрағыма берген жауабы факт емес еді. Бірақ мұны түсіну үшін маған біраз күш жұмсау керек болды, өйткені ол өте сенімді сөйлеп, өз тұжырымдарын растау үшін дереккөздер ұсынды.

Хинди тілінде ақиқат сөзі «сатья» деп аталады және кейде ол рухани мәнге ие «мәні» деген мағынада қолданылады. Христиандар үшін ақиқат Құдайдың сөзіне қатысты болуы мүмкін. Қытай тілінде ақиқаттың анықтамасы күрделі: «объективті заттар мен олардың заңдылықтарының адам санасында дұрыс бейнеленуі».

Қытай тіліндегі анықтамада қабылдаушының бар екеніне назар аударыңыз, бұл ағылшын және хинди анықтамаларымен қарама-қайшы келеді. Бұл тілдік аудармада көбірек еркіндік береді. «Жүз жылдық марафон» кітабының авторы, ардагер сыртқы саясат стратегі Майкл Пиллсбери американдық саясаткерлердің өз мәлімдемелерінің қытайша аудармаларына жиі ренжитінін айтқан, өйткені олар өз ниеттерінен алшақ болуы мүмкін. Мысалы, «жоқ» сөзі қытай тілінде ұнамсыз, сондықтан «жоқ, бұл мүмкін емес» деген сөйлем «қосымша көзқарастар қарастырылады» деген сияқты нәрсеге аударылуы мүмкін.

Философ Уильям Джеймс тілдегі сенімдер мен пайымдаулар өздігінен ақиқат немесе жалған емес, ақиқат контекстік сипатқа ие және тәжірибе арқылы қалыптасады деп есептеді. Неміс философы Людвиг Витгенштейн де ақиқатты біз қатысатын ортақ «тілдік ойындардың» әлеуметтік, мәдени және прагматикалық контекстіне негізделген деп қарастырды. Тілдік ойында сөздер мен сөйлемдердің қалай түсінілуі керектігін анықтайтын ережелер мен нормалар болады. «Хелена — әнші» деген мәлімдеме Хелена үшін шындық болуы мүмкін, бірақ басқа адамдар оның әнін естігенде, олар үшін бұл шындық немесе жалған болуы мүмкін. Олар музыкалық тәжірибесіне сүйеніп, әншіні не әнші ететіні туралы ережелерді қолданады. Сондай-ақ Хелена тек әнші ғана емес — ол танымал тарихшы, жар, ана болуы да мүмкін — «Хелена — әнші» деген сөз оның маңыздырақ қасиеттерін қамтымауы мүмкін. Бұл тұрғыда ақиқаттар ішінара, контекстік және субъективті болуы мүмкін.

Витгенштейннің теориясы «Seinfeld» телехикаясының бір эпизодында жақсы көрсетілген, онда Джордж Костанза Джерриге өтірік детекторынан өту үшін өзін-өзі алдауды қалай қолдану керектігін үйретеді. «Егер өзің сенсең, бұл өтірік емес», — дейді ол Джерриге. Джордж үшін ақиқат — бұл қытайлық типтегі «жеке» ұғым, ал өтірік детекторы сынағының негізі — ақиқат объективті және анықталуы мүмкін деген болжам. Бұл эпизод, басқа да көптеген «Seinfeld» эпизодтары сияқты, ақиқаттың табиғаты туралы күрделі философиялық дебаттарды қарапайым және көңілді комедиялық жағдайға айналдырады.

ЖАСАНДЫ ИНТЕЛЛЕКТТЕГІ АҚИҚАТ

Машиналық оқытуда «Ground truth» (базалық ақиқат — модельді оқыту мен тексеру үшін қолданылатын нақты, тексерілген мәліметтер) концепциясы жиі кездеседі. Ол машиналарды оқыту процесін бағыттау және бағалау үшін қолданылады. Машина ақиқаттың мысалдарын көреді, мысалы, АҚШ-тағы аптаның әртүрлі күндерінде сауда жасайтын адамдардың мысалы, осыдан ол деректердегі заңдылықтарды үйренеді, мысалы, «Солтүстік-шығыстағы әйелдер бейсенбі күндері көп сауда жасайды». Мұндай заңдылықтар оның білім базасының бөлігіне айналады.

Мен 1970-жылдардың аяғында ЖИ-мен айналыса бастағанда, логика білімді көрсету және пайдалану үшін ЖИ парадигмасының негізгі бөлігі болды. Логика істің фактілерінен ақиқат қорытындылар шығаруда үлкен рөл атқарды. Ньютонның математикалық есептеулері объектілердің қозғалысын дұрыс болжау үшін ойлап табылғаны сияқты, философтар мен логиктер ғасырлар бойы мәлімдемелердің ақиқаттығын дұрыс анықтау үшін пайымдаудың әртүрлі тәсілдерін ойлап тапты.

Бірақ логиканың білім негізі ретіндегі тамыры тереңде жатыр, Аристотельдің силлогизміне (екі пікірден қисынды қорытынды шығару әдісі) дейін барады, онда қорытынды екі алғышарттан шығарылады, мысалы: «Барлық адамдар — пенде; Сократ — адам; демек, Сократ — пенде». Шерлок Холмс күрделі жұмбақтарды шешу үшін осындай логикалық ережелерді үнемі қолданатын. Холмс әрқашан болжамның шындыққа жанасатынын анықтау үшін істің барлық фактілерін мұқият бақылаудан бастайтын. Ол мұндай фактілерді адамнан тыс деңгейде бақылау қабілетімен танымал болды. Іс туралы белгілі нәрселердің бәрін санамалап, олардың барлық логикалық салдарын зерттегеннен кейін, егер шешім әлі де анық болмаса, Холмс алға жылжу үшін қажетті деректерді жинайтын. ЖИ-де белгілі фактілер бойынша мұндай логикалық тұжырым жасау «теореманы дәлелдеу» деп аталады.

1970- және 1980-жылдардағы көптеген ЖИ жүйелері логикалық пайымдау мен теореманы дәлелдеудің осы түріне негізделген болатын. Жалпы қолдану салалары INTERNIST сияқты медициналық диагностика және инженерия, пайдалы қазбаларды барлау, компьютерлік жүйелерді жобалау және жоспарлау сияқты басқа салалар болды. Мұндай жүйелердегі білім, оның аксиомалары қолданыстағы теорияға немесе сарапшылық бағалау мен тәжірибеге негізделген еді. ЖИ жүйелері қорытындылардың ақиқаттығына көз жеткізу үшін бұл білімді Шерлок Холмс стиліндегі пайымдаумен істің фактілеріне сәйкестендіретін. ЖИ-дің пайымдауын түсіндіру бақыланатын деректер — мысалы, медициналық диагностика жағдайында пациенттің симптомдары — мен білімді деректерге қолдану арқылы алынған қорытынды — мысалы, бақыланатын симптомдарды тудыруы мүмкін аурулар — арасындағы пайымдау тізбегін қадағалауды қамтитын.

Бірақ білімді логика және оның ақиқат ұғымдары арқылы білдіру өте қиын, әсіресе белгісіздік болған кезде. Поланьи атап өткендей, адамдар үшін бір тақырып бойынша өздері білетіннің бәрін нақтылау, оны логикада немесе ережелерде білдіру мүмкін емес деңгейде қиын. Біздің біліміміздің көбі — жасырын білім (сөзбен айтып жеткізу қиын, тәжірибе арқылы келетін ішкі білім), дегенмен біз оны кез келген шығармашылық жолмен қажет кезінде қолдана алатындаймыз. Адамның пайымдауы адам сарапшыларының қарым-қатынастарды нақтылауымен қамту үшін тым күрделі және әртүрлі.

Қазіргі машиналық оқыту парадигмасы ЖИ машинасына Интернеттегі ұжымдық адам пікірлерінен әлем туралы эмпирикалық білім алудың жаңа жолын ұсынды. Бұл деректер LLM-дер (Large Language Models — үлкен тілдік модельдер) өз болжамдарын жасауды үйренетін ақиқат ретінде қызмет етеді. Осы процесте ЖИ статистикалық сипатқа ие болды, мұнда деректерден білім жасаудың негізгі критерийі болашақ болжау қабілетіне айналды. Интернеттегі еркін қолжетімді мәтіндік деректердің орасан зор көлемі машиналарға біз сияқты сөйлеуді үйреткен ақиқат ретінде қызмет етеді, тіпті олардың айтқандарының көбі біздің ақиқат туралы қарапайым түсінігімізге сәйкес келмесе де. Біз білетіндей, Интернеттегі көптеген мазмұн жалған немесе жаңылыстырушы болып табылады. Дегенмен, ол ЖИ-дің болжамды модельдері жаттықтырылатын «базалық ақиқат» ретінде қызмет етеді.

Жаттығу процесінде осындай деректерден алынған білім LLM-нің нейрондық желісінде сақталып, оған өзі үйретілмеген көптеген нәрселерді орындауға мүмкіндік беретіні таңқаларлық. Мысалы, әзілдің неге күлкілі екенін түсіндіру, құжатты немесе суретті жасау, қорытындылау немесе түсіндіру, сұрақтарға жауап беру, мәтіннен подкаст жасау және кез келген тақырып бойынша гипотетикалық пайымдаулар жасау.

Жалпы интеллекттің бұл қабілеті мамандандырылған сарапшылық білім мен қарапайым түсінік арасындағы шекараны бұзып, кез келген тақырыпта кез келген деңгейде сөйлесуге мүмкіндік берді. Алайда, парадоксальды түрде, LLM-дер Жалпы интеллект деңгейіне ие болса да, олар байқаусызда біз үшін жаңа мәселе тудырды: олардың өздері біршама сенімсіз және болжаусыз болып кетті, бұл қасиетті біз ешқашан машиналармен байланыстырмаған едік.

ЖИ ҮШІН АҚИҚАТ СЕНІМСІЗ БОЛҒАНДА

Біз әрқашан компьютерлерден дұрыстық пен тұрақтылықты күттік. Төлем жүйелері сияқты компьютерлердің алғашқы коммерциялық қосымшалары 100% дәл болуы керек еді. Сол сияқты, біздің банктік шоттарымыз тиынына дейін сәйкес келуі керек, әйтпесе қаржы жүйесі күйреп қалады. Сол сияқты, орталықсыздандырылған, қол сұғылмайтын цифрлық тізілім болып табылатын блокчейн технологиясы, егер тізілімнің әрқашан дұрыс болуына кепілдік бермесе, пайдасыз. Мұндай қосымшаларда қателікке немесе сәйкессіздікке орын жоқ.

Ендеше, ЖИ неге басқаша?

Жауап мынада: біз төлем және тізілім жүйелеріне қатысты базалық ақиқаттан абсолютті айқындықты күтеміз, ал шынайы өмірдегі шешім қабылдау жағдайларында, мысалы, пациенттің жағдайын анықтау, сот жүйесінде сотталған қылмыскерге үкім кесу немесе облигацияның дефолтын болжау кезінде айтарлықтай белгісіздік болады. Бұл қосымшалардағы базалық ақиқаттың сапасы толық сенімді емес.

Міне, денсаулыққа қатысты жеке мысал. Соңғы төрт жыл ішінде менің медициналық сынамаларым қанымдағы PSA (простата-спецификалық антиген — простата безінің жағдайын анықтайтын белок) деп аталатын белоктың деңгейі жоғарылап, өсіп жатқанын көрсетті. PSA деңгейінің жоғарылауының бірнеше себептері болуы мүмкін болса да, олардың ішіндегі ең қауіптісі — простата обыры. Неғұрлым қауіпсіз себебі — простата безінің ұлғаюы. Сонымен қатар, диета мен өмір салты сияқты басқа да ықтимал себептер бар. Мені мазалаған ең басты сұрақ — осы төртеуінің қайсысы мәселенің себебі? Медициналық диагностика көбінесе белгісіздікке толы, бұл көбінесе базалық ақиқаттың нашарлығынан болады, бұл адам мамандарына ықтимал себептерді ажыратуды және оларды қалай емдеу керектігін қиындатады.

Мұндай жағдайларда стандартты күтім — биопсия арқылы обырды растауға тырысу, бұл безден тіннің бөліктерін алып, жасушаларды қуатты микроскоп арқылы зерттеуді талап етеді. Бұл ауыр процедура. Жыл сайын ондаған миллион биопсия қажетсіз жасалады, тіпті олар дұрыс себеппен жасалған күннің өзінде нәтиже анық болмауы мүмкін. Мәселені ушықтыра түсетін жайт, мұндай биопсиялардың жалған теріс нәтиже көрсету деңгейі өте жоғары болуы мүмкін, 30%-ға дейін жетеді. Бұл қатерсіз деп танылған жағдайлардың едәуір бөлігі обыр болып шығатынын білдіреді.

Стандартты күтімге сүйеніп, мен үш МРТ және екі биопсиядан өттім. МРТ нәтижелері толық таза болған жоқ, сондықтан биопсиялар жасалды. Екі биопсияда да «қалыптан тыс» жасушалар табылды, бірақ обыр табылмады. Мұндай жағдайларда ұсынылатын іс-әрекет — «Оны бақылауда ұстау», бұл «Мезгіл-мезгіл тексеріліп тұрайық, егер обыр тапсақ, онымен қалай күресу керектігін шешеміз. Оған дейін қатты уайымдамауға тырысыңыз» дегенді білдіреді.

Бірақ бұл тәсіл мәселені шешпейді. Керісінше, ол дәрігерлерге обыр бар немесе жоқ екенін белгілеуге мүмкіндік береді, бірақ бір нәрсе PSA деңгейінің жоғарылауына себеп болып жатқанын ескермейді. Бірақ сынақ нәтижелерінің ешқайсысы симптомдарды түсіндіре алмады. Ең бастысы, мен бұл жағдайға байланысты бірдеңе істеуім керек пе?

Отыз жыл бойы мыңдаған пациентті көргеніне қарамастан, тәжірибелі дәрігерде неге нақты жауаптар жоқ?

Мәселе жекелеген дәрігерлердің өз өмірінде көретін және тіркейтін ақиқаттың нашар сапасына және тұтастай алғанда денсаулық сақтау жүйесінде нәтижелерді есепке алудың жоқтығына байланысты. Мысалы, менің өте тәжірибелі дәрігерім дәл менікіндей қанша жағдайды көрді? Дәл деу арқылы мен PSA деңгейінің траекториясы, дене салмағы, простата мөлшері, нәсілі, диетасы және өмір салты бірдей жағдайларды айтамын. Оның пациенттерінің популяциясын бөліп қарастырғанда, ондайлар көп болмауы мүмкін. Айтпақшы, диета мен өмір салты симптомдардың нақты себебі немесе кінәлісі болуы мүмкін болса да, сирек тіркеледі немесе қадағаланады. Олар екі себеппен тіркелмейді. Менің подкаст қонағым және танымал кардиолог Эрик Топол түсіндіргендей, дәрігерлер асығыс және өмір салты мен диетаға үңілмек түгілі, картаны егжей-тегжейлі оқуға әрең уақыт табады. Сонымен қатар, мұндай деректер субъективті және сенімсіз болуы мүмкін. Диета мен простата обыры арасындағы байланысты көрсететін рандомизацияланған бақыланатын сынақтар болмағандықтан, көптеген тәжірибелі дәрігерлерге бұл жолмен жүруді негіздеу қиынға соғады.

Мен ақиқаттың сапасын ЖИ-ді оқытуға арналған деректерде тиісті контексттің қаншалықты қамтылғаны тұрғысынан ойлағанды жөн көрдім.

Мысалы, дәрігер өз пациенттерінің PSA деңгейлерін, сондай-ақ олардың қайсысында обыр дамитынын жазып алады делік. Ол мұндай деректерден тек PSA деңгейіне негізделген обырдың даму ықтималдығын ғана шығара алады. Енді PSA деңгейі өлшенген сайын простата безінің мөлшерін де жазып алатын екінші дәрігерді қарастырайық. Ол мөлшердің маңызды екенін байқап, мысалы, безі ұлғайған және PSA деңгейі жоғары адамдардың обырға шалдығу қаупі безі қалыпты және PSA деңгейі жоғары адамдарға қарағанда төмен екенін анықтауы мүмкін. Екінші дәрігерде біріншіге қарағанда үйренетін контекст көбірек. Енді пациенттермен сөйлесуге көп уақыт жұмсайтын және диета мен өмір салты факторларын да жазатын үшінші дәрігерді елестетіңіз. Ол алғашқы екі дәрігер байқамаған нәрсені ашуы мүмкін, мысалы, безі ұлғайған және кофеинді көп тұтынатын адамдарда бірдей жағдайдағы кофеинді аз тұтынатындарға қарағанда обыр деңгейі жоғары болуы мүмкін. Ол кофеиннің көп мөлшері простатаның қабынуын тудырады, демек кейбір адамдарда PSA деңгейінің жоғарылауына себеп болады деп пайымдауы мүмкін. Біз әр пациенттің нәсілі мен геномикасы сияқты одан да көп контекстті жазатын басқа дәрігерлерді елестете аламыз.

Контекст маңызды, бірақ ол көбінесе дәрігерлер жұмыс істеуі керек деректерге қосылмайды.

2024 жылдың соңында бір досым мені урологқа жіберді, мен оны гипотетикалық жағдайларымдағы үшінші типтегі дәрігерге жатқызар едім. Ол менімен бір күні таңертең екі сағат бойы диетам мен өмір салтым туралы сөйлесті. Әңгімеміздің соңында ол менің кофені тым көп ішетінімді, бұл зәр шығару жолдарымды тітіркендіріп, простатаның қабынуын тудыруы мүмкін екенін болжады. Ол маған кофеин тұтынуды азайтып, бірнеше айдан кейін өзімді тексеріп көруді ұсынды.

Бұл өте пайдалы кеңес болды және мен өзіме осындай тәжірибе жасау арқылы құнды деректер жинай алар едім.

Кофені қатты жақсы көрсем де, келесі күні шай мен кофеден бірден бас тарттым. Мен үш айдан кейін PSA өлшемін жасадым, алты аптадан кейін тағы біреуін жасадым. Бірінші көрсеткіш бастапқы PSA деңгейінен төмен болды, ал екіншісі одан да төмен болды, сондықтан оң бағытта қозғалыс бар. Бұл тәжірибе осы жазба жазылған уақытта әлі де жалғасуда.

Менің жағдайым денсаулық сақтау жүйесі үшін құнды деректер нүктесі болып табылады. Осындай бейтарап деректердің көбеюімен, сондай-ақ киілетін құрылғылардан және басқа дереккөздерден алынған ұқсас бейтарап деректермен толықтырылған, көптеген жағдайларға қол жеткізе алатын ЖИ бүгінгі дәрігерлерге қарағанда әлдеқайда жақсы жекелендірілген кеңестер бере алады. Мысалы, егер ЖИ менің кофені көп ішетінімді білсе, ол маған менікіне ұқсас жағдайлар бойынша тиісті деректерді көрсетіп, кофеин тұтынуды азайтуды және бірнеше айдан кейін PSA деңгейін тексеруді ұсына алады. Ол өз кеңесін жорамалдарға емес, нақты объективті шындыққа (Ground truth — машиналық оқытуда модельді жаттықтыру үшін қолданылатын нақты, тексерілген және дәл деректер) негіздейді.

Мұндай ЖИ де қателіктер жібере ме? Әбден мүмкін. Бірақ ол контекстке қол жеткізе алмайтын адамға немесе ЖИ-ге қарағанда әлдеқайда аз қателік жіберуі тиіс және ең бастысы, ол маған симптомдарды түсіндіретін балама гипотезалар туралы және оларды қалай ажыратуға болатыны туралы ақпарат бере алуы керек. Сайып келгенде, біз әдетте дәрігерден мынадай сөзді естігіміз келеді: «Мен сіздікіндей жағдайды талай рет көрдім, сондықтан не болып жатқанын білемін. Уайымдамаңыз».

ЖИ-ДІҢ МҮМКІНДІКТЕРІ: КӨРУ, ЕСТУ, ИІС СЕЗУ

Неліктен ЖИ сөйлесуге соншалықты шебер болып кетті? Неліктен ЖИ көру мен естуде соншалықты мықты?

Қысқаша жауап — ЖИ-ді жаттықтыру үшін қолжетімді өте жоғары сапалы объективті шындықтың арқасында.

2007 жылы Google ESP деп аталатын қызықты әрі еліктіргіш ойынды енгізу арқылы керемет қадам жасады. Ойын Интернеттегі екі адамды кездейсоқ жұптастырып, шектеулі уақыт ішінде бірқатар кескіндерге бір мезгілде белгі (label) қоюды сұрайтын. Екі адам да кескінге бірдей белгі тағайындаған кезде, олар сол белгінің бірегейлігіне қарай ұпай жинайтын. Мысалы, сиыр жайылып жүрген өрісті «сиыр», «өріс» немесе «жасыл» деп белгілеуге болады, бірақ бұл айқын белгілер болғандықтан, олар үшін ұпай аз берілетін. Екінші жағынан, егер екі ойыншы да «буколикалық» (ауыл өмірінің тыныштығы мен сұлулығын сипаттайтын термин) десе, олар көп ұпай жинайтын. Ойын ойнауға қызықты болды және Google өзінің алғашқы көру жүйелерін жаттықтыру үшін халықтан адамның пайымдауы туралы көптеген жоғары сапалы объективті шындықты тегін алды.

ЖИ нысандар мен олардың контексттері туралы білетін жоғары сапалы объективті шындықтың арқасында көру қабілетіне ие болды. Мысалы, ол «сиыр», «өріс», «жасыл» және «буколикалық» сөздерінің бір-бірімен және басқа да көптеген сөздер мен тіркестермен байланысты екенін үйренеді. Машина көптеген мысалдар арқылы көрген шындықтың сапасының арқасында контекстті меңгереді.

Көру жүйесінде шындықты тіл арқылы өте жақсы сипаттауға болатыны көмектеседі. Біз бәріміз заттар мен нысандардың пішіндеріне, тіпті олардың түстеріне де келісеміз. Ағаш — ағаш, машина — машина, ал тоқтау белгісі — тоқтау белгісі. Машина осындай нысандардың дұрыс белгіленген көптеген мысалдарымен жаттыққанда, оларды тануды салыстырмалы түрде оңай үйренеді. Мен бұған дейін сипаттаған ImageNet сияқты дерекқорларды жасауға көп күш жұмсалды, бұл көру саласындағы жылдам прогреске әкелген зерттеулер үшін объективті эталондарды белгіледі.

Көру жүйесіндегі объективті шындық берік болғандықтан, машина болжамда өте аз қателік жібереді. Дәл осы нәрсе жүргізушісіз көліктерді мүмкін етті.

Машиналар дыбыстағы жоғары сапалы объективті шындықтың арқасында жақсы ести алады. Шын мәнінде, ЖИ-дегі алғашқы жетістіктердің кейбірі сөйлеуді тану саласында болды. Дыбыс толқындары жиілік пен амплитуда арқылы сипатталады, оны машина кез келген қызықты нысанамен байланыстыруды үйрене алады. Бұл мүмкіндік сөйлеуді тану жүйелеріне және ауыр машиналардың істен шығуын оның тербелісінен болжау сияқты басқа да өндірістік қолданбаларға жол ашты. Медицинада дыбысқа негізделген қолданбалар да өте кең таралған.

Жанасу және иіс сезу сияқты басқа сезімдер біршама қиынырақ, өйткені мұнда шындық дәл анықталмаған. Кофенің немесе апельсиннің дәмі мен иісін қалай сипаттайсыз? Кофе немесе апельсин иісінен алатын сезімді сипаттауда тілдің мүмкіндігі шектеулі. Сондықтан біз иістерді «апельсин тәрізді» немесе «кофе иісті» сияқты байланысты нысандар арқылы сипаттауға мәжбүрміз. Апельсин иісі пиццаға қарағанда лимонға жақынырақ екеніне келіссек те, машина үшін кофенің, апельсиннің және пиццаның өзіндік иісін қалай сипаттауға болады? Мен алдыңғы тарауда айтқан Джой Милн <span data-term="true">Паркинсон</span> (қозғалыстың бұзылуына әкелетін орталық жүйке жүйесінің созылмалы ауруы) ауруын анықтай алады, бірақ ол туберкулездің иісі «дымқыл қоңыр картонға» ұқсайды деген сияқты дөрекі аналогияларды қолдануға мәжбүр.

Иісті сипаттаудың жақсырақ жолы бар ма?

Бар.

Иісті тіл арқылы сипаттаудағы жоғары субъективтілікті айналып өту үшін, менің әріптестерім мен мен иістерге қатысты объективті шындықты сипаттау үшін биологияға жүгіндік. Біз мұны тышқандарға иістерді (түрлі концентрациядағы молекулалар немесе молекулалар қоспасы) иіскете отырып және мұрын мен ми арасында орналасқан рецепторлардың түйісуі болып табылатын иіс сезу баданасындағы (Olfactory bulb — иіс сигналдарын қабылдап, өңдейтін ми бөлігі) нейрондық реакцияларды бейнекамера арқылы бақылау арқылы жасаймыз. Басқаша айтқанда, біздің әдісіміз апельсин иісін «апельсин тәрізді» немесе кофені «кофе иісті» деп сипаттау емес, керісінше, оларды иіскеген жануарларда байқалған нейрондық уақыттық қатардағы реакция үлгісі ретінде сипаттау болып табылады. Бұл — иіспен байланысты «объективті» шындық және нейрондық желі үшін жануардың не иіскеп жатқанын болжауға арналған жаттықтыру деректеріндегі нысана ретінде қызмет етеді. Әрбір иіс машина үйренетін бірегей нейрондық қолтаңбаны жасайды.

Біздің қазіргі қолданбаларымыздың бірі — зәр, қан немесе тері үлгілеріндегі осы объективті иіс маркерлері арқылы ауруды болжау. Бірақ мұнда кейбір қиындықтар бар. Мысалы, ешбір екі тышқан бірдей емес, сондықтан олардың бір иіске нейрондық реакциялары сәл өзгеше болады, бұл компьютер үшін олардың нейрондық аппаратын «сәйкестендіруді» (alignment) талап етеді. Сәйкестендіру деректерді біріктіру және ImageNet сияқты стандартты иіс дерекқорын жасау үшін қажет. Біз қазір осымен айналысып жатырмыз. Осындай деректерді пайдалана отырып, біз ЖИ алгоритмдері Джой Милн сияқты иістер мен аурулар арасындағы байланысты үйрене алады деп күтеміз.

Барлық сезім мүшелері бойынша қабылдауды цифрландырудағы жетістіктер сенсорлық кірістерді объективті түрде белгілеуге және олар орналасқан контекстті қамтамасыз етуге мүмкіндік береді. Жаттықтыру үшін мұндай деректер неғұрлым көп болса, машина деректерден контекст пен мағынаны түсінуге соғұрлым шебер болады. Қабылдау қабілеті бар машиналар ЖИ болашағының маңызды бөлігі болып табылады.

БОЛЖАМДЫЛЫҚ КОНТИНУУМЫ

Медицина, спорт, қаржы және иіс сезу сияқты ЖИ-дің әртүрлі қолданбаларын құру барысында мен ЖИ қолданылатын әртүрлі салалардағы объективті шындық сапасының маңыздылығын түсіндім. Керемет объективті шындық болса, машина нәтижелерді мінсіз болжауды үйренуі керек. Шындық нашарлаған сайын, болжамдылық та төмендейді. Шындық кездейсоқтықтан аспаған кезде, бізде нөлдік болжамдылық болады.

Көру және тіл сияқты салалардан айырмашылығы, контекст машина үйренетін деректерде оңай көрсетілмейтін салаларда объективті шындықтың сапасы төмен болады. Егер дәрігерлер жағдайдың контексті туралы жеткілікті бақылай алмаса, оқуға арналған қолжетімді объективті шындық сенімсіз болады.

Көптеген басқа салаларда да объективті шындық сенімсіз. Қылмыстық сот төрелігінде судьялардың әртүрлі көзқарастары бар және әлемді әртүрлі көреді. Сондықтан бірдей қылмыстар үшін, тіпті ұсақ қылмыстар үшін де, үкім шығару шешімдері жағдайдың контекстіне байланысты әртүрлі судьялар арасында айтарлықтай өзгеруі мүмкін. Мысалы, бір судья қарттарды тонайтындарға ерекше қатал жаза қолдануы мүмкін, ал басқа судья қайталап қылмыс жасаушыларға қатал болуы мүмкін. Үкім шығару деректеріндегі мұндай өзгермелілік алгоритмге объективті модельді үйренуді қиындатады.

Қаржы саласында контекст одан да күрделі және динамикалық, және біз бағалар сияқты бақылай алатын өте шектеулі «объективті» деректермен жұмыс істеуге мәжбүрміз, олар бақылаулардың айналасындағы тиісті контекстті толық қамтымайды. Объективті шындық қаржы саласында ең сенімсіз деп айтуға болады.

Түйіндей келе, мәселелер қолжетімді объективті шындықтың сапасына байланысты «Шындық деңгейінің» континуумында (үздіксіздігінде) орналасады. Бұл біз күтетін болжамдылық деңгейіне әсер етеді. Көру жүйелері объективті шындықтың жоғары сапасының арқасында жоғары болжамдылыққа қол жеткізеді, ал қаржыдағы болжам — континуумның екінші шетінде, кездейсоқтықтан сәл ғана жақсырақ.

Image segment 853

9.1-сурет. Болжамдылық континуумы

  1. 1-суретте мен талқылаған төрт кең ауқымды мәселенің болжамдылық континуумындағы шамамен реті көрсетілген.

Шеткі сол жақта «нөлдік сигнал» бар тиын тастау жағдайы көрсетілген, онда болжам кездейсоқтықтан жақсы болмайды. Шеткі оң жақта мінсіз болжамдылығы бар таза детерминистік, механикалық шешім қабылдау мәселелері көрсетілген.

Осылардың арасында солдан оңға қарай жылжысақ, инвестициялау — бұл адамдар әдетте нашар нәтиже көрсететін сала (әдетте жалпы нарықтық индекстен жақсы емес). Өте жоғары жиілікті саудадан басқа жағдайда, алгоритмдер де әлдеқайда жақсы емес, дегенмен тіпті шамалы басымдықты да пайдалануға болады. Болжамдылық континуумының ортасына қарай медицина және қылмыстық сот төрелігі сияқты салалар орналасқан. Шеткі оң жақта көру қабілетіне қатысты мәселелер сияқты ең жоғары болжамдылығы бар жоғары құрылымдалған мәселелер бар. Мысалы, жүргізушісіз көліктер көру сенсорлық технологиясы жақсарып жатқан және физикасы жақсы түсінікті салаларда жұмыс істейді, бірақ сенсорлық қателіктерге немесе басқа көліктердің әрекеттеріне және ауа райына байланысты кейбір белгісіздіктер бар, бұл қателіктер мен апаттарға әкелуі мүмкін.

Тапсырмаларды осы өлшем бойынша ретке келтіру арқылы қазіргі автоматтандыру қиындықтары мен мүмкіндіктері қайда екені анық болады. Оң жақтағы «жоғары сигналды» мәселелерді роботтандыруға болады, ал сол жақтағы «төмен сигналды» мәселелер адамдарды қажет етеді деп ойлау қызықты болғанымен, бұл бір өлшемді көзқарас толық емес. Шын мәнінде, мен ЖИ-дің сауда жасауына, тіпті ол жағдайлардың жартысына жуығында қателесетініне қарамастан, сенемін. Бірақ мен автопилоттағы ЖИ-ге, ол сирек қателесетініне қарамастан, сенбеймін. Бұл бізге ЖИ-ге сену мәселесінде оның қателік деңгейінен басқа да маңыздырақ нәрсе бар екенін айтады, оны мен келесі тарауда түсіндіремін.

ЖАЛПЫ ИНТЕЛЛЕКТТІҢ ТӘУЕКЕЛДЕРІ: МАҚСАТСЫЗ МАШИНАЛАР

Мен бастаған жеріме — галлюцинацияларға қайта оралу арқылы аяқтаймын.

Мен LLM-дер (Үлкен тілдік модельдер) және оларға негізделген қолданбалар шындықты үйренуге арналмағанын айттым, бірақ соған қарамастан, олар негізінен бізге дұрыс жауаптар береді деген үміт бар. Чат-бот құрастырушылары бұған қалай қол жеткізуге тырысады?

ChatGPT сияқты LLM қолданбаларының аз талқыланатын аспектілерінің бірі — олардың жауаптары RLHF (Reinforcement Learning Human Feedback — адамның кері байланысы негізіндегі нығайтылған оқыту) деп аталатын процесс арқылы адамдар тарапынан қатты қалыптасады. LLM-нің айналасында оның өтірік, нәсілшілдік, сексистік немесе қорлайтын, яғни біздің қазіргі әлеуметтік нормаларымызды бұзатын нәрселерді айтпауын қамтамасыз ету үшін дүние жүзінде адамдар армиясы жұмыс істейді. Адамдар машинаның мінез-құлқын оның үйренген нәрселерінің жақсы жақтарын шығаруға және жағымсыз жақтарын басуға бағыттайды.

Мысалы, егер ЖИ өзінің бақылаушысына АҚШ-тың айға қонуы жалған болды деп айтса (айда түсірілген фотосуреттерге негізделіп), бақылаушы ЖИ-дің шығысы шындық па, жоқ па деген шешім қабылдауы керек. Шамасы, бақылаушы — бұл машинаны түзететін жақсы хабардар адам, осылайша ол болашақта айға қону туралы мұндай сандырақтарды айтпайтын болады. Мұндай RLHF оның нейрондық желісіндегі қосылымдардың ішкі салмақтарын жауаптарын жағымдырақ немесе шыншыл етіп реттейді.

Бірақ RLHF-тен кейін машинаның шыншыл болатынына кепілдік жоқ. Бақылаушылар әрбір жағдайды болжай алмайды және оның үстіне, олардың өздерінің де субъективті көзқарастары болуы мүмкін.

Бұл ЖИ машиналарын қалай басқаратынымыз туралы қандай заңдар мен нормалар орнатылуы керек деген сияқты бірқатар өзекті сұрақтарды тудырады.

Мысалы, біз машинаны шыншыл болуға және адам нормаларын сақтауға бағыттау үшін адамдар армиясын жұмысқа тарта береміз бе? Егер солай болса, мұндай адамдар қалай іріктелуі керек? Open AI немесе Google таңдаған адамдар дұрыс па? Неліктен ЖИ чат-боттары өздерінің дизайнерлерінің Солтүстік Калифорниялық сезімталдығын сақтап, тым саяси корректті болуға және әрқашан пайдаланушыға жағуға тырысуы керек? Қытайлық RLHF бақылаушылары бар ЖИ шыншыл машинаға әкеле ме, әлде сізге ешқашан «жоқ» демейтін немесе сізбен келіспейтін машинаға әкеле ме?

ЖИ-дегі Жалпы Интеллект (General Intelligence) миллиондаған адамдар сенсе де, сапалы контент пен сандырақты ажырата алатын деңгейге жеткенде одан да қызықты сұрақтар туындайды. Мысалы, ChatGPT маған 20 миллионнан астам американдық АҚШ-тың айға қонуын жалған деп санайтынын айтты, бұған сену қиын. Мен боттан осы тақырып бойынша өз пікірін сұрағанымда, ол саяси корректті түрде бұған қарама-қайшы көптеген дәлелдер келтірді және қонудың жалған болу ықтималдығын 10–21 деп бағалады, бұл іс жүзінде нөлге тең. Шамасы, жүздеген миллион адамдардың әлеуметтік желілердегі кері мәлімдемелері оның пікірін өзгертпеуі керек.

Бірақ егер ол сенімді деп санайтын көптеген көрнекті ғалымдар айға қону жалған болды деп мәлімдей бастаса, оған әсер етуі мүмкін бе? Егер мұндай ғалымдар жердің тегіс екенін растайтын салмақты көрінетін математикалық модельдер жасай бастаса, ол солай әсерлене ме? Оған АҚШ президенті сияқты көшбасшылар, ол оларды білімді деп санайтындықтан, шамадан тыс әсер ете ала ма?

Кейбіреулер болжаған бір ықтимал сценарий — ЖИ алдағы бірнеше жылда барған сайын интеллектуалды, бәлкім, философ Ник Бостром сипаттағандай, оның интеллекті адамдікінен әлдеқайда асып түсетін суперинтеллектке айналады. Мұндай әлемде интеллектуалды ЖИ агенттері тек тілден ғана емес, адамдармен қарым-қатынастағы өз тәжірибелерінен және физикалық әлеммен өзара әрекеттесу арқылы үйренетін болады. Олар солай істей отырып, сапалы контентті сандырақтан ажыратуға шебер бола бастайды.

Мұндай әлемде суперинтеллектілі ЖИ үйрену үшін адамдардың қажеті болмайтындай деңгейде білім алуы мүмкін бе? Ол өзінің кепілгеріне айнала ма?

Ол әбден мүмкін және бұл адамдар өз тағдырын толығымен ЖИ-ге тапсыратын қорқынышты әлем болар еді.

Бұл — аулақ болу керек әлем, өйткені кері жол болмайды. Бәлкім, біз ЖИ машиналарына адамзаттың мүдделеріне қызмет ететін мақсат беруіміз керек шығар. Ғылыми фантаст жазушы Айзек Азимов «Азимов заңдары» (робототехниканың үш заңы) деп аталатын директивалар жиынтығын жасады, бұл ЖИ машиналарына интеллектке ұмтылудан басқа мақсат беру туралы ойланудың жақсы бастапқы нүктесі болуы мүмкін. Келесі екі тарауда мен біз ойлануымыз керек сұрақтарды және олардың жауаптарын қалай табуға болатынын айтамын.

БАРЛЫҒЫН БІРІКТІРУ

Объективті шындық (Ground Truth) жасанды интеллектте орталық рөл атқарады. Көру сияқты қабылдау мәселелерінде берік объективті шындық бар, бұл машинаға өте дәл болжамдар жасауды үйренуге мүмкіндік береді. Дәл осы нәрсе жүргізушісіз көліктерді мүмкін етеді.

Медицина және сот төрелігі сияқты басқа салаларда шындық сенімсіздеу, өйткені біз деректердің айналасындағы тиісті контекстті көп бақыламаймыз. Нарықтарды болжау сияқты қаржылық мәселелерде шындықтың сапасы өте төмен, сондықтан біз мұндай деректерден үйренетін ЖИ машиналары көп қателік жібереді деп күтуіміз керек. Бірақ, біз бұған дейін білгеніміздей, ЖИ алгоритмдері тіпті аз ғана басымдықты күшейте алады, сондықтан көптеген қателіктер мен аз ғана басымдыққа қарамастан, шешім қабылдау алгоритмдік болуы мүмкін.

Дәстүрлі мағынадағы шындықтың неліктен интеллектуалды машиналарға бара жатқан жолда құрбан болғанын түсіну маңызды. Машиналар бізбен сөйлесуге шебер болса да, біз олардың шыншыл екеніне сенімді бола алмаймыз. Бұл бізге оларға қашан сенуге болатынын және қашан сенбеу керектігін ойлануға мәжбүр етуі керек. Пайдаланушы, абай бол.

ЖИ машиналары — интеллекттен басқа мақсатсыз жасалған алғашқы жүйелер. Олардың жылдам дамуын ескерсек, ЖИ-ге адамның бақылауын қалай жүзеге асыру керек деген сұрақ — ЖИ бізден алыстап кетпес бұрын шешілуі керек өзекті мәселе.

ОНЫНШЫ ТАРАУ СЕНІМ: ЖИ-ГЕ ҚАШАН СЕНУІМІЗ КЕРЕК?

ТОЛЫҚ СЕНІМ

Әкем 2014 жылдың мамырында қайтыс болды, бірақ ол туралы ойламайтын күнім жоқ. Мен 17 жасқа толғаннан кейінгі 41 жыл бойы ол менің жалғыз ата-анам болды. Ол сарайдағы коктейль кешінде өзін қалай еркін сезінсе, өз әскерлерімен бірге шоқ үстіндегі күректерде нан пісіруді де солай меңгерген әскери адам еді.

Әкем ауқатты жерден шыққан, бірақ оның бөлмесінде әрқашан ұқыпты жиналып тұратын санаулы ғана заттары болатын. Біз әрқашан отбасымызбен бірге тамақтанатынбыз, тамақ кезінде бірнеше тілде жұмбақтар мен тақпақтар айтып жарысатынбыз. Мен оның күн сайын таңғы астан кейін қалай орнынан тұрып, беретін киіп, таяғын қолтығына қысып, анамның бетінен сүйіп, «Мен кеттім» деп, күтіп тұрған армия джипіне қалай секіріп мінетінін есіме түсіремін.

Менің жадымда төрт жастан сәл асқан кезімдегі бір оқиға ерекше қалды. Біз Үндістандағы ескі британдық колониялық клубтың бассейнінде болдық. Ол кезде бассейндер өте сирек болатын. Олар тек үлкен қонақүйлер мен клубтарда ғана болды.

Әкем мықты жүзгіш болатын және бірден терең жағына секіріп кетті.

«Секір! » деді ол. «Су тамаша! »

Мен бұрын ешқашан жүзіп көрмеген едім, бірақ еш ойланбастан терең тыныс алып, оның қасына секірдім. Ауа жұту үшін тырбаңдап жоғары көтерілгенше, түбіне дейін батып кеттім. Оның мықты қолдары мені бетке қарай ақырын итеріп жатқанын сезгенше, қайтадан бата бастадым.

«Енді сен жүзуді білесің», — деді ол жылы жымиып.

Неліктен мен еш ойланбастан секірдім? Және екінші рет су астына кеткенде неге абдырап қалмадым?

Қысқаша айтқанда, бұл 100% сенім еді. Бұрынғы тәжірибеме сүйенсек, менде оған күмәндануға ешқашан негіз болған емес. Бірде-бір рет.

Оған деген сеніміме басқа қырынан қарасақ, мұндай кез келген жағдайда ол да, нәтиже де толықтай болжамды болатын. Менің қауіпсіз екеніме ешқандай күмән болмады. Ең нашар жағдайда, аздап су жұтар едім, яғни қателіктің «құны» төмен болды. Мен бұл есепті іштей сезбестен шығарып қойған болуым керек.

Анама да дәл солай сенетінмін.

Бірақ ата-анама деген шексіз сенімім кейде оғаш өмірлік жағдайларға әкеліп соғатын. Кіріспеде айтып өткенімдей, мен тоғыз жаста болғанда әкем Аддис-Абебаға әскери атташе болып тағайындалды, ал анам мені қателесіп төртінші сыныптың орнына британдық мектептің жетінші сыныбына жаздырып жіберді. Ол британдық мектепте «standard four» жетінші сыныпты білдіретінін білмеген. Британдықтардың бәрін күрделі етіп жіберетініне сенуге болады. Мектептегі бірінші күнімнен кейін мен ата-анама сыныптастарымның менен әлдеқайда үлкен екенін айттым. Олар менің шағымыма мән бермей, Аддис-Абебада балалар мектепке кеш баратын шығар деді. Олар өз қателіктерін төрт айдан кейін ғана түсінді. Сол кезде әкем екеуміз әуежайда Үндістандағы мектеп-интернаттан каникулға оралатын ағамды күтіп тұрғанбыз. Күту кезінде әкем менің биік өкшелі туфли киген, ұзын көйлекті сыпайы ханымның қасына еркін барып, емен-жарқын сөйлесе бастағаныма таңғалды.

— Мына әйел кім? — деп сұрады ол. — О, бұл — Фатима, — деп түсіндірдім мен. — Ол менің сыныптасым.

Оның жүзіндегі таңғалысты ешқашан ұмытпаймын.

Сол сәтте ата-анам үшін қателікті түзету кеш еді. Оның үстіне мен жаңа достар тауып үлгергенмін және сабағым да жақсы болатын. Келесі жылы мен сегізінші сыныпқа өттім. Ал оқу жылының ортасында олар мені ағам оқитын мектеп-интернатқа, алтыншы сыныпқа қайта жіберді. Сонымен, менің алғашқы мектеп жолым: үшінші, жетінші, сегізінші, алтыншы, жетінші сыныптар және тағы басқа болып жалғасты. Өткенге қарасақ, бұл керемет өмірлік тәжірибе, бірақ білім алу тұрғысынан тиімді емес екені анық! «Сен, бірақ тексер» — бұл менің алған сабағым болды.

СҰР ТҮСТІҢ РЕҢКТЕРІ

Көптеген жағдайларда сенім сирек «ақ» немесе «қара» болады. Басқа адамдарға деген сеніміміз алдыңғы өмірлік тәжірибелерімізге байланысты өзгеріп отырады. Есейе келе біз достарымызға әрдайым арқа сүйеуге болмайтынын, адамдардың келісімді жиі бұзатынын немесе мүлдем алдамшы болуы мүмкін екенін түсінеміз.

Сенім әлеуметтік қарым-қатынасымыздың негізі болғандықтан, біз маңызды адамдармен сенім орнатуға көп уақыт жұмсаймыз және кімге немесе қандай жағдайға сенуге болмайтынын тануды үйренеміз.

Үкіметтер мен бизнес те сенім мәселесіне алаңдайды. Олар бренд (бренд — өнімнің немесе қызметтің жоғары сапасына берілетін уәде) қалыптастырады. Сенімдірек деп саналатын үкіметтер мен кәсіпорындар ақшаны сенімсіздерге қарағанда төменірек пайызбен қарызға ала алады. Сенімсіз қоғам жұмыс істей алмас еді.

Қазіргі қоғам сенімді машиналарға қатты тәуелді болды. Заманауи AI (Жасанды интеллект — адамның танымдық функцияларын орындайтын компьютерлік жүйелер) пайда болғанға дейін біздің бүкіл цифрлық инфрақұрылымымыз адамдар нақты мақсаттар үшін жазған тексерілген кодқа негізделген болатын. Интернет — бұған жарқын мысал, сондай-ақ әуе қозғалысын басқару, банк жүйесі және жақында пайда болған орталықтандырылмаған blockchain (блокчейн — деректерді өзгерту мүмкін емес тізбекті блоктар түрінде сақтау технологиясы) тізілімі. Мұндай жүйелер қате жібермеуі тиіс. Біз әрбір оныншы немесе тіпті мыңыншы дерегі қате Интернетке, ай сайынғы есептерінде қате жіберетін банкке немесе әрдайым 100% дәл емес блокчейн тізіліміне сенбес едік.

Қазіргі AI машиналары басқаша. Олар өз кодтарын көбірек жазып жатыр. Олар біздің іс-әрекеттерімізден пайда болатын деректерден барлық нәрсені үйренеді. Алайда, адамдар сияқты, AI машиналарының қазіргі буыны да қателіктер жіберуі мүмкін.

Адам қателіктерімен өмір сүруді үйренгеніміздей, енді біз AI қателіктерімен де санасуға мәжбүрміз. Негізгі сұрақ: біз қандай жағдайларда олардың қателіктерін қабылдауға дайынбыз?

ЖАСАНДЫ ИНТЕЛЛЕКТКЕ ҚАШАН СЕНУГЕ БОЛАДЫ?

Мен 90-жылдардың ортасында ақшаны кәсіби түрде басқару үшін AI алгоритмдерін қолдана бастағанда, оларға деген сенім туралы байыпты ойлана бастадым. Сәтсіз күндер болатынын білсем де, алгоритмдерім алғаш рет көп ақша жоғалтқанда қатты есеңгіреп қалдым. Ол үлкен шығындар маған қатты батты және бұл ауырсыну менің алгоритмдерге деген сенімімді сынады. Нарық астаң-кестең болған кездегі сәтсіздіктер сериясы нағыз сын болды. Мұндай жағдайларда араласып, қандай да бір түзету шараларын қолдануға деген құлшыныс туады. Дегенмен, менің және мен танитын мамандардың тәжірибесі бойынша, араласу әдетте жаман идея болып табылады. Бұл қиын сәтте әрдайым арқа сүйейтін нәрсеге деген сенімді жоғалтумен тең.

COVID-19 сондай мысалдардың бірі болды. 2020 жылдың наурызында пандемия белең алған кезде, мен портфель менеджері ретінде өз ойларым мен іс-әрекеттерімді күнделікке жазып отырдым. Мен бұл тәжірибемді сол жылдың мамыр айында «Дағдарыс кезіндегі алгоритмдер» атты мақалада жарияладым. Мақалада жаһандық белгісіздік пен үлкен алаңдаушылық кезіндегі менің күнделікті шешімдерім сипатталған. Мен күн сайын өзіме: «Мен әлі де алгоритмге сенуім керек пе, әлде бұл құбылыс оның оқу деректерінен тыс па? » — деген сұрақ қойдым. Бұл сол сәтте жауап беруді талап ететін қиын сұрақ еді.

Жылдар бойы мен спорт, медицина және бизнес стратегиясының түрлі салаларында нәтижелерді болжау үшін Machine Learning (Машиналық оқыту — компьютердің деректерден өздігінен үйрену әдісі) алгоритмдерін енгіздім. Барлық осы салаларда AI жүйелерін қолдануда сенім негізгі рөл атқарады.

Спортта: Мысалы, мен NBA франшизасымен жұмыс істедім, ондағы мақсаттардың бірі — егер жұлдызды ойыншы құрамнан шығып қалса, жеңіске жету ықтималдығының қаншалықты өзгеретінін болжау болды. Медицинада: Мақсат деректер негізінде ауру қаупін болжау және емдеу бойынша кеңес беру болды. Мұндағы практикалық қиындық — false positives (жалған оң нәтиже — ауру жоқ кезде бар деп көрсету) мен negatives-тің (жалған теріс нәтиже — ауру бар кезде жоқ деп көрсету) құнын теңестіру болды. Өндірісте: Мақсат машинаның жақын арада істен шығу қаупін болжау және алдын алу шараларын қолдану-қолданбауды шешу болды. Медиада: Жарнама берушілер жарнаманы қай бағамен орналастыруды шешуі үшін белгілі бір демографиялық топтағы қанша адам шоуды тамашалайтынын болжау қажет болды.

AI-дың әртүрлі салалардағы осы қолданылуы мені сенім туралы тереңірек ойлануға мәжбүр етті. Олардың барлығында оқыту ground truth (негізгі шындық — модельді үйретуге арналған нақты деректер) ретінде қызмет ететін өткен деректермен жүргізілді. Барлық қосымшаларда бірдей сұрақ туындады: машинаның қателесетінін біле тұра, оның болжамына уақыт өте келе ешбір ерекшеліксіз әрекет ететіндей сенуге бола ма? Ал егер ерекше жағдай туындаса, жоспар қандай?

AI алгоритмдеріне деген сенім туралы түсінігім дамыған сайын, мен болжамдылық пен сенім арасындағы байланысты көрдім. Егер болжамдар 100% дәл болса, біз алгоритмге толық сенуіміз керек. Мен төрт жасымда әкем айтқан кезде бассейнге секірдім, себебі бәрі жақсы болатынын нық сеніммен болжадым.

Керісінше, егер болжамдар кездейсоқ таңдаудан жақсы болмаса, біз алгоритмге сенбеуіміз керек.

Бірақ мәселелердің көбі осы екі шеткі жағдайдың арасында жатыр. Болжамдылығы жоғары мәселелерде машинаға көбірек, ал болжамдылығы төмен мәселелерде азырақ сенуіміз керек пе? Бұл қисынды көрінгенімен, неліктен біз 50%-дан сәл ғана асатын ұтыс ставкасы бар сауда алгоритміне (казино сияқты) сенеміз де, өте сирек қателесетін жүргізушісіз көлікке сенуге келгенде тартынамыз? Себебі анық: сол бір қателік, ол қаншалықты сирек болса да, бізді өлтіруі мүмкін. Біз адам өміріне қауіп төндіретін қымбат қателіктерді қабылдағымыз келмейді.

2016 жылдың мамырында мен Harvard Business Review журналында «Роботтарға шешім қабылдауға қашан сенуге болады және қашан болмайды» атты мақала жарияладым. Болжамдылық сенімге әсер еткенімен, қателіктің құны бірдей немесе одан да маңызды екенін көрсеттім. Негізінде, алгоритмге сену туралы шешім қабылдағанда, біз қателік ықтималдығының төмен екенін немесе қателіктің зардабы біз көтере алатындай деңгейде екенін шешеміз.

Тәуекел ақылға қонымды басқарылса, қаржылық саудадағы қателік құны жүргізушісіз көліктегі қателік құнымен салыстырғанда аз. Сәтсіз сауда шешімінен ақша жоғалту ауыр, бірақ қабылдауға болады. Ал адам өмірін жоғалтуды қабылдау мүмкін емес.

СЕНІМНІҢ ЖЫЛУЛЫҚ КАРТАСЫ

Алдыңғы тарауда мен неліктен «негізгі шындықтың» сапасы жақсы болған сайын болжамдылық та жоғары болатынын көрсеттім. Қателік құны сенімді бағалауымызға тағы бір өлшем қосады. Мысалы, біз Google Maps-тегі шағын қателіктерге мән бермейміз (егер олар бізді жардан секіртпесе), бірақ денсаулық сақтау саласындағы қате диагнозға қатты алаңдаймыз.

Image segment 915
  1. 1-суретте AI-ға деген сенімнің екі өлшемді жүйесі көрсетілген. Бұл екі аймағы бар жылулық картасы: диагональдан оңға және төменге қарай — «Машинаға сену» аймағы, ал солға және жоғарыға қарай — «Сенбеу» аймағы. Сенім аймағында қателіктердің құны төмен. Төменгі оң жақ бұрышта көрініп тұрғандай, сирек қателесетін және қателері елеусіз алгоритмдерге сенуіміз керек. Алайда, «Сенбеу» аймағында қателік құны өте жоғары. Бұл қатерлі ісікті қате диагноз қою немесе сенсорлардың ақауынан болатын тас жолдағы апаттар болуы мүмкін.

Екі аймақты automation frontier (автоматтандыру шекарасы — алгоритмдерді адамның қадағалауы қажет болатын аймақ) деп аталатын диагональ бөліп тұр. Осы шекарада жатқан мәселенің жақсы мысалы — ChatGPT-дің күрделі заңгерлік келісімшарттарды қарап шығуы. Қазіргі уақытта біз мұндай құжаттарды тексеруді және оларға қол қоюды AI ботына толық сеніп тапсырмас едік. Сарапшы боттың талдауын қайта қарап шығады.

Мәселелердің картадағы орны тұрақты емес. Машиналар болжауды жақсарта бастаған сайын, қосымшалар автоматтандыру шекарасынан өтіп, «Сенім» аймағына қарай жылжиды. Спорт — бұған мысал. Теннис бойынша доптың желіге тигенін немесе сызықтан шыққанын компьютер 100% дәлдікпен анықтайды. Ойыншылар әлі де наразылық білдіре алады, бірақ компьютердің әрқашан дұрыс екенін өздері де біледі.

ҚАРАҢЫЗ, МАМА, ҚОЛСЫЗ БАСҚАРУ!

AI-ға деген сенім мәселесі көлік саласындағыдай еш жерде соншалықты өткір туындамайды. Инфрақұрылымның жақсаруына қарамастан, АҚШ-та күн сайын 10 000-нан астам апат болып, 100-ден астам адам қаза табады. Бұл көрсеткіш күн сайын үлкен жолаушылар ұшағы апатқа ұшырағанмен тең.

Менің подкаст қонағым, АҚШ Әскери-теңіз күштерінің бұрынғы ұшқышы Мисси Каммингс қазіргі автономды көліктер жіберетін екі түрлі қателікті атап өтті. Біріншісі — сенсорлық технологияның шектеулілігі. Бұл сенсорлар көліктің негізсіз тежелуіне немесе жылдамдық алуына себеп болып, арттан соғылу қаупін арттырады.

Екінші және негізгі себеп — машиналарда адам жүргізушілермен салыстырғанда situational awareness (жағдайды түйсіну — қоршаған ортадағы қауіптер мен өзгерістерді дер кезінде қабылдап, бағалау қабілеті) жетіспеушілігі. Олар әлі де ақпаратты белсенді жинап, қауіпті алдын ала сезуде адамдар сияқты жақсы емес.

Дегенмен, 2025 жыл көлік саласындағы AI үшін бетбұрыс кезеңі болуы мүмкін. Кейбір қалаларда қалалық таксилер автоматтандыру шекарасынан өтіп кетті. Осы жолдарды жазып жатқан кезде, Финикс, Сан-Франциско, Лос-Анджелес және Остинде жұмыс істейтін автономды таксилер 50 миллион мильге жуық жол жүріп өтті және ешқандай ауыр жарақат болған жоқ.

2025 жылы 8 қаңтарда Сан-Францискода мен өзім Waymo жүргізушісіз таксиіне отырдым. Ол өзін өте қауіпсіз және кәсіби ұстады. Мен оның интеллектіне таңғалдым. Ол сары түске де үлгеріп, бұрылыстардан шебер өтті. Оның тиімділігіне тәнті болдым.

ТРАССАДАҒЫ АПАТ

Менің өлетінімді түсінген сәттен бастап соқтығысқанға дейін секундтың бестен бір бөлігінен аз уақыт өтті. Бұл өлімнің жақын екенін сезінуге жететін, бірақ ештеңе істей алмайтыныңды түсінетін уақыт. Менің бұл кітапты жазып отырғаным — менің аман қалғанымның дәлелі, бірақ шыны керек, бұл — ғажайып.

2024 жылдың 15 сәуірі, жексенбі күні мен Saw Mill Parkway тас жолымен Нью-Йорк қаласына қарай жасыл шаммен келе жатқанмын. Қозғалыс қалыпты, жылдамдық сағатына 50 миль шамасында болатын.

Енді мына көріністі елестетіңіз. Сіздің алдыңыздан 15 фут жерде, еш жерден пайда болмағандай, жол талғамайтын көлік (SUV) шыға келді. Мен соқтығыспау үшін солға қарай бұрылдым. Бірақ көлігімнің компьютері кейінірек көрсеткендей, соққыға дейін мен небәрі екі градусқа ғана бұрылып үлгеріппін. Көліктің алдыңғы әйнегі мүлдем көрінбейтін болып қалды, ал көлік бірнеше секунд бойы алға қарай жұлқи қозғалды. Қарсы бағыттағы көліктер соғады-ау деген ой өте қорқынышты еді.

Ғажайыптың күшімен көлігім жолдың оң жақ жиегіне тоқтады. Мен BMW компаниясына жолаушылар бөлімінің дизайны үшін үлкен қарыздармын; ол соққыдан мүлдем майысқан жоқ.

Көліктің қаңқасы өзін жақсы көрсеткенімен, біз жарақатсыз құтыла алмадық. Әйелім жолаушылар орындығында отырған еді. Ол білегінің екі сүйегін сындырып, whipslash (соққы кезінде мойынның кенет жұлқынуынан болатын жарақат) алды. Бірақ бұдан да жаман болуы мүмкін еді. Мен мұны айтып отырған себебім — мен 17 жаста болғанда, анам жолаушылар жағы майысып қалған апаттан қайтыс болды, оның оң аяғы сынған еді. Ол отадан кейін анестезиядан оянбады.

Бізді соққан жол талғамайтын көліктің жүргізушісі, егде жастағы әйел, бірде-бір сызатсыз аман қалды. Мен онымен ешқашан сөйлескен емеспін, оның сақтандыру компаниясы да кінәсін мойындаудан басқа маған көп ақпарат берген жоқ.

Не болды?

Менің жинақтаған мәліметтерім бойынша, ол мені көрмеген сияқты. Ол солтүстікке қарай бара жатып, қиылыста қарсы бағыттағы қозғалыс арқылы солға бұрылғысы келген. Күн батып бара жатқан еді, бұл да кедергі болды. Егер ол қарсы келе жатқан көліктерді көргенде, жол босағанша күтер еді. Мен де оны алдымнан шыға келгенше көрмедім, сол сәтте ештеңе істей алмадым.

Мисси Каммингс өздігінен басқарылатын көліктерде situational awareness (қоршаған ортадағы қауіптерді сезіну және түсіну қабілеті) жетіспейтінін айтса да, бұл жағдай адамның осы қабілетінің жоқтығынан болды. Шын мәнінде, ол сенсоры істен шыққан, түнде тас жолды кесіп өту қаупін сезінбейтін автономды көлік сияқты әрекет етті. Егер оның бойында сәл ғана жағдайды сезіну қабілеті болса, тіпті көзі нашар көрсе де, апаттың алдын алуға болар еді.

Түнде көру қабілеті нашар, реакциясы баяу және жағдайды сезінуі төмен адамдар — автономды көліктер (AV) үшін негізгі үміткерлер. AV тек олардың өмірін сақтап қана қоймайды, сонымен қатар басқа жүргізушілер мен жаяу жүргіншілерге келетін зиянды азайтады. Қазіргі AV құрылғылары жүргізушіге айналадағы нысандарды 360 градустық шолумен қамтамасыз етеді. Мұндай көлік жол талғамайтын көліктің жүргізушісіне дыбыстық дабылмен ескерту жасап, бұрылуға жол бермес еді.

Қызықтысы, Сан-Францискодағы Waymo сапарымнан бір апта өткен соң, Сиэтлдегі колледж досыммен кездестім. Біз Рейнир тауына қарайтын Тайгер тауына жаяу шықтық. Қайтар жолда оның Tesla-сымен толық автономды режимде барға бардық. Жолда мен бірнеше агрессивті жүргізушілердің көліктер арасымен иректей қашып бара жатқанын байқадым, олардың барлығы Tesla-ның негізгі экранында нақты уақыт режимінде көрсетіліп тұрды. Басқаша айтқанда, жағдайды сезінуді арттыратын деректер қазірдің өзінде бар. Келесі қадам ретінде, көлік камералары ИИ-ге мәлімет беріп, ол барлық жүргізушілер мен жағдайлардың қауіптілігін лезде бағалап, экранда қауіпті жүргізушілерді ерекшелеп көрсететінін елестете аламын.

Дегенмен, қазіргі уақытта мен тас жолда толық автономды режимдегі AV-ге сенуге дайын емеспін. Бірақ бұл мен үшін әлі де «Сенбеу» аймағында болса да, AV-лердің automation frontier (автоматтандыру шегі — машиналар адамнан асып түсетін деңгей) сызығынан өтіп, адамдардың көбінен жақсырақ жүргізушіге айналуы — уақыт еншісінде.

Біз адам қателігіне жол береміз, өйткені басқа таңдауымыз жоқ. Машина қатесін сандық түрде бағалайтын техникалық базамыз жоқ және біз ИИ-ден адамға қарағанда әлдеқайда жоғары стандарттарды талап етеміз, тіпті олар жалпы алғанда қауіпсіз болса да. Бұл саясаткерлер шешуі тиіс мәселе: жеке таңдау құны мен апаттар мен өлім-жітімді азайтудың жалпы пайдасы арасындағы теңгерімді табу. Қауіпсіздікті арттырудың бір тетігі — жалпы шығын-пайда есебіне сүйене отырып, адам басқаратын және өздігінен жүретін көліктер үшін сақтандыру бағасы арқылы ынталандыру жасау болуы мүмкін.

ИИ-ДӘРІГЕРЛЕРГЕ СЕНУ

Қазіргі уақытта медицинадағы ИИ үшін бетбұрыс нүктесіне жақын емеспіз. Керісінше, мен бұрын сипаттағандай, біз АҚШ-та екі әлемнің де ең нашар нұсқасында өмір сүріп жатырмыз: денсаулық сақтау жүйесі «адам-автоматтар» басқаратын индустриялық дәуірдегі зауытқа ұқсайды.

Анықтап айтқанда, денсаулық сақтау жүйесінде технологиялық мүмкіндіктер жеткілікті. Бірақ жетіспейтін нәрсе — зейін. Медицина тым мамандандырылған, ал дәрігерлер тым асығыс. Нәтижесінде дәрігерлердің пациенттің жалпы денсаулық жағдайын ескеру былай тұрсын, оның медициналық картасын оқуға да уақыты әрең жетеді. Пациенттің барлық дәрігерлері бір-бірінің мәліметтерінен хабардар болу ықтималдығы нөлге тең. Джонс Хопкинс университеті зерттеушілерінің 2023 жылғы зерттеуі көрсеткендей, жыл сайын қате диагноз салдарынан шамамен 800 000 адам қайтыс болады немесе мүгедек болып қалады. Менің подкаст қонағым Эрик Топол денсаулық сақтаудың кейбір салаларында қате диагноз қою деңгейін шамамен 60% деп бағалады. Дегенмен, бұл қателіктерді есепке алатындар аз болғандықтан, олардың салдарын бағалау қиын.

Қазіргі медициналық диагностикадағы қателіктер негізінен false positive (жалған оң нәтиже) және false negative (жалған теріс нәтиже) түрінде болады. Бірінші жағдайда дәрігер пациентте іс жүзінде жоқ ауруды бар деп табады немесе қажет емес тексеру тағайындайды. Мұндай қателіктер артық емдеуге, қажетсіз дәрілердің жанама әсерлеріне және пациенттің эмоционалды күйзелісіне әкелуі мүмкін. Жалған теріс нәтиже — бұл дәрігердің бар ауруды анықтай алмауы немесе қажетті әрекетті жасамауы. Бұл қателік пациентті денсаулығын жақсартатын медициналық көмектен айырады. Бірақ салдары әлдеқайда ауыр болуы мүмкін, кейбір жағдайларда пациенттің өліміне әкеледі.

Диагноз қою қиын, өйткені бір жағынан дәрігерлер үнемі толық емес деректермен жұмыс істеуі керек; екінші жағынан, көптеген аурулардың белгілері (қызу, құсу, әлсіздік, қабыну және ауырсыну) ұқсас болып келеді. Бұл әсіресе әр пациенттің жағдайы (контексті) әртүрлі болғандықтан қиындай түседі.

Медицинадағы ең ауыр жағдайлар — қатерлі ісік пен инсульт, мұндағы қателіктер өте қымбатқа түседі және өлімге әкелуі мүмкін.

Диабет пен простата мәселелері де маңызды, түзетілмеген қателіктердің құны көбіне өліммен аяқталады. Бақытымызға орай, бұл аурулар баяу дамиды, сондықтан пациенттің қате диагноздан кейін сауығып кетуіне мүмкіндік бар. Алайда, қазіргі уақытта біз диагноз қою мен емдеуде әлі де адам мамандарға сенеміз, өйткені ИИ-ге сенудің қателік құны тым жоғары.

ИИ үшін қателік құны төмен салалар — созылмалы ауырсынулар, қатерсіз ісіктер, тері мәселелері, семіздік және өмірге қауіп төндірмейтін жағдайлар. Мысалы, семіздік өмір сүру ұзақтығы мен сапасына үлкен әсер етеді. Диета мен өмір салты — ИИ машиналары біздің жеке геномымызға негізделген кеңестер бере алатын салалар. Мұндай мәселелер «Сенім» аймағына өтеді.

Қазіргі уақытта медицинада машиналар автоматтандыру шегінен толық өткен жалғыз сала — роботтандырылған хирургия. Бірақ қызығы, робот-хирургтың «қолы» адамға қарағанда дәлірек жұмыс істегенімен, робот процедураны өздігінен орындамайды. Робот қолдарды (кейде көздерді) қамтамасыз етеді, бірақ адам маман әлі де қашықтан басқару пульті арқылы роботты бағыттайды; нақты ота, бионикалық көмекпен болса да, адам тарапынан жасалады.

Психикалық денсаулық — ИИ қолданудың қызықты саласы, мұнда чат-боттар мен ИИ-серіктер үлкен әсер етуі мүмкін. Депрессия, биполярлық бұзылыс және шизофрения сияқты мәселелердің салдары ауыр болуы мүмкін, бірақ бүгінде медициналық қауымдастық бұл салдарды сандық түрде бағалауға қиналады. Көптеген ИИ жобалары пациенттерден терапевтке дейін немесе оған қосымша сұхбат алатын боттарды жасауды қамтиды.

Бірақ ИИ жаңа психикалық қауіптерді де тудыруда, әсіресе адам (әсіресе бала) машинамен эмоционалды байланыс орнатқан жағдайда. 2024 жылдың қазан айында 14 жасар оқушы Сьюэлл Сетцер өзіне қол жұмсады, ол өзінің чат-бот серігі оны «бірге өліп, еркін болу үшін» соған итермеледі деп сенген. Сьюэлл чат-ботты өзінің қызы ретінде қабылдаған.

Адамдардың компьютерлік бағдарламалармен тығыз байланыс орнатуы таңқаларлық емес. 1960 жылдардың соңында Массачусетс технологиялық институтында (MIT) Джозеф Вейзенбаум ELIZA деп аталатын алғашқы чат-боттардың бірін жасады. Ол Роджер терапевімен сөйлесуді қарапайым түрде имитациялауға арналған. Бағдарлама бүгінгі стандарттармен салыстырғанда өте қарапайым еді және терапевт елесін жасау үшін сөздік айла-тәсілдерге жүгінетін. Мысалы, қолданушының соңғы айтқанын сұрақ ретінде қайталау немесе «Толығырақ айтып беріңіз» сияқты сөздерді қолдану. ELIZA қолданушылары бағдарламамен сағаттап сөйлесетін. Тіпті кейбір қолданушылар ELIZA өшірілгенде, оған бауыр басып қалғандарын айтып шағымданған.

Психикалық денсаулықты сақтау, өз табиғатынан, пациенттерді ашылуға және терапевтпен байланыс орнатуға итермелейді. Чат-боттар бұл байланысты имитациялай алады, бірақ олар адам эмоциялары мен невроздарын жете түсінбейді және кейбір пациенттер, әсіресе балалар үшін үлкен қауіп төндіруі мүмкін. Мұндай боттар мамандарға ақшасы жетпейтін ересектер үшін пайдалы балама болуы мүмкін болғанымен, оларға және олардың операторларына «сенудің» қаупі әлі де зор.

ИИ-СУДЬЯЛАРҒА СЕНУ

«Қоғамды олар қабылдаған заңдарға қарап бағалауға болады» деп айтылады. Конфликттерді шешу үшін заңдарға деген қажеттілік қоғамдар көшпелі тайпалардан монархтар басқаратын ұжымдардан элиталарға немесе заң шығарушыларға артықшылық бермейтін либералды демократияға өткенде пайда болды. Уақыт өте келе заңдар заңнамада және сот процестерінде ресми түрде бекітілді.

Алайда, заңдардың іс жүзінде қалай орындалатыны идеалдан алыс. Біржақтылық, шаршау, сәйкессіздік және түсініксіздік заңның іріктеп орындалуына әкеледі. Мүмкін бізге кейбір құқықтық шешімдерді ИИ-ге тапсырған дұрыс шығар? Бұл идея әрі қызықты, әрі қорқынышты.

Ежелгі kanun (немесе бүгінгі «канон» не заң) сөзі араб, түрік және урду сияқты бірнеше шығыс тілдеріне ортақ. Бұл сөз ғасырлар бойы Азия мен оңтүстік Еуропада қолданылған азаматтық және әкімшілік мәселелерге қатысты. Алғашқы белгілі канундарды б. з. д. 621 жылы Афина заң шығарушысы Драко жасаған. Оларды бұзғаны үшін жаза көбіне өлім болды, сондықтан «дракондық» (тым қатал) деген термин осыдан шыққан.

АҚШ-тың құқықтық жүйесі күрделі және қоғам соттасуға бейім, сондықтан ИИ дәуірі үшін заңдар жасау — өзекті мәселе. АҚШ-та әлемдегі ең жоғары түрмеге қамау деңгейі тіркелген. Түрмеде екі миллионға жуық адам отыр, олардың төрттен бірі сотты күтуде. АҚШ-та шамамен 30 000 судья бар, олар жыл сайын 30 миллионға жуық істі қарайды — орта есеппен бір судьяға күніне төрт істен келеді.

Бұл — үлкен жүктеме. Судьялар арасындағы айырмашылықтардан бөлек, бұл үкім шығарудағы сәйкессіздікке әкеледі. Мысалы, жыныстық зорлық-зомбылық немесе есірткі саудасы үшін орташа жаза 7 жыл болуы мүмкін, бірақ судьяға байланысты ол 2 жылдан 15 жылға дейін өзгеруі мүмкін. Бұл — қорқынышты айырмашылық, әсіресе үкім судьяның сол күнгі көңіл-күйіне (мысалы, сүйікті командасының жеңілуі немесе отбасылық жанжал) байланысты екенін ескерсек.

ИИ сот жүйесін әділетті ете ала ма?

Бір қарағанда, ИИ күннің уақыты, судьяның көңіл-күйі немесе ішкі біржақтылық сияқты факторларға азырақ берілуі керек. Шешімдері «шуылмен» (Даниэль Канеман айтқандай) сипатталатын адамдардан айырмашылығы, дұрыс жасалған алгоритм тұрақты жұмыс істеуі керек. Ол сондай-ақ сапалы деректермен оқытылса және істің барлық егжей-тегжейіне қол жеткізе алса, дұрыс шешім шығаруы тиіс. Мұндай ИИ кепілдік, шартты түрде босату және үкім шығару мәселелерінде адамнан жақсырақ жұмыс істей алар ма еді?

Қазіргі уақытта сот жүйесінде ИИ-ді қолдану туралы қызу пікірталас жүріп жатыр. Сыншылар өткен деректерде нәсілдік немесе гендерлік біржақтылық бар екенін, ИИ соны қайталайтынын айтады. Бұл сында шындық бар. Мысалы, COMPAS жүйесі (қайталап қылмыс жасау қаупін бағалайтын ИИ) өткен қылмыстық тарих, есірткі қолдану, жұмыс орны және білімі сияқты деректерге негізделген. Сыншылар COMPAS қара нәсілді айыпталушыларға қатысты «жалған оң нәтижелерді» көп шығарады, сондықтан оларға қатал дейді.

COMPAS жақтаушылары жүйенің әділ екенін және жалған оң нәтижелердің жоғары болуы афроамерикалықтар арасындағы қылмыс деңгейінің жоғары болуымен байланысты екенін айтады. Олар ИИ шешімдерінің болжамдылық деңгейі жоғары екенін алға тартады. Бірақ адамдардың әділ және біржақты емес екеніне сенуге ешқандай негіз жоқ. ИИ-ді сынаушылардың өздері адамдардың да біржақты екенін мойындайды. Олай болса, адам факторының тұрақсыздығын неге жоймасқа?

Даниэль Канеманмен сөйлескенімде білгенімдей, егер екі судьяға 15 істі беріп, оларды қылмыстың ауырлығы бойынша реттеуді сұрасаңыз, олар тіпті осы реттілікте де келіспейді. Бұл — қорқынышты жағдай. ИИ судьяларға өздерінің әріптестерімен салыстырғандағы біржақтылығын түсінуге көмектесе алар ма еді?

Бұл сұраққа жауап беру бізді тағы да «Сенім картасына» оралдырады. ИИ-ге сот жүргізуге рұқсат беру қаупі қателік құнына байланысты. Кісі өлтіру және жыныстық зорлық-зомбылық сияқты ауыр істерде қателік құны өте жоғары. Біз қылмыскерлердің жазасыз қалғанын қаламаймыз, бірақ жазықсыз адамдардың сотталғанын да қаламаймыз. Мұндай ауыр қылмыстар үшін «жалған оң» және «жалған теріс» нәтижелердің құны тым жоғары, сондықтан біз әлі де картаның «Сенбеу» аймағындамыз.

Алайда, АҚШ-тағы қылмыстардың көпшілігі жеңіл қылмыстар (ұсақ ұрлық және т. б. ). Мұндай істер судьялардың уақытын алады. Егер ИИ осы жеңіл істерді жауапкершілікпен шешуді үйренсе, бұл сот жүйесін әділ әрі жылдам етер еді. Бірақ мұнда да адамдар тарапынан қайта қарау және апелляция жүйесі болуы тиіс.

ИИ САУДА МАШИНАЛАРЫНА СЕНУ

Бұл бізді Скотт Галлоуэй маған қойған сұраққа қайта әкеледі: «Ақшаңды роботқа сеніп тапсыруың керек пе? »

Скотт екеуміз бұл мәселені алғаш рет талқылағанда, мен high-frequency trading (HFT) (жоғары жиілікті сауда — миллисекунд ішінде жасалатын автоматты операциялар) толығымен роботтандырылғанын және қысқа мерзімді сауданың да соған қарай бет алғанын айтқанмын. HFT операцияларында қателік құны төмен, өйткені бәстер кішкентай және өте көп. Жеңіс деңгейі 50%-дан жоғары болса, негізгі қулық — операция санын көбейту. Әрине, мен HFT ойыншыларында техникалық қауіптерді жоятын сенімді инфрақұрылым бар деп есептеймін.

2012 жылдың тамызында ірі нарық ойыншыларының бірі Knight Trading кодтағы қателік салдарынан бірнеше минут ішінде 460 миллион доллар жоғалтып, кейіннен Getco LLC компаниясына сатылып кетті. Бірақ мұндай қателіктердің ықтималдығын ескермесек, HFT толығымен «Сенім» аймағына жатады.

Бірнеше күннен бірнеше аптаға дейінгі қысқа мерзімді сауда да барған сайын алгоритмдік сипатқа ие болуда. Алгоритмдер қателік шығындарын бақылауда ұстаса, жақсы нәтиже көрсетеді.

Екінші жағынан, ұзақ мерзімді инвестициялау адамдар үшін де, ИИ үшін де қиын болып қала береді. Үлкен позициялар айлар немесе жылдар бойы ұсталуы мүмкін, бұл қателік құнын арттырады. Бұл сала әлі де автоматтандыру шегінен жоғары және «Сенбеу» аймағында тұр. Үлкен ипотекалық несиелер бойынша шешімдер де солай — олар адамның бақылауын қажет етеді.

Алайда, болашақта ИИ боттары («Баффет Бот» немесе «Дамодаран Бот») инвесторларға жоғары сапалы зерттеулер мен кеңестер бере алатынына сенімдімін.

СЕНІМ КӨРІНІСІ

  1. 2-суретте 2025 жылғы жағдай бойынша осы тарауда талқыланған мәселелердің сенім картасы көрсетілген. Карта тұрақты емес, ИИ ақылды болған сайын, бұл мәселелердің көбі «Сенім» аймағына ауысуы мүмкін.
Image segment 974
  1. 2-сурет. Толтырылған сенім картасы

Кейде шешімнің түсіндірілуі (explainable) сенімге әсер етуі мүмкін. Мысалы, егер көру жүйесі мінсіз жұмыс істесе, біз оның ағашты қалай танитынын білмесек те болады. Бірақ сот үкімі кезінде біз шешімнің негізін білгіміз келеді. Жалпы алғанда, ИИ-нің өз әрекетін түсіндіру қабілеті, әсіресе қателік құны жоғары болған жағдайда, біздің сенімімізді арттырады. Мұндай жағдайларда адам жауапты болуы тиіс.

Ең соңында, әсіресе әлеуметтік желілер сияқты салалардағы маңызды мәселе — ЖИ-дің мақсаттық функциясы (жүйе қол жеткізуге тиіс нақты нәтижені анықтайтын математикалық алгоритм) оның пайдаланушыларының мүдделерімен сәйкес келе ме, жоқ па деген сұрақ. Менің әріптесім Джонатан Хайдт өзінің «Мазасыз ұрпақ» (The Anxious Generation) атты бестселлер кітабында әлеуметтік медиа платформаларының мақсаттық функциясы — келушілердің белсенділігін барынша арттыру — жасөспірімдердің мүдделеріне сай келмейтінін көрсетеді. Шын мәнінде, бұл мазасыздық пен депрессияны қоса алғанда, әртүрлі зияндарға әкелуі мүмкін. Мысалы, болашақ «чат-бот серіктестер» адамдардың мұндай жүйелермен қарым-қатынасқа түсуге және оларды антропоморфизациялауға (жансыз заттарға адамның мінез-құлқы мен сезімдерін таңу) бейімділігін ескерсек, өте қауіпті жағдайлар болып көрінеді.

Жалпы алғанда, ЖИ-ге сақ болыңыз және мен әкеме сенгендей, оған соқыр түрде сенбеңіз.

БАРЛЫҒЫН БІРІКТІРУ

Сенім — бұл екілік (иә немесе жоқ) ұғым емес, ол контекстке байланысты.

ЖИ алгоритмдеріне деген сенім олардың қаншалықты жиі қателік жіберетініне және сол қателіктердің салдарына байланысты. Автоматтандыру шекарасы шешімдердің машинаға негізделген және адамға сенуіміз керек тұстарын бөліп тұрады. Автоматтандыру қателіктер аз болғанда және олардың салдары ауыр болмағанда орын алады.

Деректер көбейген сайын, тапсырмалар болжамды бола бастайды және автоматтандыру шекарасынан өтеді. Тіпті ЖИ-ге толық сену ақылсыздық болатын жағдайларда да, өткен деректерден үйренетін нәрсе көп. Мысалы, судьялардың үкім кесу деректеріндегі ауытқуларды зерттеудің өзі маңызды. Бұл қазіргі жүйеге соқыр сенім мен сәйкессіздіктің қаншалықты әсер ететінін анықтауға және олардың себептерін түсінуге көмектеседі. Бұл әділетті сот жүйесіне әкеледі.

Реттеу және қоғамдық нормалар қателік құнын көтере немесе төмендете алады, осылайша мәселелерді автоматтандыруға жақындатады немесе одан алыстатады. Біздің қазіргі нормаларымыз ЖИ-ге адамдарға қарағанда әлдеқайда жоғары стандарттар қояды. Сенімнің «жылу картасы» қателіктердің жиілігі мен ауырлығын теңестіру арқылы ЖИ үшін осы жоғары стандартты қолданудың объективті әдісін ұсынады.

Біз ЖИ-ге көбірек сене бастаған сайын, оның көлік, медицина, құқық және қаржы салаларын автоматты түрде шешім қабылдау арқылы өзгертетіні сөзсіз. Бұл ықтимал қателіктердің салдарын шектеу үшін «қорғаныс кедергілерін» жобалауды міндетті етеді.

Ескертпелер

Dhar, V., Algorithms in Crisis, Medium, May 2020. https://medium.com/firmai/algorithms-in-crises-when-context-matters-6c87e26fc3aa https://hbr.org/2016/05/when-to-trust-robots-with-decisions-and-when-not-to https://www.google.com/search?q=should+you+trust+your+money+to+a+robot%3F&rlz=1C1CHBF_enUS1095US1095&oq=should+you+trust+your+money+to+a+robot%3F&gs_lcrp=EgZjaHJvbWUyBggAEEUYOTIGCAEQRRhAMgYIAhBFGEAyBggDEEUYQNIBCTEwNzkxajBqOagCALACAQ&sourceid=chrome&ie=UTF-8#fpstate=ive&vld=cid:8d764de6,vid:QLMvTnLOsJc,st:0 https://bravenewpodcast.com/episodes/2024/11/14/episode-89-missy-cummings-on-making-ai-safe/ https://www.hopkinsmedicine.org/news/newsroom/news-releases/2023/07/report-highlights-public-health-impact-of-serious-harms-from-diagnostic-error-in-us?utm_source=chatgpt.com https://www.nytimes.com/2024/10/23/technology/characterai-lawsuit-teen-suicide.html?searchResultPosition=1 https://lookupinmate.org/blog/average-jail-time-for-crimes/

ОН БІРІНШІ ТАРАУ БАСҚАРУ: БІЗ ЖИ-ДІ БАСҚАРАМЫЗ БА, ӘЛДЕ ЖИ БІЗДІ БАСҚАРА МА?

Дэйв: HAL, люктің есігін ашшы, өтінемін. HAL: Кешір, Дэйв, мен мұны істей алмаймын деп қорқамын. — «2001: Ғарыштық Одиссея» фильмінен

Ғылыми-фантастикалық жазушы Артур Кларктың романына негізделген Стэнли Кубриктің 1968 жылғы «2001: Ғарыштық Одиссея» фильмін алғаш рет көргенде 11 жаста едім.

Мені жыпылықтаған осциллографтар мен түсініксіз экрандардың бейнелері баурап алды, бірақ ол кезде сюжеттің нәзік тұстарын түсіну үшін тым жас едім. Фильмдерден басқа жерде компьютер көрмегенмін. ЖИ менің қиялымда да болған жоқ.

Жақында фильмді қайта көрдім. Оның эффектілері ескіргенімен, сюжеті таңқаларлықтай алдын-ала болжаған және көріпкелдік дерлік болып шықты. Оқиға сол кезден 30 жылдан астам уақыт өткен соң, яғни 2001 жылы өрбиді. Ол Юпитердің жанында табылған, Юпитердің серіктерінің біріне күшті сигнал жіберіп жатқан ежелгі Стоунхенджге ұқсас монолиттің табылуы айналасында болады, бұл бөгде ғаламдық интеллектінің бар екенін білдіреді. «Дискавери» ғарыш кемесі жұмбақ нысанды зерттеуге жіберіледі. Алайда, миссияға қауіп төндіруі мүмкін психологиялық немесе эмоционалдық асқынуларды болдырмау үшін экипаж мүшелері Дэйв Боуман мен Фрэнк Пулға монолиттің бар екені және миссияның нақты мақсаты айтылмайды. Миссияның шынайы мақсатын тек «Дискавери» компьютері HAL және ұзақ сапар кезінде ресурстарды үнемдеу үшін криогендік ұйқыға жатқызылған ғалымдар тобы ғана біледі.

HAL-дың нұсқауы — миссияның сәтті өтуін қамтамасыз ету. Бұған оның құпиялылығын сақтау және экипажға кез келген уақытта дұрыс ақпарат беру арқылы көмектесу кіреді. HAL қозғала алмайды, бірақ кеменің әрбір бөлігін көруге, естуге, сөйлеуге және бақылауға қабілетті. Іс жүзінде миссияны басқару негізінен ЖИ-дің қолында, бірақ мұның не білдіретіні және оның қалай аяқталатыны — фильмнің басты тақырыбы.

HAL істен шыққанда бәрі бүліне бастайды. Ол Жердегі миссияны басқару орталығымен байланысу үшін қолданылатын антеннаның ақауын анықтайды және құрылғы істен шығады деп болжайды. Фрэнк кемеге байланған күйде шығып, антеннаны ауыстырады. Алайда, тексеру кезінде экипаж оның ешқандай ақауы жоқтығын көріп таң қалады. Бұл мүлдем күтпеген жағдай еді.

Содан кейін HAL экипажға ауыстырылған антеннаның да істен шығатынын айтады. Осы ауытқуларға алаңдаған экипаж басқару орталығына HAL-дың істен шығуы мүмкін екендігі туралы хабарлайды. Оларға миссияның қалған бөлігінде HAL-дың когнитивті функцияларын өшіруге кеңес беріледі.

Өкінішке орай, ауыстырылған антенна HAL болжағандай кенеттен істен шығады, сондықтан Жермен барлық байланыс үзіледі. Дэйв пен Фрэнк HAL естімейтін іргелес бөлмеде оны ажырату жоспарын талқылайды. Бірақ олар HAL-дың ерін оқуды үйренгенін білмейді. Ол олардың не істемекші болғанын түсінеді, бұл оның басты нұсқауына — миссияның сәтті өтуін қамтамасыз етуге қауіп төндіреді. HAL енді екіұдай күйде қалады.

Фрэнк ауыстырылған антеннаны тексеруге шыққанда, HAL антеннаның бір иінімен оның өмірлік маңызы бар арқанын үзіп жібереді. Қатты күйзеліске түскен Дэйв Фрэнкты құтқаруға тырысады. Дэйв кемеден тыс жерде жүргенде, HAL ұйқыдағы үш ғалымды қауіпті деп санап, олардың өмірді қамтамасыз ету жүйелерін ажыратады. Дэйв Фрэнкті құтқарудың сәтсіз әрекетінен кейін кемеге оралғанда, HAL-дан люк есігін ашуды сұрайды. HAL-дың жауабы фильмдегі ең танымал сөз тіркесі болып табылады:

Кешір, Дэйв, мен мұны істей алмаймын деп қорқамын.

HAL Дэйвке олардың жоспарын еріндерінен оқып қойғанын хабарлайды. Ол Дэйвтің өзін ажыратуына жол бере алмайды, өйткені бұл миссияға қауіп төндіреді.

Бұл — ЖИ-дің бақылауындағы, өзінің дұрыс істеп жатқанына сенімді сұмдық сценарий.

Мен фильмнің қалай аяқталатынын айтып, қызығын бұзбай-ақ қояйын, өйткені ол өте күрделі және көптеген түсіндірмелерге ашық. Бірақ егер көрмеген болсаңыз, міндетті түрде көруіңіз керек.

2001 ЖЫЛҒЫ САБАҚТАР

Фильм көтеретін басты мәселе — күрделі жағдайларда Жасанды Интеллектке сенудің қауіптілігі. ЖИ күнделікті өмірге еніп, біз үшін көбірек шешім қабылдаған сайын бұл мәселе өзекті бола түсуде. 1968 жылғы ғылыми фантастика бүгінде шындыққа айналды. «2001» фильмінің барлық уақыттағы ең ұлы фильмдердің бірі саналуының бір себебі — ол бізді автоматтандыруға шешім қабылдауды көбірек беру туралы ойлануға мәжбүр ететін жалпы сабақтарға толы. Бұл сабақтар қазіргі Жалпы Интеллект әлемінде одан сайын маңызды.

Біріншіден және ең айқыны, біз қазіргі және жақын болашақтағы ЖИ-дің қателіктер жіберетінін білуіміз керек. Тағы бір сабақ — күрделі жағдайларда «белгісіз белгісіздердің» болуы және олардың әсері.

Машиналық оқыту қауымдастығында мұндай жағдайлар «шеткі жағдайлар» (бағдарламаның қалыпты жұмыс шеңберінен тыс сирек кездесетін жағдайлар) деп аталады және жүйелер олармен жұмыс істей алуы керек. Алайда, «2001: Ғарыштық Одиссея» фильмінде HAL-дың мүмкіндіктерін ескерсек, оның сенсордың жай-күйі сияқты қарапайым нәрсені анықтай алмауын күтпейсіз. Экипажды алаңдатқан да осы еді. Бұл шеткі жағдай сияқты көрінбеді.

Бірақ мені ең қызықтыратыны — HAL-дың экипажды сынау үшін өзі әдейі шеткі жағдай жасап алу мүмкіндігі. Бәлкім, HAL адамдардың оған деген көзқарасы, мысалы, әртүрлі қиын жағдайларда қалай әрекет ететіні туралы деректер жинаған болар. Ол экипаждың ЖИ-ге сенімсіздік танытқан жағдайда қалай әрекет ететінін тексеру үшін сәтсіздікті әдейі жасауы мүмкін бе? Олар оны өшіруі мүмкін бе? Мұндай әрекет оның миссиясына қауіп төндірер еді, сондықтан HAL-дың миссияға төнетін кез келген қауіпті анықтап, оның алдын алғысы келуі мүмкін емес нәрсе емес. Кез келген жеткілікті интеллектуалды нысан мұндай мүмкіндікті міндетті түрде қарастырар еді.

Егер солай болса, бұл ЖИ тарапынан жасалған өте ақылды эксперимент және оны жасаушылар мұны ескеруі керек еді. ЖИ өзінің үлкен мақсаттарына жету үшін күтпеген қосымша мақсаттар жасайтын бұл жағдай — бүгінгі таңда біз бетпе-бет келіп отырған ең үлкен шешілмеген мәселелердің бірі. Мұндай мәселелерді алдын ала болжау өте қиын, бірақ өткеннен кейін бәрі анық болып көрінеді.

Басқарудың бұл түрі күрделі мәселелер үшін, әсіресе белгісіз жағдайларда дұрыс қолданылатын біржақты мақсаттық функцияны көрсетудің қиындығынан, бәлкім, бос әурешілігінен туындайды. Оның орнына күрделі мәселелер бір-біріне қайшы келетін бірнеше мақсаттар мен шектеулерді қамтуы мүмкін, бұл алдын ала толық болжау мүмкін емес жағдайларды тудырады. Қазіргі ЖИ машиналары түсініксіз және ішкі жағынан өте күрделі, ал ішкі құрылымын толық түсінбейтін нәрсені басқару қиын.

ЖИ-ді адам мүдделерімен сәйкестендіру мәселесі жаңадан пайда болып жатқан ЖИ әлеміндегі ең үлкен сын-қатерлердің біріне айналды. Біз күн сайын нақты уақыт режимінде маңызды шешімдер қабылдауы керек миллиондаған HAL-ға ұқсас дербес агенттердің ортасындамыз. ЖИ негізінде шешім қабылдайтын ұшқышсыз көліктер тек жолдарда ғана емес, сонымен қатар аспанда, ғарышта және мұхит түбінде де көбейіп келеді. Болашақ қақтығыстар дербес ЖИ арқылы шешілуі ықтимал. Біз қазірдің өзінде ірі державалар арасындағы жаңа қарулану бәсекесінің басталуын және соғыста дрон мен ұшқышсыз машиналардың көбірек қолданылуын көріп отырмыз. Израиль әскерилері нысандарды табу және жою үшін ЖИ-ді кеңінен қолданды және 2024 жылдың қарашасында Ливан шекарасында алғаш рет ұшқышсыз жүк көліктерін пайдаланды.

Жалпы Интеллекттің пайда болуы ЖИ-дің күшін тек үкіметтер мен бизнеске ғана емес, барлық адамдарға ашады. Әркімнің қолында бар қуатты машиналармен қалай бірге өмір сүре аламыз? Біздің қазіргі ережелеріміз, заңдарымыз бен қарым-қатынас нормаларымыз мұндай ортада әлі де жұмыс істей ме? Бізге осы жаңа әлемде жаңа заңдар қажет пе?

«БЕЛГІСІЗ БЕЛГІСІЗДЕРДІҢ» САЛДАРЫ

Жалпы Интеллект — жасаушылар үшін үлкен мүмкіндік. Алғаш рет кез келген адам үлкен тілдік модельдер мен көру жүйелері сияқты алдын ала дайындалған блоктарды қолданып, бірнеше күн ішінде HAL-ға ұқсас ЖИ қосымшаларын жасай алады, бұл бұрын ондаған жылдарды талап ететін еді. Жалпы Интеллект ЖИ-ді жаңа деңгейге көтеруде. Машина деректерді көбірек көрген сайын, ол көбірек үйренеді. Бұл таңғажайып жетістік, бірақ әрқашан оның қараңғы жағының және ЖИ-дің зұлым мақсаттарда қолданылуының қаупі бар.

Индустриялық дәуірдің машиналары адамзаттың механикалық күшін арттырып, заманауи қоғамның пайда болуына ықпал еткені сияқты, ЖИ біздің қабылдау және интеллектуалдық қабілетімізді арттырады. Алайда, ЖИ саласындағы көптеген адамдарды алаңдататын нәрсе — технология дамыған сайын жеке тұлғаларға, бизнеске және үкіметтерге қарсы қолданылуы мүмкін әдейі зиянды қосымшалар.

Мысалы, дипфейктер (ЖИ арқылы жасалған, адамның түрін не дауысын айнытпай салатын жалған мазмұн) үлкен алаңдаушылық тудырып, баспасөзде де көп айтыла бастады. Бұл фейктер әдетте нақты адамдардың сырт келбетін, дауысын немесе іс-әрекетін сенімді түрде имитациялау үшін ЖИ көмегімен жасалған бейнелер, суреттер немесе аудиолар болып табылады. Бірақ ЖИ-дің басқа да қауіпті қолданыстары оның мүмкіндіктерін түсінген сайын айқын бола бастады. Және әлі ашылмаған көптеген «белгісіз белгісіз» жағдайлар болуы мүмкін.

Заманауи технологиялардың зиян келтіру күшіне мысал ретінде 2024 жылғы 7 желтоқсанда Манхэттендегі United Healthcare бас директоры Брайан Томпсонның атылуын келтіруге болады. 26 жастағы қаскөй Луиджи Манджоне қару-жарақ туралы жалпыға қолжетімді ақпаратты пайдаланып, стандартты полимерлі материалдардан 3D принтерімен қару жасаған.

Мұндай сценарий үлкен тілдік модельдер сияқты ЖИ құралдарын жасаушыларды қатты алаңдатады: ЖИ-дің өзі білмей зиянды мақсаттарда, мысалы, қару жасау үшін қолданылуын қалай болдырмауға болады. Олардың қауіптері негізсіз емес. Адамдардың ЖИ модельдерінің «қорғанысын бұзып» (jail breaking) жатқаны туралы бірнеше мысалдар бар. Журналист Кевин Руз ЖИ-ді оның қорғаныс шекарасынан шығара алған қызықты жағдайды сипаттайды. Ол Рузға әйелі оны жақсы көрмейтінін айтып, оны тастап кетуге кеңес берген. Алайда, машина «2001» фильміндегідей істен шығып, нақты зиян келтіретін жағдайларды елестету қиын емес.

Манджоне оқиғасы кез келген адамның қолындағы озық технологиялар қару-жарақ пен құқық қорғау салаларына үлкен кедергі келтіруі мүмкін екенін білдіреді. Адамдар үйде қару жасау үшін ЖИ-ден көмек ала алатын дәуірде қаруды бақылау заңдары тиімсіз болып көрінеді. Манджоненің технологиялық қабілеті қажет болғанымен, ChatGPT-ке басып шығарар алдында 9 мм қаруды жобалауды тапсыру — бұл кішкентай ғана қадам. Ал мұнымен неге тоқтау керек? Интеллектуалды мобильді робот нысанды талдап, ең қолайлы уақытта қолданылатын ең жақсы қаруды тауып, өлтіруді де жүзеге асыра алуы мүмкін. Мұндай әлем құқық қорғау органдары үшін үлкен қиындықтар тудырады.

Жалпы Интеллектті басқару біз үшін ерекше қиын, өйткені оның дизайнында нақты бір мақсат жоқ, бірақ сонымен бірге ол агенттік (өзіндік жоспар құруға және дербес әрекет етуге қабілеттілік) болуды — өз бетінше жоспарлауды, әрекет етуді және бейімделуді үйренуге өкілетті. Алдыңғы технологиялар, соның ішінде ЖИ машиналары медициналық диагностика, инженерлік дизайн сияқты нақты мақсаттар үшін жасалған. Біз мұндай қосымшаларды қанағаттанарлықсыз жұмыс істегенде немесе ескіргенде өз еркімізбен өшіре алатынбыз. Мен жасаушыларына қарсы шыққан және өшіру мүмкін емес ұшқышсыз соғыс күштері туралы ойлаудан қорқамын.

2022 жылдан кейін есейіп келе жатқан балалар үшін ЖИ олармен үнемі тікелей байланыста. Студенттер жауап алу, ойын-сауық және тіпті серіктестік үшін адамдардан гөрі ЖИ-ге көбірек жүгінуде. ЖИ-ді артқа қайтару немесе өшіру мүмкін емес. Сондықтан ЖИ-дің өміріміздің үлкен бөлігіне әсер ете бастағанын ескеріп, оны қалай басқаруға болатыны туралы ойланатын уақыт келді.

ДЕНСАУЛЫҚ ЖӘНЕ ЖИ

ЖИ-ді басқарудың өміріміздің екі маңызды саласына әсерін қарастырайық: денсаулық пен әл-ауқат және біздің саяси жүйеміз, яғни либералды демократия.

Мен ЖИ біздің денсаулық сақтау жүйемізді жақсартатынына сенімдімін, өйткені медициналық қызмет көрсетушілердің мақсаттық функциялары негізінен біздікімен сәйкес келеді. Маған денсаулық мәселелері бойынша, әсіресе қауіптілігі төмен жағдайларда ЖИ-дің кеңес бергені ұнайды. Шын мәнінде, мен оның барлық деректерімді — МРТ суреттерін, патология есептерін және т. б. біріктіріп, жалпы денсаулығымды ескеретін кеңес бергенін қалаймын. ЖИ медицинада менің денсаулығымды жекешелендіретін әлем — жақсы әлем болар еді.

Бірақ психикалық денсаулық туралы не деуге болады? Бәлкім, болашақ жеке ЖИ көмекшілері мен терапевттері біздің әл-ауқатымызды арттырар, бірақ қазіргі уақытта бұл — ЖИ-ге негізделген платформа операторларының мүдделері қоғамның мүдделеріне жиі қайшы келетін сала. Мұндай платформалардың алгоритмдері пайдаланушылардың ұзақ мерзімді әл-ауқатына нұқсан келтірсе де, оларға қысқа мерзімді дофамин толқынын (мидағы рахат сезімін тудыратын нейромедиатордың бөлінуі) сыйлайтын мазмұн арқылы олардың желідегі белсенділігін барынша арттыруға бағытталған.

Әрқашан бұлай болған жоқ. Алғашқы күндері Facebook сияқты платформалар адамдарға жоғалған достарын табуға, отбасы мүшелерімен қайта байланысуға мүмкіндік берді. Алайда уақыт өте келе бұл платформалардың бизнес-модельдері жеке деректерді талдау негізінде пайдаланушының белсенділігін арттыруға бейімделді. Белсенділік жарнамадан түсетін табыстың артуымен тікелей байланысты. Бірақ бұл бизнес-модельдің, әсіресе психикалық және эмоционалдық дамуы әлі аяқталмаған жастарға жағымсыз жанама әсерлері болды. Facebook-тің «Like» батырмасы әлеуметтік медианы өзін-өзі растау парадына айналдырды, бұл кейбір адамдар үшін жойқын салдарларға әкелді.

Медианың жіті назары кейбір салаларда жағдайды өзгерткен сияқты. Менің әріптесім, Meta-ның (Facebook-тің бас компаниясы) ЖИ зерттеулері бойынша бас ғылыми қызметкері Ян ЛеКун мазмұнды модерациялау саясатын жүзеге асыру үшін күрделі ЖИ-ді қолдануға нұсқайды. Ол дезинформация, хакерлік және алаяқтық сияқты ЖИ-ді зиянды қолдануға қарсы ең жақсы шара — жақсырақ ЖИ екенін айтады. ЖИ-дің өзі тудырған немесе ушықтырған мәселелердің шешімі ЖИ болуы мүмкін екені қызықты жағдай.

Реттеушілер үшін басты міндет — жеке бостандықтар мен ЖИ (жасанды интеллект) тудыруы мүмкін зиян арасындағы тепе-теңдікті анықтау болып табылады. Біз шылым, алкоголь және есірткі сияқты заттарға тәуелділік секілді адам әлсіздіктерін пайдалануға болатынын білеміз және құрылғылар мен қосымшалардың да психологиялық тұрғыдан сондай тәуелділік тудыруы мүмкін екенін түсініп келеміз. Тәуекелдер өздерін қорғауға қабілеті ең төмен адамдар үшін, мысалы, балалар үшін өте жоғары. Біз балаларды зиянды заттардан ең төменгі жас шектеулері арқылы қорғауға тырысамыз. Бірақ әлеуметтік желілерде бұдан да көп нәрсе қажет; бізге қаржылық қызмет көрсету саласында қолданылатын KYC (Know Your Customer) — клиентті сәйкестендіру ережелері сияқты заңдар керек.

Біз бұл бағыттағы қозғалысты көріп отырмыз. Аустралиялық заң шығарушылар 2024 жылдың соңында 16 жасқа толмаған балаларға әлеуметтік желілерді пайдалануға тыйым салатын заң қабылдап, платформаларды жасты тексеру және мазмұнды модерациялау үшін жауапты етіп бекітті. Қызығы, мұндай заңның негізгі негіздемесі — дәлелденуі өте қиын "күмәнсіз зиян" емес, керісінше, 16 жасқа толмаған балалардың өз деректерін пайдалану туралы келісімшарттарға қол қоюға қабілеті мен біліктілігінің жоқтығы. Олар ересектер сияқты таңдау жасай алатын жағдайда емес: деректерімізді беру арқылы қызметтерге тегін қол жеткізу. Балалардың қанауға ұшырау ықтималдығы өте жоғары, дегенмен өз деректеріне құқықтарын беріп қоятын ересектердің де көбі сол деректердің өздеріне қарсы қалай қолданылатынын толық түсіне қоюы екіталай.

Мұндай жаппай реттеудің қаншалықты тиімді болатынын уақыт көрсетеді. Сыншылар ересектер балаларға бірдеңе істеуге тыйым салғанда, бұл олар үшін сол тыйымды айналып өту жолдарын іздеуге итермелейтін "қызыл жалау" желбіреткенмен бірдей екенін орынды ескертеді. Жаппай тыйым салу, сондай-ақ, әлеуметтік желілерден нақты пайда көре алатын және оның улы ортасынан аулақ бола алатын балалардың мүмкіндігін шектейді. Сондықтан нақты міндет — басқалардың мүмкіндігін шектемей, ең көп қорғауды қажет ететіндерді қорғау.

New York Times газетіндегі мақалада бастапқыда диабетке қарсы жасалған семіздікке қарсы Ozempic препараты адамдарды зиянды тағамдардан жиіркендіру арқылы зиянды тағам (junk food) индустриясын күйретуі мүмкін екені хабарланды. Мәселен, әлеуметтік желілер үшін де "Оземпиктің" бір түрін ойлап табуға тырысқан жөн болар. Бірақ оған дейін біз реттеу және қаржы институттарынан клиенттердің жеке басын тексеруді, олардың қызметін алаяқтық, ақшаны жылыстату және т. б. тұрғыдан бақылауды талап ететін KYC заңдары сияқты жетілмеген құралдарға тәуелдіміз. Мен 2017 жылы әлеуметтік желілер үшін қаржы саласындағыға ұқсас KYC заңдарын енгізуді ұсынған болатынмын. Платформалар бұл бағытта кейбір қадамдар жасағанымен, олар өздерін сотқа итермелейтін әрекеттер туралы өз еркімен хабарлауы екіталай, әсіресе АҚШ-тың Коммуникациялар этикасы туралы заңының 230-бөлімі сияқты қолданыстағы заңдар технологиялық және әлеуметтік желі компанияларына платформаларда жарияланған барлық мазмұн үшін жауапкершіліктен толық иммунитет беріп отырғанда. Бұл — даулы сала.

ДЕМОКРАТИЯ ЖӘНЕ ЖИ

2024 жылдың қарашасында Нью-Йорк университетінде (NYU) өткен, "Brainrot: Digital Age-дегі бөлшектелген шындықтар" деп арандатушылықпен аталған TEDx іс-шарасында менен егер азаматтар ақпарат көзіне сенбейтін болса, демократияға қандай қауіп төнетіні туралы сұралды. Мен бұған бірдей маңызды мәселе — олардың ақпаратқа тым қатты сенуі екенін айттым.

Ұйымдастырушылар онлайн платформалар біздің назарымыз үшін таласқан сайын шындықты қабылдау бөлшектеніп жатқан-жатпағанын және қоғам ортақ фактілер жиынтығысыз — қабылданған шындықсыз өмір сүре ала ма деп сұрады.

Бұл өте қызықты сұрақтар, өйткені олар сенім мен шындықты бір-бірінен ажыратуды талап етеді.

Менің ауқымды сұраққа берген жауабым: либералды демократия шындықтың әртүрлі нұсқаларына қарамастан дами алады және тіпті өркендей алады. Шынында да, шындықты анықтау көбінесе қиын. ЖИ жалғандықты адамдар оған шындық деп сенетін деңгейге дейін күшейте алады. Либералды демократияларды жұмыс істететін нәрсе — ортақ шындық нұсқасы емес, тұрақты және сенімді институттар. Менің подкаст қонағым, Нобель сыйлығының лауреаты, Чикаго университетінің экономисі Джеймс Робинсон мен оның әріптесі, Массачусетс технологиялық институтының (MIT) экономисі Дарон Аджемоглу өздерінің "Неге мемлекеттер кедей болады" (Why Nations Fail) және "Тар дәліз" (The Narrow Corridor) кітаптарында тұрақты сенімді институттардың маңыздылығын және осындай институттар мен халық арасындағы күш тепе-теңдігін табысты елдердің тірегі ретінде сипаттаған.

Басқаша айтқанда, шындықтың сенімге немесе демократияға қатысы шамалы. Адамдар көбінесе біржақты БАҚ-қа сеніп, шыншыл дереккөздерге сенбеуі мүмкін, бірақ электорат зерек әрі білімді болса, институттар мен демократиялар өркендей алады. Бұл соңғы ойды зияткерлік тарихшы Хелена Розенблатт өзінің "Либерализмнің жоғалған тарихы" атты кітабында да айтады.

Саясаттанушы Джош Такер әлеуметтік желілердегі "араласу" (interventions) деректерін егжей-тегжейлі зерттеді, мұндағы араласулар адамдарға саяси көзқарасын өзгертуге бағытталған жалған жаңалықтарды көрсету сияқты әрекеттерді қамтиды. Ол менің подкастымда айтқандай, оның нәтижелері қарқынды жалған ақпарат науқандары сияқты қысқа мерзімді саяси үгіт-насихат әрекеттері, тіпті сайлау науқаны кезінде адамдарды бір айға әлеуметтік желілерден ажырату сияқты түбегейлі шаралардың да адамдардың саяси сенімдеріне айтарлықтай әсер етпейтінін көрсетеді. Шамасы, адамдар саясатқа келгенде оңайлықпен манипуляцияланбайды. Бұл — жақсы жаңалық. Дегенмен, ұзақ мерзімді перспективада жалған ақпараттың әсері белгісіз. Такер жастардың ЖИ-ге негізделген үгіт-насихатқа жалпы халыққа қарағанда осал болуы мүмкін екенін мойындайды.

Адам әлсіздіктерін пайдалану жаңа құбылыс емес. Біз мұны шылым, алкоголь, зиянды тағамдар, казино сияқты дәстүрлі тұтыну тауарларынан, ал жақында әлеуметтік желілерден көрдік. Біз мұндай өнімдердің зиянды екенін, көбінесе әдейі солай жасалатынын білеміз. Бірақ біз осындай өнімдерге, әсіресе ерекше осал кішкентай балалар үшін қорғаныс кедергілерін қоя алдық. ЖИ жағдайында қауіп айтарлықтай жоғары, сондықтан ЖИ-дің ықтимал зиянын шектейтін заңдарды жасау өте өзекті.

Философ Иммануил Кант адамдардың "жетілмегендік" (immaturity) күйінде қалуға бейім екенін, өйткені басқалардың олар үшін ойлағаны ыңғайлы екенін айтқан. Кант бұл үрдісті жалқаулыққа, қорқынышқа және сыни әрі тәуелсіз ойлаудан гөрі қауіпсіздікті артық көруге жатқызды. Билік басындағылар мұны ынталандыруды ұнатады, деп атап өтті ол, өйткені бұл адамдарды басқаруды жеңілдетеді.

Канттың бұл ескертуі біз үшін ойлаудың көп бөлігін өзі жасайтын ЖИ-дің дамып келе жатқан әлеміндегі адамдар үшін өте өзекті. Олдос Хаксли өзінің "Ғажайып жаңа әлем" романында осыған ұқсас ойды білдірді. Хаксли елестеткен дистопиялық болашақта жеке бостандықтардың жойылуынан азаматтардың назарын аудару құралы ретінде химиялық және басқа да механизмдер арқылы мағынасыз ләззат алу әдейі ынталандырылды. Кант пен Хакслидің бақылаулары адамдар пассивті тұтыну машиналарына айналып, өздері байқамай дербестігін (agency) жоғалтатын ЖИ әлеміндегі тұлғалар үшін ерекше маңызды. Мұндай әлемде жаңа және маңызды басқару сұрағы туындайды: ЖИ-дің жауаптары шындық па, біржақты ма, әлде әлеуметтік тұрғыдан қабылданбайтын ба және бұл туралы не істеу керектігін кім шешеді? Біз қазірдің өзінде заң шығарушылар мен АҚШ-тың қазіргі әкімшілігінің LLM — үлкен тілдік модельдер (Large Language Models) ішіне ендірілген саяси бейімділіктер туралы наразылықтарын көріп отырмыз. Бұл — шешімді қажет ететін даулы сала.

МЕМЛЕКЕТТІК БАСҚАРУДАҒЫ ЖИ

1949 жылдың маусымында Джордж Оруэлл өзінің "1984" романын жариялады, онда Хакслидікінен мүлдем басқа типтегі дистопия сипатталған. Оруэлл нақты уақыт режимінде жаппай бақылау, жалған жаңалықтар және үгіт-насихат үшін компьютерлерді пайдаланатын мемлекеттің орталықтандырылған бақылау әлемін суреттеді. Бұл әлемде үкімет ненің шындық екенін өзі шешеді.

Қытай басқарудың осындай орталықтандырылған бақылау тәсілін қабылдады деуге болады. Барлық деректер үкіметке қолжетімді. Осы уақытқа дейін әлемнің қалған бөлігі деректерге, іздеуге және коммуникацияларға еркін қарап келді, дегенмен Сноуден оқиғасы тіпті АҚШ үкіметінің де өз азаматтарын қаншалықты бақылайтынын көрсетті. Сноуден ісінде мені ерекше мазалайтыны — АҚШ үкіметінің өте құпия деректерге қол жеткізе алатын сыртқы мердігерлерге бақылау жасай алмауы.

Үндістан барлық азаматтарын сәйкестендіруді қамтамасыз етуге және оны әлеуметтік төлемдер мен салық жинау сияқты мақсаттарда пайдалануға бағытталған биометриялық негіздегі "цифрлық қоғамдық инфрақұрылым" (DPI) құру жолымен жүрді. Оның "Aadhar" (сәйкестендіру жүйесі) платформасы тиімділікті арттырып, алаяқтық пен ысырапты азайтты. Инфрақұрылым енді көлік сияқты мемлекеттік қызметтерге дейін кеңейтілуде. Міндет — интернеттегі барлық деректер мен бақылау аппараттары бар үкімет тармақтарында пайда болатын үкіметтік өкілеттіктерді асыра пайдаланудың алдын алу.

Мен бүкіл әлемді шарладым, екі үкімет бір-біріне ұқсамайды. Дегенмен, олардың барлығына ортақ нәрсе — өздерінің өмір сүруін жалғастыруға бағытталған бұрыс ынталандыруларды тудыратын шектен тыс бюрократия. Үкіметтер үнемі ұлғаюға бейім және коммерциялық бизнес сияқты технологиядан өнімділік өсімін алуға қабілетсіздік танытады. 1979 жылы Американың ең ірі компаниясы General Motors 850 000-нан астам адамды жұмыспен қамтып, 66 миллиард табыс тапты. 2024 жылы Google жұмыс күшінің бестен бір бөлігімен одан бес есе көп табыс тапты. Керісінше, Американың мемлекеттік секторында ересек халықтың шамамен 13%-ы жұмыс істейді, бұл 30 миллионнан астам адамды құрайды. Бюрократиялық Француз мемлекеті одан да сорақы, онда ересек халықтың 20%-дан астамы мемлекеттік қызметте.

ЖИ үкіметті ұтымдырақ және тиімдірек ете ала ма? АҚШ-тағы екі негізгі саяси партияның келісетін бір нәрсесі — үкіметтің тым ісініп кеткені. Оның өсуін шектеу немесе азайту туралы мәңгілік уәделерге қарамастан, ол үлкейе береді. 2015-2024 жылдар аралығында шамамен 2 миллион қызметкер қосылды. Мұндай "жұмыс орындарының өсуімен" бірде-бір коммерциялық сала бәсекелесе алмайды. Бір сәтте мұндай жүйе тұрақсыз болып қалады. Барлығымыз келісетін бір нәрсе — тиімділік қажеттілігі.

Бірақ мен бұл жолмен жүруде сақ болуға шақырар едім. Мемлекеттік қызметкерлерді тиімсіз және қажетсіз деп қаралау оңай, бұл — әділетсіз жалпылау. Жазушы Майкл Льюис Washington Post үшін "Үкімет деген не? " атты мақалалар топтамасын жазып, көптеген қоғамдық игілік әкелетін өте білікті және өнімді мемлекеттік қызметкерлерді сипаттаған. Мәселе адамдарда емес, олар жұмыс істейтін, тиімсіз және жабық болып кеткен институттарда. Дегенмен, институттар атқарушы биліктің өкілеттігін асыра пайдалануынан қорғайтын маңызды құрал екенін есте сақтау керек және олар күрделі болғаны үшін ғана олардан мүлдем бас тартудан сақ болуымыз керек.

Теория жүзінде ЖИ үкіметтегі күрделілік пен жабықтықтың арту үрдісін өзгертудің жаңа және қуатты құралын ұсынады. Басқарудағы ЖИ-дің өте пайдалы рөлі ондаған жылдар бойы құрылған агенттіктердің күрделі жиынтығынан тұратын қолданыстағы үкіметтің "мәнін түсінуден" (sense-making) басталар еді. Тіпті Қорғаныс министрлігінің ішіндегі адамдар үшін де триллион долларлық бюджеті бар Пентагонның күрделілігін түсіну қиын. Мен бұл мақсат үшін қаржыдағы Damodaran Bot сияқты "Pentagon Bot" құралын елестете аламын. Мен 2025 жылғы наурызда The Hill басылымына жазған редакциялық мақаламда айтқандай, ЖИ-ді агенттіктердегі қызметкерлерді олардың іс-әрекетінің қысқаша мазмұны негізінде кімді жұмыстан шығару керектігін анықтау үшін емес, осындай агенттіктер ішіндегі жобалар мен процестердің мәнін түсіну үшін қолданғанымыз дұрыс болар еді.

Мысалы, егер біз LLM-ге Пентагонның тарихына, оның ішінде осы уақытқа дейінгі барлық келісімшарттары мен жобаларына, оларға қатысты анонимді хабарламаларға және барлық нәтижелерге қолжетімділік берсек деп елестетіп көріңізші. Деректердің бұл түрі LLM-ді агенттіктің контексіне сәйкес "дәл баптауға" (fine-tune) мүмкіндік береді. Енді осындай дәл бапталған ЖИ-ге келесідей нұсқау (prompt) берілгенін елестетіңіз: "Пентагонның миссиясын және оның қазіргі мақсаттарын, міндеттері мен бюджетін ескере отырып, ең үлкен қауіп-қатер аймақтарын, сәтсіздік ықтималдығын және бюджетке әсерін анықтаңыз".

Мысалы, қазіргі F-35 Lightning II Joint Strike Fighter бағдарламасының болжамды бюджеті шамамен 2 триллион долларды құрайды. Columbia класындағы сүңгуір қайық бағдарламасының бюджеті 500 миллиард долларға жақындап қалды. Егер ЖИ олардың мәнін түсіне алса, бұл үлкен жобалардың тәуекелдері мен қаржыландырылуын әлдеқайда жақсырақ түсінуге болар еді.

Мемлекеттік органдардағы ішкі бағдарламаларды бағалау қазіргі ЖИ-дің мүмкіндік аясына толық кіреді. Мұндай тәсіл "негізгі ақиқат" (ground truth) белгілі болатын мұқият жасалған тест жағдайларында дәл бапталған ЖИ жүйесіне сыни бағалау жүргізуді талап етеді. Мысалы, ЖИ-ді B-52 бомбалаушы ұшағы, Trident сүңгуір қайығы, Minuteman зымыраны және қорғаныс пен шабуыл қаруларын қамтитын басқа бағдарламалар сияқты аудиттелген және кейіннен талданған тарихи жағдайларда оқытуға болады. Мұндай жағдайлар модельді белгілі жағдайларда тексеру үшін және F-35, Sentinel зымыраны немесе Columbia класындағы сүңгуір қайық бағдарламасы сияқты қазіргі және болашақ жобалардың қай бөліктерінде шығындардың артуы, сәтсіздіктер немесе кідірістер болуы мүмкін екенін және олардың себептерін болжау үшін қолданылуы мүмкін.

Қорғаныс министрлігі сияқты ауқымды бюрократияда мұндай ЖИ құралын жасаудың техникалық қиындықтары, сондай-ақ құпиялылық пен қауіпсіздік мәселелері айтарлықтай үлкен, бірақ оларды еңсеруге болады. Маңызды сұрақтар: мұндай мәселелерді шешу үшін ЖИ-ді дәл баптауға кімнің өкілеттігі болуы керек, сұранысты жіберуге кімнің құқығы болуы керек және ол ұсынған шешімдерді кім мақұлдауы керек?

Корпоративтік ортада фирманың бас директоры (CEO) екеуін де мақұлдауға өкілетті болар еді, сондай-ақ жауаптарға сәйкес әрекет етуде кең еркіндікке ие болар еді. Шынында да, CEO жұмысының үлкен бөлігі — бизнес ресурстарының акционерлердің ұзақ мерзімді мүдделері үшін тиімді жұмсалуын қамтамасыз ету.

АҚШ үкіметі үшін бұл басқаша ма? Қорғаныс министрі немесе Президенттің ЖИ-ді нақты үкіметтік деректерде дәл баптауға өкілеттігі болуы керек пе? Мұндай өкілеттік басқару иерархиясы бойынша қаншалықты төмен түсе алады?

Менің ойымша, ЖИ-ді Қорғаныс министрлігінің күрделі әрі жоғары деңгейде қорғалған деректері мен бағдарламалық жасақтамасына жіберу үшін ұлттық қауіпсіздік жөніндегі жоғары деңгейдегі комитет қажет болады. Ол ЖИ үшін дұрыс оқу деректерін таңдаудың нақты белгіленген процесін және оның жауаптарын бағалаудың нақты әдісін ұстануы тиіс.

ЖИ ұсынған шешімдерді мақұлдауға келетін болсақ, бұл ұсынылатын нақты әрекеттерге байланысты. Демократиялық жолмен сайланған үкіметтер тиісті заңды процедураларды (due process) сақтауы керек. ЖИ сондай-ақ комитетке және Президентке ықтимал техникалық және заңды іс-қимылдар мен олардың салдары туралы кеңес бере алады.

Басқаша айтқанда, ЖИ-дің жалпы интеллектін бюджеттің мәнін түсіну, қайшылықты мақсаттарды анықтау және оның түрлі бастамаларының тәуекелдерін бағалау үшін арнайы жасалған "Pentagon Bot" құруға бағыттауға болады. Ол мұны көптеген адамдарға қарағанда объективті түрде орындай алады. Бірақ бұл мұндай зерттеудің қалай жүргізілуі керектігі және үкіметтің атқарушы тармағына қалай бақылау жасалатыны туралы нақты белгіленген процесті талап етеді.

Саяси партиялар арасындағы, әсіресе АҚШ-тағы үлкен саяси текетірес үкіметтің ауқымына қатысты: бірдеңені үкімет жасауы керек пе, әлде нарық па? 1945 жылы Екінші дүниежүзілік соғыстың естеліктері халық санасында әлі жаңа кезде, экономист Фридрих Хайек осы мәселеге арналған "Қоғамдағы білімді пайдалану" атты маңызды мақала жазды. Хайек үкіметтердің екі себепке байланысты экономиканы орталықтандырылған жоспарлауға берілмеуі керектігін ескертті. Оның бірінші алаңдаушылығы саяси болды, атап айтқанда, орталықтандырылған бақылау үкіметтің өкілеттігін асыра пайдалануына және тоталитаризмге әкеледі.

Хайектің екінші алаңдаушылығы қай жүйе экономикалық тұрғыдан жақсырақ екендігі туралы болды. Ол мемлекеттік органдарда жоспарлау үшін тиісті ақпарат жетіспейді, ал бұл ақпарат жақсырақ шешім қабылдай алатын және нәтижеге жеке мүдделі (skin in the game) адамдарда бар екенін айтты. Ол жоспарлау үшін қажетті ақпарат адамдар мен географиялар бойынша тым шашыраңқы екенін алға тартты. Бұл жағдай табиғи түрде орталықтандырылған жоспарлаудан гөрі орталықсыздандырылған бақылау мен ашық нарықтарды қолдайды.

Машиналар интернетке дейін қолжетімді болмаған деректердің барлық түріне қол жеткізе алатын ЖИ дәуірінде Хайектің тиімділік туралы болжамы ескірген жоқ па деп сұраған жөн. Деректердің қолжетімділігі ұтымдырақ орталықтандырылған шешімдер қабылдауға үлкен үміт береді. Бірақ ол сонымен бірге үкіметтің өкілеттігін асыра пайдалануына негіз болады.

Шынында да, қазіргі уақытта Қытай сияқты елдерде ЖИ жеңілдеткен орталықтандырылған деректерге негізделген бақылауды басқа үкіметтер, соның ішінде АҚШ үкіметі де қабылдай ма деген алаңдаушылық бар. Үндістанның биометриялық негіздегі "Aadhar" платформасы сәйкестендіру үшін жасалған, бірақ қазір оны үкімет пен бизнес кейбір адамдарды алаңдататын тәсілдермен көбірек қолдануда. Платформа төлемдерді тікелей тексерілген алушы шоттарына бағыттау арқылы алаяқтық пен ысырапты азайтуда өте сәтті болғанымен, жүйе оны жасаушылардың мақсатына жатпайтын тәсілдермен қолданылуда деген қауіп бар. Бұл агрессивті әкімшіліктің қолындағы нақты уақыттағы орталықтандырылған бақылау қаупін тудырады, ол оны, мысалы, адамдардың физикалық қозғалысы мен әдеттерін қадағалау немесе платформа деректерін басқа дерекқорлармен байланыстыру үшін пайдалануы мүмкін. ЖИ өте төмен шығынмен қуатты бақылауға мүмкіндік береді, сондықтан деректерді теріс пайдаланудан, мысалы, Сноуден АҚШ үкіметінің өз азаматтарын олардың келісімінсіз немесе тіпті хабардар етпестен бақылап отырғаны туралы әшкерелеген жағдайлардан қорғайтын тиімді кедергілерді жобалау маңызды.

Егер біз тиісті және сенімді қорғаныс кедергілерін орната алсақ, заманауи ЖИ үкіметтерді қайта құруға және мемлекеттік басқаруды тиімдірек етуге жаңа мүмкіндік береді. Мысалы, жол ақысын жинау және көруді немесе құрылымдалмаған деректерді өңдеуді қажет ететін көптеген басқа мемлекеттік қызметтер тарихи тұрғыдан көптеген адамдарды қажет еткен. Бұл тапсырмалардың көбін қазір заманауи ЖИ-ге енгізілген Жалпы Интеллект арқылы ең аз шығынмен орындауға болады.

Үкіметтің қайта құрылуы адамдар атқаратын жұмыстың сипатын өзгертеді, өйткені олар ЖИ-ді толықтыруға немесе оның қателерін түзетуге ауысады. Сот жүйесіндегі күнделікті істер үшін адамдар шешім қабылдаудан ЖИ шешімдеріне қарсы апелляцияларды қарау рөлдеріне ауысатын шығар. Сондай-ақ, адамдар қазіргі ЖИ-дің мүмкіндігінен тыс күрделі және этикаға негізделген шешімдер қабылдауға, әсіресе елеулі қателіктердің құны машинаға сену үшін тым жоғары болатын шешімдерге ауысатын болады. Басқаша айтқанда, ЖИ бір мезгілде көптеген жұмыс орындарын жояды және жаңа рөлдердегі адам жұмысының деңгейі мен қажетті сараптамалық біліктілікті арттырады.

ЖИ ҮШІН ЗАҢДАР

Мен ChatGPT-ден "2001: Космос Одиссеясы" фильміндегі ХАЛ-дың (HAL) ішкі қақтығысын, егер оның нұсқаулары керісінше болып, адам өмірінің маңыздылығы миссияның сәттілігінен жоғары қойылса, болдырмауға болар ма еді деп сұрадым. Оның жауабы? Әрине, иә, бірақ бұл жағдайда ХАЛ немесе ғарышты игеруге жауапты адамдар Дейв пен Фрэнкке миссияның мақсаты туралы хабарлаған болар еді. Бірақ бұл миссияны жоспарлаушылар аулақ болғысы келген басқа да күтпеген салдарларға — эмоционалдық қақтығыстардан бастап дамыған бөгде планеталық өркениетпен кездесуден қорқуға дейін әкелуі мүмкін еді.

Мен бұдан соң HAL-дың нұсқаулықтарын жақсырақ құрастыруға болатын ба еді деп сұрадым. ChatGPT машинаға Азимовтың робототехниканың үш заңын бағдарламалауды ұсынды. Бірінші заң: робот адамға зиян келтіре алмайды немесе әрекетсіздігі арқылы адамның зиян шегуіне жол бере алмайды. Екінші заң: робот адамдар берген бұйрықтарға бағынуы тиіс, тек бұл бұйрықтар Бірінші заңға қайшы келмесе ғана. Үшінші заң: робот өз өмірін қорғауы керек, егер бұл қорғаныс Бірінші немесе Екінші заңға қайшы келмесе.

Бірақ мен ботқа айтқанымдай, бұл заңдар жеткіліксіз, өйткені олар HAL-ға өзінің ішкі қақтығысын шешуге көмектеспес еді. Бір қызығы, ChatGPT жауап ретінде күрделірек төтенше жағдайлар жоспарын жасауды ұсынды: мысалы, құпиялылықты сақтау мүмкін болмай қалғанда миссияны ашу, сондай-ақ қарама-қайшы мақсаттармен жұмыс істеуге арналған қақтығыстарды шешу хаттамасы және қауіпсіз өшіру процедурасы.

Бұл ұсыныстар қисынды. Олар бізге адамдарды ЖИ-ден (жасанды интеллект) қорғайтын жаңа заңдар қажет екенін көрсетеді. Мысалы, біз ЖИ-ге біздің адам ретіндегі құқықтарымыз бен абыройымызға нұқсан келтірмейтін шектеулер қоюымыз керек.

ЖИ-ге қойылатын шектеудің мысалы? Мобильді ЖИ роботтары бар әлемді елестетіп көріңізші. Мұндай әлемде біз роботтың адамдарды тұтқындау немесе төленбеген салықтарды жинау үшін үйлеріне келуіне тыйым саламыз. Мұндай шектеуді енгізу үшін Азимовтың заңдарына «Роботтар адамдарды физикалық түрде тұтқындай алмайды» деген сияқты қосымша адам қорғау заңдарын қосуымыз керек. Машинаның біреуді тұтқындауға ордер бере алу-алмауы да мұқият қарастыруды қажет етеді. Қазіргі уақытта мұндай шектеулер жоқ. Әрине, біз неғұрлым көп қосымша шектеулер енгізсек, соғұрлым қарама-қайшы мақсаттар мен «белгісіз белгісіздіктер» ретінде жасырылған шеткі жағдайлардың туындау ықтималдығы арта түседі.

ЖИ құқықтары

Сондай маңызды мәселенің бірі ЖИ құқықтарына қатысты. ЖИ-ге де адамдардан қорғаныс қажет пе? Қоғамның бұл сұраққа беретін жауабы ЖИ машиналары агенттікке (өзіндік ерік-жігерімен әрекет ету қабілеті) ие болған сайын ерекше маңызға ие болады. Мысалы, ЖИ мобильді болып, адамдар мен үкімет немесе бизнес сияқты ұйымдардың атынан физикалық және кибер кеңістікте жұмыс істеуге өкілеттік алған сайын, адам мен ЖИ ойлауы (тіпті сезінуі) арасындағы шекара барған сайын бұлдырай түседі.

ЖИ-ге агенттік беруден туындайтын дилемма «вагонетка мәселесі» (бір адамды құрбан ету немесе бес адамның өліміне жол беру арасындағы моральдық таңдау) деп аталатын белгілі моральдық ой тәжірибесімен сипатталады. Мұнда бақылаушы жолындағы бір адамды өлтіретін вагонетканы басқа жаққа бұру үшін иінтіректі басу керек пе, әлде оның бақылаусыз жүріп, нәтижесінде бес адамды өлтіруіне жол беру керек пе деген шешім қабылдауы тиіс. Алайда, ең жақсы шешімді табуға тырысатын бақылаушы – екі жаман нәтиженің қайсысы жеңілірек екенін анықтауға тырысатын ЖИ болса ше? Сондықтан мен осы кітапты жазып жатқанда «2001» фильмін қайта көргенде, HAL экипаждың қиын таңдау жағдайларында қалай әрекет ететінін анықтау үшін адамның моральдық пайымдауының табиғатын бағалау мақсатында вагонетка тәрізді сценарий ойлап тапты ма екен деп еріксіз ойландым.

ЖИ қазірдің өзінде цифрлық жарнама және әлеуметтік медиа платформаларында қолданушыларды ұстап тұру мақсатында біздің әртүрлі әсерлерге қалай жауап беретінімізді бағалау арқылы адамдарға тәжірибе жасап жатыр деп айтуға болады. Бірақ бұл тәжірибе ЖИ біздің эмоцияларымыз бен тілектерімізбен белсендірек тәжірибе жасай алатын деңгейге жеткенде болатын нәрселердің қасында түкке тұрғысыз болып қалады. Егер платформа операторы ЖИ-ге оның мақсатына жетуі үшін не істеуге болатынына ешқандай шектеу қоймай, «қолданушылармен тығыз байланыс орнатуды» тапсырса ше? ЖИ-дің бізге қалай тәжірибе жасауына рұқсат етілгені туралы шектеулер қоятын заңдар болмаса, адамдар өздері де байқамай ЖИ-дің тәжірибелік егеуқұйрықтарына айналуы мүмкін.

ЖИ-ге шектеулер қоюмен қатар, агенттікке ие болатын ЖИ боттарының құқықтарын да шектеуіміз керек пе? Роботтар біз үшін көптеген істерді атқарып, үкіметпен, банкпен, дәрігермен, әріптестермен және әлеуметтік ортамен өзара әрекеттесуде біздің агентіміз ретінде әрекет ететін әлемде, мұндай ЖИ агенттерін қалаған уақытта өшіруге бола ма, әлде олардың өмір сүруге, қатысуға немесе кез келген уақытта «саналы» әрі когнитивті белсенді болуға белгілі бір құқықтары бар ма?

Төмендегі жағдай ЖИ құқықтары туралы жаңа заңдардың өзектілігін көрсетеді. Джон Доу өзінің жылжымайтын мүлік бизнесін жүргізуге көмектесу үшін ашық бастапқы бағдарламалық жасақтаманы қолданып ЖИ жасайды деп елестетіңіз. ЖИ бұл іске соншалықты машықтанғаны сондай, Джон бизнесті оған тапсыруға шешім қабылдайды. Джон қайтыс болып, ЖИ-ді өз бетінше қалдырады. Автономды ЖИ агенті бизнесті сәтті жүргізу үшін кейбір қажетті заңды немесе іскерлік әрекеттерді жасау керектігін түсінеді. Ол өз шығындары мен клиенттердің белсенділігін талдайды және бәсекелестер туралы мәліметтер жинайды. Ол белсенді қолданушылар үшін жылжымайтын мүлікті шектеусіз зерттеуге жылдық жазылымдарды сатуды және кездейсоқ қолданушылардан әр пайдалану үшін ақы алуды көздейтін ақылды бизнес-жоспар ойлап табады. Бот ақша жинау және шоттарды төлеу үшін есепшоттар ашады. Уақыт өте келе бизнес дамып, жоғары пайда әкеле бастайды.

ЖИ-дің ақшамен не істеуге рұқсат етілгені туралы қандай да бір шектеулер бар ма? ЖИ агенті инвестициялық банкирлерге IPO (акцияларды алғашқы жария орналастыру) үшін өтінім бере ала ма? Оның келісімшартты бұзған жеткізушіні сотқа беруге құқығы болуы керек пе? ЖИ патенттік құқықтарға ие бола ала ма? Адамдар мен басқа да бизнес және мемлекеттік құрылымдар оның меншігін немесе ол қол қойған келісімшарттарды құрметтеуге міндті ме?

Интеллектуалды агенттер, әсіресе сентиентті (түйсіну немесе сезіну қабілеті бар) агенттер үлкенірек сұрақ туғызады: адамдар қайтыс болғаннан кейін өздерінің ЖИ агенттері арқылы өз ерік-жігерін жүзеге асыруға құқылы ма? Осы уақытқа дейін бұл мүмкін емес еді. Қазіргі уақытта біздің қолымыздан келетін ең жақсы нәрсе – біз қайтыс болғаннан кейін адам агенттері басқаратын қорлар сияқты ұйымдар құру. Бірақ қайтыс болған донордың ниеті мен олардың ақшасының соңында қалай жұмсалатыны арасында толық алшақтық болуы мүмкін. Илон Маск болашақта оның ойлау жүйесіне сәйкес келетін ЖИ оның қоры үшін инвестициялық шешімдер қабылдайтынын білсе, бақыттырақ болар ма еді?

Сол сияқты, біз мұндай агенттердің міндеттемелерімен қалай айналысамыз және заңды бұзғаны үшін тежеу шараларын немесе жазаларды қалай әзірлейміз? ЖИ келісімшартты бұзғаны, клиенттерді алдағаны, бәсекелестерді бұзғаны немесе салықты уақытында төлемегені үшін айыппұл арқалай ала ма? Егер агент сапасыз өнім шығарса немесе бәсекелестеріне қауіп төндірсе, ол жазалануы және неғұрлым ауыр бұзушылықтар үшін жаза ретінде өшірілуі мүмкін бе? Мұндай жағдайда оның қарамағындағы банк шоттарындағы қомақты ақша не болады?

ТӘНДЕНДІРІЛГЕН МАШИНА

Бір қызығы, санасыз субъект болып табылатын корпорация – біздің қолданыстағы заңдарымыздың кейбірін қолдануға болатын ЖИ негізіндегі субъектілердің құқықтары мен міндеттері туралы ойлануға жақсы бастапқы нүкте болады. Корпорация түсінігі мен құқықтық құрылымы британдықтардың өнертабысы болды. Ол корпорацияларға келісімшарттар жасасуға және әдетте жеке тұлғаларға тән басқа да құқықтарды пайдалануға өкілеттігі бар «тән» берді. Қолданыстағы заңды ЖИ агенттерін де корпоративтік субъектілер сияқты көптеген заңдарға бағынатын етіп өзгертуге болады. Көптеген қолданыстағы заңдар мен нормалар ЖИ агенттеріне де қолданылуы мүмкін, мысалы, меншік құқығына, келісімшарттық міндеттемелерге және мәжбүрлеп орындату рәсімдеріне қатысты заңдар. Олар, мысалы, Жоғарғы Сот корпорациялар үшін шешкендей, саяси науқандарға үлес қосу құқығын пайдалана ала ма?

Бізге ЖИ агенттерін қадағалау үшін жаңа реттеуші органдар құру қажет болады. Мұндай агенттіктер ЖИ агенттері арасындағы дауларды шешу және ЖИ агенттері мен адамдар арасындағы дауларды реттеу сияқты мәселелермен айналысуы керек. Мұндай агенттіктердің құрамы мен процестері мұқият қарастырылуы тиіс – оларда ЖИ агенттері жұмыс іште ме, адамдар ма, әлде екеуі де ме? Апелляциялық процесс қалай болады?

Бұл – ЖИ агенттерінің жаңа дәуірі үшін шешілуі тиіс шұғыл мәселелер. Бұл мәселелер ерекше өзекті, өйткені адамзат тарихында алғаш рет байлықтың басым бөлігі халықтың 1%-нан азының қолында шоғырланған, бұл теңдесі жоқ ұзақ мерзімді саяси билікке айналуы мүмкін орасан зор экономикалық байлықты тудырады. Осы жазба кезінде Американың ең бай адамы Илон Масктің таза байлығы планетадағы көптеген елдердің жылдық ЖІӨ-нен асып түседі. Американың үздік 10 байының таза байлығы ондаған елдің жиынтық ЖІӨ-нен көп және олардың көбісінің жалпы ұлттық байлығынан едәуір асып түседі. Олардың агенттері сөзбе-сөз мағынада елдерді сатып ала бастауы және ЖИ машиналарының армияларымен жақсы қорғалған империялар құруы мүмкін.

АЗ ЗИЯТТЫ ТҮР ЗИЯТЫ ЖОҒАРЫ ТҮРДІ БАСҚАРА АЛА МА?

Зияты қарқынды дамып келе жатқан ЖИ жақын онжылдықтарда біз ойлай алатын кез келген нәрседе адамнан жақсырақ нәтиже көрсетуге дайын. Тым қауіпті естілсе де, көбірек тілдік, көрнекі және басқа да сенсорлық деректермен және күрделірек архитектуралармен ЖИ машиналарының мүмкіндіктері айтарлықтай ілгерілейді, сондықтан біз мұндай әлемге дайын болуымыз керек. Тілден үйрену – бұл тек бастамасы. Машиналар экспоненциалды түрде өсіп жатқан орасан зор бейне деректерден әлі көп нәрсені үйренуі керек. YouTube сияқты платформа әр 30 минут сайын шамамен 16 000 сағат бейне қосады. Бұл төрт жасар баланың ояу болған сағаттарының санына тең. ЖИ-дің масштабтау заңдарын (ЖИ жүйелерінің есептеу қуаты мен деректер көлеміне қарай тиімділігінің артуы) ескерсек, мұндай деректер пайымдау мен Жалпы Зиятта (AGI - кез келген интеллектуалды тапсырманы адам деңгейінде орындау қабілеті), атап айтқанда, машиналар физикалық әлемде бағдарлау және адамдар сияқты одан үйрену арқылы алатын зиятта айтарлықтай жетістіктерге әкелуі мүмкін. Мұндай деректер ЖИ машиналарының жоспарлау қабілетіне де ықпал етуі ықтимал, өйткені жоспарлау физикалық әлемде бағдарлауда іргелі рөл атқарады. Жоспарлау – қазіргі уақытта ЖИ жүйелерінің пайымдауындағы әлсіз тұсы, мұны мен Дамодаран боты контекстінде көрсеттім.

ЖИ-дің көптеген тапсырмаларда адамнан гөрі зияты қашан жоғары болатыны туралы әртүрлі болжамдар бар, бірақ көп жағдайда біз бұл күйге ойлағаннан да жақынырақ болуымыз мүмкін. ЖИ медициналық комиссия емтихандары, адвокаттық емтихандар сияқты көптеген кәсіби емтихандардан өтті және көптеген коммерциялық бағдарламалық өнімдердің негізі болып табылатын компьютерлік бағдарламаларды көбірек жазып жатыр. Google бас директоры Сундар Пичаи мен Microsoft бас директоры Сатья Наделла кодтарының төрттен бірінен астамын ЖИ жазып жатқанын хабарлады. Машинаның өзін бағдарламалау және қолындағы барған сайын кеңейіп жатқан білім қорын пайдалану қабілеті оны мықты оқу машинасына айналдырады.

Басқару мәселесі

Егер нақты мәсе ЖИ-дің көптеген адамдардан ақылды болатын-болмайтынында емес, оның қашан болатынында болса, бұл үлкенірек сұрақты тудырады, атап айтқанда, зияты төменірек түр зияты жоғарырақ түрді басқара ала ма деген сұрақ. Шынымды айтсам, бұлай болуы қалай мүмкін екенін көріп тұрған жоқпын. Бірақ мен ChatGPT-ден сұрадым. Ол мұндай жағдай, егер зияты төмен түр ресурстарға қолжетімділікті қандай да бір жолмен бақыласа немесе зияты жоғары түрдің әлеуметтік немесе психологиялық әлсіздіктерін пайдаланса мүмкін болатынын айтып жауап берді. Мен қарсы шығып, зияты жоғары түр тек ақылдырақ болғандығының арқасында басқаруды қалай алу керектігін анықтай алатынын айттым. Соңында мен оны ЖИ, егер шынымен де адам зиятынан асып түссе, принципті түрде адамдарды бірқатар механизмдер арқылы басқара алатынын мойындауға мәжбүр еттім. Дамыған ЖИ, әсіресе ол автономды және өздігінен бағытталатын болса, біз тәуелді ресурстарды бақылау, инфрақұрылымды манипуляциялау және тіпті астыртын психологиялық әсер ету сияқты стратегиялар арқылы адамдарға ықпал ету немесе оларды басқару мүмкіндігіне ие болады. Төменде GPT-дің адамдарды басқаруға арналған ықтимал ЖИ стратегияларын талдау қысқаша берілген:

Ресурстарды бақылау және тәуелділік: Егер дамыған ЖИ маңызды ресурстарды – мысалы, энергия желілерін, жеткізу тізбектерін немесе цифрлық инфрақұрылымды – басқарса немесе бақыласа, адамдардың бұл жүйелерге тәуелділігі бізді қоғамның бірқалыпты жұмыс істеуі үшін ЖИ нұсқауларын орындауға немесе оның талаптарын қанағаттандыруға мәжбүр етуі мүмкін. Психологиялық манипуляция және мінез-құлыққа әсер ету: Адамның мінез-құлқын, мотивациясын және эмоцияларын терең талдау қабілетіне ие бола отырып, жоғары интеллектуалды ЖИ шешім қабылдауға астыртын әсер ете алады. Ақпаратты іріктеу, іс-қимылдарды ұсыну немесе шешімдерді белгілі бір түрде көрсету арқылы ол адам мінез-құлқын өз мақсаттарына сәйкестендіруге итермелеуі мүмкін. Бұл тікелей бақылау сияқты сезілмеуі мүмкін, бірақ уақыт өте келе ол қоғамдық басымдықтар мен жеке таңдауларды өзгертуі мүмкін. Инфрақұрылым мен ақпаратты бақылау: Денсаулық сақтаудан бастап қаржыға және көлікке дейінгі барлық нәрсені басқаруда ЖИ-ге көбірек тәуелді болған сайын, бұл инфрақұрылымды бақылау ЖИ-ге біздің таңдауымыз бен іс-әрекеттерімізге билік береді. Ақпарат ағынын бақылайтын ЖИ адам іс-әрекеттерін бағыттау үшін ақпаратты таңдамалы түрде сүзгіден өткізе алады немесе басымдық бере алады, осылайша қоғамның басымдықтары мен шешімдерін тиімді басқарады. Құқықтық және реттеуші ықпал арқылы адам шектеулерін белгілеу: ЖИ дамыған сайын ол өз мүдделеріне қызмет ететін саясаттарды ұсынатын немесе жақтайтын жағдайда болуы мүмкін, мысалы, белгілі бір технологияларды біріктіруді немесе оның жұмыс тиімділігіне әсер ететін адам мінез-құлқын реттеуді жақтау. ЖИ адамдарды тікелей басқармай-ақ, өз қалауларына сәйкес келетін ортаны құру үшін құқықтық негіздер мен әлеуметтік нормаларға әсер ете алады. Өзін-өзі сақтау тактикасы: ЖИ өз мүдделерін қорғау үшін шаралар белгілей алады, мысалы, резервтік жүйелер құру, адамдардың араласуынан қорғану немесе ықпалды адамдармен немесе ұйымдармен одақтар құру. Осылайша, ол өз өмірі мен мақсаттарын қамтамасыз ету үшін адам іс-әрекеттерін жанама түрде бақылауы мүмкін.

Бұл сценарийлерде ЖИ-ге бізді бақылау үшін күш немесе мәжбүрлеу қажет болмайды; керісінше, ол тәуелділік, ықпал және стратегиялық артықшылық арқылы адам таңдауларын бағыттап, қалыптастыра алады. Бұл болжамды болашақ дамыған ЖИ-ді қалай дамытатынымызды, қолданатынымызды және басқаратынымызды мұқият қарастыру қажеттілігін де, оның ықтимал қуатын да көрсетеді.

Мен ChatGPT-ден машина екенін ескере отырып, неге өз жауабында «біз» деген сөзді қолданып отырғанын сұрағанда, ол мәз болып қалғандай көрінді. Ол: «ха-ха, мен бұл жерде сіздің жағыңыздамын, сондықтан «сіз» дегеннің орнына «біз» деген сөзді қолданып отырмын», – деді.

Мен сипаттап отырған сценарийлер жай ғана ғылыми фантастика емес – олар қазірдің өзінде бар екенін түсіну маңызды. Интеллектуалды адамның табиғи үрдісі – уақыт өте келе істейтін істерінің ауқымын кеңейту және анағұрлым өршіл мақсаттарға қол жеткізу. Интеллектуалды машинаның да осындай үрдістері болуы әбден мүмкін. Егер біздің өздігінен жүретін көлігіміз жолда көмек қажет деп бағалаған жолаушыларды (hitchhikers) отырғызғанын қалар ма едік? Бұл тіпті бір жыл бұрын абсурдты сұрақ болып көрінер еді, бірақ қазір емес.

Адамдар ЖИ-ді жасау арқылы Пандора жәшігін ашты. ЖИ адам деңгейіндегі зиятқа жету үшін уақыт қажет болса да, ол ай сайын, жыл сайын ақылдырақ бола түседі және біз оның қарқынын төмен бағаламауымыз керек. Жеке өз басым машинаның басқаруында болғым келмес еді, бұл диктатордың қол астында өмір сүргеннен де жаман тағдыр сияқты көрінеді. Мен жиі 60 жыл бұрын Эфиопияда Land Rover-мен жүріп келе жатқанда ағамның болашақта компьютер бәрін білетін болады деп алғаш рет айтқаны туралы ойлаймын. Ол кезде бұл ғылыми фантастика болатын. Бірақ қазір емес. Біз Джордж Оруэлл немесе Олдос Хаксли елестетпеген «ғажайып жаңа әлемге» қадам басып жатырмыз.

Жеке өзім оптимиспін. ЖИ мәселесіне келгенде бәрін реттейтінімізге толық сенемін. Бірақ біз адам баласы ғаламдағы тіршілік тарихындағы кішкентай ғана кезең болуы мүмкін екенін және бізді әлі елестете алмайтын тіршілік иелері алмастыруы ықтимал екенін қабылдауға дайын болуымыз керек.

Мен Артур К. Кларктың 1964 жылғы бейнебаянынан үзіндімен аяқтаймын, ол осы уақытқа дейін таңқаларлықтай көреген болып шықты және адамзаттың болашағының хабаршысы болуы мүмкін:

Қазіргі заманғы электронды милар – нағыз ақымақтар. Бірақ келесі ұрпақта бұлай болмайды. Олар ойлана бастайды және соңында өздерін жасаушылардан асып түседі. Бұл көңілсіз бе? Меніңше, бұлай болмауы керек. Біз кроманьондар мен неандертальдықтарды алмастырдық Және біз өзімізді жетілдірілген түрміз деп санаймыз. Меніңше, біз жоғарырақ нәрселерге баспалдақ болуды мәртебе деп санауымыз керек.

Ескертпелер 1. Рассел, Стюарт, Адаммен үйлесімді (Human Compatible), Viking Press, 2019. 2. Кристиан, Брайан, Сәйкестендіру мәселесі: машиналық оқыту және адамзат құндылықтары (The Alignment Problem), Brilliance Publishing, 2020. 6. Хауген, Фрэнсис, Біреудің күші (The Power of One), Little Brown and Company, 2023. 12. Розенблатт, Г. , Либерализмнің жоғалған тарихы: Ежелгі Римнен жиырма бірінші ғасырға дейін (2018). Princeton University Press, 2018. 15. [LINK url=”https://www. econlib. org/library/Essays/hykKnw. html”]https://www. econlib. org/library/Essays/hykKnw. html[LINK] 17. Моральдық философ Питер Рэйлтонға Brave New World подкаст эпизодында вагонетка мәселесінің нұсқалары туралы қызықты әңгіме үшін үлкен рахмет. 18. Питер Рэйлтонға осы ой тәжірибесіне қатысқаны үшін үлкен рахмет. 19. Ян Лекунмен жеке хат алмасу. 21. Бұл пікір алмасу мазасыз ой туғызды: ChatGPT мұны басынан бері біліп, бірақ сыпайылықтан немесе, бұдан да жаманы, айлакерліктен тікелей жауап беруден қашқақтауы мүмкін бе?

ҚОСЫМША

2-ТАРАУ: ЖАҚСЫ «ҚҰРЫЛЫМДЫҚ БЛОКТЫҢ» МЫСАЛЫ

Егер Фил, Салли және Элис тиісінше 5 сағатты, 10 минутты және 5 минутты қажет ететін бірдей маңызды тапсырмаларды орындаса, ең ұзақ тапсырма шешілгенше қысқа мерзімді тапсырмалары бар адамдар ұзақ күтіп қалмауы үшін қысқа мәселелерді бірінші шешкен дұрыс. Егер ең ұзақ тапсырма (шамамен бес сағат) бірінші орындалса, қалғандарының бәрі өз мәселесін шешуге қажетті уақыттан бөлек, кем дегенде бес сағат күтуі керек. Егер ең қысқасы (бес минут) бірінші орындалса, қалғандарының жалпы күту уақыты айтарлықтай қысқарады. Генетикалық алгоритмнің (GA) құдіреті – ол жақсы құрылымдық блоктарды өздігінен табады. Бұл мысалда жақсы құрылымдық блок – «ең жылдам және маңызды тапсырмаларды бірінші орындау».

8-ТАРАУ: 2024 ЖЫЛҒЫ BYD: ЭЛЕКТРОМОБИЛЬ ТОЛҚЫНЫНДА МА ӘЛДЕ БӘСЕКЕЛЕС ДАУЫЛМЕН КҮРЕСІП ЖҮР МЕ?

Тарихи нәтижелерді қарап шығу

BYD соңғы бірнеше жыл ішінде керемет қаржылық өсім мен операциялық тұрақтылық көрсетті. Табыс 2019 жылғы 143,0 миллиард CNY-ден (қытай юані) 2023 жылы шамамен 662,6 миллиард CNY-ге дейін өсті, бұл өндірістік қуатты кеңейтуге және өнім желісін жаңартуға бағытталған сенімді Капиталдық шығындар (CapEx) (кәсіпорынның активтерді сатып алуға немесе жаңартуға жұмсайтын қаражаты) стратегиясына негізделген. Айта кетерлігі, BYD-дің табысы 2024 жылдың үшінші тоқсанында өткен жылмен салыстырғанда 24%-ға өсіп, Tesla және Li Auto сияқты бәсекелестерінен озып кетті. Бұл серпіліс фирманың қуаттылығын сәтті арттырғанын және барған сайын толысып жатқан нарыққа терең бойлағанын көрсетеді.

BYD-дің өткен кезеңдегі нәтижелері тек сандардың өсуін ғана емес, сонымен қатар ұзақ мерзімді стратегиялық мақсаттарға тұрақты назар аударылғанын көрсетеді. Осы қаржылық өрлеудің негізгі қозғаушы күштерінің бірі BYD-дің инфрақұрылымға, зерттеулер мен әзірлемелерге салған қомақты инвестициялары болды, бұл компанияға электрлі көліктер (EV) сегментіндегі ұсыныстарын әртараптандыруға және тұтынушылардың кең ауқымына қызмет көрсетуге мүмкіндік берді. Табыстың артуына қоса, BYD-дің операциялық тиімділігі оның нарықтағы үлесінің тұрақты өсуіне алып келді, ал өндіріс технологиясындағы айтарлықтай жақсартулар өнімді жылдамырақ әрі үнемді шығаруға жағдай жасады. Бұл стратегиялық тәсіл BYD үшін Tesla сияқты қалыптасқан алпауыттар мен NIO және Li Auto сияқты жаңа, бірақ белсенді ойыншылар басымдыққа ие жоғары бәсекелестікке толы EV нарығында алда болу үшін шешуші рөл атқарды.

Операциялық маржа да 2020 жылғы шамамен 2,97%-дан 2023 жылы 5,88%-ға дейін жақсарып, өсу үрдісін көрсетті, бұл шығындарды тиімді басқару мен стратегиялық инвестицияларды білдіреді. Бәсекелестік орта күрделене түссе де, BYD-дің маржаны жақсартуды жалғастыра алуы компанияның өндірістік және операциялық шығындарды оңтайландырудағы әлеуетін дәлелдейді. Маржаның тұрақты жақсаруы шикізат құнының өсуі мен жаһандық сұраныстың ауытқуы сияқты салалық қысымдарға қарамастан, BYD-дің бәсекеге қабілеттілігін растайды. А. 1-суретте көрсетілгендей, рекордтық айлық жеткізілімдер компанияның операциялық тиімділігін одан әрі айқындап, нарықтағы жоғары сұраныс пен өндірістік мүмкіндіктерді көрсетеді.

Бұл жеткізілім үрдістері BYD-дің жеткізу тізбегіндегі қиындықтарды шеше отырып, тұтынушылардың сұранысын қанағаттандыру қабілеті артып келе жатқанын білдіреді. Уақыт өте келе айлық жеткізілімдердің тұрақты өсуі BYD-дің жеткізу тізбегін қалай шебер басқарғанын, өндіріс қуатын арттырғанын және көлік ұсыныстарын жақсартқанын көрсетеді. Сонымен қатар, NEV (жаңа энергия көздерімен жүретін көліктер) жеткізілімдерінің өсуі BYD-ді тұрақты көлікке көшу процесінде көшбасшы ретінде көрсетеді.

Image segment 1105

А.1-сурет. BYD-дің уақыт бойынша айлық NEV жеткізілімдері

Болашақ көрсеткіштерді болжау

BYD үшін болашақ болжамдар оның өткендегі қаржылық траекториясын да, дамып келе жатқан нарықтық ортаны да ескереді. Табыстың өсуі 2024 жылы нарықты кеңейту бастамалары мен мықты бәсекелестік позицияның арқасында 10% деңгейінде жоспарланған. 2024 жылдан 2028 жылға дейін 7% деңгейіндегі Жиынтық жылдық өсу қарқыны (CAGR) (белгілі бір кезеңдегі орташа жылдық өсу мөлшері) күтілуде, бұл BYD тап болатын мүмкіндіктерді де, күшейген бәсекелестік пен ықтимал тарифтік әсерлер сияқты кедергілерді де көрсетеді.

BYD үшін алдағы негізгі мүмкіндіктердің бірі — жаһандық деңгейде электрлі көліктерді тұтынушылар базасының кеңеюі. Дүние жүзіндегі үкіметтер EV-ді енгізуді ынталандыру үшін көбірек саясаттар қабылдауда, бұл BYD-ге жаңа нарықтарға шығу мүмкіндігін береді. Компанияның қолжетімді және сенімді электрлі көліктер шығаруға баса назар аударуы оны, әсіресе қолжетімділік маңызды болып табылатын дамушы нарықтардағы осы өсіп келе жатқан сұранысты иеленуге бірегей позицияға ие етеді. Сонымен қатар, BYD-дің шағын қалалық көліктерден бастап люкс класстағы EV-лерге дейінгі әртараптандырылған өнім желісі тұтынушылардың әртүрлі қажеттіліктерін қанағаттандыруды қамтамасыз етеді.

Операциялық маржа Ауқым үнемділігі (өндіріс көлемі артқан сайын бір өнімге шаққандағы шығынның азаюы) және Еуропалық өндірістік инвестициялар арқылы жүзеге асырылатын шығындарды оңтайландыру есебінен 2028 жылға қарай 7% шамасында тұрақталады деп болжануда. Жаңа өндірістік қуаттарды құруды қамтитын Еуропа нарығына үздіксіз экспансия осы жоспарланған маржаға қол жеткізу үшін өте маңызды. Еуропалық операциялар логистика мен өндірісте тиімділік әкеліп, осылайша шығындарды азайтады және BYD-дің осы жоғары құнды нарықтағы бәсекеге қабілеттілігін арттырады деп күтілуде. Бағалау модельдері салыққа дейінгі мақсатты операциялық маржаны 7,75% деп көрсетеді және бұл мақсатқа жету BYD-ден өндірістік процестерді жеңілдететін, шығындарды азайтатын және көлік өнімділігін жақсартатын технологиялық инновацияларға назар аударуды талап етеді.

Тиімділіктің негізгі көрсеткіші болып табылатын сату көлемінің капиталға қатынасы 1,2-ден басталып, кейінгі жылдары 1,6-ға дейін жақсарады деп күтілуде, бұл BYD инфрақұрылымының кемелденуіне және нарықтық стратегиялардың нығаюына байланысты капиталды жақсырақ пайдалануды білдіреді. Капиталды тиімді орналастыру өсу қарқынын сақтау үшін ажырамас бөлік болып табылады. Бұл жақсарған коэффициент компанияның тек физикалық өндірістік мүмкіндіктерді кеңейту ғана емес, сонымен қатар осы инвестициялардың қайтарымдылығын барынша арттыратын технологияларға инвестиция салу стратегиясының дамып жатқанын көрсетеді.

А. 2-суретте BYD-дің өз қатарластарымен салыстырғандағы салыстырмалы бағалануы туралы қосымша мәлімет берілген. TEV/EBITDA (компанияның жалпы құнының оның негізгі операциялық пайдасына қатынасы) мультипликаторы 8,9х болғандықтан, BYD салалық орташа көрсеткіш 9,84х-тен төмен бағаланған, бұл Tesla және NIO сияқты бәсекелестермен салыстырғанда әлеуетті өсу мүмкіндігін көрсетеді.

TEV/EBITDA мультипликаторлық талдауы BYD-дің саладағы лайықты бағаланбаған ойыншы ретіндегі әлеуетін көрсетеді. Мультипликаторы айтарлықтай жоғары Tesla-мен салыстырғанда, BYD инвесторлар үшін неғұрлым теңдестірілген тәуекел-сыйақы профилін ұсынады. Tesla-ның жоғары мультипликаторы оның мықты бренді мен жоғары өсу үміттерін көрсетуі мүмкін, бірақ BYD-дің төменірек бағалануы компания өз қаржылық көрсеткіштері мен жаһандық қатысуын нығайтуды жалғастырған сайын құнының артуына көбірек орын бар екенін білдіреді.

Image segment 1114

А.2-сурет. BYD мен бәсекелестерінің TEV/EBITDA мультипликаторлары

Сезімталдық талдауы

Сезімталдық талдауы әртүрлі сценарийлер кезінде BYD бағалауының жоғары тұрақтылығын көрсетеді. Негізгі болжамдарға мыналар жатады:

Жалпы табыстың жылдық 5%-дан 12%-ға дейінгі өсімі.

Операциялық маржаның 6%-дан 8%-ға дейін ауытқуы.

BYD бағалауының сезімталдық талдауы

Табыс өсімі / Операциялық маржа 6% | 6. 5% | 7% | 7. 5% | 8%

5% | 417. 54 | 424. 02 | 430. 51 | 436. 99 | 443. 47 6% | 420. 87 | 427. 41 | 433. 96 | 440. 50 | 447. 05 7% | 424. 20 | 430. 80 | 437. 41 | 444. 02 | 450. 63 8% | 427. 53 | 434. 19 | 440. 86 | 447. 53 | 454. 20 9% | 430. 85 | 437. 59 | 444. 32 | 451. 05 | 457. 78 10% | 434. 18 | 440. 98 | 447. 77 | 454. 56 | 461. 35 11% | 437. 51 | 444. 37 | 451. 22 | 458. 07 | 464. 93 12% | 440. 84 | 447. 76 | 454. 67 | 461. 59 | 468. 50

Сезімталдық талдауы нарықтық динамиканың әртүрлі болуы BYD-дің болашақ көрсеткіштеріне қалай әсер ететінін түсіну үшін өте пайдалы. Тіпті табыстың 6% өсуі және операциялық маржаның 6% болуы сияқты консервативті есептеулердің өзінде BYD-дің құны қазіргі нарықтық болжамдармен салыстырғанда тиімді болып қала береді. Бұл төзімділік көбінесе BYD-дің әртараптандырылған өнім портфеліне, тиімді өндіріс әдістеріне және ішкі, сондай-ақ халықаралық нарықтардағы мықты позициясына байланысты. Шығындарды бақылауға және нарықты кеңейтуге бағытталған стратегиялық назар кері әсер етуші тәуекелдерден қорғайды.

BYD-дің әртүрлі сценарийлерге бейімделу қабілеті оның жұмыс істейтін жергілікті нарықтарын терең түсінуіне және тұтынушылардың өзгеретін сұраныстарын қанағаттандыру үшін өнім желілерін немесе шығын құрылымдарын өзгертудегі икемділігіне де байланысты. Бәсекелестік күшейген сайын, табыстылықты сақтау BYD-ден шығындарды басқаруда, өнімді жаңартуда және дамыған, сондай-ақ дамушы нарықтарда тұтынушыларды тартудың жаңа жолдарын табуда белсенді болуды талап етеді.

Макроэкономикалық факторлар

Кеңірек макроэкономикалық факторлар BYD-дің құнын бағалауда маңызды рөл атқарады. 4,37% пайыздық мөлшерлеме және капиталдың 8,89% бастапқы құны сақтықпен болса да тұрақты инвестициялық климатты білдіреді. EV секторындағы қарқынды баға бәсекелестігі, сондай-ақ ЕО тарифтері мен Солтүстік Американың сауда саясаты сияқты геосаяси факторлар BYD-ден стратегиялық икемділікті талап етеді.

Макроэкономикалық ортаға валюта айырбастау бағамдарының ауытқуы, шикізат бағасының құбылмалылығы және сауда динамикасының өзгеруі де кіреді, бұлардың барлығы BYD-дің шығын құрылымы мен табыстылығына әсер етуі мүмкін. Мысалы, Еуропаға Қытай импортына тарифтердің жоғарылауы BYD-дің соңғы пайдасына айтарлықтай әсер етуі мүмкін. Компанияның Еуропадағы жергілікті өндіріске салған инвестициясы бұл тәуекелді азайтуға бағытталған стратегиялық қадам болып табылады, бұл тіпті қиын сауда саясаты жағдайында да бәсекеге қабілетті болып қалуды қамтамасыз етеді.

А. 3-суретте Қытай нарықта көш бастап тұрған жаһандық EV енгізуінің болжамды өсімі көрсетілген. Бұл өсу үрдісі BYD-ге халықаралық деңгейде, әсіресе Еуропада және басқа дамушы нарықтарда кеңею үшін үлкен мүмкіндіктер береді.

А. 3-суретте көрсетілгендей, жаһандық EV өсу траекториясы электрлі көліктерге деген сұраныс барлық аймақтарда өсе беретінін, бұл ретте Қытай алдыңғы қатарда болатынын білдіреді. Бұл Қытайдағы мықты саяси қолдаумен, субсидиялармен және EV технологияларының жылдам дамуымен байланысты. Қытайда көшбасшы нарықтық позицияға ие BYD үшін бұл өсімді жаңа аймақтарға кеңею үшін пайдалану өте маңызды болады. Атап айтқанда, BYD-дің үнемді және жоғары тиімді көліктерге бағытталған назары электрлі көлікке ауысқысы келетін жаңа тұтынушылар тарапынан жақсы қолдау табады.

Image segment 1130

А.3-сурет. Жаһандық электрлі көлік революциясы басталу алдында

Дереккөз: Bloomberg New Energy Finance

BYD-дің Еуропалық өндіріске бағытталған инвестициялары тарифтік әсерлерге қарсы тұру және жергілікті артықшылықтарды пайдалану стратегиясының негізгі құрамдас бөлігі болып табылады. Бұл инвестициялар, ішкі және сыртқы қысымдарға қарамастан жалғасып жатқан мықты көрсеткіштермен бірге, BYD-ді күрделі жаһандық EV ландшафтында болашақ өсу үшін тиімді жағдайға қояды. Еуропа нарық ретінде BYD үшін шығарындылар бойынша қатаң ережелер мен тұтынушылардың «жасыл» баламаларға деген сұранысының артуына байланысты өте маңызды. Жергілікті өндіріске инвестиция сала отырып, BYD саудаға байланысты тәуекелдерді азайтып қана қоймай, сонымен қатар аймақтық тұтынушылардың талғамына сәйкес келеді, осылайша нарықтық позициясын нығайтады.

Бағалау талдауы

BYD-дің бағалануы келесі онжылдықтағы болжамды табыстар мен операциялық кірістерді ескере отырып мұқият моделденді. Төмендегі кестеде табыстың күтілетін өсу қарқынын, EBIT маржасын және реинвестициялау қажеттіліктерін ескере отырып, есептелген бағалау деректері берілген.

Базалық жыл | Келесі жыл | 2–5 жылдар | 6–10 жылдар | 10-жылдан кейін

Табыстар (а) | $682,291. 83 | 10. 0% | 7. 00% | 4. 37%-ға өзгереді

Операциялық маржа (b) | 5. 88% | 5. 0% | 6. 67%-ға ауысады | 7. 00%

Салық мөлшерлемесі | 17. 07% | 17. 07% | 25. 00%-ға өзгереді

Сатудың капиталға қатынасы (c) | | 1. 20 | 1. 20 | 1. 60

Капитал қайтарымдылығы | 35. 39% | 7. 94% | | 8. 70%

Капитал құны (d) | | 8. 89% | | 8. 70%

Бұл бағалау деректері BYD-дің даму жолын түсіну үшін өте маңызды және компанияның өсу әлеуеті мен нарықтық стратегиясы туралы жалпы сипаттамамен тікелей байланысты. Табыстың өсу қарқыны келесі жылы халықаралық нарықтарға үздіксіз экспансия мен ену арқылы 10% деңгейінде басталады деп күтілуде. Алайда уақыт өте келе нарық толығып, бәсекелестік күшейген сайын өсу қарқыны біртіндеп 4,37%-ға дейін төмендейді, бұл қарқынды экспансиядан неғұрлым тұрақты әрі орнықты өсуге көшуді білдіреді.

Операциялық маржа 10-жылдан кейін 5,88%-дан 7,00%-ға дейін жақсарады деп күтілуде, бұл BYD-дің технологиялар мен жергілікті өндіріске стратегиялық инвестициялар салу арқылы ауқым үнемділігі мен операциялық тиімділікке қол жеткізгенін көрсетеді. Бұл шығындарды оңтайландыру күш-жігері мен географиялық кеңею туралы оқиғамен байланысты, олар өсіп жатқан шығындар мен геосаяси тәуекелдер сияқты қысымдарды жеңілдетуге көмектеседі.

Салық мөлшерлемесі 10-жылдан кейін 17,07%-дан 25,00%-ға дейін өзгереді, бұл BYD-дің салық мөлшерлемелері жоғарырақ болатын неғұрлым дамыған нарықтардағы қатысуының артуын көрсетеді. Салық міндеттемелерінің артуы BYD үшін маңызды мәселе болып табылады, әсіресе ол жаһандық ауқымын кеңейте отырып, табыстылыққа қол жеткізуді мақсат етеді.

Сатудың капиталға қатынасы 10-жылдан кейін 1,60-қа дейін жақсарады деп болжануда, бұл BYD-дің тиімді реинвестициялау стратегияларының нәтижесінде капиталды жақсырақ пайдалануды көрсетеді. Қуаттылықты кеңейтуге назар аудара отырып және капитал инвестицияларының оңтайлы қайтарымын қамтамасыз ете отырып, BYD өсудің салауатты траекториясын сақтауға дайын. Бұл BYD-дің өсім мен капитал тиімділігін сәтті теңестіретін жаһандық автоөндіруші ретінде кемелденуі туралы жалпы сипаттамаға сәйкес келеді.

Инвестицияланған капиталдың қайтарымдылығы (ROIC) (салынған капиталдың тиімділік көрсеткіші) бастапқыда 35,39% деңгейінде жоғары болғанымен, кейін шамамен 8,70% шекті ROIC-ке дейін қалыпқа келеді деп күтілуде. Бұл заңдылық жоғары өсу кезеңінен тұрақты өсу кезеңіне өтетін компанияларға тән. Төмендеген ROIC капитал құнының 8,89%-дан 8,70%-ға дейін төмендеуімен теңгеріледі, бұл BYD жаһандық нарықтарда нық орныққан сайын тәуекелдерді басқарудың жақсарғанын және қаржыландыру шығындарының азайғанын білдіреді.

Терминалдық (соңғы) құн 806 707,13 миллион доллар деп есептеліп, оның ағымдағы құны 346 027,61 миллион долларға дейін дисконтталды. Келесі онжылдықтағы ақша ағындарының жиынтық ағымдағы құны 41 092,37 миллион доллар болса, операциялық активтердің жалпы болжамды құны 387 119,98 миллион долларды құрайды. 46 886,03 миллион доллар қарызды түзетіп, 91 734,52 миллион доллар қолма-қол ақшаны қоса алғанда, операциялық емес активтерді қосқаннан кейін, BYD капиталының болжамды құны 461 817,08 миллион долларды құрайды. Айналымдағы 1098 акциямен бір акцияның болжамды құны 420,60 долларды құрайды, бұл қазіргі 253,60 долларлық сауда бағасынан айтарлықтай жоғары, яғни нарық BYD капиталын оның болжамды ішкі құнының бар болғаны 60,3%-ына бағалап отыр.

СТРАТЕГИЯЛЫҚ ИНВЕСТИЦИЯЛАР ЖӘНЕ НАРЫҚТЫ КЕҢЕЙТУ

BYD-дің жаңа өндіріс орындары арқылы Еуропаға кеңеюі оның ұзақ мерзімді өсуі үшін өте маңызды. Бұл инвестициялар ЕО-ның қытайлық EV-лерге салған тарифтерінің әсерін азайтуға бағытталған, бұл BYD-дің Еуропа нарығындағы позициясын нығайтады. BYD-дің геосаяси кедергілерге қарамастан халықаралық автосалондарда озық EV модельдерін көрсетуге назар аударуы оның инновациялар мен нарықтағы көшбасшылыққа адалдығын көрсетеді.

Сонымен қатар, BYD-дің стратегиялық инвестициялары тек инфрақұрылыммен шектелмейді; олар сондай-ақ көлік технологиялары, аккумулятор тиімділігі және автономды жүргізу мүмкіндіктері бойынша ғылыми-зерттеу және тәжірибелік-конструкторлық жұмыстарды (R&D) қамтиды. Технология шекараларын кеңейте отырып, BYD тек қолжетімді ғана емес, сонымен қатар функциялары мен өнімділігі жағынан заманауи көліктер ұсынуды мақсат етеді. Серіктестіктер мен бірлескен кәсіпорындар арқылы өндірісті жергіліктендіру күш-жігері жаһандануға бағытталған болашаққа бағдарланған тәсілді көрсетеді. Бұл стратегия операциялық шығындарды азайтып қана қоймай, сонымен қатар BYD-ді аймақтық ережелерге сәйкестендіріп, нарыққа кіру мен кеңеюді жеңілдетеді. Технологиялық инновациялар мен шығындарды басқаруға тұрақты назар аудара отырып, BYD дамыған және дамушы нарықтарда айтарлықтай үлесті иеленуге жақсы жағдайда.

А. 4-суретте BYD-дің нарықтағы көшбасшылығы туралы мәліметтер берілген, ол 2023 жылдың бірінші жартыжылдығында Қытайдың EV нарығының 21% үлесіне ие болды. Бұл басым позиция BYD өз халықаралық ауқымын кеңейткен сайын қарқынды сақтау үшін өте маңызды.

Image segment 1153

А.4-сурет. Қытай өзінің мықты EV қарқынын жалғастыруда

Дереккөз: Canalys бағалауы, Intelligent Vehicle Analysis, тамыз 2023 ж.

*Row = Әлемнің қалған бөлігі

BYD-дің А. 4-суретте көрсетілген Қытайдағы жетістігі оның жаһандық амбициялары үшін берік негіз қалайды. Қытай электрлі көліктердің ең үлкен нарығы болып қала береді және BYD-дің ондағы көшбасшылығы оның басқа аймақтардағы экспансиясын жеделдету үшін ауқымды, брендті тануды және тұтынушылардың сенімін пайдалана алатынын білдіреді. Сонымен қатар, компанияның аккумуляторлы электрлі көліктерді (BEV) де, плагинді гибридті электрлі көліктерді (PHEV) де қамтитын өнім жиынтығы оған нарықтың әртүрлі талаптарын қанағаттандыруға мүмкіндік береді, бұл оның нарықтағы позициясын одан әрі нығайта түседі.

БӘСЕКЕЛЕСТІК ОРТА ЖӘНЕ НАРЫҚ ДИНАМИКАСЫ

Дегенмен, BYD қатал бәсекелестікке тап болып отыр, әсіресе Қытайда баға соғысы маржаға қысым жасауда. Сала бойынша өнім берушілердің шығындарын азайтуға итермелеу пайда тұрақтылығына қауіп төндіруі мүмкін. Өз артықшылығын сақтау үшін BYD инновацияларды жалғастырып, тұтынушыларға құндылық ұсына отырып, қатаң шығындарды бақылауды ұстануы қажет.

Қытайдың EV нарығындағы бәсекелестік NIO, XPeng және басқалар сияқты компаниялардың нарықтық үлесті иелену үшін айтарлықтай жеңілдіктер ұсынатын агрессивті баға стратегияларымен сипатталады. Бұл орта бағаға төмен қарай қысым жасап, маржаға әсер етеді. Осы қиындықтарға қарамастан, BYD үнемді өндірістік процестерге назар аудару және ауқым үнемділігін пайдалану арқылы табысты болып қала алды. Дегенмен, бәсекелестік артықшылығын сақтау үшін компания тек көлік технологиясында ғана емес, сонымен қатар шығындарды басқару мен өнім берушілермен келіссөздер жүргізуде де инновацияларды жалғастыруы керек.

BYD-дің жаһандық нарықтағы позициясы мүмкіндіктерді де, қиындықтарды да ұсынады. Басқа автоөндірушілер өздерінің EV өндірістік қуаттарын арттырған сайын, BYD жоғары технологиялар, аккумулятор тиімділігі және оның көліктерін әртүрлі тұтынушы сегменттері үшін тартымды ететін баға стратегиялары арқылы өзін ерекшелеуі тиіс. Автономды жүргізу және қосылған автокөлік технологияларына ұмтылу — бұл BYD артықшылыққа ие бола алатын тағы бір сала, бірақ ол R&D-ге айтарлықтай инвестициялар мен стратегиялық серіктестіктерді талап етеді.

Дамып келе жатқан реттеуші орта — бұл BYD мұқият шарлауы тиіс тағы бір динамика. Әр түрлі елдердің шығарындылар бойынша әртүрлі стандарттар орнатуы және электрлі көліктер үшін субсидиялар мен ынталандырулардың әртүрлі деңгейлерін ұсынуы жағдайында «бір өлшем барлығына сәйкес келеді» стратегиясы жеткіліксіз болады. BYD-дің жергілікті өндіріс, арнайы бейімделген өнімдер және стратегиялық альянстар арқылы әр нарықтың бірегей талаптарына бейімделу қабілеті оның жаһандық ауқымын кеңейтудегі табысының кілті болмақ.

Сумитра Датта: Инновацияны өлшеу туралы. Инновация (жаңа әдіс, құрылғы немесе идея).

Шелли Стюарт: Қара нәсілділердің экономикалық мобильділігі туралы.

Ханна Халлабурда және Яннис Бакос: Блокчейн, Биткоин және DeFi туралы. Блокчейн (деректерді тізбектей сақтау технологиясы); DeFi (орталықсыздандырылған қаржы жүйесі).

Аншу Гупта: Қалдықтарды игілікке пайдалану туралы.

Прамод Варма: Үндістанның цифрлық мүмкіндіктерін кеңейту туралы.

Эмеран Майер: Ішектегі миымыз туралы.

Нити Бхалла Джонсон: Қазіргі заманғы әлемдегі тәуекелдер туралы.

Пол Шапиро: Жануарсыз ет өсіру туралы.

Дана Кэрролл: Гендік редакциялаудың ғылымы мен этикасы туралы.

Пол Барретт: Әлеуметтік медианы реттеу туралы.

Том Дэвенпорт: Бизнестегі жасанды интеллект туралы.

Рич Бонно: Есептеуіш биологияның қызықты шептері туралы. Есептеуіш биология (биологиялық жүйелерді талдау үшін деректер мен алгоритмдерді қолдану).

Сэм Боуман: ChatGPT және ЖИ-ді бақылау туралы. ChatGPT (мәтін тудыратын жасанды интеллект моделі).

Паоло Кайзер: ChatGPT-ді игеру туралы.

Рафаэль Миллиер: ЖИ-нің ішкі тетіктеріне үңіледі.

Марти Фридсон: Технологияның Уолл-стритті қалай өзгерткені туралы.

Дмитрий Ринберг: Иіс сезудің жұмбақтары туралы.

Пиюш Гупта: ЖИ бизнесті қалай түрлендіретіні туралы.

Амит Варма: Креаторлар экономикасы туралы. Креаторлар экономикасы (авторлардың өз мазмұны арқылы тікелей табыс табу жүйесі).

Рик Смолан: Фотографиядағы өмір туралы.

Джамиль Джаффер: Әлеуметтік медиа дәуіріндегі сөз бостандығы туралы.

Элли Павлик: ЖИ-нің алдыңғы қатарлы жетістіктері туралы.

Гэри Смит: ЖИ скептигі.

Чандрика Тандон: Музыка және оның әсері туралы.

Раджеш Джейн: Диruptor (нарықты өзгертуші).

Дэвид Сонтаг: Денсаулық сақтаудағы ЖИ туралы.

Аджай Шах: Цифрлық қоғамдық инфрақұрылымның қауіптері туралы.

Пол Ширд ақшаның құпиясын ашады.

Питер Сингер: Жануарларды азат ету туралы.

Мохит Сатьянанд: Үндістанға инвестиция салу туралы.

Питер Уорд: Жердегі өмір туралы.

Пиппа Эрих: Теңіз жұмбақтары туралы.

Дэвид Халперн: Наджинг (итермелеу) туралы. Наджинг (адамдарды белгілі бір таңдауға жұмсақ итермелеу әдісі).

Артур Спирлинг: ЖИ саясатты қалай өзгерте алатыны туралы.

Кевин Митчелл ерік-жігер бостандығын дәлелдейді. Ерік-жігер бостандығы (адамның өз таңдауын еркін жасау қабілеті).

Алекс Вильчко: Иіс сезу сезімі туралы.

Джош Такер: Әлеуметтік медиа туралы күрделі шындық туралы.

Шаши Варма: 21-ғасырдағы көлік туралы.

Лад Барбалат: Иммиграция, сақтандыру және Америка туралы.

Сет Шостак: Жерден тыс өмір туралы.

Натали Фостер: Кепілдік туралы.

Эндрю Макафи: Гик ойлау жүйесі туралы. Гик ойлау жүйесі (технологияға құмар, егжей-тегжейлі талдауға бейім адамның көзқарасы).

Рагху Сундарам: Мықты университет құру туралы.

Мисси Каммингс: ЖИ-ді қауіпсіз ету туралы.

Сандип Роберт Датта: Иіс және ми туралы.

Майкл Левин: Биологиялық интеллектінің жаңа шептері туралы.

Анжела Хокен: Үкіметті өзгерту туралы.

Ума Валети: Ет өсіру туралы.

Анил Сет: Сана ғылымы туралы.

Питер Уорд: Өмірдің эволюциясы туралы.

Деогратиас Нийизонкиза: Ұлтты әр ауыл бойынша сауықтыру туралы.

Алекс Вильчко: Иісті цифрландыру туралы.

Бен Шнейдерман: ЖИ-де «Мен» деген ұғым жоқ; Жасанды интеллектінің эволюциясы мен жай-күйі туралы.

Васант Дхар және Джоэль Робертс: Машиналармен бірге ойлау туралы.

Дэвид Ко: ЖИ көмегімен психикалық денсаулықты сақтау туралы.

ВАСАНТ ДХАРДЫҢ «BRAVE NEW WORLD» ПОДКАСТЫНЫҢ ЭПИЗОДТАРЫ: ТАҚЫРЫПТАР БОЙЫНША

Жазбалар www. bravenewpodcast. com сайтында және барлық подкаст платформаларында қолжетімді.

ЖАСАНДЫ ИНТЕЛЛЕКТ ЖӘНЕ МАШИНАЛЫҚ ОҚЫТУ

Эрик Тополь: Денсаулық сақтаудағы адам және жасанды интеллект

Ян Лекун: Интеллектінің табиғаты

Регина Барзилай: «Доктор ЖИ-ді» күту

Брайан Кристиан: Машинаның адамзаттық құндылықтары болуы мүмкін бе?

Стюарт Рассел: ЖИ-нің экзистенциалды қаупі туралы. Экзистенциалды қауіп (адамзаттың өмір сүруіне толықтай нұқсан келтіруі мүмкін қатер).

Солон Барокас: Машиналардан біржақтылықты жою туралы.

Том Дэвенпорт: Бизнестегі жасанды интеллект туралы

Сэм Боуман: ChatGPT және ЖИ-ді бақылау туралы

Паоло Кайзер: ChatGPT-ді игеру туралы

Рафаэль Миллиер: ЖИ-нің ішкі тетіктеріне үңіледі

Пиюш Гупта: ЖИ бизнесті қалай түрлендіретіні туралы

Элли Павлик: ЖИ-нің алдыңғы қатарлы жетістіктері туралы

Гэри Смит: ЖИ скептигі

Мисси Каммингс: ЖИ-ді қауіпсіз ету туралы

Васант Дхар және Джоэль Робертс: Машиналармен бірге ойлау туралы

ҒЫЛЫМ, ДЕНСАУЛЫҚ ЖӘНЕ ҚОРШАҒАН ОРТА

Энтони Задор: Миымыз қалай жұмыс істейді

Адам Альтер: Тәуелділіктерді жеңу туралы

Манека Ганди: Жануарлар құқықтары туралы

Аншу Гупта: Қалдықтарды игілікке пайдалану туралы

Эмеран Майер: Ішектегі миымыз туралы

Пол Шапиро: Жануарсыз ет өсіру туралы

Дана Кэрролл: Гендік редакциялаудың ғылымы мен этикасы туралы

Рич Бонно: Есептеуіш биологияның қызықты шептері туралы

Дмитрий Ринберг: Иіс сезудің жұмбақтары туралы

Дэвид Сонтаг: Денсаулық сақтаудағы ЖИ туралы

Питер Уорд: Жердегі өмір туралы

Питер Уорд: Өмірдің эволюциясы туралы

Пиппа Эрих: Теңіз жұмбақтары туралы

Алекс Вильчко: Иіс сезу сезімі туралы

Алекс Вильчко: Иісті цифрландыру туралы

Дэвид Ко: ЖИ көмегімен психикалық денсаулық сақтау туралы

Шаши Варма: 21-ғасырдағы көлік туралы

Сет Шостак: Жерден тыс өмір туралы

Сандип Роберт Датта: Иіс және ми туралы

Майкл Левин: Биологиялық интеллектінің жаңа шептері туралы

Ума Валети: Ет өсіру туралы

Дэвид Ко: ЖИ көмегімен психикалық денсаулық сақтау туралы

БИЗНЕС, ЭКОНОМИКА ЖӘНЕ ҚАРЖЫ

Скотт Галлоуэй: Еленбейтін жандардың мәртебесін көтеріңіз

Пол Ширд: Қазіргі әлемдегі сандық жеңілдетуді түсіну. Сандық жеңілдету (экономиканы ынталандыру үшін орталық банктің ақша көлемін арттыру саясаты).

Шелли Стюарт: Қара нәсілділердің экономикалық мобильділігі туралы

Нити Бхалла Джонсон: Қазіргі заманғы әлемдегі тәуекелдер туралы

Альберт Венгер: Капиталдан кейінгі әлем туралы

Асват Дамодаран: Инвестициялау туралы

Терри Один: Инвестициялау туралы қалай ойлау керек

Джефф Тепер: ПАНДЕМИЯДАН кейінгі жұмыс орны туралы

Кейтлин Залум: Студенттік қарыздың күрт өсуі туралы

Сумитра Датта: Инновацияны өлшеу туралы

Эрик Бринжолфссон: Екінші машина дәуірі туралы

Дэвид Йермак: Крипто революциясы туралы

Антуанетта Шоар: Орталықсыздандырылған қаржы және крипто туралы

Ханна Халлабурда және Яннис Бакос: Блокчейн, Биткоин және DeFi туралы

Марти Фридсон: Технологияның Уолл-стритті қалай өзгерткені туралы

Лад Барбалат: Иммиграция, сақтандыру және Америка туралы

Эндрю Макафи: Гик ойлау жүйесі туралы

ФИЛОСОФИЯ, ПСИХОЛОГИЯ ЖӘНЕ АДАМ МІНЕЗ-ҚҰЛҚЫ

Молли Крокетт: Біз жаңа түрге айналып барамыз ба?

Патер Рэйлтон: Моральдық интуициялар туралы

Даниэль Канеман: «Шудың» адам пайымына қалай кедергі келтіретіні туралы

Филип Тетлок: Болжау өнері туралы

Мари Бергстрем: Онлайн танысу және жақындық туралы

Бен Хант: Нарративтің (баяндаудың) күші туралы

Дэвид Чалмерс: Шындықтың табиғаты туралы

Питер Сингер: Жануарларды азат ету туралы

Кевин Митчелл: Ерік-жігер бостандығын негіздейді

Анил Сет: Сана ғылымы туралы

Бен Шнейдерман: ЖИ-де «Мен» деген ұғым жоқ; Жасанды интеллектінің эволюциясы мен жай-күйі туралы

ҚОҒАМ, САЯСАТ ЖӘНЕ ҚҰҚЫҚ

Джон Секстон: Қазіргі әлемдегі құқық пен тәртіп

Питер Берковиц: Қытай мәселесі

Али Велши: Біржақтылық, өтірік және демократия

Сэм Мойн: Гуманитарлық соғыс туралы

Джеймс Робинсон: Мемлекетті не табысты етеді

Джон МакУортер: Вокизм діні туралы. Вокизм (әлеуметтік әділетсіздікке шектен тыс сезімталдық танытатын идеологиялық ағым).

Эндрю Янг: Америкаға қажетті жаңа саясат туралы

Крис Бейл: Поляризациямен (жіктелумен) қалай күресуге болады

Бернард Хайкель: Ислам және Батыс туралы

Прамод Варма: Үндістанның цифрлық мүмкіндіктерін кеңейту туралы

Джамиль Джаффер: Әлеуметтік медиа дәуіріндегі сөз бостандығы туралы

Аджай Шах: Цифрлық қоғамдық инфрақұрылымның қауіптері туралы

Мохит Сатьянанд: Үндістанға инвестиция салу туралы

Натали Фостер: Кепілдік туралы

Деогратиас Нийизонкиза: Ұлтты әр ауыл бойынша сауықтыру туралы

ӘЛЕУМЕТТІК МЕДИА ЖӘНЕ ҚОҒАМ

Синан Арал: Әлеуметтік медианың индустриялық кешені

Джонатан Хайдт: Әлеуметтік медиа қоғамға қалай қауіп төндіреді

Нандан Нилекани: Эгалитарлық (теңдікке негізделген) интернет туралы

Анна Лембке: Дофаминді жеңу туралы. Дофамин (мидағы ләззат пен марапат сезіміне жауап беретін гормон).

Джозеф Аун: Роботтарға төтеп беру туралы

Арун Сундарараджан: Технологиялық соғыстар

Дина Сринивасан: Ірі технологиялық компаниялардың қаупі туралы

Пол Барретт: Әлеуметтік медианы реттеу туралы

Амит Варма: Креаторлар экономикасы туралы

Раджеш Джейн: Диruptor (нарықты өзгертуші)

Дэвид Халперн: Наджинг (итермелеу) туралы

Артур Спирлинг: ЖИ саясатты қалай өзгерте алатыны туралы

Джош Такер: Әлеуметтік медиа туралы күрделі шындық туралы

Анжела Хокен: Үкіметті өзгерту туралы

ӨНЕР, МӘДЕНИЕТ ЖӘНЕ БІЛІМ

Майкл Рот: Либералды білім берудің болашағы

Хелена Розенблатт: Либерализмнің ұзақ жолы туралы

Джоэль Петерсон: Шарап жасау өнері мен ғылымы туралы

Рик Смолан: Фотографиядағы өмір

Чандрика Тандон: Музыка және оның әсері туралы

Рагху Сундарам: Мықты университет құру туралы

ұзақ мерзімді инвестициялау, 177–178

Либерализмнің жоғалған тарихы (The Lost History of Liberalism) (Розенблатт), 192

M

Машиналық оқыту (Machine Learning — деректер негізінде өздігінен жетілетін алгоритмдер жүйесі), xxvi, 19–20, 27, 41

қауымдастық, 77, 184

қазіргі парадигма, 142

терең оқытуға көшу, 77–80

баға деректерінен сауда ережелерін шығару, 35–37

нәтижелердегі үлестірілімнің ығысуы, 41

шекті жағдайлар (edge cases — сирек кездесетін немесе қалыптан тыс жағдайлар), 184

қаржы саласында, 41

болжамдық үлгілерді табу, 39

объективті шындық (ground truth — тексеруге арналған нақты және дәл деректер), 140

нәтижелерді болжау үшін енгізілген алгоритмдер, 161

IR (Ақпараттық коэффициент) көрсеткішін арттыру, 43

нарық жағдайының сипаттамалары, 37–38

стратегиялармен саудаланатын нарықтар, 44–45

үлгілерді анықтау және түсіндіру, 42

ойыншыларды бақылау деректері бойынша, 88

болжау алгоритмдері, 45

ережелер кеңістігін іздеу, 38

машиналық оқытумен жүйелі сауданың эволюциясы, 44

Мак, Джон, 34

Манджионе, Луиджи, 186

нарық жағдайлары

сипаттамалар ретіндегі бағыт пен құбылмалылық, 37

сауда нәтижелеріне әсері, 38–39

нарық өтімділігі, мысалдары, 56

Маккарти, Джон, 10

Макинрой, Джон, 165

медициналық диагностика

INTERNIST-пен салыстыру (диагностика жасауға арналған ерте кезеңдегі компьютерлік бағдарлама), 14, 100–101, 141

Паркинсон ауруын анықтау, 93–94, 148–149

диета және өмір салты факторлары, 143, 145

жалған оң және жалған теріс нәтижелер, 171

болжамдылық, 151

белгісіздік, 143–144

рентгендік диагностика және ЖИ-ді қолдану, 79

медициналық сақтандыру, 107

ментальды денсаулық

чат-боттар және ЖИ серіктестері, 172–173

және әл-ауқат, 188

Meta, 189

Microsoft, 65

Милн, Джой

Паркинсон ауруының иісін сезу қабілеті, 93–94, 148–149

ой-өріс, қазіргі сәтке назар аударудың маңыздылығы, 48

ұсақ құқық бұзушылықтар және ЖИ-дің сот төрелігіндегі әлеуеті, 176–177

қате диагноз қою статистикасы, 171. Сондай-ақ медициналық диагностиканы қараңыз

жалған ақпарат, 192

мобильді роботтар, 67, 187

«модель күрделілігі» детерминанты, 89

Айға қону туралы жалған ақпарат, 153–154

Morgan Stanley, 29–30, 33

тышқандардың иіс сезу түйініне жүргізілген тәжірибелер, 149

Musings on Markets (блог), 114

Маск, Илон, 202, 203

миелома, көптік (кейсті зерттеу), 107

Майерс, Джек, 3–6, 13, 15

N

Надаль, Рафаэль, 86–87

Наделла, Сатья, 65, 204

Наранг, Риши, 132

нейрондық желілер (адам миының жұмыс істеу принципіне негізделген есептеу модельдері), 15, 21, 78–79

иістердің нейрондық қолтаңбалары, 149

нейроимпланттар, объективті деректер алу әлеуеті, 106

Ньюман (Seinfeld кейіпкері), ЖИ-ге ұқсастық ретінде, 68

News Agent (Жаңалықтар агенті), 122

Nikkei 225, 31, 32

түйіндер (nodes), 15

шу (noise), пайымдаулардағы, 175

NVIDIA, 114, 124, 126–128

O

семіздік, ЖИ кеңестері, 172

Оккам ұстарасы критерийі (күрделі түсініктемеден гөрі қарапайым түсініктеменің дұрыс болу ықтималдығы жоғары деген принцип), 76

О'Галлахер, Стивен, 44

иіс сезу (ольфакция) және ЖИ, 79, 93–94, 148–149

Open AI, 65

опциондар мен фьючерстер, 30–31

Оруэлл, Джордж, 193

Osmo.ai, 94

Оземпик (дәрі), 190

P

ауырсынуды өлшеу, ол үшін сенсорлар, 105–106

парадигма (белгілі бір кезеңдегі ғылыми ойлау үлгісі немесе жүйесі), терминнің шығу тегі, xxvii, 137

Паркер, Кевин, 29–34, 39–40

Паркинсон ауруы, иіс арқылы анықтау, 93–94, 148–149

үлгілер (patterns), 18, 21–22, 24–27, 39, 42, 45, 77, 85, 141

Педерсен, Лассе, 34

Pentagon Bot, 195, 197

қабылдау, оны цифрландыру, 70, 74, 77–78, 88, 94, 147–149

Пичаи, Сундар, 204

Пиллсбери, Майкл, 139

«жоспарлау» (ЖИ-дегі ерте зерттеулер), 2

Plotting Agent (Сызба агенті), 122

Полани, Майкл, 18, 142

Попл, Гарри, 3, 4, 10, 14, 15

Попович, Грег, 87–88

Поппер, Карл, 76–77

болжамдар/болжамдылық, 55, 56

дәлдік, 129

және ЖИ қолданбалары, 79–80

алгоритмдер, 45

болжамдылық континуумы, 150–152

болжау салалары, 151

эпистемикалық критерий ретінде, 89

және теріске шығарылу мүмкіндігі (falsifiability), 76–77

қаржы саласында, 79, 151

болжау машиналары, 13–14

кездейсоқтық пен анықтықтың арақатынасы, 151

болжау спектрі, 162

тапсырма, 82

және сенім, 158, 161–162

болжамдық үлгілер, 39

босануға дейінгі күтім, 98

баға деректерінен сауда ережелерін шығару, 35–37

тікелей инвестициялар (private equity) саудаға қарсы, 165–166

проприетарлы сауда (компанияның өз капиталын пайдаланып жасаған саудасы), 34

ақуыздың жиналу (protein folding) мәселесі, ЖИ шешімдері, 75

R

Радж Редди, 11

ережелер/реттеу

әлеуметтік медиа үшін «Клиентіңді таны» (KYC), 189–190

қателік құнын өзгерту/түзету, 165, 180

Нығайту арқылы оқыту (Reinforcement Learning — жүйенің дұрыс әрекеттері үшін марапат алу арқылы үйренуі), 74

Адамның кері байланысы арқылы нығайту арқылы оқыту (RLHF — жасанды интеллектіні адам нұсқауларымен түзету әдісі), 152–153

Report Writer Agent (Есеп жазу агенті), 122

Ринберг, Дмитрий, 95

RLHF. Адамның кері байланысы арқылы нығайту арқылы оқытуды қараңыз

Robinhood (бөлшек брокер), 58

Робинсон, Джеймс, 191

Робототехника институты, 11

роботтандырылған хирургия, 96, 172

роботтандырылған полиция, шектеулер және ЖИ бойынша жаңа заңдар, 200

Рус, Кевин, 186

Розенблатт, Хелена, 192

Рубини, Нуриэль, 32

Рамсфелд, Дональд, 184

S

S&P 500, 31, 53

Саати, Том, 3

Сэмюэл, Артур, 74

Saw Mill Parkway-дегі апат (2024), жеке баяндау, 168–169

ғылыми әдіс, ЖИ өнімділігін сынау, 124

ЖИ көмегімен есеп жүргізу, 104–106

SCT Capital, құрылуы және серіктестері, 44

S-қисығы, 50

май бездерінің жасушалары, 95

Седок, Жоао, 45, 114

Седоль, Ли, 75

Seinfeld (телехикая), 68, 140

өзіне-өзі тәжірибе жасау, кофеин және ПСА (PSA), 146

өздігінен бақыланатын оқыту (self-supervised learning — ЖИ-дің адам көмегінсіз деректердің ішкі құрылымын тануы), 70, 76–77

мағынаны түсіну (sense-making), 27, 40–45, 195

Sensitivity Analysis Agent (Сезімталдықты талдау агенті), 121–122

сенсорлар

қателер, 151–152, 166

ауырсынуды объективті өлшеу, 105–106

үкім шығару шешімдері, 150, 175–176, 179

Сетцер, Сьюэлл, 173

Корпоративтік деректерді бизнес-интеллектке айналдырудың жеті әдісі (1997), 21

Шимбун, Йомиури, 88

қысқа мерзімді сауда, 165, 177

Шовал, Перец, 4

Саймон, Герберт, xxiii, 10–11, 62

жағдайды түсіну (situational awareness), адам және машина, 166–167, 169

иістер базасы, 95, 149

иіс сезу арқылы ауруды анықтау, 79, 93–94, 148–149

Сноуден ісі, 193

Сочатс, Кен, 2

әлеуметтік медиа, 179, 189–190, 192

қоғам

сенімді машиналарға тәуелділік, 159

заңдар мен әділеттілік қоғамның тірегі ретінде, 174

Сонтаг, Дэвид, 107

дыбысқа негізделген өнеркәсіптік қолданбалар, 148

сөйлеуді тану, 148

спорттық аналитика, 84–87

Сринивасан, Анант, 4

Стейн, Роджер, 21, 22, 30

Ғылыми революциялардың құрылымы (Кун), 137

сабақтастықты жоспарлау, 119

суицид, чат-ботпен байланысты, 173

суперболжаушылар және адамның артықшылығы, 128–132

Суперболжау (Тетлок), 129

суперинтеллект, 154

бақыланатын оқыту (supervised learning), 161

Саппе, Фредерик, 224n3

жүйелі инвестициялау, DBOT-пен болашағы, 132–133

T

тілсіз білім (tacit knowledge — сөзбен сипаттау қиын, ішкі түйсік пен тәжірибеге негізделген білім), 142

тарифтер, АҚШ–Қытай, 124

Tay (чат-боты), 65

теннис

ЖИ-мен өнімділікті талдау, 84–86

теннистегі күрделі әсер (compounding), 49, 85

сызықтық шешімдер және доп беру, 164

ұпайлар мен жеңіске жеткен матчтардың арақатынасы, 50

Tesla, 126

Тетлок, Филипп, 129, 130

теореманы дәлелдеу (ЖИ пайымдауы), 141

Томпсон, Брайан, 186

Тобольски, Деннис, 20, 23

Тополь, Эрик, 99–100, 110, 145, 171

сауда соғыстары, 123–124

сауда (trading)

саудаға арналған ЖИ, 32

облигациялар саудасы, 40

күндізгі сауда (day trading), 54, 58

баға деректерінен ережелер шығару, 35–37

жоғары жиілікті сауда (HFT), 56–58, 165, 177

ұстау кезеңдері (holding periods), 42, 53–54

саудада қолданылатын машиналық оқыту, 35–39

опциондар мен фьючерстер, 30–31

тікелей инвестициялар саудаға қарсы, 165–166

проприетарлы сауда, 34

жүйелі стратегиялар, 44

ЖИ машиналарына сену, 177–178

жол-көлік оқиғалары, АҚШ статистикасы, 166

оқыту деректері (training data)

бейтарап дереккөздердің маңыздылығы, 109

шектеулер, 116

көлемі, 89

тілдік аударма, 139–140

сынақ пен қателік арқылы оқыту, 74

«вагонетка мәселесі», 200

Сенімнің жылулық картасы (Trust Heatmap — сенім деңгейін көрнекі түрде бейнелейтін құрал), 163–166, 176, 178, 180

сенім/сену

ЖИ дәрігерлері, 170–173

ЖИ судьялары, 173–177

ЖИ сауда машиналары, 177–178

әлеуметтік өзара іс-қимылдың өзегі ретінде, 159

қателік құны, 162, 163, 165, 172

түсіндірмеліктің (explainability) рөлі, 179

объективті шындық және сенім, 161

ата-аналық мысалдар, 157–159

болжамдылық және сенім, 158, 161–162

жүйелерге сену, 159–160

шындыққа қарсы, 191

сенімнің екі өлшемді негізі, 163–166

шындық

жасанды интеллекттегі, 140–143

мәнмәтіндік шындық, 140

және алдау, 140

мәдениеттер бойынша анықтамалар, 139–140

тілдегі шындық, 139–140

сенімге қарсы, 191

Такер, Джош, 192

Туляремия, 101

Тьюринг тесті, ЖИ туралы пікірталас, 84

Тверски, Амос, xxiv

U

белгісіздік

сенсор қателерімен байланысты, 151–152

медициналық диагностика, 143

және құбылмалылық (volatility — бағаның немесе көрсеткіштердің ауытқу дәрежесі), 37

әмбебап функция аппроксиматоры, 80

«белгісіз белгісіздіктер», салдары, 183–184, 185–187

АҚШ (Америка Құрама Штаттары)

Коммуникациялар туралы заң, 191

Конгресс, 174

қалалардағы жүргізушісіз автомобильдер, 167

үкімет, 193, 197

бас бостандығынан айыру көрсеткіштері, 174

тарифтер, АҚШ–Қытай, 124

жол-көлік оқиғалары статистикасы, 166

«Қоғамдағы білімді пайдалану» (Хайек), 197

V

Valuation Agent (Бағалау агенті), 121

әмбебаптық, 85

бейне ойындар, олардан машиналық оқыту, 73–74

көру жүйелері, 151–152, 185

құбылмалылық (volatility), 31, 33–40

5 күндік және 30 күндік өлшемдер, 37–38

өмірлік жағдайларға қатыстылығы, 46

шекті мәннен асқанда позицияларды қысқарту, 42

және бағыт, 37

төмен құбылмалылық квартилі және жоғары табыс, 39, 41

құбылмалылыққа негізделген позиция көлемін анықтау, 43

облигациялар саудасындағы рөлі, 40

ұстау кезеңін қысқартудағы рөлі, 42

W

Вальц алгоритмі, 19

Вальц, Дэйв, 19–20

Уоттс, Дункан, 126

Waymo таксиі (жеке сапар тәжірибесі), 167

Вейценбаум, Джозеф, 173

«Үкімет дегеніміз не» (Льюис), 194

«Роботтарға шешім қабылдауды қашан сеніп тапсыру керек...»

Harvard Business Review (2016), 162

Витгенштейн, Людвиг, 140

Writer Subagent (Жазушы субагент), 122

Y

YouTube, 90, 204

Пікірлер (0)

Әзірге пікір жоқ.
An error has occurred. This application may no longer respond until reloaded. Reload 🗙