Laisvalaikis

Kai dirbtinis intelektas įsiminė ne tą skaičių

Vakare prieš susitikimą su investuotojais startuolio vadovas Karolis dar kartą peržiūrėjo savo pristatymą. Septintoje skaidrėje kažkas nederėjo: įmonės vertė nurodyta 4 mln. eurų, nors prieš dvi savaites jis su kolegomis sutarė dėl 6 mln.

Šį skaičių į skaidrę įrašė jo dirbtinio intelekto (DI) asistentas.

Tris savaites Karolis su asistentu dirbo beveik kasdien: kartu kūrė finansinį modelį, rengė atsakymus į keblius investuotojų klausimus, dėliojo visą pristatymą. Jam atrodė, kad asistentas projektą išmano ne prasčiau už jį patį, todėl klaida jį gerokai nustebino. Ištaisyti ją užtruko dešimt sekundžių, tačiau išsiaiškinti, kodėl ji atsirado – kiek ilgiau.

Modelis nieko neprisimena

Karolis paklausė asistento, iš kur atsirado 4 milijonai. Šis atsakė radęs skaičių savo išsaugotuose užrašuose. Užrašuose? Tai privertė Karolį pasidomėti plačiau.

Pirmoji staigmena: pats DI modelis nieko neprisimena. Viską, ką žino, jis išmoko dirbtinio intelekto mokymo metu, dar prieš tai, kai juo kas nors pradėjo naudotis. Vėliau jo „smegenys“ nebesikeičia. Trys savaitės darbo su Karoliu modelio nei kiek nepakeitė.

Antroji staigmena: tarp žinučių modelis viską pamiršta. Kaskart, kai Karolis ką nors parašo, sistema modeliui iš naujo nusiunčia visą pokalbį nuo pirmos eilutės, o modelis jį perskaito nuo pradžių.

Riboto ploto rašomasis stalas

Įsivaizduokite rašomąjį stalą. Viską, kas ant jo padėta, modelis mato ir gali panaudoti. Tai vadinamasis konteksto langas – trumpalaikė DI atmintis.

Stalas didelis: šiuolaikiniai modeliai ant jo sutalpina šimtus tūkstančių žetonų. Žetonas – tai žodis, žodžio dalis ar simbolis, taigi tokia apimtis prilygsta storai knygai. Tačiau pokalbiui pasibaigus stalas nušluostomas iki švaraus.

Esama ir dar vienos bėdos. Kai stalas labai apkrautas, modelis prasčiau pastebi tai, kas guli krūvos viduryje. Sprendimas dėl 6 milijonų buvo priimtas per ilgai besitęsusį vėlyvą pokalbį – kažkur tarp puslapių apie pinigų srautus ir rinkos dydį. Ten jis ir pasimetė.

Užrašų knygelė 

Kaip tada asistentas prisimindavo, kas vyko vakar? Jis turi ilgalaikę atmintį, tik ji yra ne modelio viduje, o šalia jo – atskiroje duomenų bazėje. Tarkime, kad tai užrašų knygelė.

Po kiekvieno pokalbio sistema atsirenka faktus, kuriuos, jos manymu, verta išsaugoti: „Karolis vadovauja šešių žmonių startuoliui.“ „Jis ieško investuotojų.“ „Įmonės vertė – 4 mln. eurų.“

Kiekvienas faktas paverčiamas vektoriumi – ilga skaičių seka, nusakančia sakinio prasmę. Panašios prasmės sakiniai gauna panašius skaičius, net jei sudaryti iš skirtingų žodžių. Taip „įmonės vertinimas“ ir „kiek verta bendrovė“ atsiduria visai greta.

Kai Karolis paprašė asistento užpildyti skaidrę apie įmonės vertę, jo prašymas irgi buvo paverstas skaičiais. Sistema užrašų knygelėje surado artimiausią atitikmenį ir padėjo jį ant stalo. Tas įrašas buvo padarytas dar pirmąją savaitę. Naujasis sprendimas dėl 6 milijonų į knygelę taip ir nepateko, todėl asistentas nė nenutuokė, kad skaičius pasikeitęs. Jis panaudojo tai, ką turėjo.

Ne visi užrašai vienodi

Knygelėje saugomi kelių rūšių prisiminimai. Vieni jų – faktai, pavyzdžiui, kiek darbuotojų turi įmonė. Kiti – įvykiai: „Praėjusią savaitę sukūrėme finansinį modelį.“ Dar kiti – įpročiai: „Karolis mėgsta trumpus atsakymus.“ Visus juos atsirenka sistema, ne žmogus. O sistema ne visada teisingai nuspėja, kas vėliau bus svarbu.

Tolimesni Karolio veiksmai

Jis atsidarė asistento nustatymus ir pirmą kartą perskaitė, ką šis apie jį žino. Pataisė įmonės vertę, ištrynė kelis nebeaktualius faktus ir dar kartą patikrino kiekvieną pristatymo skaičių. Kitą rytą susitikimas praėjo sklandžiai.

Vis dėlto svarbiausia pamoka buvo ne apie pristatymą. Karolis manė dirbąs su asistentu, kuris viską prisimena. Iš tikrųjų jo asistentas kaskart iš naujo perskaito savo užrašus. DI neprisimena taip, kaip mes, – jis remiasi tuo, ką turi po ranka. Todėl verta žinoti, kas surašyta jo užrašų knygelėje.

Žvilgsnis į ateitį

DI atmintis sparčiai tobulėja: asistentai vis geriau pastebi pasikeitimus ir atnaujina užrašus. Tačiau pagrindinis principas greičiausiai dar kurį laiką išliks tas pats: nekintantis modelis, kaskart nuvalomas stalas ir užrašų knygelė, kurioje sistema pati sprendžia, ką išsaugoti. Kuo dažniau naudojame DI atliekant svarbias darbines užduotis, tuo svarbiau žinoti, kas toje užrašų knygelėje yra parašyta.

Straipsnis parengtas remiantis „AAI-Labs“ tyrimu „Memory under noise“ apie DI agentų atmintį.

Pranešimą paskelbė: Aistis Raudys, UAB Taikomasis dirbtinis intelektas

Facebook Comments
Privatumo politika