Dirbtinis intelektas jau spėjo tapti neatskiriamu mūsų kasdieninio gyvenimo palydovu. Jis teikia mums pirkinių rekomendacijas, padeda rasti trumpiausią kelionės maršrutą ir netgi gali atsiliepti į telefono skambučius. Nuo dvidešimtojo amžiaus vidurio prognozuojama, kad ateis diena, kai dirbtinis intelektas gebėjimais pralenks žmogų. Viena iš savybių, kurių paprastai tikimės iš šio skaitmeninio pagalbininko – visiškas objektyvumas priimant sprendimus. Juk, atrodo, skirtingai nei žmogaus, mašinos nepapirksi ir nepalenksi į savo pusę. Vis dėlto mokslinėje ir populiariojoje spaudoje galima rasti straipsnių (pvz. Mehrabi et al., 2021), aprašančių atvejus, kai dirbtiniu intelektu paremtas įrankis pateikė rekomendacijas, kurios buvo diskriminuojančios rasės, lyties ar įgalumo atžvilgiu. Apie tai, kodėl kompiuterinė sistema tampa šališka, kalbamės su dirbtinį intelektą tyrinėjančia VU Duomenų mokslo ir skaitmeninių technologijų instituto profesore Olga Kurasova.
Dirbtinis intelektas – tai juk nuliai ir vienetai, matematinės formulės. Kur slypi jo šališkų sprendimų, aprašomų spaudoje, priežastis?
Kalbant apie dirbtinio intelekto šališkumą, galima išskirti du jo tipus. Pirmasis yra tyčinis šališkumas, kai dirbtinio intelekto kūrėjai kuria sistemą sąmoningai nepaisydami lygybės ir objektyvumo kriterijų. Vis tik tikiuosi, kad tokių atvejų pasitaiko retai ir didžioji dalis šališkumo apraiškų yra antrojo – netyčinio šališkumo – tipo. Apskritai paėmus, dirbtinio intelekto šališkumo priežastis ta, kad jį kuria žmonės. Galvojant apie dirbtinį intelektą, atrodo, kad būdamas „robotas“, jis neturėtų turėti jokių sentimentų nei lyčiai, nei rasei, nei kuriam kitam aspektui, tačiau nereikia pamiršti, kad tas robotas yra žmogaus kūrinys, atspindintis netobulus žmogaus sprendimus.
Gal galėtumėte trumpai papasakoti, kaip veikia dirbtinis intelektas ir kuriuose jo veikimo etapuose gimsta šališkumas?
Visų pirma kompiuteriui suformuluojamas konkretus uždavinys. Kaip pavyzdį paimkime navikų atpažinimą kompiuterinės tomografijos nuotraukose. Tada reikia kompiuteriui pateikti tam tikrą kiekį duomenų, iš kurių jis gali mokytis išspręsti tą uždavinį. Mūsų pavyzdžio atveju, tai būtų kompiuterinės tomografijos vaizdai, kuriuose jau yra pažymėti navikai. Šį parengiamąjį žymėjimo darbą atlieka gydytojai radiologai. Gavusi mokomuosius vaizdus, dirbtinio intelekto sistema juose tol ieško ryšio tarp viso vaizdo ir radiologo pažymėto segmento, kol jį nustato, kalbant dalykiniais terminais, sukuria modelį. Vėliau sistema savo sukurtą modelį gali pritaikyti naujiems, radiologo dar neperžiūrėtiems vaizdams ir juose savarankiškai pažymėti įtartinas nuotraukos vietas, kuriose galimai matomas navikas.
Taigi, pirma svarbi dirbtinio intelekto sudedamoji dalis yra duomenys. Dirbtinio intelekto sistemos rengiamos darbui naudojant tam tikrus, jau egzistuojančius, duomenis. Kokiais duomenimis apmokysime dirbtinio intelekto sistemą, tokiais ji ir remsis prognozuodama, klasifikuodama ar spręsdama kokį nors uždavinį. Reikia, kad mokymo duomenys būtų kuo įvairesni, bet tokius duomenis sunku surinkti, nes įprastai mokymo duomenys renkami vienoje apibrėžtoje grupėje, kur nėra didelės įvairovės. Tokiu būdu jau duomenų rinkimo etape, dažnai net nesąmoningai, sudaromos prielaidos šališkumui. Pateiksiu pavyzdį: dirbtinis intelektas apmokomas teikti pasiūlymus įdarbinti tam tikrose technikos srities pareigose. Šiuo metu toje srityje dirba mažai moterų. Taigi dirbtiniam intelektui bus pateikta mažai duomenų apie moterų įdarbinimą. Jis išmoks pakartoti jau esamą situaciją, todėl ir jo teikiamose rekomendacijose bus numatyta mažai darbo pasiūlymų moterims. Kitas dėl mokymo duomenų vienpusiškumo atsirandančio šališkumo pavyzdys galėtų būti dirbtiniu intelektu besiremiančios odos vėžio atpažinimo sistemos. Pateikus joms ant odos esančios dėmelės nuotrauką, tokios sistemos įspės, jei dėmelėje įžvelgs pavojingų pakitimų. Apmokant šias sistemas daugiausia buvo naudoti baltaodžių individų duomenys, todėl jų tikslumas yra žymiai didesnis taikant jas baltaodžiams, nei juodaodžiams ar azijiečių kilmės pacientams. Panaši problema egzistuoja ir taikant dirbtinį intelektą ligoms identifikuoti. Sistema išmoksta atpažinti dažnai pasitaikančias ligas, tačiau jeigu susiduria su reta liga, kurios ji mažai buvo „mačiusi“, jai bus gana sunku ją atpažinti. Jei vienas atvejis iš dešimties tūkstančių kažkuo išsiskiria, dirbtinis intelektas linkęs jį nurašyti kaip paklaidą.
Svarbi dirbtinio intelekto veikimo proceso dalis – sistemai apmokyti skirtų duomenų ženklinimas, tai yra, kai tam tikri duomenys priskiriami tam tikrai kategorijai, taip vadinamai „klasei“, arba vaizde pažymimi tam tikri fragmentai. Šališkumas gali atsirasti, jei duomenys buvo paženklinti šališkai. Juk šį darbą atliekantis ekspertas yra žmogus. Mūsų institutas nemažai bendradarbiauja su medikais. Pasitaiko, kad ženklindami mokymo duomenis, medikai nesutaria, kur yra vienos ar kitos klasės ribos. Kuo labiau patyręs ekspertas, tuo tiksliau jis sužymės duomenis. Deja, dažniausiai duomenų ženklinimas paliekamas mažiau patyrusiems kolegoms, nes tai yra neįdomus ir daug laiko atimantis darbas.
Kaip dirbtinio intelekto kūrėjai gali padėti jam tapti mažiau šališku?
Mokymo duomenų paruošimo ir ženklinimo etape svarbų vaidmenį vaidina žmogiškasis faktorius. Dirbtiniam intelektui apmokyti skirti duomenys turi būti kiek galima reprezentatyvesni. Tam reikalingi patikimi ekspertai. Žinoma, egzistuoja ir informatikos metodai, padedantys įvertinti duomenų reprezentatyvumą, tačiau svarbiausias vaidmuo užtikrinant, kad surinkti duomenys nesudarytų pagrindo diskriminacijai, tenka juos pateikusiam ekspertui.
Dirbtinio intelekto kūrėjai jau dabar imasi veiksmų, padedančių sumažinti šališkumą duomenų lygmenyje, nors jie gal ir ne visada įvardija tuos veiksmus kaip kovą su šališkumu. Pavyzdžiui, tobulinamas retesnių pavyzdžių atpažinimas. Jo kokybei pagerinti pasitelkiami specialūs statistikos metodai. Identifikavus netipinius pavyzdžius, galima įvertinti, ar jie duomenyse reprezentuoja klaidą ar išskirtinį atvejį.
Viena iš šiuo metu aktualių dirbtinio intelekto tyrimų krypčių yra dirbtinių neuroninių tinklų technologija. Ji leis dirbtinio intelekto sistemai „apibendrinti“ iš mokymo duomenų įgytas žinias (angl. generalization) ir taip tapti įvairiapusiškesne. Kaip pavyzdį paimkime dirbtinio intelekto sistemą, skirtą kompiuterinės tomografijos nuotraukoms interpretuoti. Tarkime, ši sistema buvo apmokyta naudojant tam tikro gamintojo tomografu gautus vaizdus. Dabartinio lygio technologija neduos gerų rezultatų, jei bus taikoma kito gamintojo įranga darytiems vaizdams atpažinti, nes skiriasi skirtingų gamintojų įrangos raiškumas, vaizdų gavimo procesai ir taip toliau. Ateities technologija gebės prisitaikyti prie įvairių gamintojų įrangos, nes ji galės atsiriboti nuo neesminių duomenų ypatybių. Dirbtinio intelekto priklausomybės nuo mokymo duomenų savybių mažinimas padės sumažinti ir šališkumo problemą. Vis dėlto, šios krypties tyrimai yra dar labai ankstyvoje stadijoje ir jų rezultatai dar negali būti plačiai taikomi.
Atsižvelgiant į mūsų aptartą šališkumo problemą, ar paprastas vartotojas vis dar gali pasitikėti dirbtiniu intelektu?
Žiūrint kur dirbtinis intelektas yra taikomas. Jeigu mums reikalinga rekomendacija, į kokį kurortą skristi atostogauti, tai galbūt, nieko nenutiks, jeigu nebus pasiūlytas pats objektyviausias sprendimas. Dirbtinis intelektas padės mums sumažinti sprendimo paieškai skirtas laiko sąnaudas, o jo paklaida bus pateisinama. Vis dėlto, jeigu dirbtinis intelektas yra taikomas priimant rimtus sprendimus, pavyzdžiui, diagnozuojant ligą, neverta juo aklai pasitikėti. Šiuo metu medicinoje dirbtinis intelektas taikomas tik atliekant preliminarią diagnostiką. Galutinį sprendimą, ypač kritiniais atvejais, vis dar priima žmogus. Dirbtiniam intelektui dar tikrai yra kur tobulėti. Net jei tam tikrose specifinėse srityse jo sprendimų tikslumas jau yra gana didelis, nė vienas specialistas aklai juo nepasitiki ir patikrina rezultatą, remdamasis savo žiniomis bei patirtimi.
Studentams, kurie idealizuoja dirbtinį intelektą, mėgstu duoti tokį pavyzdį: „Mažas vaikas greitai išmoksta skirti kačiuką nuo šuniuko. Jam nereikia parodyti tūkstančio kačiukų ir tūkstančio šuniukų, kad jis žinotų, kur kuris iš jų yra. Tuo tarpu dirbtiniam intelektui vis dar reikia labai daug pavyzdžių, kol jis išmoksta atpažinti skirtumus tarp dviejų objektų.“ Taigi, žmogaus, net ir mažo vaiko, smegenys vis dar veikia daug tobuliau nei dirbtinis intelektas.
Kalbino Gintė Medzvieckaitė
Informacija paimta iš VU bibliotekos rengiamo Mokslo atviruko
2021-10-29