Beieškant žmogaus | Apžvalga

Įžvalgos

  • Beieškant žmogaus

  • Data: 2019-05-02
    Autorius: Algirdas Saudargas

    pixabay.com/Michael Schwarzenberger nuotrauka

    Europos parlamento tyrimų tarnybos Mokslinio perspektyvų tyrimo skyrius (STOA), artėjant Europos Parlamento rinkimams, parengė nemažai studijų (žr. G. Svetikaitė, L. Izokaitytė, šis leidinys). Didžiausią susirūpinimą kelia klaidingos informacijos plitimas šiuolaikinių skaitmeninių technologijų pagrindu veikiančiose medijose. Žmonių noras vieniems kitus klaidinti pasireikšdavo ir primityviose bendruomenėse, ir labai aukštos civilizacijos visuomenėse. Žmonės pasitelkdavo jiems prieinamas priemones ir tiesai skleisti, ir melams platinti. Šiandien, kai visus mūsų judesius internete stebi ir kontroliuoja virtualūs robotai, kai nuolat pranešama apie kibernetines atakas ir kuriamos kibernetinio saugumo institucijos bei kibernetinės apsaugos būriai, būtina išsiaiškinti, ką keičia žmonių santykiuose šiuolaikinės technologijos ir kur slepiasi žmogus su savo ketinimais. Šiandienos ir netolimos ateities visuomenėje pirmaeiliu uždaviniu tampa automatų, robotų, išmanių įrenginių ir, apskritai, sprendimus priimančių algoritmų (SPA) apsuptyje ieškoti atsakingo žmogaus. Dauguma šių algoritmų buvo sukurti ir ilgus metus tobulinti mokslinių tyrimų kryptyje, besivystančioje po bendru skėtiniu pavadinimu „dirbtinis intelektas“ (DI).

    Leidinio „Apžvalga“ 2019 m. balandžio mėn. specialiojo priedo „Kibernetinio saugumo apžvalga“ viršelis

    Europos Parlamento pastatas Strasbūre suprojektuotas kaip stilizuota tvirtovė, kurią juosia apsauginis griovys, o su pasauliu jungia pakeliamieji tiltai. Šiandien, žvelgdami į Europos Parlamento pastatą, patiriame dvejopą įspūdį: ar tai nebaigta statyti tvirtovė, ar jau yranti pilis (žr. šio leidinio viršelį)? Ar robotas, panašus į šarvuotą viduramžių riterį, yra tvirtovės gynėjas, ar užpuolikas? Ar jo kepurė žymi dezinformacijos, kuri kartais šmaikščiai vadinama melagienomis, skleidėją, ar primena viduramžių juokdarį, kuris nebaudžiamas sakydavo tiesą valdovui į akis? Šiandien būtina susigaudyti technologijų tikrovėje, nes jos daro didelę įtaką žmonių santykiams. Politika persikėlė į socialinius tinklus, kur virulentiškos naujienos žaibo greitumu pasklinda ir pasėja pasekmes. O ta medija, kurioje šiandien gimsta ir sklinda naujienos ir melagienos, yra valdoma SPA pagrindu suprogramuotų virtualių interneto robotų (vadinamųjų „botų“), kuriuos savo ruožtu valdo pasaulinės skaitmeninės erdvės platformos. Kasdien internete vyksta milijardai kreipinių ir užklausų. Vis dėlto, žmonių veikla šitame milžiniškame informacijos sraute sudaro tik pusę: kitą pusę atlieką virtualūs agentai – „botai“. Anglų kalboje jau įsitvirtino iš medicinos pasikolintas terminas „viral“, reiškiantis dideliu greičiu (kaip virusas) plintančias informacijos porcijas – videoįrašus, gandų pobūdžio žinias ar nuotraukas. Šis reiškinys atsirado socialiniuose tinkluose ir kitose apsikeitimo įvairios formos informacija platformose (pvz. „YouTube“).

    Populiarus įsivaizdavimas, kad netrukus sulauksime mąstančių mašinų, kurios pranoks žmogaus proto galias, keldamos pavojų žmonijai, yra labai klaidinantis. Ir dabar yra mašinų, kurios viršija žmogaus galias, bet pavojai kyla ne iš pačių mašinų, o tik iš jas valdančio žmogaus. Erico Horvitzo sumanymu Stanfordo Universitete 2014 metais pradėta iniciatyva – „Šimto metų dirbtinio intelekto studija“, kuri ketina stebėti DI raida ir jo įtaką visuomenei, kas penkiolika metų pateikdama padėties apžvalgas. Pirmoji tokia ataskaita buvo parengta 2016 metais. Ji apžvelgia DI raidą iki 2030 metų. Apžvalga išsklaido būgštavimus, kad DI pats savaime gali kelti kokių nors pavojų žmonijai. Joje konstatuojama, kad jokia mašina, turinti ilgalaikius savanaudiškus tikslus ir intencijas nėra sukurta ir nėra tikėtina, kad bus sukurta artimiausioje ateityje. Priešingai, ataskaitoje tvirtinama, kad iki 2030 metų pasirodys vis naudingesni DI pritaikymai, padarysiantys gilių pozityvių poveikių visuomenei ir ekonomikai. Norėdami visokeriopai panaudoti DI teikiamas priemones visuomenės reikmėms, o kartu išvengti nepageidaujamų pasekmių, privalome tiksliai ir blaiviai išsiaiškinti DI algoritmais grįstų sistemų veikimo principus bei galimybes. Už kiekvieno sėkmingo DI sistemos pritaikymo slypi ilgametis kūribingų žmonių triūsas. Už kiekvieno žalingo DI panaudojimo, ar tai būtų kibernetinė ataka, ar melagingų žinių sklaida, ar piktybiškas šnipinėjimas, stovi žmogus arba žmonių organizacija.

    Visuomet pravartu pažvelgti į istoriją, prisiminti, kaip kitose epochose žmonės žvelgė į technologijas, atskleisti šiuolaikinių technologijų ištakas. Technologijoms keičiantis, keitėsi ir jų poveikis visuomenei bei žmogaus požiūris į mašiną ar automatą. Palyginkime, kaip sename ir garbingame šachmatų žaidime automatas kovojo su pripažintais meistrais XIX a. pradžioje ir XX a. pabaigoje. Šiuos įvykius skiria daugiau nei šimtmetis.

    Nuo 1770 iki 1854 metų Europą ir Ameriką stebino šachmatais žaidžiantis automatas, vadinamas „Turku“, nes buvo rytietiškai aprengtas – su tiurbanu ant galvos. Suprantama, automatą valdė žmogus, pasislėpęs spintelėje, prie kurios sėdėjo „Turkas“. Beveik šimtmetį visuomenė toleravo šį triuką, o automato savininkai susikrovė nemažą sumelę pinigų. Kyla natūralus klausimas, kodėl visuomenė leidžiasi mulkinama? Juk su „Turku“ šachmatais žaidė ir Napoleonas Bonaparte‘as, ir Benjaminas Franklinas. Be to, jie pralošė, nes automato operatoriais pasisamdydavo vieni stipriausių Europos šachmatininkų. Šachmatų pamokomis Paryžiaus kavinėse ne ką uždirbsi. „Turką“ nugalėdavo tik tokie meistrai, kaip Philidoras.

    Suprasti visuomenės požiūrį galime sugrįžę į istorijos pradžią. Automatą sukūrė iš Bratislavos kilęs Austrijos-Vengrijos valstybės tarnautojas Wolfgangas von Kempelenas. Šis sumanymas jam kilo stebint imperatorienės Marijos Teresės dvare Schönbrunn Pilyje iliuzijonisto François‘o Pelletier‘o pasirodymą. Kitaip tariant, „Turkas“ buvo sukurtas kaip teisėta apgavystė, kad pranoktų tuometinių iliuzijonistų šlovę. Juk šiandien mokame pinigus už bilietą į iliuzijonistų spektaklį ir leidžiamės mulkinami pramogos ir žaidimo dėlei.

    Šachmatų automato stebėtojai mėgaudavosi spėliodami, kur paslėptas triukas. Rašytojas Edgaras Poe, kuris labai mėgo įvairius automatus bei rašė detektyvines ir siaubo istorijas, stebėdamas „Turko“ pasirodymus, išaiškino, kad jo operatorius yra visur tuometinį įrenginio savininką Johanną Maelzelį lydėjęs šachmatininkas Williamas Schlumbergeris. Schlumbergeris visuomet būdavo greta Maelzelio, bet paties pasirodymo metu jo niekuomet nebūdavo. Poe padarė paprastą loginę išvadą ir buvo teisus. Jis teisingai nurodė kur slypėjo mechanizmo „intelektas“, bet įrodyti negalėjo. Spektaklis tęsėsi. Spėlionių buvo pačių įvairiausių. Be abejo, buvo tokių, kurie apkaltindavo Maelzelį sandėriu su velniu, bet toje apšvietos klestėjimo epochoje įdomiausi buvo moksliniai paaiškinimai.

    Prancūzų magas (vartoju šį terminą iliuzijų meistro prasme) Jeanas-Eugène‘as Robertas-Houdinas, kuris šį meną perkėlė iš mugių šurmulio į teatro sceną, panaudojęs stiprų elektromagnetą, prikaustydavo nesunkią dėžę su geležiniu dugnu prie grindų, kad jos net stipruoliai negalėjo pakelti arba, demonstruodamas levitacijos triuką, paskleisdavo medicininio eterio kvapą ir tvirtindavo, kad valdo tuometinėse mokslinėse diskusijose populiarios sąvokos „eterio“ srautus. Magai panaudodavo pažangiausias turimas technologijas, konstruodavo mechanizmus, bet pagrindinis jų sėkmės laidas buvo žmogaus psichologijos perpratimas. Pati pagrindinė magų technika buvo ir tebėra žmonių dėmesio valdymas. Todėl nenuostabu, kad populiariausias „Turko“ gebėjimų paaiškinimas buvo „magnetizmas“, kurį XVIII a. pabaigoje išpopuliarino vokiečių gydytojas Franzas Mesmeris. Kai „Turkas“, kilus gaisrui, sudegė, jo paslapties nebebuvo prasmės saugoti ir ji buvo visuomenei atskleista.

    IBM kompiuterį „Deep Blue“, kuris specialiai buvo sukurtas mačui su pasaulio čempionu Garry Kasparovu, šiandien kiekvienas gali apžiūrėti muziejuje. Žmogui ten nėra kur pasislėpti. Magija slypi algoritme. Juk po kiekvienos galimų ėjimų sekos reikia kažkokiu būdu įvertinti poziciją, norint atrinkti geriausią ėjimą. Tam „Deep Blue“ turėjo 480 specializuotų procesorių, kurių kiekvienas tikrino kokį nors pozicijos bruožą. Šį algoritmą ne vieną dešimtmetį kūrė žaidimo žinovų komanda. Kasparovas pirmąjį mačą 1996 metais laimėjo 4–2. Antrajam mačui buvo parengta nauja patobulinta mašinos versija. 1997 metais „Deep Blue“ laimėjo mačą 3½–2½.

    DI propagavimui tai buvo neeilinis įvykis. Mašina tapo tokia protinga, kad nugalėjo pasaulio čempioną! Ar tikrai taip? Vis dėlto, kaip kompiuteris galėjo įveikti pasaulio šachmatų čempioną? Žinoma, jokios apgaulės kaip „Turko“ atveju nebuvo. Nugalėjo ne mašinos „protas“, bet žmogaus intelektas slypintis algoritme, sujungtas su mašinos gebėjimu greitai skaičiuoti. Į mašinos atmintį buvo perkelta milžiniška geriausių meistrų sužaistų partijų duomenų bazė. Pozicijų vertinimo kriterijus ilgus metus rengė aukštos kvalifikacijos ekspertai. Paties žaidimo metu žmogus paslapčia mašinos veiksmams įtakos nedarė. Mašinos pergalė nepadaro jos protinga – ji tik vykdo iš anksto parengtas instrukcijas. Tačiau mašinos sėkmė žaidžiant šachmatais parodė vieną svarbų dalyką: ekspertams pavyko suklasifikuoti visokeriopas pozicijas ir jas formaliai įvertinti tiek vykusiai, kad mašina, peržiūrėdama milijonus galimų pozicijų, priimdavo sprendimus lygiai tokius pat vertingus, kokius priima aukščiausios klasės tos srities ekspertai – šachmatų didmeistriai. Buvo atliktas didžiulis darbas. Pavyzdžiui, tobulindami mašiną po pirmojo mačo, ekspertai padidino kiekvienos pozicijos įvertinimo požymių skaičių nuo 6400 iki 8000. Kitaip tariant, įmanoma sukurti tokius DI algoritmus, kurie priima žmogaus ekspertų lygio sprendimus konkrečioje specializuotoje srityje. Tačiau vis tiek tai tėra SPA, o ne mašinos protas. Įdomu, kad milijonus kainavusi „Deep Blue“ atsidūrė muziejuje, kaip ir „Turkas“ (kuris ten per gaisrą sudegė). Tai buvo labai specializuotas įrenginys, kuris niekam kitam netiko. Tai tebuvo investicija į viešuosius ryšius. IBM netrukus šią programą uždarė. Finansinę paramą prarado ir kitos kompiuterinių šachmatų programos visame pasaulyje.

    Po „Deep Blue“ ir Kasparovo mačo išpopuliarėjo turnyrai, kuriose abu varžovai žaisdavo pasitelkę kompiuterį į pagalbą. Dabar manoma, kad žmogus su kompiuteriu šachmatuose yra stipresnis žaidėjas ir už žmogų, ir už kompiuterį, žaidžiančius pavieniui. Kitaip tariant, geriausias sprendimas yra žmogaus ir DI algoritmo sąveika, kai kiekvienas atlieka tai, ką geriausiai moka. Kompiuteris skaičiuoja, o žmogus pajungia savo intuicijos galias. Šachmatų meistrai sugeba peržiūrėti daugybę ėjimų variantų, bet mašina per tą patį laiką peržiūri milijonus. Skaičiavimo greitis yra mašinos privalumas, su kuriuo žmogus nė iš tolo negali lygintis.

    Nors DI kūrėjai po pergalės prieš pasaulio čempioną prarado susidomėjimą šiuo senoviniu žaidimu, vienos pamokos nevalia užmiršti. Ji nėra plačiai žinoma. Aukščiau minėtuose turnyruose buvo leidžiama žaisti grupėmis, pasitelkus kompiuterius. Kaip minėjome, pasirodė, kad žmogus ir kompiuteris yra stipresnis žaidėjas ir už žmogų, ir už kompiuterį. Tačiau Kasparovas primena, kad nugalėjo ne didmeistris su galingiausia programa, bet du mėgėjai su keliais nešiojamais kompiuteriais. Taigi, svarbiau už kompiuterio galingumą ir žmogaus meistriškumą pasirodė žmogaus sugebėjimas išmaniausiu būdu panaudoti kompiuterį.

    Anglų kalba žodis kompiuteris (angl.computer) nėra naujas. Kol nebuvo mechaninių kompiuterių, tuo žodžiu buvo vadinami žmonės, kurių profesija buvo skaičiuoti. Pasakojama, kad 1812 metais Charlesas Babbage‘as sėdėjo, žvelgdamas į tuo metu plačiai naudojamas ir labai reikalingas logaritmų lenteles, ir nusprendė, kad tokias lenteles reikia skaičiuoti mašinomis. Tos lentelės buvo parengtos naudojantis naujausiais prancūzų matematikų metodais. Jie suskaidė skaičiavimus į paprastų veiksmų sekas – tik sudėties ir atimties. Pačius skaičiavimus atliko aštuoniasdešimt „kompiuterių“ – profesionalių skaičiuotojų. Tikras aritmetikos fabrikėlis. Tačiau lentelėse, į kurias žvelgė Babbage‘as, buvo gausu klaidų. Žmogus yra prastas ir nepatikimas kompiuteris. Babbage‘o suprojektuotas mechaninis kompiuteris buvo šiuolaikinio kompiuterio prototipas. Jame programa buvo atskirta nuo duomenų, rezultatus buvo numatyta atspausdinti. Deja, tinkamo finansavimo jis nesulaukė. Tik 2008 metais vienas iš atkurtų prototipų atsidūrė Silicio slėnyje Kalifornijoje esančiame kompiuterių muziejuje. Labai pravartu nors per „YouTube“ pasižiūrėti, kaip sukasi šio mechanizmo sraigteliai, nes šiuolaikiniame kompiuteryje vyksta lygiai tas pats mechaninis veiksmas – tik elektros srovės formoje ir milijardus kartų greičiau.

    Skaičiavimą mechanizuoti prasminga, kai reikia tuos pačius veiksmus kartoti daug kartų. Jeigu mašina tik nuosekliai vykdytų programuotojo surašytą veiksmų seką, nieko nelaimėtumėm. Kas iš to, kad mašina akimirksniu įvykdytų milijoną ar net milijardą komandų, jei jas visas mums tektų nuosekliai surašyti. Žinoma, programos būna ilgos ir sudėtingos, bet mašinos greitis bus panaudotas tiktai tuomet, kai užduotis reikalauja didžiulio skaičiaus pasikartojimų. Tokių uždavinių rezultatų kokybė ar skaičiavimo tikslumas priklauso nuo pakartojimų skaičiaus. Žmogaus protas kuria algoritmą ir pateikia mašinai duomenis, o mašina tik algoritmą išpildo.

    Žmogaus protas nėra mechaninis skaičiuotuvas. Protavimas remiasi disciplinuota vaizduote. Žmogaus atmintis yra abstrakčiomis savokomis susisteminta vaizdinių saugykla. Kaip minėta, žmogus yra labai prastas skaičiuotojas. Įdomu, kad unikalių skaičiuotojų protas nė kiek nepanašesnis į kompiuterį. Daugelis jų kenčia nuo vienokios ar kitokios autizmo formos. Pastebėta, kad treniruodami savo sugebėjimus, jie naudoja sinesteziją. Tūkstančiai skaitmenų, kuriuos jie sugeba atsiminti ir išvardinti, nėra tik matematiniai ženklai – jie turi kiekvienas sau būdingą išvaizdą, skambesį, skonį ir kvapą. Jų vaizduotė yra menkai suabstraktinta, todėl nepaprastai detali.

    Žmogus iš prigimties nėra mašina ar automatas. Civilizacijos kraštutinumai daro iš žmogaus automatą. Industrinė visuomenė gali pateikti aibes pavyzdžių, kai žmogus tampa mašina ar net jos sraigteliu. Kalbėjome apie tą epochą, kai žmonės žavėjosi mechanizmais ir automatais, tokiais kaip šachmatais žaidžiantis „Turkas“. Tuomet buvo sukurti tokie literatūros personažai, kaip Golemas ar daktaro Frankenšteino monstras. Tačiau jau tuomet buvo rūpestis, kad žmogus tampa panašus į automatą. Kariuomenės paraduose kareiviai atrodydavo panašūs į robotus, o mūšyje skersdavo vienas kitą kaip tikri žmonės. Žmogaus prigimtyje ar visuomenės sandaroje šiandien ne kažin kas iš esmės tepasikeitė. Naujosios technologijos įsiskverbė į žmonių santykius ir tapo naująja medija. Šiandien kaip niekad svarbu atsiminti, kad dera rūpintis ne tuo, kad mašinos taptų panašesnės į žmogų, bet, kad žmogus taptų mažiau panašus į mašiną.

    Pastaraisiais metais išryšiėjo kita DI pritaikymų sritis. Tiesa, ji taip pat turi pusės amžiaus istoriją, tačiau tik prieš kokius penkerius metus neuroninių tinklų pagrindu sukurti algoritmai pradėjo laimėti vaizdų atpažinimo konkursus prieš kitas programas ir šiuo metu pasiekė žmogaus lygį. Čia taip pat nedera kalbėti apie „protingas mašinas“, bet reikia matyti atsiveriančias labai plačias galimybes. Savaeigiai automobiliai neįmanomi be šių algoritmų. Mašina perima iš žmogaus dar vieną sritį, kurią galima mechanizuoti. Kiekvienos technologijos indėlis į visuomenės raidą priklauso nuo to, kieno rankos tą technologiją valdo. Atrodo, kad informacijos perdavimas, tvarkymas ir saugojimas neišvengiamai atsiduria DI algoritmų žinioje, o kas ir kaip juos valdo, tampa vis sunkiau atskleidžiama. Pavyzdžiui, pastaruoju metu sparčiai visokeriopose medijose plintanti dezinformacija, dažnai populiariai vadinama „klaidingomis žiniomis“ (angl. fake news), panaudojus DI tampa dar įtaigesnė. Taip randasi tokie terminai, kaip „deepfake“, kuris susieja giliojo mokymo (angl. deep learning) DI technologiją su klaidingų žinių terminu. Į bet kurio politiko lūpas dabar galima įdėti bet kokius žodžius ir tokį vaizdo įrašą paskleisti socialiniuose tinkluose. Tokia technologija praktiškai visiems prieinama. Žinoma, tos pačios technologijos padeda dezinformaciją demaskuoti. Deja, to nepakanka, nes melas plinta žaibiškai, ir kol jis išaiškinamas, melo tikslas būna jau pasiektas. Atrodo, kad ateityje prisireiks ne tik kibernetinio saugumo greitojo reagavimo pajėgų (tokias Lietuva sėkmingai kuria), bet teks organizuoti ir kovos su dezinformacija būrius. Šiandien kai kurios svetainės ar pavieniai žurnalistai dirba šia linkme. Ateityje turėtų rastis nevalstybinis pripažintas autoritetas (nesvarbu kokios organizacijos formos), kuris kiek galint greičiau viešai nurodytų kensmingas ar melagingas žinias, tiek vietinės kilmės, tiek atėjusias iš užsienio. Valstybinės įstaigos privalėtų jam teikti neatidėliotiną ir skubią aukščiausios techninės kvalifikacijos paramą.

  • ATGAL
    Trumpa įžanga į kibernetinį saugumą
  • Mūsų draugai:
  • ELP grupė
  • Bernardinai.lt
  • Europarlamentaras Algirdas Saudargas

Copyright © 2011 apzvalga.eu. Visos teisės saugomos.

Draudžiama tinklapyje „Apžvalga“ paskelbtą tekstinę ir vaizdinę medžiagą panaudoti kitose žiniasklaidos priemonėse arba platinti šio tinklapio medžiagą kuriuo nors pavidalu be „Apžvalgos“ leidėjų sutikimo, o jei sutikimas gautas, būtina nurodyti „Apžvalgą“ kaip šaltinį.