klab
"What I cannot create, I do not understand." – R. Feynman
Jonas Kubilius

Teužgimsta dirbtinis intelektas

„Gyvūnas – žmogus – robotas“ parodos leidinys

Jūs turite sielą? Turbūt nemalonu būtų prisipažinti, kad ne. Kaipgi žmogus be sielos, sielos labai reikia. Kam? Vienas įtikinamesnių atsakymų turbūt pateikiamas René Descartesʼo filosofijoje, kad kūnas be sielos negeba protauti. Bet kai Alanas Turingas, Alonzas Churchas ir kiti mokslininkai XX a. pirmojoje pusėje suformulavo algoritmų teoriją, atsirado matematinis pagrindas, jog kompiuteris yra visiškai tinkamas simuliuoti loginio mąstymo procesus. Pavyzdžiui, norint įrodyti matematinę teoremą, užtenka kompiuterio programai žingsnis po žingsnio bandyti kaip nors keisti simbolius turimame matematiniame reiškinyje – tarsi labirinte ieškotume kelio,– kol pasiekiamas tikslas, t. y. toks reiškinys, kurį ir reikėjo įrodyti. Jei viename kelyje įstringama ir programa toliau pasistūmėti negali, ji grįžta kelis žingsnius atgal ir bando kitą kelią, šitaip iš principo tiesiog tikrindama visas įmanomas kombinacijas ar bent dalį jų. Dar 1956 m. sukurta kompiuterio programa „Loginis teoretikas“ jau sugebėjo įrodyti dalį matematinių teoremų, o pati idėja, kad loginis samprotavimas tėra gudrus paieškos algoritmas, tapo viena kertinių dirbtinio intelekto paradigmų, sėkmingai išnaudotų siekiant nugalėti žmones įvairiuose žaidimuose. Geriausiai žinomas pavyzdys turbūt buvo 1997 m. sistemos „Deep Blue“ pergalė prieš tuometinį pasaulio šachmatų čempioną Garį Kasparovą – sistema labai sparčiai atliko galimų ėjimų paiešką ir įvertinimą, kuris jų būtų palankiausias.

Suvokimas, kad galbūt turime visa, ko reikia sukurti mąstančias mašinas, davė impulsą sugrįžti prie klausimo apie kūrėjo ir kūrinio santykį. Šis klausimas keliamas, regis, jau nuo seniausių žmonijos laikų tiek biblinėje Babelio bokšto istorijoje, kur žmonės manosi galį pasiekti dangų ir prilygti Dievui; tiek graikų mitologijoje, kur Prometėjas iš dievų pavagia ugnį, šitaip priartindamas žmogų prie dievų, ir už tai yra skaudžiai baudžiamas; tiek viduramžių žydų folklore apie Golemą, iš molio ar purvo sulipdytą ir magiškai prikeltą būtybę, nebepaklūstančią savo kūrėjui. Mūsų laikų atitikmenys, matomi filmuose Terminatorius, Matrica ar Ex Machina, yra sąmonę įgavę robotai, kurie, būdami greitesni, sumanesni, stipresni už žmogų, ilgai nesitaiksto su žmonijos viršenybe ir sukyla, paversdami žmones savo vergais. Atsargiai – byloja šios istorijos, – esama dalykų, kurie turėtų būti pažinūs tik dievams, nes žmogus jų nesugebės suvaldyti.

Galbūt tai tipinė valdovo baimė – žmonija, savo įgeidžių vergovėje laikanti visą ekosistemą, dabar bijo prarasti vienvaldystę. Tačiau pažvelkime iš superintelekto pozicijų: kaip jaustumėtės, jei valstybei vadovautų koks penkiametis? Tai sunkiai įsivaizduojama, mes išsyk suvokiame, kad penkiametis nesugeba tiek, kad būtų jam galima patikėti valdyti valstybę. Bet superintelektui tas penkiametis – tai mes, nepajėgiantys iš esmės išspręsti socialinių, ekonominių ir politinių problemų; o plėtojant dirbtinio intelekto technologijas jos tik aštrės. Mašinų motyvacija perimti galios pozicijas gali būti labai natūrali ir geriausia išeitis tiek joms, tiek mums patiems.

Visgi tokie idiliški ateities peizažai smarkiai prasilenkia su dirbtinio intelekto realijomis. Kad tai įvertintume, grįžkime į 2012-uosius. Tais metais vyko trečiasis kasmetinis vaizdų atpažinimo iš nuotraukų konkursas, populiariai žinomas kaip „ImageNet Challenge“. Jame pateikiamos kasdienės nuotraukos iš interneto — buities daiktų, maisto, gyvūnų, mašinų, žmonių, — iš viso aprėpiančios 1000 kategorijų. Užduotis kompiuteriui: nustatyti, kokie daiktai pavaizduoti nuotraukose. Buvo spėjama, kad kompiuteris, išmokęs atlikti tokią užduotį, įgis universalią regos sistemą, naudingą įvairiausioms užduotims.

Bet atpažinti kokią katę paveikslėlyje anaiptol nėra paprasta. Ką mato mašina per savo kamerą? Didžiulę skaičių lentelę, panašią į tą, kurią matėme filme Matrica. Ir tuose plikuose skaičiuose reikia surasti kažkokią seką, kažkokią sistemą, kuri būdinga tik katei, o ne šuniui ar juolab tuščiam kambariui. Žmogus, beje, irgi mato tik „skaičius“ – akį pasiekia juk ne katės ir šunys, o šviesa, kuri stimuliuoja fotoreceptorius akies tinklainėje. Toliau signalai keliauja į regimąją žievę smegenyse, kur neuronai reaguoja tik į tam tikras formas vaizde. Pavyzdžiui, vieni neuronai reaguoja aptikę statmeną brūkšnelį, o aptikę gulsčią – nereaguoja. Tas aptikimas yra paprasta matematinė funkcija, tačiau sluoksnis po sluoksnio taikant tokias funkcijas, galima aptikti vis sudėtingesnes struktūras vaizde, panašiai kaip iš keliolikos natų galima sukurti sudėtingiausias kompozicijas. Atkartoję šią hierarchinę vaizdo apdorojimo sistemą kompiuteriuose, galime sukurti „giliuosius“ neuroninius tinklus (angl. deep neural networks), kurie, kaip pamatysime, sėkmingai atlieka sudėtingiausias vaizdų atpažinimo užduotis.

Pirmieji tokie gilieji neuroniniai tinklai pasirodė dar 1980-aisiais ir buvo sėkmingai pritaikyti paštuose bei bankuose ranka rašytiems simboliams atpažinti. Tačiau neuroninius tinklus ištreniruoti atpažinti, pavyzdžiui, kates nesisekė ir jie ilgam išėjo iš mados. O pasirodo, reikėjo gerokai daugiau duomenų treniruotėms („ImageNet“ turi apie 1,3 mln. nuotraukų ir kiekvienoje nuotraukoje įvardyta, kas pavaizduota), gerokai didesnių skaičiavimo pajėgumų ir gudresnių inžinerinių sprendimų neuroninių tinklų treniravimo stabilumui užtikrinti. Šitas trūkstamas detales suvokusi Alexo Krizhevskyʼo komanda nušlavė pirmąją vietą 2012-ųjų „ImageNet“ konkurse ir su trenksmu išjudino visą dirbtinio intelekto bendruomenę.

Šitaip gilieji neuroniniai tinklai kone pernakt imti naudoti medicinos diagnostikai, kur iš pacientų audinių vaizdų reikia identifikuoti patologijas; bepilotėms mašinoms; mašininiam vertimui iš vienos kalbos į kitą; balsui konvertuoti į tekstą bei tekstui konvertuoti į žmogaus balsą, kuris galėtų skaityti tekstus ar paskambinti į restoraną ir užsakyti staliuką sklandžia, natūralia kalba. Visur čia pritaikytas tas pats principas, vadinamasis mokymasis prižiūrint su priežiūra (angl. supervised learning): surenkama daugybė duomenų (nuotraukų, vaizdo ar garso įrašų, tekstų), jie rankiniu būdu apdorojami (įvardijami nuotraukose esantys daiktai, garso įrašai transkribuojami į tekstą) ir ta informacija naudojama treniruoti neuroniniams tinklams.

Krizhevskyʼo ir kolegų pergalė žymi simbolinę ribą, kur žmogaus dominavimas sprendžiant specializuotas užduotis baigiasi. Jeigu tik galima gauti pakankamai duomenų treniravimuisi, gilusis neuroninis tinklas greičiausiai išmoks geriau nei bet koks gydytojas aptikti vėžinius pakitimus, brokuotas detales, sutrikusią infrastruktūrą, įstatymų nesuderinamumą ir pažeidimus, saugumo spragas, apgaulingas bankines operacijas ir t. t. Bet užtat visa tai, kas nepakliuvo į treniruotėse matytas situacijas, mašinoms kelia problemų: jei esi matęs tik nedideles baltas katytes ir panteras, ar tikrai nesupainiosi juodo katino su pantera? Tiesą sakant, bėdų kyla jau vien dėl to, kad turimi duomenys neatspindi pasaulio nešališkai. Ištreniravę neuroninį tinklą atpažinti profesijas iš nuotraukų, nesistebėkime, kad vyro ir moters nuotrauka biure bus įvardinta kaip „vadovas ir sekretorė“, o ne atvirkščiai. Stereotipai atsispindi duomenyse ir mašinos tuos stereotipus perima. O visa tai, kas neįprasta, tampa nenormalu, ir šitaip mašinos nesąmoningai tampa visuomenės normintojomis, naujosios eugenikos šauklėmis.

Kitaip tariant, ką į mašinas sudėsime, būtent tą ir gausime. Šitai vaizdžiai iliustruoja filosofo Nicko Bostromo Sąvaržėlių daugintojo pavyzdys. Įsivaizduokime dirbtinio intelekto mašiną, kurio vienintelė užduotis yra pagaminti kuo daugiau sąvaržėlių. Darbščioji mašina plušės dieną naktį, optimizuodamas visus sąvaržėlių fabriko procesus iki menkiausių detalių, paskui optimizuodamas visą tiekimo grandinę, paskui apskritai pradės gvelbti elektros laidus, temptis į fabriką mašinas, o žmonėms užprotestavus, ir pastaruosius ims versti sąvaržėlėmis, nes jo tikslą suprogramavome tik vieną – kuo daugiau sąvaržėlių.

Norint išvengti tokios liūdnos baigties, mašinas teks treniruoti ne tik spręsti specifines užduotis, bet ir laikytis visuomenėje priimtino elgesio ir apskritai nestokoti sveiko proto. Štai retas kuris mūsų katę palaikys dešra, tačiau katę nuotraukoje supainioti su pantera gal ir nėra tokia neįtikima klaida. Mašinos, klystančios panašiai kaip mes, atrodo labiau suprantamos ir žmogiškesnės. Mūsų laimei, gilieji neuroniniai tinklai, išmokyti atskirti tūkstantį sąvokų „ImageNet“ konkurse, pasirodo, natūraliai klysta ten, kur ir žmonėms sunku. Maža to: kai mašinos žiūri į tuos pačius paveikslėlius, kaip ir žmonės, jų neuroniniai atsakai įtikinamai atitinka neuroninius atsakus primatų, įskaitant ir žmonių, smegenyse.

Tad galbūt vertėtų vystyti dirbtinio intelekto technologijas kaip galima labiau kopijuojant žmogaus smegenų veikimą. Štai, pavyzdžiui, dabartinė giliųjų tinklų treniravimo metodologija gerokai skiriasi nuo žmogaus mokymosi. Na kiekgi mes išmokstame prižiūrimuoju būdu? Kas gi mums tūkstančius kartų baksnoja į katinus: „Čia katinas, čia irgi katinas, ir čia katinas, ir čia“? O galiausiai net pragmatiškai žvelgiant, toks duomenų rinkimas ir apdorojimas užima daug laiko ir yra brangus, todėl būtų gerai, kad sistemos mokytųsi pačios. Pati aplinka paskatina, kai gerai darai, ir baudžia už klaidas, todėl toks mokymosi būdas vadinamas skatinamuoju (angl. reinforcement learning). Kaskart algoritmui, tarkim, nuvedus kompiuterinio žaidimo personažą iki tikslo, paskatiname kartoti tą pačią veiksmų seką ir ateityje, o pralaimėjus skatiname tokios sekos daugiau nebeatlikti. Šitaip sujungusi skatinamojo mokymosi idėjas su giliaisiais neuroniniais tinklais, 2014 m. „Google“ priklausanti „DeepMind“ bendrovė pademonstravo mašinas, išmokusias žaisti įvairius kompiuterinius žaidimus iš klasikinės „Atari 2600“ žaidimų konsolės daugeliu atvejų ne prasčiau nei žmogus.

Tačiau bene įspūdingiausiai skatinamojo mokymosi perspektyvos atsiskleidė 2016-ųjų kovą įvykusioje pasaulio go čempiono Lee Sedolo dvikovoje su „AlphaGo“. Go yra labai senas iš Kinijos kilęs abstraktus strateginis stalo žaidimas, kurio tikslas yra ant specialios lentos dėliojant akmenis aptverti daugiau ploto nei priešininkas. Nors taisyklės paprastos, šio žaidimo reikia daugybę metų mokytis norint pasiekti profesionalų lygį, dėl to, bent jau Rytuose, go meistriškumas yra didžiai vertinamas ir siejamas su išmintimi, intuicija ir kitais grynai žmogiškais gebėjimais. Go turi gerokai daugiau galimų ėjimų nei šachmatai ir ta geriausio ėjimo paieškos strategija, kuri lėmė „Deep Blue“ pergalę prieš Kasparovą, užstrigtų savo paieškose tarp visų ėjimų variantų. „DeepMind“ komanda nutarė esamus paieškos algoritmus praturtinti giliaisiais neuroniniais tinklais, ištreniruotais įvertinti potencialių ėjimų galimybes laimėti. Tokia sistema buvo treniruojama pirmiausia mokant tinklą atlikti tokius ėjimus, kokius turnyruose atliko profesionalai, o pasiekusi tam tikrą lygį sistema buvo treniruojama žaisdama pati prieš save. Kai „AlphaGo“ atlikdavo tokius ėjimus, kurie leisdavo pasiekti pergalę, pasirinkimai buvo įsimenami kaip naudingi, o kai pralošdavo, tokių ėjimų sekos buvo mokomasi ateityje nebedaryti.

Iki mačo su Lee Sedolu daug kas, ypač ne mašinų mokymosi specialistai, manė, kad mašina negalėtų prilygti žmogui – dėl įsigalėjusio įsitikinimo, kad šis žaidimas nėra tik paprastas kombinacijų perrinkinėjimas, bet reikalauja stiprios intuicijos, kūrybingumo, įkvėpimo. Pats Lee Sedolas, vienas stipriausių go žaidėjų viso žaidimo istorijoje, teigė laimėsiąs rezultatu 5:0 ar 4:1. Bet „AlphaGo“ jau pirmajame mače nustebino tiek patį Lee Sedolą, tiek žaidimo komentatorius savo dar nematytu žaidimo stiliumi ir profesionaliems žaidėjams nebūdingais ėjimais. Net tie ėjimai, kuriuos profesionalai vertino kaip nevykusius, po kurio laiko pasirodydavo buvę labai naudingi. Galiausiai penkių mačų serijoje Lee Sedolui pavyko laimėti tik ketvirtąjį. O kiek vėliau „DeepMind“ tyrėjams pavyko sukurti nebenugalimas sistemas, besimokančias žaisti mačuose su savimi išvis be jokių iš žmonių gautų duomenų.

O dirbtinio intelekto technologijos toliau mėgina perimti vis daugiau žmogiškųjų funkcijų. Pavyzdžiui, bendradarbiauti. Ar būtų įmanoma mašinoms laimėti ne tik pavienius kompiuterinius žaidimus, kaip anksčiau minėtuose pavyzdžiuose, bet ir komandinius žaidimus, tokius kaip „Dota2“, kuriame dvi penkių žaidėjų komandos gina savo bazę? Lyginant su go, suplanuoti reikia kur kas daugiau ėjimų, yra kur kas daugiau veiksmų ir galimų situacijų ir ne visa informacija apie žaidimo situaciją žinoma (kai ką žino tik tavo priešininkai), be to, dar tenka koordinuoti darbą su komandos nariais (pvz., ar geriau siekti naudos sau, ar pasiaukoti dėl komandos). Tačiau 2018 m. „OpenAI“ sukurta sistema „OpenAI Five“ sugebėjo nugalėti pusiau profesionalių žaidėjų komandą dviejuose iš trijų „Dota2“ mačų (nors kol kas dar nesugebėjo įveikti profesionalų). Įdomiausia, kad norint tokį lygį pasiekti, „OpenAI“ neprireikė jokių naujų dirbtinio intelekto sprendimų, o tik, tarsi atliepiant Krizhevsky’o ir kolegų pamokas, skirti įspūdingai daug skaičiavimo išteklių ir duomenų sistemoms treniruoti.

Kita labai žmogiška savybė yra smalsumas. Bet galime įsivaizduoti ir smalsią mašiną, kuri, sakykim, turėtų pati aktyviai tyrinėti aplinką ir mėginti daryti tai, ko dar nebuvo dariusi. Jeigu smalsioji mašina tiksliai nuspėja, kas bus jai atlikus kokį nors veiksmą, tada po kelių bandymų ji to jau nebedarys – nes „nuobodu“. O jei veiksmas sukelia neprognozuotų pasekmių – tai jau įdomiau ir smalsioji mašina turėtų mėginti vėl ir vėl, kol išmoks prognozuoti pasekmes ir vėl ims nuobodžiauti. Šitaip Berklio universiteto doktorantas Deepakas Pathakas ir jo kolegos 2017 m. sugebėjo ištreniruoti mašiną neblogai žaisti daug kam iš vaikystės pažįstamą „Super Mario Bros“ žaidimą be jokių papildomų paskatinimų, vien iš smalsumo.

Pirmoji kompiuterių programuotoja Ada Lovelace, 1843 m. mėgindama išaiškinti anglų mokslininko Charleso Babbage’o išrastos „Analitinės mašinos“ (pirmojo kompiuterio prototipo) potencialą, rašė: „[…] ši mašina galbūt galės komponuoti bet kokio sudėtingumo ar ilgio įmantrius akademinius muzikos kūrinius.“ Tokių laiką pralenkusių Lovelace eksperimentų su mašinine dailės ir muzikos kūryba teko palaukti iki XX a. 7-ojo dešimtmečio, o kur kas didesnės galimybės atsirado pastaraisiais metais išpopuliarėjus giliajam mokymuisi. Turbūt vienas įdomiausių pavyzdžių yra generatyvinių priešininkų tinklų (angl. generative adversarial networks, GANs) panaudojimas menui. GAN sudaro du vienas su kitu konkuruojantys neuroniniai tinklai. Vienas jų (generatorius) mokosi iš vizualinio triukšmo sugeneruoti realistiškai atrodančią nuotrauką, o kitas (diskriminatorius) mėgina atspėti, kurios iš jam pateiktų nuotraukų yra tikros, o kurios – sugeneruotos. Jei generatorius generuoja nekokybiškas nuotraukas, diskriminatorius lengvai atspėja, kad šitos yra netikros, tad verčia generatorių pasitempti, ir atvirkščiai. Šitaip GAN išmoksta generuoti praktiškai visiškai realistiškas veidų ir pusėtinas įvairių objektų nuotraukas – ir klastoti vaizdo įrašus. Tokios vadinamosios giliosios klastotės, arba glastotės (angl. deepfakes) išpopuliarėjo po to, kai 2017 m. naujienų svetainėje „Reddit buvo publikuoti keli vaizdo įrašai, kur pornografiniuose filmuose aktorių galvos buvo pakeistos įžymybių galvomis. Nors kol kas šios glastotės yra gana akivaizdžios klastotės, technologijoms tobulėjant jokia vaizdo ar garso informacija nebegalėsime pasitikėti kaip autentiška.

Tuo metu Ahmed Elgammal ir kolegų sukurtas CAN (angl. creative adversarial network), GAN variantas, ištreniruotas generuoti meno kūrinius, tikriausiai tapo pirmąja sistema, visiškai autonomiškai generuojančia netikėtus, sudėtingus ir estetiškai patrauklius paveikslus – tokius, kurie, pakabinti namie, nesukels svečiams abejonių. 2018 m. spalį „Christie’s“ aukcione Niujorke vienas iš tokių GAN sugeneruotų paveikslų buvo parduotas už beveik pusę milijono JAV dolerių. Konceptualiai žvelgiant, GAN atveria galimybę tarsi pažvelgti į mašinos vaizduotę ir priversti ją mąstyti vaizdiniais, slypinčiais už žmogaus vaizduotės ribų. Tokius meninius eksperimentus kartu su Gediminu ir Nomeda Urbonais pristatėme Lietuvos paviljone 16-ojoje tarptautinėje Venecijos architektūros bienalėje 2018 m. bei MO muziejaus parodoje „Gyvūnas-žmogus-robotas“.

„Bet juk tame mašinų mene nėra jokios intencijos!“ – sušuks skeptikas. Mašina tiesiog vykdo komandas, ji nieko nemąsto, nejaučia ir nenori pasakyti! Gal. Tačiau kaip kažkada galbūt buvo sunku įsivaizduoti, kad kompiuterio programa galėtų nugalėti pasaulio šachmatų čempioną, lygiai taip pat galbūt netrukus mums bus natūralu, jog visa tai, ką vadinome socialumu, smalsumu, kūrybingumu ar kitomis ezoterinėmis sąvokomis, yra lengvai suprantamos, mechaninės procedūros.

Ir nors skeptikas visuomet susiras kitą, procedūriškai dar neapibrėžtą sąvoką – troškimai! sąmonė! laisva valia! – kuri skiria mašiną nuo žmogaus, mes vis dėlto įžengiame į erą, kurioje randasi alternatyvios intelekto formos. Manoma, kad jau dabar bent 40 proc. viso interneto srauto priklauso botams – programoms, atliekančioms įvairias užduotis automatiškai. Pavyzdžiui, dažna užduotis yra imituoti žmogaus veiklą, rašant netikrus komentarus ar falsifikuojant interneto puslapių populiarumą, kad būtų gaunamos didesnės pajamos iš reklamos. Kol botų yra mažuma, specialios sistemos sugeba juos atskirti nuo realių vartotojų, tačiau, kaip teigia žurnalo New York redaktorius Maxas Readas, kai mažuma perauga į daugumą, botų elgesys tampa naująja norma (nes taip elgiasi dauguma vartotojų) ir realūs vartotojai tampa įtartini. Naujos problemos randasi ir fizinėje erdvėje, kur dronai ir kitos autonominės mašinos yra nepavaldūs įstatymui. Dronai – narkotikų prekybininkai? Grafičius paišantys dronai? Po visus pakampius išmėtytos miniatiūrinės mikroschemos, slapta renkančios mūsų asmeninę informaciją?

Bet tai ir galimybė. Stebimės neįprastais ėjimais go mače, bandome suvokti, kodėl generatyvusis menas verčia stabtelėti, ir nebeatskiriame realybės nuo simuliakro. Esame suglumę, nes tai yra mums nepažįstamos rūšies intelekto pirmosios užuomazgos. Šis intelektas verčia permąstyti mūsų pačių pasaulio supratimą. Grafičius paišantis dronas gali būti ne tik vandalas, bet ir socialinio pokyčio agentas, savo veikla verčiantis permąstyti legalumo ir meno ribas. Tos pačios mikroschemos gali jungtis į tinklus ir tapti naujuoju, anarchistiniu „gatvės“ internetu, o žmones imituojantys botai virsti decentralizacijos įrankiais, kurie, automatiškai rinkdami naujienas iš daugybės svetainių į mūsų asmeninį, niekam nematomą, reklamų ir kompanijų interesų neišdarkytą naujienų srautą, išlaisvins mus nuo duomenų monopolizacijos politikos, vykdomos Facebook ar Google.

Tos naujosios gyvybės formos savaime nei geros, nei blogos. Jos tiesiog kitokios. Vienas jų galbūt sugebėsime pritaikyti visuomenės labui. Nuo kitų teks gintis. Bet užvis sunkiausia tokiame pasaulyje mums bus sugyventi su pačiais savimi – anuomet pasaulio centru save laikiusiomis niekuo neypatingomis skaičiavimo mašinomis.

Šis tekstas buvo publikuotas MO muziejaus leidinyje, skirtame parodai „Gyvūnas – žmogus – robotas“ (2019). Tekstas iš dalies finansuotas Europos Sąjungos „Horizonto 2020“ mokslo ir inovacijų programos lėšomis (sutarties nr. 705498).

Summary in English: Bring on Artificial Intelligence

The foundations of artificial intelligence (AI) were laid as early as the second half of the twentieth century, but as a discipline impacting real-world tasks it began flourishing only recently. To date, AI systems have achieved human-level or superhuman performance on a variety of tasks that rely on large datasets of labeled examples to learn from. This technique, known as supervised learning, has enabled machines to recognize objects and faces from photographs, diagnose malicious conditions in patient data, perform machine translation and synthesize natural sounding speech from text. Machines have also shown impressive abilities when trained to achieve goals by trial and error, using a technique known as reinforcement learning. By being encouraged to remember successful action patterns that lead to reaching a particular goal, machines are now mastering many classical computer games and winning against the world’s Go champions, for example.

These skills may seem purely mechanical and quite remote from true intelligence demonstrated by humans. But AI has recently begun to master even uniquely human skills. For instance, machines create compelling paintings and musical pieces by attempting to produce pieces indistinguishable from real art. While one might still argue that this does not equate to true curiosity or true art, AI systems are undoubtedly moving forward at a rapid pace.

What do these trends imply for our society? It is worth noting that humans have long been contemplating the thought of a creation overtaking its creator. Superintelligence may determine that it makes sense to get rid of the incompetent human species standing in the way of more ambitious goals that superintelligence may hope to achieve. Shutting the human species into a Matrix-like imaginary world, for example, may not necessarily be seen as enslaving us, but rather as an act of kindness where loving machines provide us with an eternal heaven. And indeed, why not allow more competent machines to assume control of the social and political decision-making that we seem incapable of performing competently?

Ideas such as these sound an awful like a new wave of eugenics, aspiring to correct man’s corrupt nature. The danger here is that, due to biases inherent in any training datasets, machines are just as imperfect and biased as we are. Without explicitly working towards aligning machines with societal goals, unacceptable machine behaviors may emerge. At the same time, intelligent machines will present a unique turning point in human history: for the first time, we will no longer be the sole intelligent species in the world. Living together with such novel forms of life will require humans to find new ways to deal with our own existence.