Človek ne bo več bil boja proti izkoriščanju, ampak proti nepomembnosti

V svojem dvajset minut dolgem govoru je dejal, da se človek v 21. stoletju sooča s tremi eksistencialnimi izzivi, ki so: jedrska vojna, ekološki propad in tehnološke motnje.
 
"Jedrska vojna in ekološki propad sta že znani grožnji, zato mi dovolite, da se osredotočim na tehnološke motnje."
 
Tehnologija predstavlja grožnjo človeku in njegovemu smislu življenja na številnih ravneh, je dejal in naštel: ustanovitev globalnega nekoristnega razreda, porasta podatkovnega kolonializma in digitalne diktature.

Ne mislite, da bodo bogati in močni kot so tukaj zbrani v Davos na varnem.Višje kot boste v hierarhiji, bolj natančno vas bodo opazovali.

 
Globalno nekoristen razred bo nastal zaradi pospešenega uvajanja avtomatizacije, ki bo odpravila na milijone delovnih mest. Kljub temu, da se bodo ustvarila nova, pa ni jasno, kako se bodo ljudje tako hitro priučili novih potrebnih znanj. "Recimo, da ste petdesetletni voznik tovornjakov in ste pravkar izgubili službo zaradi samovozečega tovornjaka. Nova delovna mesta, ki so na voljo so npr. oblikovanje programske opreme ali  poučevanje joge inženirjev.  Kako se petdesetletni nekdanji voznik tovornjaka prekvalificira v programerja ali učitelja joge? Prekvalifikacija pa ne bo dovolj le enkrat v življenju, ampak bo potrebna ves čas. Avtomatizacija ne bo enkratni dogodek, ampak kaskada vedno večjih motenj, ker AI ni nikdar blizu svojega polnega potenciala."
 
Slabše je biti nepomemben kot izkoriščen
 
S tem, je nadaljeval Harari, človek ne bo več bil boja proti izkoriščanju, ampak boj proti nepomembnosti. "Veliko slabše je biti nepomemben kot izkoriščen."
 
Tehnološka revolucija lahko s tem ustvarja neprimerljivo neenakost ne le med razredi, temveč tudi med državami. V devetnajstem stoletju je nekaj držav, kot sta Velika Britanija in Japonska, po industrializaciji nadaljevalo z osvajanjem in izkoriščanjem večine sveta. Enako se lahko zgodi v enaindvajsetem stoletju z umetno inteligenco.  V tekmi vodita Kitajska in ZDA, večina držav pa je daleč zadaj. Če ne bomo ukrepali in poskrbeli za distribucijo moči in koristi AI za vse ljudmi, bo umetna inteligenca verjetno ustvarila bogastvo zgolj v nekaterih visokotehnoloških središčih, medtem ko bodo druge države bodisi bankrotirale bodisi postale središča pridobivanja podatkov. "Ne govorim o prevladi robotov nad človekom, ampak o primitivni umetni inteligenci, ki lahko poruši svetovno ravnovesje."
 
Podatki bodo nadomestili vojake
 
"Kaj se bo zgodilo, ko bo v Kaliforniji ceneje proizvajati tekstil in avtomobile kot v Mehiki? Kaj se bo zgodilo s politiko v vaši državi čez dvajset let, ko bo nekdo v San Franciscu ali Pekingu poznal vso medicinsko in osebno zgodovino vsakega politika, vsakega sodnika in vsakega novinarja v vaši državi, vključno z vsemi njihovimi spolnimi odmiki, vse njihove duševne slabosti in vse njihove koruptivne posle? Bo še vedno neodvisna država ali bo to kolonija podatkov? Ko imate dovolj podatkov, ne potrebujete vojakov, da bi si podredili državo"


 
Poleg nepomembnosti in neenakosti pa je strašljiva tudi diktatura podatkov. Harari je navedel formulo, ki je po njegovem opredeljujoča enačba življenja v enaindvajsetem stoletju:
 
B x C x D = AHH!
 
B pomeni biološko znanje, C računalniško moč, D podatke, zmnožek vsega trojega pa prinese zmožnost vdora in manipulacije človečnosti.
 
Če poznate dovolj  biologije, imate zmogljive računalnike in dovolj podatkov lahko vdrete v človeške možgane in psihično stanje množice ljudi. Lahko določite osebnostni tip, politične poglede, spolne preference, duševne slabosti, najgloblje strahove in upanja. Program lahko ve več o tebi, kot veš sam o sebi.  Sistem, ki nas bolje razume, kot ga razumemo mi, lahko napoveduje čustva in odločitve ter z njimi manipulira. Lahko manipulira z našimi občutki in odločitvami in na koncu na mesto nas sprejme odločitve.
 
Mokre sanje diktatorjev se lahko uresničijo
 
To so bile mokre sanje mnogih diktatorjev, vendar nihče ni dovolj dobro razumel biologije in imel dovolj računalniške moči ter podatkov, da bi to lahko počel. Niti gestapo niti KGB. Toda že zelo kmalu bodo to moč imele nekatere korporacije in nekatere vlade. "Ljudje bi se morali navaditi na idejo, da nismo več skrivnostne duše - zdaj smo živalske vrste."


 
Moč, ki nam jo prinašajo nova znanstvena odkritja na področju biologije in vpogleda v človeka, lahko sicer uporabimo tudi za dobre namene, recimo za izboljšanje zdravja. "Če pa ta moč pade v roke Stalina enaindvajsetega stoletja, bo rezultat najslabši totalitarni režim v človeški zgodovini."
 
Zamislite si Severno Korejo čez štiriindvajset let, kjer morajo vsi nositi biometrično zapestnico, ki neprekinjeno spremlja krvni tlak, srčni utrip in aktivnost možganov. Na radiu poslušate govor velikega voditelja in sistem pravzaprav vsak trenutek dobiva podatke o tem, kaj pravzaprav čutite. Lahko skačete po rokah in se smejite, a če ste v resnici jezni, bodo to vedeli in že jutri vas mogoče ne bo več. Ali želite, da vaš predsedniki  vedo, kaj v resnici mislite o njih?

Elita ne bo varna, Bezos že ve
 
Ne mislite, da bodo bogati in močni, kot so tukaj zbrani v Davosu, na varnem. Jeff Bezos že ve. (Bil je žrtev kibernetskega napada preko aplikacije WhatsApp s strani arabskega princa). V Stalinovi ZSSR je država bolj kot kdorkoli drug spremljala pripadnike komunistične elite. Enako bo v prihodnjih sistemih skupnega nadzora. Višje kot boste v hierarhiji, bolj natančno vas bodo opazovali.