Znanstveniki opozarjajo: Ljudje ne bodo mogli nadzorovati umetne inteligence

Nekateri pametni roboti lahko zapletene naloge opravljajo sami, ne da bi programerji razumeli, kako so se jih naučili.
Fotografija: Roboti Boston Dynamics. FOTO: Posnetek zaslona / YouTube
Odpri galerijo
Roboti Boston Dynamics. FOTO: Posnetek zaslona / YouTube

Umetna inteligenca se vse hitreje razvija in postaja čedalje bolj uporabna na vseh področjih človekovega delovanja. Ta nam lahko olajša vsakodnevno življenje in razrešuje zahtevnejše delovne procese v podjetjih. Umetna inteligenca lahko namesto nas opravlja gospodinjska dela, za delovanje jo uporabljajo spletni iskalniki, omogoča pa tudi vožnjo avtonomnih vozil.
 

Kaj umetna inteligenca sploh je?


V enciklopediji Britannica opredeljuje umetno inteligenco kot sposobnost digitalnega računalnika ali robota, ki ga usmerja računalnik, za opravljanje nalog, ki so običajno povezane z inteligentnimi bitji.

Roboti Boston Dynamics. FOTO: Posnetek zaslona / YouTube
Roboti Boston Dynamics. FOTO: Posnetek zaslona / YouTube
Andreas Kaplan in Michael Haenlein pa sta v članku za Business Horizons zapisala, da je umetna inteligenca sposobnost sistema, da pravilno obdela zunanje podatke, se iz njih uči, ter pridobljeno znanje uporabi za doseganje določenega cilja s prilagajanjem svojega ravnanja.

Definicija oziroma razumevanje umetne inteligence pa se skozi čas spreminja, saj nekatera področja, ki so nekoč veljala za 'inteligentna', danes vanjo ne spadajo več.
 

Zavedanje nevarnosti


Kot poroča Entrepreneur, umetna inteligenca s sabo ne prinaša le prednosti, ampak se moramo zavedati tudi njenih morebitnih nevarnosti. Znanstveniki opozarjajo, da nekateri pametni roboti zahtevne naloge opravljajo samostojno, pri tem pa programerji ne razumejo povsem, kako so se jih naučili. Tako se na področju razvoja umetne inteligence postavljajo številne etične dileme.
 

Umetna inteligenca pametnejša od programerjev


Roboti Boston Dynamics. FOTO: Posnetek zaslona / YouTube
Roboti Boston Dynamics. FOTO: Posnetek zaslona / YouTube
Mednarodna skupina raziskovalcev je opozorila na potencialna tveganja, ki bi lahko nastala na neki stopnji razvoja umetne inteligence. Bolj kot bo umetna inteligenca postala zmogljiva in samostojna pri svojem delovanju, težje jo bodo ljudje nadzirali. V študiji, ki je bila nedavno objavljena na spletni strani Journal of Artificial Intelligence Research (tukaj), je bilo celo ugotovljeno, da bo na neki točki nemogoče nadzorovati delovanje umetne inteligence, kar je seveda zelo zaskrbljujoče.

Manuel Cebrian, ki je zaposlen na Inštitutu za človekov razvoj Max Planck, je eden izmed avtorjev študije. Pojasnil je, da se morda sliši kot znanstvena fantastika – super inteligentni stroji, ki bi nadzorovali svet. Vendar pa je po njegovih besedah dejstvo, da že zdaj obstajajo nekatere naprave, ki samostojno opravljajo zahtevnejše funkcije, pri tem pa programerji ne razumejo povsem, kako so se teh opravil naučile.


Znanstveniki so začeli razmišljati o možnih načinih nadzora delovanja umetne inteligence. Pri tem so prišli do dveh možnih scenarijev. Prvi je izolirati umetno inteligenco od interneta in drugih naprav ter omejiti njen stik z zunanjim svetom. Problem te teorije je v tem, da bi bile s tem tudi bistveno okrnjene funkcije, ki bi jih bila umetna inteligenca zmožna opravljati, s čimer tudi ne bi mogli v polnosti izrabljati njenih prednosti.

Drugi način je po mnenju znanstvenikov oblikovati poseben algoritem, ki bi umetno inteligenco zadržal, da ta ne bi mogla v nobenem primeru škodovati človeku. Je pa analiza računalniških zmogljivosti, ki so na voljo, pokazala, da takšnega algoritma zaenkrat ni možno ustvariti.


 

Več iz rubrike