Domov Mnenja 12. Februar 2018.

Kakšne pravice in omejitve terja umetna inteligenca

sofija robot saudska državljanka prihodnost
© Reuters
Razvoj umetne inteligence je že dosegel višave, ki naj bi v prihodnje še eksponentno naraščale; humanoidni roboti, katerih najvidnejša predstavnica je saudska državljanka Sofija, ki so jo izdelali pri Hanson robotics, postajajo realnost, ki bo kmalu finančno dosegljiva skoraj celotnemu prvemu svetu.

Čeprav je Saudska Arabija Sofiji podelila državljanstvo najverjetneje z namenom publicitete, je to prvo pravno priznanje robota kot enakovrednega človeka, zaradi česar je Sofija dobila veliko privržencev.

Tovrstni roboti nimajo več zgolj programiranih odzivov (kot denimo Siri), temveč avtonomno srkajo vase znanje in izkušnje ter se na podlagi njih odzivajo; gre torej za dejansko inteligentno entiteto. Problem umetne inteligence pa je, da se tovrstni robot kot otrok skozi leta izkušenj priuči vsega, kar vidi; dokler spoznava dobre ljudi, bo dober; kaj pa se bo zgodilo, ko bo humanoidni robot prišel v stik s temno stranjo človeštva? In kaj lahko ob tem pravo stori tako za človeštvo kot tudi za umetno inteligenco?

Nasprotujem temu, da bi se robotom na podlagi enake izkušnje njihovega bivanja podelili ista pravna vrednost ter celo ista pravna oznaka (človekovih) pravic, kot jih imamo ljudje. To bi pripeljalo do trenutno nepredstavljivih situacij, v katerih bi imeli roboti pravico do samoobrambe. Tudi proti ljudem!

Pravno vprašanje, ki je zadnje čase glede umetne inteligence najbolj izpostavljeno (in ga popularizirajo tudi serije in filmi, kot sta Westworld in Bladerunner), je, ali bi morali imeti tovrstni inteligentni roboti pravice, enake človeškim. Argument, ki se pri tem pojavlja, je, da bo tovrstna umetna inteligenca dosegla stopnjo samozavedanja, ki se primerja s človeško zavestjo; sklepanje tu gre v smeri, da enaka objektivna, univerzalna izkušnja nekega »bitja« mora rezultirati v enaki vrednosti oziroma pravicah, kar je pravno gledano po mojem mnenju nezadosten in izrazito utilitarističen argument. Niso redki posamezniki, ki zaradi določenih razlogov nimajo katere izmed lastnosti, na podlagi katerih razglašamo robote za človeške, pa jim vendar gredo človekove pravice. Nasprotno imajo živali zavest, vendar nimajo človekovih pravic, ker te nekomu pripadejo zgolj na podlagi tega, da je človek; gre torej za imperativni, krožni argument, ki ne potrebuje niti ne sme terjati utemeljitve v stopnji trpljenja, inteligenci, tehničnih podobnostih ter v iskanju drugih analogij med roboti in ljudmi. Kljub različnim pravnim pristopom k urejanju pravic umetne inteligence osebno menim, da robotom, če bodo nekega dne dosegli to stopnjo, sicer ne smemo povzročati nepotrebnega trpljenja, vendar strogo nasprotujem temu, da bi se jim na podlagi enake izkušnje njihovega bivanja podelila ista pravna vrednost ter celo ista pravna oznaka (človekovih) pravic, kot jih imamo ljudje.

robot prihodnost digital tehnologija znanost | Author:

Če ne drugega, bi nas to pripeljalo do trenutno nepredstavljivih situacij, v katerih bi imeli roboti pravico do samoobrambe (tudi proti ljudem!), socialne pomoči, zasebne lastnine, reprodukcije in zakonske zveze; spolni roboti so v zadnjem letu preplavili trg in marsikje se že pojavljajo ideje, da bo treba omogočiti poroke robotov in ljudi.

Že omenjene ideje o pravni enakosti robotov in ljudi temeljijo na znanstvenih utemeljitvah (»ljudje so samo skupek bioloških algoritmov, roboti umetnih«) ter zanemarjajo kakršnokoli globljo metafizično ali filozofsko utemeljitev unikuma ter posebnosti človeka, čeprav moderno pravo nedvomno sledi humanističnim idejam preteklosti in celo določenim verskim utemeljitvam pravic.

Isaac Asimov je že pred leti napisal Tri zakone robotike in tudi sicer je pravno umestitev umetne inteligence prva poskušala urediti znanstvena fantastika. Piscem te gre v luči presoje pravnih vprašanj v zvezi s tem nedvomno pritrditi, da ima človeštvo kot vladajoče na planetu določeno moralno dolžnost do vseh v tem sistemu, kar bo nekega dne nedvomno vključevalo tudi robote.

Pravo se sicer že od primera Ward v. Superior Court of California (1972) ukvarja s posegi v robotiko in umetno inteligenco, vendar končnih odgovorov še nima, zato je pomembno postavljati ta vprašanja in iskati odgovore že zdaj, ko smo še na stopnji abstrakcije ter čustvene distance do tega vprašanja.

Človeštvo določene robote moralno že obsoja. Marsikateri humanoidni robot (med njimi tudi razvpita Sofija) je namreč že izrazil svoj dvom o prihodnosti človeštva, kar je doživelo burne odzive pri ljudeh, ki pa niso bili usmerjeni v ustvarjalce, temveč kar v robote same. V etiki poznamo tri najpomembnejše pragove: sposobnost izkusiti bolečino, samozavedanje ter sposobnost biti odgovoren moralni akter; to zadnje smo robotom tako že pripisali, pa čeprav ne vemo, ali so in ali sploh kdaj bodo razvili samorefleksivno vedenje in mišljenje.

Vedno znova pa mi da misliti citat vodilnega v družbi otroških igrač Fisher-Price: »This is a toy; there shouldn't be any laws about how you use your toys.« (To je igrača. O tem, kako uporabljati svojo igračo, ne bi smelo biti nobenih zakonov.) Menim namreč, da nas sama izkušnja imitirane človečnosti ne bi smela nikoli tako zaslepiti, da bi pozabili na lastno izjemnost. In s takšnim pristopom bi se regulacije umetne inteligence moralo lotiti tudi pravo.

 

Veronika Cukrov, pravnica v Odvetniški družbi Cukrov

Komentarji
Komentirajte

Za komentiranje se je potrebno prijaviti. Če še nimate uporabniškega računa, se lahko hitro in enostavno registrirate. Po registraciji se lahko vključite v razpravo.