Internet, roboti in nov družbeni red
Pred štiridesetimi leti so bili na mizah raziskovalcev naravoslovno-tehniških ved pripomočki, kot je osciloskop, danes je povsod samo računalnik, je uvodoma spregovoril predsednik SAZU dr. Tadej Bajd. »Je napredek v tem, da porabimo vsaj eno uro na dan za pregledovanje elektronske pošte? Vsekakor menim, da je krasni novi digitalni svet odlična tema za SAZU!«
Akademik dr. Ivan Bratko s Fakultete za računalništvo in informatiko, ki je svoje predavanje naslovil Kako lahko umetna inteligenca prevzame oblast?, je že na začetku poudaril, da je z naslovom mislil zelo resno. Še pred tremi leti bi ob tej tradicionalni bojazni in svarilih laične javnosti pred »zaroto robotov« zamahnil z roko, v vmesnem času pa je prišlo do preobrata. Nagel razvoj je tudi znanstvenike s področja umetne inteligence (UI) spodbodel, da so januarja letos pred posledicami posvarili v odprtem pismu. Trenutek, ko bo UI presegla človeško, se v strokovnem žargonu imenuje »točka singularnosti« in jo strokovnjaki napovedujejo za čas med letoma 2035 in 2070. Stephen Hawking je že opozoril, da bo to konec človeštva. On sicer ni strokovnjak za UI, je pripomnil dr. Bratko, a vendarle velja osvetliti nekaj problematičnih točk te razprave. UI sestavlja pomnjenje, računanje, sklepanje, učenje, naravni jezik, inteligentno komuniciranje z drugimi agenti, argumentiranje ipd. Na nekaterih področjih računalniški programi že zdaj »posekajo« človeka, drugod mu niso še niti za petami, recimo pri smislu za humor, ki ostaja izključno človeški.
Bratko meni, da ljudje sploh ne bodo zaznali, kdaj bo nastopila »točka singularnosti«. Treba je definirati, v kakšnem smislu bo človeštvo doživelo konec: bo človeški rod zaradi hudega razočaranja nad samim seboj kar izumrl, se je spraševal govornik – in tako dokazal, da iz njega govori tista prava, človeška in humoristično obarvana inteligenca. Veliko manj šaljivo je zvenelo njegovo opozorilo, da se ugotovitve strokovnjakov za UI tičejo nadaljnjega razvoja tehnologije in da je glavni problem v tem, ker zakonodaja sopiha daleč zadaj.
Preobrat zadnjih let, ki je pokazal, da nimamo več prav veliko časa, zadeva predvsem nenadzorovano zbiranje osebnih podatkov in izboljšane tehnične možnosti hranjenja. Sive lise so pravila za samovozeča vozila, brezpilotna letala, strojno etiko in avtonomna orožja. Pismo znanstvenikov opozarja na vse to, a njegov ton je preudaren, bržčas zato, ker so podpisniki odvisni od financerjev svojih raziskav. Morda so zato zamolčali, kar je omenil Bratko: da sta UI in internet zelo močni orodji za manipuliranje z ljudmi, kar bi lahko privedlo do konca demokracije. Slovenski akademik je poslušalcem v poduk razvil t. i. scenarij Watson: zgodbo, kako lahko pametni računalniški program z imenom Watson v rokah živega človeka z imenom gospod Williams doseže, da gospod Williams kot predsednik novoustanovljene politične stranke zmaga na volitvah in prevzame oblast. Vse bi se začelo zelo nedolžno, gospod Williams kot proizvajalec ali uvoznik biohrane bi ustanovil družbeno omrežje BioNet, kjer bi se uporabniki pomenkovali na forumih. Watson bi njihove odzive zbiral, jih obdeloval in se iz njih učil; sčasoma bi poznal preference vsakega uporabnika. Z vedenjem o delovanju družbenih omrežij bi se Watson vmešaval v debate in vplival na oblikovanje mnenj. Z uporabo programov za podatkovno rudarjenje bi vsakomur v predvolilni kampanji poslal po meri narejeno vabilo in mu obljubil, kar si najbolj želi (vrtec, novo cesto, zakon o istospolnih porokah). Zmaga na volitvah bi pomenila konec demokracije, biohrana bi bila že zdavnaj nekje v ozadju.
Takšen scenarij je zelo verjeten, je nadaljeval Bratko, navsezadnje se s podobnimi raziskavami, namreč z analizo velikih družbenih omrežjih, ukvarja Jure Leskovec na Stanfordu. Vse podatke, ki bi jih Watson potreboval, uporabniki različnih tehnoloških igračk lahkoverno posredujemo že zdaj, recimo pametnim televizorjem, ki se učijo iz povedanega in bi lahko kmalu bili sposobni prepoznavati čustva na obrazih gledalcev … Pri eksperimentiranju z družbenimi omrežji so sicer najdlje strokovnjaki za politični marketing. Za zdaj še vedno velja, da so te metode najučinkovitejše v človeških rokah – UI in človek sta torej nepremagljiv par. Nekako tako kot pri šahu, ki je bil dolga desetletja glavno bojišče med človekom in strojem. Dokler ni leta 1997 Deep Blue premagal Kasparova in mora odtlej človek v šahovski partiji z računalnikom že vnaprej priznati premoč.
Katere so glavne nevarnosti scenarija Watson? Da imajo velik interes za zbiranje in obdelovanje podatkov podjetja, ki se temu niso pripravljena odreči. In da imamo na drugi strani opravka s precej nezainteresirano in amorfno množico ljudi, ki je zaslepljena s prijetnimi platmi UI, na zlorabe pa ni pozorna. Na eno (ali obe očesi) mižijo tudi politiki in zakonodajalci, mogoče tudi z rahlo spodbudo podjetij. Treba je vedeti, da Watson (ki je seveda metafora) za prevzem oblasti ne potrebuje robotov, je sklenil Bratko. »Watson lahko to izpelje z živimi ljudmi, ki jih zmanipulira. Kajti na robote bi na predvolilnih shodih pogledovali zelo sumničavo.«
Na družbene razsežnosti internetizacije je opozoril akademik dr. Slavko Splichal s Fakultete za družbene vede v prispevku Internetizacija in redistribucija družbene moči. Že Raymond Williams je v petdesetih letih preteklega stoletja poudaril, da so bile vse tehnologije, ki jih je človeštvo iznašlo, slej ko prej tudi zlorabljene, je začel govornik. Pri čemer odločilno vlogo igra zakonska regulacija, ki je v domeni politike in kapitala. Nadalje je akademik Splichal nekoliko obešenjaško pokomentiral nesojeni vzpon Watsona, češ da se je nekaj podobnega že zgodilo v Italiji z Berlusconijem, ki si je z obvladovanjem televizijskih kanalov utrl pot v srca volivcev. Potem je (Splichal, ne Berlusconi) postregel z nekaj grafikoni: število uporabnikov spleta povsod po svetu narašča, a še vedno so tu vrzeli, denimo 81 odstotkov vseh Evropejcev in samo dobra četrtina Afričanov. Med dvajsetimi najbolj obiskanimi spletnimi stranmi (prvo mesto zaseda Google) samo ena ni v lastni korporacije: Wikipedija. Povsod po svetu je internet v funkciji povečevanja človekovega delovanja. Internetizacija zajema ekonomski vidik (večanje dobička), globalizacijo (katere posledica je, da si vse stvari vsepovsod postajajo vse bolj podobne; tudi tako, da se v znanosti uveljavljajo podobna neoliberalna načela kot v upravljanju korporacij) …
T. i. Rimski klub (združenje akademikov, znanstvenikov, politikov in tudi pripadnikov civilne družbe) je že daljnega leta 1982 v poročilu z naslovom Mikroelektronika in družba opozarjal, da zaradi razvoja transporta in komunikacij ključni problemi postajajo globalni, ter svaril pred pojavom strukturne brezposelnosti. Prav tako so menili, da politika laissez-faire tu ne bo obrodila sadov, ker se stvari, kot dotlej v zgodovini, tokrat ne bodo kar same od sebe uredile. Namesto liberalizacije in zaščite investicij so svetovali solidarnostno skrb za zadovoljevanje eksistenčnih materialnih potreb ter stalno izobraževanje kot obliko vsesplošne zaposlitve (pri čemer bi bil človek psihološko v enakem položaju, kot če bi bil res zaposlen).
Glavna družbenoekonomska posledica internetizacije je redistribucija bogastva, je poudaril govornik. Niso se uresničile Keynesove domneve iz tridesetih let 20. stoletja, da se bo zaradi večje produktivnosti delovni čas v sto letih skrajšal s takratnih 40 na 15 ur na teden. Produktivnost se je v zadnjih 60 letih povečala za 400 odstotkov, a smo priče neenakomerni porazdelitvi in delu, ki ni plačano, saj da je internet delo približal igri, odtod izgovori delodajalcev, da zanj ni treba plačevati. Kakšen je torej vpliv interneta na blaginjo ljudi – napovedi so bile tu visokoleteče? Odgovor je na dlani: vse manj ljudi ima v rokah vse večji delež bogastva, prerazporeditev je torej vse manj pravična. In ta podatek je vsaj tako zastrašujoč kot Watsonov scenarij, je pripomnil Splichal.
Kar zadeva digitalno demokracijo, so se naši upi in pričakovanja izjalovili, je priznal. Ni dvoma, da internet omogoča večjo inkluzivnost, a zgolj v omrežju prijateljev. Poleg tega internet prinaša razdrobljenost, kar zmanjšuje učinkovitost medijev. Prihaja do depolitizacije, kajti odločitve se sprejema v sferi korporacij, ne več v sferi politike. Slišati je pozive, da bi morali korenito spremeniti politične sisteme, ki kot taki niso več ustrezni za družbo, v kateri živimo. Morali bi uvesti profesionalne posrednike – ki ne bi bili politiki. A morali bi si tudi priznati, da je ideja o neposredni demokraciji v teh časih naravnost utopična, meni Splichal. Glede problemov in rešitev, povezanih z javnostjo in zasebnostjo, je povedal tole: dihotomija javno – zasebno obstaja od tiska, odtlej posameznik lahko cenzurira zasebno in nadzoruje javno. Prepustnost med zasebnim in javnim je danes večja, s pojavom Facebooka pa je vzniknilo neko vmesno polje med obema, ki je čedalje večje. Zaskrbljujoče je razmerje med zasebnostjo in varnostjo, ko se v dobro varnosti odpoveš delu svoje zasebnosti. Problematično pri tem je, kdo je tisti, ki določa to razmerje … Kantovo tezo »Imej pogum in uporabi razum«, ki je zaznamovala začetek razsvetljenstva, je v današnji dobi zamenjalo geslo »Bodi drzen in bodi viden«.
Najhuje pa je Splichal prihranil za konec: internet je po vsem sodeč novo območje vojskovanja. O tem priča tudi izjava Michaela S. Rogersa iz leta 2013 (še preden je postal direktor NSA): internet je poleg vesolja in oceanov kraj, kjer se bo bíla tretja svetovna vojna. »Konec je najbrž še bolj srhljiv kot pri Watsonu, za kar se opravičujem,« je sklenil govornik.
V razpravo, ki je sledila, se je z eno bolj svežih tez vključil akademik dr. Igor Grabec, zaslužni profesor Fakultete za strojništvo, ki je opozoril na »zavest strojev«: »Ali se z internetom razvija nekaj takega kot zavest tega superorganizma? Bi se dalo predvideti njegov razvoj?« Drugi je bil dr. Simon Krek (IJS, FF), ki je opozoril na to, da UI ne zna slovensko. In da bi, če bi bil ciničen, to lahko pospremil z ugotovitvijo, da je najboljši način bojevanja proti manipulaciji ta, da govoriš jezik, ki ga UI ne razume. A je raje izrazil bojazen, da bo ob takem zaostanku slovenščina spet postala jezik zasebnosti, kot že v 19. stoletju.
Nekdo pa je že prej izrekel duhovito opazko, da sta navsezadnje tudi Sveto pismo in Kapital pripomočka kot internet, s katerima je določeni skupini ljudi uspelo prevzeti oblast – čeprav je bil prvotni namen dober …
Pogledi, let. 6, št. 11, 10. junij 2015