U toku panela Nadzor i etika u upotrebi veštačke inteligencije panelisti složni u zaključku da je neophodna saradnja svih sfera društva i da odluke ne treba prepuštati algoritmu
Povodom obeležavanja 28. januara, Međunarodnog dana zaštite podataka o ličnosti, od 23. do 26. januara 2023. u organizaciji Partneri Srbija održana je godišnja konferencija Nedelja privatnosti. Četvrtog i poslednjeg dana, u fokusu rasprave bilo je pitanje prava na privatnost građana, razvoj inicijativa koje mogu uticati na pravo na privatnost, kao i zloupotrebe i neefikasnosti algoritama kada je reč o sistemima veštačke inteligencije.
Primeri koje su učesnici panela „Nadzor i etika u upotrebi veštačke inteligencije“ izneli su primena biometrijskog nadzora, sistem socijalnih karata, dalja digitalizacija javnih usluga, ali i „fetišizacija“ digitalizacije, njeno formalno uvođenje u funkcionisanje javnog sektora, po svaku cenu, umesto istinskog rešavanja problema građana.
Moderator panela bio Vukašin Petrović iz DTI, a učesnici Brankica Janković, poverenica za zaštitu ravnopravnosti, Danilo Ćurčić, Koordinator programa „A11 Inicijativa za socijalna i ekonomska prava“, Sanja Stanković, pravni savetnik, Odeljenja za medije Misije OEBS-a u Srbiji. Učesnici su se složili da je neophodna saradnja svih sfera društva, privatnog i javnog sektora, kao i organizacija civilnog društva.
Iskustva svoje zemlje kada je u pitanju problematika zaštite podataka iznela je pre početka panela Sesil Skat ispred holandskog organa za zaštitu podataka. Prema njenim rečima, prilikom apliciranja za vize, građani su ostavljali svoje podatke koji su osetljive prirode, a koji su mogli da budu zloupotrebljeni, pa su bila neophodna drugačija rešenja. Radili su na zadacima da se to popravi, ali i dalje se bore da reše problem softvera koji je postavljao suvišna, lična i pitanja sklona zloupotrebi. Kao rešenje napravljen je državni program i oformljena administracija koja će se baviti problemima veštačke inteligencije, sa budžetom od 2,75 miliona evra.
Po rečima Brankice Janković, poverenice za zaštitu ravnopravnosti, efekti automatizacije i veštačke inteligencije su značajni za društvo. Napomenula je da to pitanje posebno dobilo na značaju tokom kovida 19, kada smo se svi uverili u potencijalne opasnosti i moći tehnologije.
– Kršenja prava od strane algoritama teže se primećuje nego kada je diskriminator fizičko lice – rekla je Janković. – Često nismo svesni da je došlo do neke povrede prava, kao i da konkretni algoritam tako sačinjen u jednom trenutku može da pogodi mnogo veći broj ljudi, nego kada se odlučuje u pojedinačnim slučajevima. Očigledan primer je kod nas kada je u pitanju primena Zakona o socijalnoj karti.
Da bi se sprečila marginalizacija društvenih grupa koje su najugroženije, među kojima su starija lica i invalidi, poverenica je istakla da je koordinacija svih društvenih aspekata prioritet. Cilj je da se kroz buduće aktivnosti spreči isključivanje najugroženijih građana kojima je pomoć najpotrebnija i kod kojih su zloupotrebe najčešće. Ona je podvukla da su dosadašnja iskustva pokazala da se najveće zloupotrebe dešavaju u sferi javnog, a ne privatnog sektora.
Kako je Vukašin Pavlović podsetio, Vlada Srbije je u decembru pripremila Etičke smernice za razvoj i korišćenje veštačke inteligencije, dok je prošle godine donela Zakon o socijalnim kartama. Danilo Ćurčić, Koordinator programa u organizaciji „A11 Inicijativa za socijalna i ekonomska prava“ smatra da se Vlada ne pridržava svojih smernica, tokom sprovođenja Zakona.
– Odlučivanje u okviru socijalnih karti nije transparentno. Nemamo tačne kriterijume, ne zna se koji su to podaci koji socijalnim radnicima izdaju notifikaciju šta treba da preduzmu. Dobijene notifikacije samo budu predstavljene korisniku, pa ako je odbijen, ne bude saslušan, ne može da učestvuje i ne objašnjava mu se na koji način se našao u toj socijalnoj karti.
Dodatni problem, kako smatra Ćurčić, je pitanje transparentnosti. Kako tvrdi već godinu dana ne uspevaju da otkriju na kom principu radi algoritam rangiranja i notifikacija u socijalnim kartama.
– Iz Ministarstva za rad nam kažu da nema algoritma, da socijalna karta funkcioniše sama od sebe, bez logike odlučivanja – kaže on. – Većina građana se ne žali, jer proces traje duže nego da podnesu novu prijavu. Sve to je dovelo do koalicije i saradnje između socijalnih radnika i organizacija koje pružaju pravnu pomoć. Socijalni radnici prinuđeni su da rade po notifikacijama, a znaju da je stvarna situacija korisnika drugačija, upućuju ih na organizacije civilnog društva.
Prema rečima Sanje Stanković, pravnog savetnika Odeljenja za medije Misije OEBS-a u Srbiji, sistem informacija je pod uticajem pre svega biznisa i modela velikih platformi. Sve je učestalije odbijanje publike da gleda neprijatne vesti. Podvukla je da istraživanja i analize u regionu pokazuju da nije kriv samo algoritam, već da kvalitet vesti opada.
– U srži algoritama velikih platformi koje globalno dominiraju u produkciji i plasiranju sadržaja je profit. Takav sistem podrazumeva više oglašivača, veći angažman publike, a za to je potreban sistem prikupljanja podataka o nama, šta slušamo, gledamo, pretražujemo, kupujemo. Ti se podaci razmenjuju, kupuju, predstavljaju ogroman kapital kojim se trguje – rekla je Stanković. Kako objašnjava, tradicionalni mediji ulaze u trku sa njima, a da bi postali klikabilni gube na kvalitetu, zatim izostaje poverenje u medije, i proces se završava opadanjem pluralizma kao osnove svakog društva.
Preporuka kako da se poboljša situacija je da se podrži nezavisno novinarstvo, informacije od javnog interesa. Rešenje je, smatra ona multisektorski rad – država, privatni sektor, građani.
Jedan od imperativa za budućnost koji je istaknut na panelu je da marginalizovane grupe dobiju mogućnost u dizajniranju i implementaciji veštačke inteligencije. Kako je Ćurčić objasnio, u Srbiji se dešava „fetišiziranje“ tehnologije od strane donosioca odluka sa porukom da će sve biti rešeno digitalizacijom, dok promiče činjenica da socijalno ugroženi nemaju pristup tim servisima.
Poverenica je dodala da treba sprečiti da upotreba veštačke inteligencije dovede do novih nejednakosti i takozvane digitalne diskriminacije. Podvukla je da bi paralelno trebalo da teku procesi razvoja tehnologije, ali i strategije razvoja digitalnih veština i pismenosti.
Problem je zaštita podataka o građanima, koje javne institucije uzimaju da bi mogle da im ukažu pomoć. Panelisti se slažu da je neophodan način kako se stiže do podataka, da li su obrađeni, kodirani, testirani. Stanković je dodala da je u toku velika planetarna debata o tome da li se svi podaci koje neprestano prikupljaju platforme mogu zloupotrebiti, prodati državama, kao i da je na kraju procesa odlučivanja i klika uvek čovek, a ne mašina. Kao krajnju zaštitu ističe važnost našeg Ustava i konvencijskih osnovnih ljuskih prava.
Prema rečima Vadima Paka iz Saveta Evrope, koji radi kao administrator u Sekretarijatu komiteta veštačke inteligencije, Evropa je trenutno lider u stvaranju međunarodnih pravnih mehanizama koji će služiti za pravnu regulaciju veštačke inteligencije, demokratije i zaštite prava. Taj proces je počeo 2019. godine, uz učešće mnogobrojnih učesnika, univerziteta, NVO.
Na kraju diskusije Ana Toskić Cvetinović iz organizacije Partneri Srbija je istakla da su ranije sumnje u pogledu pogrešne upotrebe veštačke inteligencije sada potvrđene primenom Zakona o socijalnoj karti, koji nam daje opipljive dokaze o posledicama primene veštačke inteligencije. Dodala je da ove greške treba popravljati i učiti na njima.
Veštačka inteligencija i tržište rada
Kako je Brankica Janković istakla, veliki je uticaj veštačke inteligencije na sve sfere života, pa i na tržište rada. Pojedina istraživanja pokazuju da ona može da doda vrednost od 16 odsto globalnoj ekonomiji do 2030. godine. Još je otvoreno pitanje da li će veštačka inteligencija dovesti do više otvorenih ili izgubljenih radnih mesta.
– Procena je da će oko 70 odsto radnih mesta u Evropi biti zamenjeno nekom inovacionom tehnologijom – kaže poverenica. – Prema svetskom ekonomskom forumu automatizacija veštačke inteligencije trebalo je da stvori 133 miliona novih radnih mesta do 2022, a da ih 75 miliona nestane. Uskoro ćemo se uveriti da li je zaista na ovaj način stvoreno 58 miliona radnih mesta. Jedan od izveštaja pokazuje da je veštačka inteligencija stvorila tri puta više radnih mesta 2018. nego što ih je ukinula.
