| |
|
| 16. May, 2024 |
  |
Kako alati umjetne inteligencije mijenjaju zabrinutost u borbi protiv kriminala i građanskim pravima.
Skandal se sprema u Sjedinjenim Državama oko korištenja Cyberchecka, softvera AI (strojno učenje) kanadske tvrtke Global Intelligence, od strane agencija za provođenje zakona.
Cybercheck je korišten gotovo 8000 puta od strane stotina policijskih odjela i tužitelja u 40 zemalja za rješavanje teških zločina poput ubojstava i trgovine ljudima.
Ali dok policija “slavi” softver, a proizvođači ga brane, odvjetnici s druge strane procesa iznose ozbiljne optužbe.
Zamislite scenarij u kojem je cijeli vaš digitalni život vidljiv algoritmu koji neprestano procjenjuje jeste li možda kriminalac. Cybercheck može lako analizirati ogromne količine internetskih podataka i narušiti vašu privatnost bez naloga za pretragu ili bilo kakvog pristanka. Potencijal za zlostavljanje nije paranoidna fantazija, već hitan problem.
Pouzdanost softvera, transparentnost i pouzdanost osnivača Cyberchecka Adama Moshera dovode se u pitanje.
Cybercheck ima za cilj pomoći u prikupljanju dokaza pružanjem podataka iz javno dostupnih izvora – ono što tvrtka naziva “inteligencijom otvorenog koda”.
To su adrese e-pošte, računi na društvenim mrežama i drugi dijelovi traga osobnih podataka koje ljudi ostavljaju za sobom na internetu. Cilj je locirati osumnjičene i dostaviti druge podatke tijelima kaznenog progona.
No, problem je, kažu kritičari, u tome što Cybercheck unatoč širokoj upotrebi i posljedicama – naime, slanje ljudi u zatvor zbog ozbiljnih zločina – uglavnom prolazi ispod radara.
To nije iznenađujuće s obzirom na to da je sam softver za prikupljanje “obavještajnih podataka otvorenog koda” zatvorenog izvora i vlasnički. To znači da nitko osim onih koji stoje iza njega ne zna točno koje metode koristi i koliko je točan.
Nadalje, sam Mosher je optužen da je pod prisegom lagao o vlastitoj stručnosti i načinu na koji je alat korišten.
Ovu su točku službeno pokrenuli odvjetnici obrane u zahtjevu podnesenom u Ohiu u kojem se traži da se Cybercheckovi algoritmi i kod daju na uvid.
Naravno, Mosher je tvrdio da to nije moguće jer je ova tehnologija zaštićena autorskim pravima. Zahtjev je dio slučaja ubojstva kojim se bavi policijska uprava u Akronu.
U slučaju Akron, dvojica muškaraca koji su zanijekali da su počinili zločin optuženi su na temelju onoga što Mosher naziva “čisto posrednim” dokazima (čahure na mjestu zločina koje su dospjele iz pištolja koji se nalazio u kući jednog od njih, i automobil registriran na ime drugog osumnjičenika koji se vidio na snimkama nadzornih kamera u blizini mjesta zločina).
No postojali su i dokazi iz Cyberchecka koji su povezivali fizičku lokaciju osumnjičenika s mjestom pljačke i pucnjave putem algoritama koji indeksiraju njihove profile na društvenim mrežama i traže više informacija na internetu.
U konačnici, mrežna adresa uređaja spojenog na internet, dobivena putem Wi-Fi mreže nadzorne kamere, korištena je kao dovoljan dokaz za kazneni progon.
I iako je bila uključena kamera, nema snimke kobnog događaja. Također nema informacija o tome kako je točno Cybercheck, da citiramo izvješće NBC-a, “pronašao mrežnu adresu kamere ili kako je potvrdio da je uređaj bio na mjestu zločina”.
Ostali detalji koje forenzičari koje je angažirala obrana nisu mogli otkriti uključuju kako je Cybercheck potvrdio e-mail adresu koju su navodno koristila oba osumnjičenika, a ti stručnjaci također nisu mogli “locirati” društveni račun korišten u jednom izvješću koje je pripremio Cybercheck.
Čini se da policija i tužitelji ne samo da uzimaju ove dokaze – ili “dokaze” – zdravo za gotovo, već također vjeruju Mosheru na riječ kada kaže da je Cybercheckova točnost “98,2%”.
No, nema podataka o tome kako je došao do tog broja. Međutim, osnivač Cyberchecka izjavio je – u ovoj i ranijoj prijavi iz ljeta 2023. – da softver nikada nije recenziran.
Međutim, u trećem slučaju prošle jeseni, također u Akronu, Mosher je tvrdio da je Sveučilište Saskatchewan zapravo recenziralo dokument. No, dokument iz 2019. “čini se kao dokument s uputama za softver i ne govori ništa o tome tko je izvršio pregled ili kakav je bio rezultat”, izvijestio je NBC.
Glasnogovornik sveučilišta zanijekao je da je dokument ikada bio recenziran.
Sudac sada mora odlučiti hoće li prisiliti Moshera da otkrije šifru kontroverznog programa.
Građanske slobode nisu samo ugrožene, one su i dovedene u pitanje. Sposobnost Cyberchecka da analizira podatke mogla bi se koristiti kao oružje za suzbijanje slobode izražavanja i praćenje političkih disidenata. Nije daleko od korištenja tehnologije za praćenje kriminalaca do praćenja ljudi koji ne poštuju pravila. U digitalnoj eho komori ovaj bi alat mogao ušutkati glasove koji se ne slažu i to pod krinkom javne sigurnosti.
Kako radi Cybercheck ostaje tajna. Kako se određuju ciljevi algoritma? Tko se brine da ne pregazi oznaku? Ovaj nedostatak transparentnosti potiče opravdane strahove od digitalnog panoptikuma u kojem algoritmi imaju posljednju riječ nad poviješću vlastitih podataka. Ova sjena koja visi nad načinom na koji se donose odluke i tumače podaci pokazuje da postoji hitna potreba za otvorenom regulativom i javnim nadzorom.
Trenutačno je tržište masovnog nadzora, poput onog koje koristi policija SAD-a, u previranju. Uzbuđenje je zapravo samo konsolidacija unosnog tržišta.
Čini se da se ta konsolidacija odvija kao što se često događa u industriji koja je u usponu: kroz spajanja i akvizicije s ciljem koncentracije (ekonomske) moći u što je moguće manjem broju ruku.
Ovaj put je to SoundThinking, koji preuzima neke odjele Geolitice, koja je razvila PredPol (kako se tvrtka ranije zvala), tehnologiju za prediktivni rad policije.
Izgleda kao klasično tehnološko preuzimanje – uspješna tvrtka je razbijena kako bi kupila najvrednije dijelove: inženjere i patente.
“Mi smo u razdoblju konsolidacije u kojem velike policijske tehnološke tvrtke postaju sve veće, a ovaj potez je dio tog procesa”, rekao je profesor prava Andrew Ferguson s američkog sveučilišta u intervjuu za Wired.
Ništa protiv Fergusonovih vjerodajnica – napisao je knjigu pod nazivom “Uspon policije velikih podataka” – ali njegov zaključak o ovoj posljednjoj akviziciji teško da je analiza na znanstvenoj razini. Drugim riječima, prilično je očito što se ovdje događa.
Ali da ne ulazimo u ono očito – važnost za privatnost ljudi i naposljetku, pomalo ironično, za sigurnost – prvo bismo željeli upoznati glumce.
Iako ove tvrtke uglavnom rade u tajnosti, često svjesno, čini se da glavni igrač, SoundThinking, ne treba puno predstavljati. Ne kad ga izvješća već nazivaju “Googleom borbe protiv kriminala” (“borba protiv kriminala” je velikodušna fraza).
Ne, pretpostavka je da tvrtka gomila proizvode i usluge u svojoj industriji, kao što je Google radio u svojoj industriji. A to jednostavno nije dobro.
Nije uzalud ovdje bilo dosta “rebrandinga” jer su takve tvrtke, čak i ako se samo marginalno pojavljuju u mainstream medijima, uspjele izgraditi lošu reputaciju za sebe.
I tako ono što je SoundThinking nekoć otvoreno nazivao “prediktivni policijski rad” – i glavni proizvod koji prodaju kako bi pomogli agencijama za provođenje zakona da “postignu” taj cilj – sada se zove “upravljanje resursima za policijske uprave”.
Čini se da je ovaj player – ne samo sa svojim veselim, pozitivnim, korisnim nazivom “SoundThinking” – pametan kupac. I kupci.
Ovaj put meta preuzimanja zove se Geolitica. Na web-mjestu tvrtke nema ničega što se može naći – očito je pružatelj “Pouzdanih usluga za sigurne zajednice za sigurnije zajednice”.
Ali ako malo zadubite u žargon tvrtke, saznat ćete na zaobilazan način o čemu se radi: analiziranje dnevnih obrazaca patroliranja, upravljanje operacijama patroliranja u stvarnom vremenu, stvaranje toplinskih karti patroliranja, identificiranje vrućih točaka resursa.
Ovdje postoje dva ili možda tri ključna pitanja: funkcionira li? Zašto je potrebno eksternalizirati? I kako “Google masovnog policijskog nadzora” dolazi do zaključka da ga vrijedi (djelomično) usvojiti?
Izvršni direktor SoundThinkinga Ralph Clark rekao je u kolovozu da će Geolitica-ini korisnici upravljanja patrolama sada postati SoundThinkingovi korisnici.
“Već smo angažirali njihov inženjerski tim (…) to bi olakšalo našu primjenu AI i strojnog učenja za javnu sigurnost”, rekao je Clark u to vrijeme u konferencijskom pozivu s investitorima tvrtke.
A ipak se radi o više od puke “obdukcije” tvrtke. Neki su promatrači uvjereni da je ovo što se ovdje događa samo primjer, cigla u zidu, da tako kažemo, duboke i sveobuhvatne – da ne kažemo kontroverzne – promjene u načinu na koji američka vlada upravlja policijskim radom u svojim zajednicama.
Ali uza sav optimizam o vrijednosti tvrtke kao što je Geolitica (bivšeg naziva PredPol – a ne morate biti obožavatelj Orwella da biste razumjeli neologizam, svrhu i poslovanje tvrtke), postoji i zabrinutost.
Vraćaju se u 2011. godinu, kada je PredPol prvi put došao na scenu, koristeći povijesne podatke o kriminalu da bi napravio trenutna predviđanja.
“Godinama su kritičari i znanstvenici tvrdili da algoritam PredPol, temeljen na povijesnim i nepouzdanim podacima o kriminalu, reproducira i pojačava pristrane policijske obrasce”, kaže izvješće Wireda.
Ipak, čini se da će u nadolazećim godinama, možda ne baš ista tehnologija, ali nedvojbeno – jer zašto ne, ona se u biti nagrađuje za “neuspjeh odozgo” – ove vrste alata i usluga mreškati kroz valove policije u SAD-u, gdje je trenutna vlada sumnjivo (bez dosjetke) sklona prepustiti ga privatnim subjektima.
Kad se sve sabere, učini, odigra i ispita, najvjerojatnije će biti beskonačne polemike.
Podsjećajući na razne tehnologije, alati poput Geolitice dizajnirani su za prikupljanje, analizu i mapiranje velikih količina geoprostornih podataka za izradu detaljnih profila koje mogu koristiti svi, od marketinških agencija do vladinih agencija. Takvi alati obećavaju bolju analizu, sigurnost i ciljane usluge, ali također predstavljaju veliki izazov za privatnost pojedinca i građanske slobode.
Da bismo razumjeli kontroverzu, prvo moramo razumjeti kako Geolitica radi. Zamislite alat sposoban za praćenje kretanja, analiziranje obrazaca i predviđanje buduće lokacije ljudi na temelju različitih točaka podataka prikupljenih s pametnih telefona, IoT uređaja, javnih kamera itd. Spajajući umjetnu inteligenciju, velike podatke i geoprostornu tehnologiju, Geolitica stvara digitalni prikaz života osobe s alarmantnom točnošću.
Drugo sporno pitanje je komercijalizacija osobnih podataka, poznata kao nadzorni kapitalizam. Tvrtke koriste nemilosrdne alate za digitalni nadzor poput Geolitice za prikupljanje podataka o ponašanju – često bez izričitog pristanka. Ovi se podaci koriste za ciljano oglašavanje, za utjecaj na kupovno ponašanje, pa čak i za manipuliranje mišljenjima, narušavajući privatnost pojedinca u komercijalne svrhe. Takve prakse ne samo da potiču neravnotežu moći između tvrtki i potrošača, već stvaraju i monopole podataka koji prijete tržišnom natjecanju.
Korištenje geolokacijskih alata od strane vlada povećava avet nadzora “Velikog brata”. Mogućnost praćenja boravišta građana u stvarnom vremenu pod krinkom nacionalne sigurnosti ili javnog zdravlja dovodi u opasnost autoritarno ponašanje. Povijest je puna primjera u kojima su se instrumenti namijenjeni zaštiti koristili za tlačenje građana. Ostavljene bez nadzora, te bi se tehnologije mogle koristiti za suzbijanje neslaganja, ciljanje na ranjivo stanovništvo i nepravedno postizanje određenih političkih ciljeva, temeljno potkopavajući demokratska načela i građanske slobode.
Agencije za provođenje zakona sve se više oslanjaju na tehnološki napredak kako bi spriječile kriminal i osigurale javnu sigurnost. Jedan takav napredak je prediktivni policijski rad, koji koristi algoritme i analitiku podataka za predviđanje gdje će se zločin vjerojatno dogoditi, koristeći alate kao što je PredPol, o kojem smo ranije izvještavali.
Prediktivni rad policije ne događa se u vakuumu. Često je dio veće nadzorne mreže koja uključuje videonadzor, čitače registarskih pločica i tehnologije prepoznavanja lica. Dok PredPol prvenstveno analizira obrasce u povijesnim podacima o kriminalu, integracija dodatnih izvora osobnih podataka može dovesti do značajnih zadiranja u privatnost.
Na primjer: u Chicagu je policijska upotreba prediktivnog sustava nazvanog “Heat List” ili “Strategic Subject List” za identificiranje ljudi koji bi vjerojatno bili uključeni u buduće zločine izazvala pomutnju jer nije bilo jasno kako je došao popis ljudi. Osobe s popisa nisu bile obaviještene, već su dodatno praćene, što se smatra izravnim kršenjem njihovih prava na privatnost.
Usmjeravanjem pozornosti policije na određena žarišta, preventivni policijski rad nenamjerno ograničava slobodu kretanja građana. Stanovnici područja koja se često identificiraju kao žarišta mogu biti podvrgnuti opetovanim interakcijama s policijom i neopravdanim provjerama, stvarajući virtualnu ogradu koja ograničava slobodu kretanja i doprinosi otuđenju od zajednice.
Na primjer: u New Yorku, izvješće je pokazalo da se ljudi koji žive u područjima gdje su česta prediktivna policijska zaustavljanja osjećaju stalno pod nadzorom i manje je vjerojatno da će se uključiti u svakodnevne aktivnosti, kao što je hodanje, iz straha od neopravdane policijske pažnje. Npr. posjećivanje prijatelja ili prisustvovanje sastancima zajednice.
Svjesni da određena ponašanja ili pokreti mogu privući pažnju organa za provođenje zakona, pojedinci mogu odustati od ostvarivanja svoje slobode okupljanja, govora i udruživanja. Ova autocenzura, također poznata kao efekt odvraćanja, može naštetiti koheziji zajednice i građanskom angažmanu.
|
|
| |
Galerija:
 Komentari 0
Trenutno nema komentara na ovaj članak ...
OPOMENA: Stranica Newsexchange ne preuzima odgovornost za komentatore i sadržaj koji oni objavljuju. U krajnjem slučaju, komentari se brišu ili je opcija za komentare isključena ...
|
|
|
|
Galerija:
|
|
Objava: 16. May, 2024 
226 ogleda, 
0 komentara
