Istraživanje BIRN-a pokazuje da je video nadzor sa mogućnostima prepoznavanja i detekcije lica – čije korišćenje u Srbiji nije zakonski regulisano – nabavljen za desetine škola, vrtića i studentskih domova širom Srbije, kao i da su njim pokrivene ulice, pijace, opštinske zgrade i javna preduzeća.
ideo nadzor sa opcijama prepoznavanja lica nabavljen je za najmanje 28 osnovnih i sedam srednjih škola širom zemlje, kao i za jednu predškolsku ustanovu u Beogradu, pokazuje novo istraživanje BIRN-a.
- Ustanova ima urađen Akt o proceni rizika i neophodnu dokumentaciju i odobrenja za uvođenje video nadzora i fizičko-tehničkog obezbeđenja. Sistem video nadzora sa karakteristikama prepoznavanja lica je u upotrebi u našoj ustanovi od 03.01.2024, radovi su završeni 29.12.2023, piše u odgovoru Osnovne škole Rastko Petrović – Sveti Sava iz Nove Pazove za BIRN.
Osim škola i vrtića, sistemi za video nadzor sa mogućnostima prepoznavanja lica nabavljani su i za studentske domove, ali i za brojna javna mesta, institucije i saobraćajnice u 12 gradova i opština širom Srbije. Najviše ove opreme nabavljano je u Beogradu – između ostalog za Narodnu biblioteku Srbije, pijace, nekoliko parkova i sistem beogradskog prevoza.
BIRN je mapirao naručioce opreme koja sadrži tehnologiju prepoznavanja lica, kao i niz lokacija na kojima je navedeno da će ova oprema biti korišćena. Mapa intruzivnih tehnologija će od sada biti dostupna na sajtu i društvenim medijima BIRN-a i periodično će se ažurirati novim nalazima.
https://flo.uri.sh/visualisation/16580067/embed?auto=1
Na mapi su označene adrese naručioca ili tačne lokacije na kojima je oprema instalirana, ukoliko su navedene u javno dostupnoj dokumentaciji o javnoj nabavci. BIRN je mapirao nabavke u kojima se decidno u samoj nabavci traži da oprema ima mogućnost „prepoznavanja lica” i nabavke gde je tražena oprema koja, prema specifikacijama, poseduje ovu mogućnost.
Prikupljanje i obrada biometrijskih podataka, koji se prikupljaju tehnologijama za prepoznavanje lica, zabranjena je u Srbiji, osim u izuzetnim slučajevima
Zakon o zaštiti podataka o ličnosti iz 2018. godine u članu 17 zabranjuje obradu biometrijskih podataka. To su jedinstvene informacije o svakom čoveku, poput crta lica ili dužice oka.
Biometrijski podaci u zakonu su uvršteni u „posebnu vrstu podataka o ličnosti“ čija obrada je dopuštena samo u izuzetnim slučajevima – ako je nadležni organ zakonom ovlašćen da obrađuje posebne vrste podataka o ličnosti, ako se vrši u cilju zaštite životno važnih interesa ili ih je osoba na koju se odnose sama već učinila dostupnim javnosti. Član 54 Zakona o zaštiti podataka o ličnosti propisuje da je za obradu ove vrste podataka obavezno prethodno izvršiti procenu uticaja na zaštitu podataka o ličnosti. , a tada je obavezno prethodno uraditi procenu uticaja na zaštitu podataka o ličnosti.
BIRN je kontaktirao sve mapirane institucije, lokalne samouprave i javna preduzeća koja su nabavljala opremu koja omogućava prepoznavanje lica. Od njih 32, na BIRN-ova pitanja do objavljivanja teksta odgovorilo je osam. Većina njih – Direktorat civilnog vazduhoplovstva Republike Srbije, Grad Kruševac, opštine Lučani i Palilula, Gradski centar za socijalni rad Beograd i Elektrodistribucija Srbije (u vreme nabavke EPS Distribucija) – navela je da nema sisteme za prepoznavanje lica. JKP Javno osvetljenje Beograd i opština Požega u pisanom odgovoru kažu da ne koriste ovu mogućnost, a iz ove opštine dodaju da nisu ni nabavljali softver koji bi omogućio da se prepoznavanje lica upotrebljava.
Zbog oskudnih odgovora, nije poznato da li su rađene procene uticaja, kao ni da li su kamere zaista instalirane i da li naručioci koriste mogućnost prepoznavanja lica.
Prepoznavanje dečjih lica i zaštita dečje privatnosti
Oprema sa mogućnosti prepoznavanja lica namenjena školama, obdaništima i drugim obrazovnim ustanovama nabavljena je u nekoliko gradova širom Srbije – Beogradu, Novoj Pazovi, Paraćinu, Požegi i Staroj Pazovi, od 2015. godine do danas.
Paraćin je u konkursnoj dokumentaciji naveo da traži i izradu procene uticaja na zaštitu podataka o ličnosti.
https://flo.uri.sh/visualisation/16807225/embed?auto=1
Interactive content by Flourish
Firma Maximus Global Technology, koja je nabavljala opremu za Ekonomsko-trgovačku školu Vuk Karadžić u Staroj Pazovi i Osnovnu školu Rastko Petrović – Sveti Sava iz Nove Pazove, pojavljuje se kao dobavljač video nadzora u osnovnim školama u Staroj Pazovi i Starim Banovcima, ali u skraćenim specifikacijama ne navodi se precizno koji modeli se nabavljaju.
Pretragom javno dostupne konkursne dokumentacije javnih nabavki, BIRN je otkrio da ovu opremu naručuju mahom opštine, a ne same škole.
Milan Marinović, Poverenik za informacije od javnog značaja i zaštitu podataka o ličnosti, kaže da je stav Poverenika o korišćenju tehnologije prepoznavanja lica veoma restriktivan i da je upotreba biometrijskih podataka nužna i neophodna samo u slučajevima kada je to neophodno kako bi određena institucija obavljala svoj posao, što, kako dodaje, zavisi od toga kojom se delatnošću bavi.
- Uvođenje tehnologije prepoznavanja lica u svakom drugom slučaju bilo bi prekomerno i nesvrsishodno i predstavlja nepotrebno zadiranje u privatnost pojedinca. U tom smislu, uvođenje tehnologije prepoznavanja lica bilo gde, pa i u školama, zahteva najdublju analizu i utemeljenje u zakonu, naročito imajući u vidu da se radi o maloletnim licima. Oblast kvalifikovanog video nadzora mora biti jasno i nedvosmisleno uređena, što se može postići isključivo kroz pravnu regulativu, ali i podizanje opšte svesti građana, na primer putem posebnog zakona o video nadzoru, kaže Poverenik.
On dodaje da su deca i maloletnici najosetljivija kategorija po pitanju prava na privatnost i da moraju uživati njegov najviši stepen.
Marinović takođe objašnjava da je video nadzor u školama, kao deo fizičko-tehničkog obezbeđenja, uređen pre svega Zakonom o privatnom obezbeđenju (ZPO) i Pravilnikom o načinu vršenja poslova tehničke zaštite i korišćenja tehničkih sredstava, nad čijom primenom nadzor vrši MUP, a ne Poverenik.
Upitno za šta se biometrijski nadzor koristi u školama
Goran Mandić, vanredni profesor Fakulteta bezbednosti u Beogradu, kaže da je pitanje da li škole, predškolske i druge obrazovne ustanove koriste tehnologiju prepoznavanja lica, jer bi za njenu upotrebu bilo neophodno formiranje baze fotografija učenika škole.
Istraživanje BIRN-a je pokazalo da pojedini softveri koji se pojavljuju u nabavkama intruzivnog video nadzora imaju mogućnost formiranja interne baze fotografija lica tako što detektuju sva ljudska lica koja se pojavljuju u video kadru, fotografišu ih i u formi fotografije lageruju u izdvojene baze fotografija lica.
„Postavlja se pitanje svrsishodnosti. Šta će mi taj softver?“, kaže Mandić i dodaje da je otvoreno pitanje jesu li naručeni softveri zaista i isporučeni, kao i da li su ušli u upotrebu, kome su bili potrebni i za koje svrhe.
Opština Čukarica raspisivala je u nekoliko navrata – 2018, 2019. i 2020. godine javne nabavke kupujući mrežne snimače koji imaju „podršku za inteligentne funkcije”, među kojima je i prepoznavanje lica. Ovaj sistem video nadzora nabavljen je 2020. godine, između ostalog, i za 19 škola na ovoj opštini. Odluka o dodeli ugovora doneta je 16. marta, prvog dana posle proglašenja vanrednog stanja u Srbiji zbog pandemije korona virusa.
Nekoliko škola sa ove opštine odgovorilo je BIRN-u da u njihovim objektima nema nadzora sa prepoznavanjem lica, kao i da je opremu za nadzor skromnog kvaliteta opština nabavila pre više godina. Iz dve škole su napisali da zapravo i dalje koriste sistem nadzora iz januara 2017. godine.
Opština Čukarica nije odgovorila na pitanja BIRN-a o nabavkama sistema za nadzor sa mogućnosti prepoznavanja lica na ovoj opštini, pa nije poznato gde je instalirana oprema kupljena 2020. godine.
Rodoljub Šabić, pravnik i bivši Poverenik za informacije od javnog značaja i zaštitu podataka o ličnosti, kaže da se postavlja pitanje čemu nabavka naprednih softvera koji, između ostalog, poseduju i ove opcije.
„Naravno da ne može biti opravdanje to da se oprema nabavlja, ali ne koristi… Sa stanovišta zakonitog i celishodnog korišćenja budžetskih sredstava sasvim je iracionalno da neko nabavlja tehnologiju koju neće da koristi.
„Štaviše, onaj ko nabavlja tehnologiju koju ne samo da neće, nego i ne sme da koristi i čija upotreba je ne samo izvesno kršenje Zakona o zaštiti podataka o ličnosti, nego i izaziva osnovanu sumnju u izvršenje krivičnog dela neovlaštene obrade podataka o ličnost (čl.146 KZ), morao bi za to da snosi odgovornost”, kaže Šabić.
Video nadzor u školama i vrtićima: Između bezbednosti i privatnosti
Goran Mandić smatra da video nadzor u školama ima smisla, jer omogućava brzu reakciju, ukoliko je to potrebno, kao i da noviji softveri za video nadzor omogućavaju zamagljivanje lica radi zaštite privatnosti.
- Osmatranje putem video nadzora igra ulogu za vreme odmora i kad učenici dolaze u školu i ima funkciju kako bi se istog trenutka moglo reagovati. Identifikacija i prepoznavanje je najbitnija za video nadzor u školama, npr. tražim lice ili dete obučeno u crvenu majicu koje je napravilo neki problem i ja sad idem na kameru za prepoznavanje i tražim osobu tih karakteristika. […] Bitno je da niko ne snima u toaletu i na mestima gde je neprimereno, a sve ostalo nema veze. Šta, narušena je privatnost đaka, ako ih neko snima u hodniku škole? Kako?, pita on.
Mandić, međutim, dodaje da je upitno da li škole efikasno koriste sisteme koje imaju.
- Sistem video obezbeđenja ako se ne pokrije drugim merama, ne štiti ništa. To je iluzija koju svi pokušavaju da proguraju. Mogu da postavim besprekoran sistem video obezbeđenja, ali ako se ne zna šta se gleda, koja mi je svrha sistema? Snimke video nadzora može da prati samo licencirani službenik obezbeđenja, a u školama je to neretko predato direktoru, pedagogu, psihologu…U maloprodajnim objektima, ako znate metodologiju izvršenja dela sitne krađe, onda znate šta ćete da gledate i kako ćete da reagujete. Kod nas nema dovoljno edukacije službenika obezbeđenja o tome šta da gledaju na video nadzoru, kaže on.
Pored škola koje pohađaju maloletnici, BIRN je mapirao i nabavke intruzivne opreme za studentske domove u Novom Sadu.
Novosadski Studentski centar je nabavio 2021. godine terminale za kontrolu pristupa. U specifikacijama se traži tačnost prepoznavanja veća od 99 odsto i kapacitet čuvanja 10.000 lica, a kao mesta isporuke navedeni su studentski domovi.
- To su visokorizične obrade. To su javne ustanove. Studentima niko nije rekao da će njihovi podaci na taj način da se koriste. […] Kada govorimo o bilo kom ljudskom pravu postavlja se pitanje da li postoji manje intruzivna mera ostvarivanja određenog cilja. A šta rade redari, šta radi obezbeđenje koje je plaćeno da kontroliše i nadzire, kaže Nevena Ružić, stručnjakinja za bezbednost podataka.
Prepoznavanje lica i nadzor ustanova i javnih površina
Video nadzorom sa mogućnostima prepoznavanja lica pokrivene su prometne tačke u brojnim gradovima u Srbiji, pokazuje dokumentacija do koje je došao BIRN pretragom portala javnih nabavki.
JKP Javno osvetljenje Beograd je prošle godine u nabavci video nadzora na „dekorativnim“ objektima kupilo i Dahua video snimač sa opcijom detekcije i prepoznavanja lica. U javno dostupnoj dokumentaciji se ne navodi precizno na kojim lokacijama je ovaj nadzor postavljen.
Iz ovog preduzeća za BIRN su naveli da se „nabavljeni video nadzor ne koristi za prepoznavanje lica već isključivo služi za praćenje rada dekorativnog osvetljenja”.
U Beogradu, opciju za prepoznavanje lica imaju sistemi nadzora parkova na opštini Čukarica, Kalemegdan, šetalište kod Beton hale, Knez Mihailova, plato ispred Filozofskog fakulteta, Trg Republike i Zeleni venac.
Narodna biblioteka Srbije je jedan od kupaca Hikvision kamera i snimača za video nadzor korisničkog dela objekta sa funkcijama termalnog snimanja
Funkcija termalnog snimanja se uglavnom koristi noću i u uslovima slabe vidljivosti. Ovakvim snimanjem, kamera može da detektuje ljude i lica, ali snimak sa ovih kamera nije dovoljnog kvaliteta da bi se prepoznao lik osobe. , „usnimavanja” i „upoređivanja” ljudskog lica i alarmiranja
Softver za prepoznavanje lica prvo mora da uslika referentno lice, zatim da ga uporedi sa postojećom bazom fotografija lica kako bi pronašao najsličnije lice, a ako softver dozvoljava i funkciju alarma – alarmira službenika obezbeđenja ukoliko prepozna lice..
Gotovo sve beogradske pijace su povezane na integracijski softver sa ovom opcijom i opcijama brojanja ljudi, određivanja pola i starosti, a pod nadzorom sa opcijama prepoznavanja lica su i pijace u Novom Sadu, o čemu su mediji već pisali.
Pijačna uprava Tržnica AD, koja rukovodi buvljakom, auto i stočnom pijacom u Subotici, nabavila je devet kamera sa opcijom prepoznavanja lica.
Rodoljub Šabić kaže da je nesporna intruzivnost biometrijskog video nadzora u svim slučajevima, ali da je svakako najopasnija neselektivna primena ove tehnologije na otvorenom prostoru.
- U našem normativnom sistemu ne postoji valjan pravni osnov za primenu biometrijskog, takozvanog inteligentnog video nadzora […] što primenu generalno, u svim slučajevima, čini veoma problematičnom, u krajnjoj liniji nezakonitom, kaže Šabić.
Domovi za stare nisu ostali imuni na nadolazeću tehnologiju nadzora. Gerontološki centar Beograd je nabavio 2015. godine licencu za prepoznavanje lica – nadzor nad starim i dementnim osobama. U konkursnoj dokumentaciji piše da „softver mora da ima funkciju prepoznavanja dementnih osoba koje žele da napuste objekat i alarmira obezbeđenje“ uz dodatnu „mogućnost unošenja slika (fotografija) dementnih osoba“.
Milan Marinović, poverenik za zaštitu podataka o ličnosti, kaže da opcija prepoznavanja lica nije pravno regulisana u Srbiji i da fizičko-tehničko obezbeđenje ustanove ne mogu uvoditi proizvoljno.
„Sistem video nadzora mora biti korišćen isključivo u svrhe propisane Zakonom o privatnom obezbeđenju i njime se ne može nadgledati više od onoga što je nužno za ispunjenje određene svrhe, pri čemu se u svakom trenutku mora voditi računa šta se snima, gde se snimci pohranjuju, ko ima pristup snimcima i kome se snimci eventualno otkrivaju, odnosno dostavljaju“, kaže Marinović.
Poverenik objašnjava da mora biti odrađen projekat i plan sistema tehničke zaštite objekata, kao i obuka o rukovanju sredstvima tehničke zaštite, uz „čitav niz drugih uslova“, i dodaje da je u nadležnosti MUP-a da izdaje licence i kontroliše monitoring centre u kojima se pregledaju snimci sa video nadzora.
Prepoznavanje lica u javnim preduzećima i institucijama
Osim javnih ustanova, opremu koja omogućava prepoznavanje lica su nabavljala i brojna javna preduzeća, poput beogradskog GSP-a, Agencije za lokalni ekonomski razvoj iz Leskovca, Poreske uprave, Direktorata civilnog vazduhoplovstva i JKP Beogradski vodovod i kanalizacija.
https://flo.uri.sh/story/2174596/embed?auto=1
Pojedini naručioci – poput Agencije za restituciju i opština Ruma i Novi Kneževac naručivali su opremu koja ima mogućnost da se na nju nadograde moduli ili licence za prepoznavanje lica.
Detekcija lica
Pojedini naručioci opreme za nadzor u dokumentaciji su koristili reči „detekcija” i „prepoznavanje” lica kao sinonime. Sportsko-rekreativni centar Tašmajdan je naručio opremu za video nadzor hale Aleksandar Nikolić među kojom je i sedam „kamera za prepoznavanje lica”.
Tražene karakteristike kamera, međutim, odgovaraju onim koje imaju opciju detekcije lica, odnosno mogućnost da na snimku prepoznaju gde se nalazi lice osobe, fotografišu ga i fotografiju postave na server.
Grad Kruševac je nabavio 2018. godine jednu kameru za „detekciju prepoznavanje lica”.
Saobraćajne kamere sa intruzivnim mogućnostima
Pojedini gradovi i opštine, poput Kruševca, Paraćina, Bora i Leskovca su naručivali intruzivnu tehnologiju za kontrolu saobraćaja.
U slučaju Leskovca, Bora i Kruševca se eksplicitno navodi da su monitoring centri smešteni pri policiji.
Agencija za ekonomski razvoj Leskovca je 2016. naručila softver za video menadžment koji „vrši detekciju lica i poređenje sa identifikacijom osobe iz unapred pripremljene baze podataka“.
Bor je 2022. nabavio najmanje 21 Dahua kameru koja je povezana na mrežni snimač sa intruzivnom analitikom. U napomenama nabavke stoji: „Sistem video nadzora je javni, korisnik je isključivo MUP Srbije i ne potpada pod Zakon o fizičko-tehničkom obezbeđenju“.
Grad Kruševac je nabavio 2022. godine dve kamere sa mogućnošću prepoznavanja lica za kontrolu saobraćaja.
Ministarstvo unutrašnjih poslova Srbije (MUP) je kupilo i postavilo po Beogradu kamere sa opcijom prepoznavanja lica 2019. godine od kineske kompanije Huavej.
MUP u okviru projekta „Sigurno društvo“ planirao da postavi hiljade nadzornih kamera širom Srbije. Ovo ministarstvo je negiralo da upotrebljava mogućnost prepoznavanja lica.
MUP Srbije već poseduje softver švedske kompanije Griffeye, koji ima opciju prepoznavanja lica, kako je BIRN već objavio u tekstu Policija Srbije nabavila softver sa opcijom za prepoznavanje lica.
Radio Slobodna Evropa je prošle godine objavio da je 40 gradova i opština u Srbiji nabavilo kamere kompanije Dahua, koja ima mogućnost prepoznavanja lica.
Posle objavljivanja istraživanja, iz Kancelarija Poverenika za zaštitu podataka o ličnosti su za Slobodnu Evropu rekli da neće pokretati nadzore u slučajevima nabavki kamera sa mogućnosti prepoznavanja lica dok ne budu postojali validni dokazi da se ova tehnologija i upotrebljava.
HikVision i Dahua u tehnološkim kontroverzama
Oprema koja omogućava prepoznavanje lica je najčešće dolazila sa nabavkama opreme kineskih proizvođača – Dahua i Hikvision.
Stručnjak za fizičko-tehničko obezbeđenje, koji je govorio za BIRN pod uslovom anonimnosti, kaže da je kineska oprema finansijski povoljna ali nebezbedna i da ovi proizvođači ne vrše kontrolu nad krajnjim korisnikom opreme.
Specijalizovani časopis za sisteme video nadzora IPVM prošle godine je pisao da su hakeri zloupotrebili ranjivosti Hikvision sistema da bi špijunirali maloletna lica i onda te snimke prodavali kao pornografski sadržaj. Nekolicinu Telegram grupa na kojima je ovaj materijal cirkulisao platforma je ukinula na inicijativu IPVM, koji je u njima otkrio pornografski sadržaje naslovljene sa „dečja soba“, „porodična soba“, „kupatilo devojčice“ ili „ginekološka ordinacija“.
Hikvision je u poslednjim unapređenjima sistema uveo i opciju prepoznavanja etničkih manjina, među njima muslimanske manjine u Kini – Ujgura, poput prepoznavanja njihovih „dnevnih aktivnosti“ i detekcije posta u vreme Ramadana.
Ova kompanija je omogućila kineskoj policiji da na njihovim kamerama podesi softverski alarm u slučaju da kamere prepoznaju proteste, okupljanje ljudi i motive religije, objavio je britanski Gardijan.
Slične funkcije na bazi veštačke inteligencije koje prepoznaju boju kože, rasu i motive protesta razvila je i kompanija Dahua.
Obe kompanije su sankcionisane od strane regulatora u Ujedinjenom Kraljevstvu, Sjedinjenim Američkim Državama i Australiji.