V Cenách Velkého bratra za rok 2023 nejvíce “uspělo” rozpoznávání tváří

No comments

 

Tisková zpráva, IuRe, 20. 3. 2024

Organizace IuRe (Iuridicum Remedium) rozdala ve středu 20. března večer již po devatenácté své anticeny, které upozorňují na ty největší prohřešky proti soukromí. Porotu nejvíce zaujal systém, který české policii umožňuje automatizovaně ztotožňovat osoby pouze na základě fotky, ale třeba i projekt chytré likvidace odpadu MojeOdpadky.cz, který prakticky trestá ty, kdo nechtějí sdílet své osobní údaje. Pozitivní cenu přiřkla porota Michalu Bergovi za kampaň proti nádražním automatům na vodu, pro jejichž využití je třeba chytrý telefon.

 Výsledky Cen Velkého bratra za rok 2023

  • Úřední slídil / policie České republiky 
    / za netransparentní provoz systému Digitální podoba osob
    / celé zdůvodnění.pdf, reakce v médiích zde a zde
  • Firemní slídil / Innovatrics 
    / za nedostačné informování o biometrickém systému Fingera
    / celé zdůvodnění.pdf + reakce.pdf
  • Dlouhodobý slídil / projekt MojeOdpadky.cz 
    / za nucení do poskytování osobních údajů
    / celé zdůvodnění.pdf
  • Výrok Velkého bratra / Europol 
    / za chuť plošně sbírat a analyzovat on-line komunikaci
    / celý výrok a zdůvodnění.pdf
  • Pozitivní Cena / Michal Berg
    / za kampaň proti automatům na vodu nutících lidí využívat aplikaci
    / celé zdůvodnění.pdf + vyjádření zde
  • Cena veřejnosti (hlasování lidí během slavnostního večera) / Europol

Patrně nejvíce by českou veřejnost měla zajímat cena Úřední slídil, kterou získala Policie ČR za provoz Informačního systému Digitalní podoba osoba (IS DPO). V něm se nachází téměr 20 milionů fotek z českých občanek a pasů. Potřebuje-li policie ztotožnit něčí identitu, ať již z fotky či videa, může tento systém využít.

Podle poroty soutěže, kterou opět tvořili právníci, IT odborníci či novináři (viz níže), však policie spustila v loňském roce systém utajeně: v rozporu se zákonem navíc neměla před jeho spuštěním zpracované zhodnocení dopadu do soukromí (tzv. DPIA), chyběl a nadále chybí i dostatečný právní základ pro jeho provoz. Na zjištění organizace IuRe, která na systém jako první upozornila, navíc policie reagovala nepravdivými tvrzeními.

“Oceněním chceme znovu upozornit na problematický přístup vedení Policie ČR k využívání nových technologií, který se jeví jako systémový a měl by zajímat jak regulační orgány, tak vládu a zákonodárce. Vedle chybějícího právního základu pro IS DPO můžeme zmínit dlouhodobě právně neupravené fungování kriminalistické databáze DNA nebo mnohaleté vytváření databáze snímků průjezdů všech aut na českých silnicich. Podobné nedostatky jako u IS DPO pozorujeme například i u kamerového systému na rozpoznávání tváří na Letišti Václava Havla. Navíc ocenění se trefuje do připomínkového řízení nově předložené novely zákona o zpracování osobních údajů, která ačkoli se odvolává na chystané nařízení o umělé inteligenci, popírá jeho kontrolní mechanismy jako povolení soudu pro zařazení osoby do databáze. Ministerstvo vnitra tak připravuje pro policii i zpravodajské služby legislativní rámec pro pokračování nepřetržitého biometrického sledování, který ovšem bude kolidovat s evropským právem,” podotýká k ocenění výkonný ředitel IuRe Jan Vobořil.

S biometrikou, tedy s identifikací na základě tváře či třeba otisku prstu, souvisí i ocenění Firemní slídil: to ve středu obdržela firma Innovatrics za svůj systém Fingera. Ten umožňuje podle tváře efektivnější kontrolu docházky zaměstnanců i vydávání jídel v kantýně. Bohužel však podle poroty vůbec nereflektuje, že nařízení GDPR prakticky vylučuje, aby byly podobné systémy na běžných pracovištích využívány.

“Specifikem biometrických údajů je, že jsou neměnné, což s sebou nese vysoké riziko jejich zneužití. Na zpracování biometrických dat se tak vztahují omezení, která znamenají, že v běžných provozech lze biometrické údaje používat pouze s výslovným souhlasem subjektu údajů, který musí být svobodný. Zaměstnanec tedy musí mít skutečně reálnou alternativu, která mu umožňuje bez jakýchkoli postihů souhlas se zpracováním biometrických dat nedávat. Z prezentací společností, které systém využívají na webových stránkách www.fingera.com, se přitom nezdá, že by možnost odmítnout využití biometriky zaměstnanci reálně měli,” vyzdvihuje ty nejvíce problematické aspekty Vobořil.

Data odevzdat: Europolu i společnosti na svoz odpadků

Další dvě ocenění mají pro změnu společný nadměrný sběr údajů. Právě za ten si cenu Dlouhodobý slídil vysloužil projekt MojeOdpadky.cz. Ten má na svědomí společnost ISNO IT, s.r.o. a obcím a městům v rámci něj nabízí tzv. motivační systém MESOH (Motivační a evidenční systém pro odpadové hospodářství), který odměňuje občany za ekologické chování tzv. EKO body, za něž mohou získat slevy.

Se získáním EKO bodů je však spojeno i shromažďování osobních údajů provozovateli systému: lidé je získávají za aktivní komunikaci či návštěvu webových stránek. Systém poskytování slev za sběr bodů je tak podle poroty vlastně totéž jako systém pokut za nedostatečnou ochotu sdílet osobní informace.

“Údaje předávané obcemi, stejně jako data od občanů, kteří využívají účet odpadového hospodářství, jsou podle provozovatele systému například využívány k personalizovanému zasílání obchodních sdělení, a to i bez souhlasu subjektu údajů. Kdo nechce data poskytovat, je vlastně sankcionován za to, že si chrání soukromí,” dodává Vobořil.

Za plán shromažďovat data, k jehož naplnění naštěstí zatím nedošlo, byl oceněn také Europol. Ten si odnesl cenu za Výrok Velkého bratra. Podle tria investigativních novinářů totiž zástupce Europolu, kterému už v minulosti bylo nařízeno zlikvidovat data o občanech uchovávaná bez jakéhokoli jasného důvodu, na pracovním setkání prohlásil, že:

„Všechny údaje jsou užitečné a měly by být předávány orgánům činným v trestním řízení. Centrum EU by nemělo provádět žádné filtrování, protože i nevinný snímek může obsahovat informace, které by mohly být v určitém okamžiku užitečné pro orgány činné v trestním řízení.“

Výrok se týkal kontroverzního plánu Evropské komise na plošné sledování komunikace nebo obsahu cloudových úložišť kvůli automatizovanému vyhledávání dětské pornografie. Podle poroty Europol prakticky potvrdil obavy četných kritiků návrhu: že systém plošné kontroly komunikace by mohl být záhy zneužit a definice “škodlivého materiálu” svévolně rozšiřována.

Cenu předala formou videa Ella Jakubowska z celoevropské sítě EDRi (European Digital Rights), která se tématu po celý rok 2023 věnovala.

Dnes aplikace na vodu, zítra aplikace na vzduch?

Jediné příkladné ocenění, Pozitivní cenu, si ve středu odnesl spolupředsedy Strany Zelených Michal Berg. Ten totiž v listopadu 2023, záhy poté, kdy Správa železnic zveřejnila informace ke svému projektu Železnice bez plastů, v rámci kterého bude se startupem Lokni instalovat na nádražích automaty na filtrovanou vodu, spustil petici proti zbytečnému nucení do používaní mobilní aplikace, která je při využití automatu na vodu vyžadována.

 

V jednom ze svých textů upozornil i na neopodstatněný sběr dat, který je od lidí, co se chtějí napít, vyžadován (aplikace Lokni zpracovává e-mail, křestní jméno, volitelně pohlaví, dále ID zařízení a unikátní uživatelské ID pro každou instalaci a dále provozní údaje o využití pítek).

“Jsme rádi, že jsme mohli udělit cenu související s problematikou digitálního vylučování, které jako téma přichází uvnitř organizací zabývajících se digitalizací čám dál častěji na přetřes. I od sociologů přitom zaznívá, že zde vždy bude skupina lidí, která nechce či nemůže využívat některé digitální technologie. Nejen soukromý sektor, ale hlavně politici a všichni ti, kdo se podílejí na tvorbě veřejného prostoru, by s tím měli počítat. Zavádění technologií do oblastí, kde neřeší žádný skutečný problém možná někoho nadchne, řadu lidí ale spíše otráví, že je vše složitější, než třeba prosté otočení kohoutkem, a pro některé lidi se stane rovné využití služeb nedostupné, protože třeba nemají smartphone,” komentuje poslední z Cen Vobořil.

Nejhorší z oceněných? Podle veřejnosti Europol

Během večera proběhlo též hlasování veřejnosti o tom, který z oceněných je podle přítomných tím vůbec největším Velkým bratrem. Těsně, ale přece vyhrál tuto soutěž mezi oceněnými Europol. Celkové výsledky hlasování (hlasovali ti kdo chtěli v sále):

  • 27 Europol
  • 26 Policie
  • 17 Innovatrics
  • 4 MojeOdpadky.cz

Dvacátý ročník

Během slavnostního večera upozorňovali zástupce IuRe několikrát také na to, že příští rok se uskuteční již dvacátý ročník soutěže. V touto souvislosti vyzvali přítomné k finanční podpoře – podpořit Ceny Velkého bratra i celoroční aktivity v programu Digitální svobody lze zde.

Složení poroty Cen Velkého bratra za rok 2023

Jan Cibulka / datový novinář, iRozhlas.cz
Eduarda Hekšová / ředitelka spotřebitelské organizace dTest
Oldřich Kužílek / poradce pro otevřenost veřejné správy a ochranu soukromí, Otevřená společnost
Ján Matejka / ředitel Ústavu státu a práva AV ČR, člen rozkladové komise ÚOOÚ
Pavel Růžička / expert na IT bezpečnost
Jan Vobořil / advokát a výkonný ředitel IuRe
Klára Votavová / publicistka a výzkumná pracovnice, Europeum

Ohlasy v médiích