IO Paryż 2024: Prywatność w obliczu sportowych zmagań

We Francji ustawodawcy zatwierdzili plany wykorzystania inteligentnych kamer monitorujących podczas igrzysk olimpijskich w Paryżu w 2024 r., mimo sprzeciwu obrońców prywatności, którzy uważają, że technologia ta jest uciążliwa dla mieszkańców okolicy, zwłaszcza jeśli pozostanie w użyciu po igrzyskach. To ruch sprzeczny z decyzjami AI ACT, przyjętymi przez dwie Komisje Parlamentu Europejskiego, zabraniającymi stosowania technologii do rozpoznawania twarzy i ludzkich emocji.

Zgromadzenie Narodowe Francji zatwierdziło niedawno ustawę, która upoważnia przedsiębiorstwa do testowania komputerowych kamer wizyjnych na stadionach i w pobliżu węzłów komunikacyjnych, z zamiarem wspierania organów ścigania w wysiłkach na rzecz bezpieczeństwa. Kamery będą mogły legalnie działać do końca 2024 roku.

Krytycy projektu mówią wprost: Parlament Europejski chce zakazać systemów służących do prognozowania przyszłych przestępstw czy tworzenia baz danych do rozpoznawania twarzy na podstawie zdjęć z CCTV i social mediów. Eksperci bezpieczeństwa zwracają również uwagę na zagrożenie w postaci hakerów.

– Aby ograniczyć ryzyko związane z zastosowaniem sztucznej inteligencji, ważne jest, aby rządy i organy regulacyjne współpracowały ze sobą w celu opracowania solidnych mechanizmów bezpieczeństwa, ustanowienia zasad etycznych oraz promowania przejrzystości i odpowiedzialności w rozwoju sztucznej inteligencji. Istnieją propozycje, takie jak ustawa o sztucznej inteligencji. W zależności od rodzaju sztucznej inteligencji firmy, które opracowują i udostępniają systemy AI, powinny zapewnić co najmniej minimalne standardy, takie jak prywatność, uczciwość, zrozumiałość lub dostępność – podkreśla Wojciech Głażewski, dyrektor firmy Check Point Software w Polsce.

Argument przeciw algorytmom

Ten rodzaj nadzoru polega na badaniu cech fizycznych ludzi i wysyłaniu odpowiednich ostrzeżeń do organów bezpieczeństwa. Niedawne wdrożenie podobnej technologii w Stanach Zjednoczonych zaowocowało sześciodniowym aresztem niewinnego człowieka. Francuski regulator prywatności przyznał, że technologia ta wiąże się z ryzykiem. – Powinniśmy eksperymentować, aby dowiedzieć się więcej o skuteczności tej technologii – powiedział Bertrand Pailhes, szef technologii i innowacji w Cnil, francuskim organie nadzorującym ochronę danych.

Obecnie firmy powszechnie wykorzystują komputerową technologię wizyjną do analizowania procesów przemysłowych, takich jak monitorowanie aktywności w zakładach przetwórstwa drobiu. Cnil zamierza nadzorować firmy technologiczne, które otrzymują kontrakty rządowe na używanie komputerowych kamer wizyjnych do monitorowania bezpieczeństwa podczas Igrzysk. Oczekuje się, że regulator będzie doradzał firmom w zakresie zasad prywatności i będzie badał potencjalne naruszenia.

Mieszkańcy obawiają się jednak, że urzędnicy wykorzystają igrzyska olimpijskie jako pretekst do prowadzenia długoterminowej inwigilacji na dużą skalę.  – Igrzyska Olimpijskie są dla nich doskonałym uzasadnieniem, aby ta technologia została akceptowalna — mówi Noemie Levain, radca prawny La Quadrature du Net, francuskiej organizacji non-profit zajmującej się ochroną prywatności i praw cyfrowych.

Organizacja twierdzi, że nowe prawo zalegalizuje nadzór biometryczny, czyniąc Francję pierwszym krajem europejskim, który na to zezwoli. Podnoszone są głosy, że kamery przeznaczone do rejestrowania ludzkich zachowań i wykorzystywania algorytmów do identyfikowania określonych rodzajów aktywności właściwie są formą nadzoru biometrycznego. Sednem problemu może być definicja biometrii.

Zwolennicy zaawansowanego nadzoru twierdzą, że kamery nie są zaprojektowane do automatycznej identyfikacji ludzi, czyli nie są de facto formą nadzoru biometrycznego. A, że regulator powinien podjąć stosowne środki i sprawdzić, aby zbadać zastosowanie narzędzi sztucznej inteligencji (AI) w kamerach, szczególnie w obliczu planowanej legislacji UE.

Gdy w 2020 r. zaczęła się rozwijać pandemia koronawirusa, użycie komputerowych kamer wizyjnych spotkało się z ostrą krytyką po tym, jak władze transportu publicznego w Paryżu testowały system monitorowania użycia maseczek. Urząd regulatora ochrony danych wstrzymał testowanie technologii, ponieważ przepisy nie zezwalały na wykorzystanie takich narzędzi.

Ostatecznie nowoczesny system kamer CCTV został zatwierdzony, jednak nie został ponownie wprowadzony do użytku ze względu na zawiłości prawne i krytykę.