Deng Yufeng to chiński performer, o którym mało kto słyszał do października ubiegłego roku, kiedy to Deng skrzyknął grupę ochotników, z którą próbował przejść jedną z ulic w Pekinie tak, aby nie nagrały ich uliczne kamery. Przez dwie godziny pokonali kilometr, klucząc jak pijani, przemykając na czworakach albo czając się za murkami, żeby uniknąć zarejestrowania przez jedną z 90 kamer rozmieszczonych po drodze. W Chinach było do niedawna 200 milionów kamer monitorujących. Do końca tego roku ma ich być 560 milionów. Ubiegłoroczne wydarzenia w Hongkongu pokazały, jaki użytek mogą z nich zrobić władze.

Robert Williams, porządny sprzedawca części samochodowych z Detroit, przez obraz z takiej kamerki, ale zainstalowanej w sklepie, a nie na ulicy, wylądował w areszcie. Po nocy na policyjnym dołku okazało się, że jest podejrzewany o kradzież czterech zegarków. W trakcie przesłuchania jako dowód przedstawiono mu zdjęcia ze sklepowej kamery. Z pewnością był czarny, jak mężczyzna na zdjęciu, ale reszta podobieństw była – powiedzmy – na tyle nieoczywista, że prowadzący przesłuchanie policjanci od razu rezolutnie stwierdzili, że komputer musiał się pomylić. W każdym razie Williams stał się pierwszym znanym aresztantem z algorytmu.

Amerykańska policja już od 20 lat próbuje wykorzystać systemy rozpoznawania twarzy w prowadzonych dochodzeniach. Ostatnio przybrało to masową skalę, bo pojawiają się kolejne startupy z coraz bardziej wyrafinowanymi rozwiązaniami, a także z potężnymi zbiorami zdjęć. Jeden z takich startupów, firma Clearview, zgromadziła w swojej bazie trzy miliardy zdjęć ludzi, głównie przeczesując platformy społecznościowe. Takie fotografie zwykle są połączone z nazwiskami, a każdy użytkownik Facebooka czy Instagrama ma wiele zdjęć, co wraz z mechanizmami sztucznej inteligencji, jakie dokłada Clearview, daje iście orwellowskie możliwości.

Nic dziwnego, że budzi to obawy związane z prawem do prywatności. Na to nakładają się dodatkowe problemy. Są rozwiązania lepsze lub gorsze (Mr. Williams miał pecha przetestować w niezamierzony sposób to drugie), ale pojawiają się też kwestie bardziej wrażliwe, zwłaszcza w przypadku amerykańskiej policji. Wyniki rozpoznawania twarzy są dużo lepsze w przypadku białych. W innych przypadkach ryzyko pomyłki jest do 100 razy wyższe (tu znowu wraca czarnoskóry Williams). Wynika to z ograniczonej liczby zdjęć porównawczych dla mniejszości rasowych.

Te kontrowersje prowadzą do coraz liczniejszych zakazów wykorzystania technik rozpoznawania twarzy, wprowadzanych w USA przez poszczególne miasta, kontrolujące działania policji. Tyle, że w ten sposób wylewa się dziecko z kąpielą. Systemu Clearview używają śledczy rozpracowujący przestępstwa pedofilskie. Umożliwia on identyfikację przynajmniej niektórych ofiar, a potem, dzięki ich współpracy, rozszerzenie zarzutów wobec sprawców. Efekty są tak istotne, że jeden ze śledczych wprost określił tę technologię jako „największy przełom ostatniej dekady”.

Nie zmienia to jednak istoty problemu. Technologie rozpoznawania twarzy i konsekwencje ich zastosowania mogą dotykać najbardziej wrażliwych kwestii, w powyższej sprawie na przykład delikatności wobec ofiar. Z kolei przykłady chińskie pokazują, jak łatwo technologię wykorzystać do kontrolowania społeczeństw. Nawet jeśli przywykliśmy do dyskusji o ochronie prywatności, to w tym przypadku sprawy są dużo bardziej złożone. Spór, jaki bez wątpienia wywoła konieczność uregulowania technologii identyfikacji ludzi poprzez rysy twarzy, będzie najciekawszą odsłoną konfliktu między prywatnością a bezpieczeństwem. A rozstrzygnięcia okażą się o wiele bardziej znaczące niż kwestie targetowania reklam albo określania preferencji zakupowych.

Tomasz Bitner  

Autor pełni funkcję Programming Directora w polskim oddziale CIONET – międzynarodowej społeczności IT Executives. W latach 2011 – 2020 był redaktorem naczelnym „Computerworld Polska”. We wcześniejszym okresie między innymi kierował redakcją portalu WNP.pl, był także wydawcą „Motoru” i „Auto Moto”.