Nowe algorytmy mogą kontrolować, czy ludzie stosują się do wytycznych dotyczących zdrowia publicznego. Praktyka ta rodzi wiele wątpliwości dotyczących prywatności. Wprowadzenie obowiązku noszenia maseczki miało miejsce praktycznie tuż po wybuchu pandemii COVID-19, co spotkało się z głosami sprzeciwu wśród wielu osób na całym świecie. Wkrótce po tym pojawiły się więc kolejne wytyczne, dające służbom publicznym możliwość karania mandatami osób, które nie stosują się do zaleceń, a sklepom i lokalom usługowym do odmowy obsługiwania niefrasobliwych klientów. W większości przypadków jednak osobom, które nie stosują się do obowiązku noszenia maseczki w przestrzeni publicznej, zazwyczaj udaje się uniknąć odpowiedzialności.
Kiedy Akash Takyar usłyszał te historie, był zszokowany sposobem, w jaki się z nimi obchodzono i zastanawiał się, czy jego firma komputerowa LeewayHertz może zaoferować bardziej pokojowy sposób na rozwiązanie problemu. Postanowił więc powołać do życia program komputerowy, który wykrywa czy ludzie noszą maseczki. Jego firma z siedzibą w San Francisco stworzyła nowe narzędzia do nauki maszynowej, które mogą być używane w przestrzeni prywatnej lub publicznej.
Brzmi sensownie, ale każdy kij ma dwa końce. „Dane twarzy są tak cenne, jak odciski palców” – mówi Deborah Raji, pracowniczka wydziału sztucznej inteligencji na Uniwersytecie Nowojorskim, a ci, którzy mieli wątpliwości dotyczące etyki algorytmów zajmujących rozpoznawaniem twarzy, zastanawiają się, czy oprogramowanie do wykrywania maseczek – nawet to powstałe w dobrej wierze – powinno mieć miejsce w dzisiejszym społeczeństwie.
Jak zeskanować twarz w maseczce?
Dzisiejsze oprogramowanie do rozpoznawania twarzy bada cechy oczu, nosa, ust i uszu, aby zidentyfikować daną osobę. Noszenie maski utrudnia to rozpoznawanie i jest to problem, który wiele systemów już napotkało, ale część z nich znalazła rozwiązanie. Na przykład, Apple FaceID, który wykorzystuje rozpoznawanie twarzy do odblokowania iPhone’a, niedawno wydał aktualizację systemu, która może, wykryć, że osoba ma na sobie maskę. Aktualizacja szybko rozpoznaje zakryte usta i nos i skłania użytkownika do wprowadzenia swojego kodu dostępu, zamiast zmuszać go do ściągnięcia osłony twarzy.
Firmy, które opracowały oprogramowanie do rozpoznawania maseczek, twierdzą, że ich celem jest, aby technologia ta była wykorzystywana w szerokim zakresie, co pomoże ludziom ustalić nową politykę ochrony przed zarażeniami lub wzmocnić kampanie społeczne.
Programiści twierdzą, że oprogramowanie do rozpoznawania masek teoretycznie omija problemy związane z prywatnością, ponieważ w rzeczywistości programy nie identyfikują ludzi. Takie oprogramowanie jest szkolone na dwóch zestawach obrazów: jednym, który uczy algorytmu rozpoznawania twarzy („wykrywanie twarzy”) i drugim, który wykrywa obecność maseczki („rozpoznawanie maski”). Algorytm uczenia maszynowego nie identyfikuje twarzy w żaden sposób, który mógłby powiązać ją z konkretną osobą, ponieważ nie wykorzystuje zestawu obrazów twarzami powiązanymi z konkretną tożsamością.
Algorytm od LeewayHertz może być stosowany w czasie rzeczywistym i zintegrowany z kamerami telewizji przemysłowej. Izoluje on obrazy z danej klatki w obrazie wideo i dzieli je na dwie kategorie – ludzi, którzy noszą maseczki i tych, którzy nie stosują się do zaleceń. W tym momencie korzysta z niego kilka firm w Stanach i Europie, głównie w celu kontroli bezpieczeństwa wśród swoich pracowników.
Podczas gdy Taykar widzi mocny powód do stosowania jego oprogramowania do rozpoznawania maseczek w przestrzeniach prywatnych, jego publiczne użycie może być bardziej ryzykowne. Bo jak egzekwować kary – umieszczając zdjęcia niefrasobliwych przechodniów na billboardach? Raczej nie.
Luki w dobrych intencjach
Oczywiście, nowe algorytmy mogą być bardzo użyteczne w przypadku zahamowania rozrostu pandemii, jednak pojawiło się wiele głosów zaniepokojonych brakiem zasad regulujących sposób wykorzystania zebranych danych.
W obecnym kształcie Stany Zjednoczone nie mają prawa federalnego, które reguluje kwestie prywatności danych. Zamiast tego, kraj ten opiera się na mozaice przepisów odnoszących się do konkretnych sektorów, takich jak zdrowie, transakcje finansowe i marketing. Ponadto, korporacje i podmioty, które zbierają prywatne dane, nie muszą mówić ich właścicielom, co się z nimi dzieje.
Krytycy nowego rozwiązania uważają również, że ta technologia może być podatna na te same pułapki, co algorytmy rozpoznające twarze, czyli na przykład brak dokładności. Nikt tak naprawdę nie wie, czego algorytm używa do podejmowania decyzji. Na przykład, kiedy chcemy wytrenować algorytm do rozpoznawania krowy, istnieje ryzyko, że aby stworzyć wirtualną etykietę tego zwierzęcia, sztuczna inteligencja może każdorazowo brać pod uwagę również pola trawy w tle.
Zastosowanie tej zasady do rozpoznawania twarzy lub maski wiąże się więc z ryzykiem, że modele uczące się maszynowo mogą korzystać z innych cech „tła”, takich jak rasa i płeć. – Istnieją inne artefakty, które mają wpływ na decyzję algorytmu” – mówi Deborah Raji – ”a badacze pracujący nad uczeniem maszynowym dopiero zaczynają oswajać się z takim ograniczeniem tej technologii”. Według ekspertki największe wyzwanie dla programistów pracujących nad technologiami rozpoznawanie obecności maseczek to zająć się problemem, ale nie kosztem obaw o kwestię prywatności wśród obywateli. Wszak nie powinno tu chodzić o kontrolę i zastraszanie, lecz tylko i wyłącznie o bezpieczeństwo ludzi.
Źródło: focus.pl
