Metro oraz Amazon „śledzą emocje” – i okradają pasażerów – bez ich wiedzy i zgody. Wyciekły dokumenty

Londyńskie metro śledzi miliony swoich pasażerów w sposób nawet bardziej bezczelny, niż to się dotąd wydawało. Zamontowane tam kamery nie tylko śledzą, skanują i rejestrują indywidualne twarze korzystających zeń codziennie osób – choć to samo w sobie można uznać za skandaliczne. Jest jednak znacznie gorzej.

Dostarczone przez Amazon Web Services oprogramowanie w chmurze ma także analizować ich wiek, płeć, sposób poruszania się, ekspresji czy tonu. Wyłącznie kwestią czasu wydaje się także rozpoznawanie mowy przez „inteligentne” kamery CCTV właściwej treści rozmów ludzi. To wszystko wydawałoby wystarczające, by dożywotnio bojkotować metro w Londynie.

Dziarsko w ślady Orwella

Rzecz w tym, że na podstawie tych danych mechanizmy AI mają rozpoznawać emocje pasażerów. Na tej podstawie – brzmi to jak ponury żart albo kalka z filmu „Raport Mniejszości” – metro ma kierować działaniami (w tym policyjnymi) w celu „przeciwdziałania zachowaniom antyspołecznym” (!).

Nie tylko tym już „popełnionym” – choć definicja takiegoż jest absurdalnie niejednoznaczna i można zań uznać w istocie wszystko – ale także tym przewidywanym (sic!) przez AI. Innymi słowy, nie trzeba w londyńskim metrze popełnić wykroczenia, by znaleźć się na celowniku dystopijnego systemu „egzekwowania prawa”. Wystarczy, że system uzna, że coś takiego może mieć miejsce.

Jeśli zaś termin „zachowania antyspołecznego” brzmi orwellowsko i totalitarnie, to najpewniej dlatego, że właśnie taki jest. Nie trzeba bynajmniej złamać prawa (choć to samo w sobie jest w Wielkiej Brytanii wystarczająco absurdalne, by było to niemożliwe), by popełnić owo zachowanie. Wystarczy np. biegać czy zbyt głośno rozmawiać. Czy pojawić się w metrze z tytoniem, niedługo zresztą już i tak nielegalnym.

To oczywiście w ramach obecnych szacunków. System ten bowiem działa w ramach „testów”. Ma jednak podlegać procesowi maszynowego uczenia się. W istocie nie wiadomo zatem, gdzie zatrzyma się interpretacja botów AI od Amazona, i jak daleko ma sięgać ich władza.

Złodziejstwo zalegalizowane (?) i tolerowane

Na tym zresztą nie koniec. Dane pasażerów miałyby posłużyć także do tego, aby nabić kabzę zaangażowanych w ową zbrodnię na prywatności podmiotów. Czy też zwłaszcza kabzę jednego – London Underground Limited, operatora metra – od początku wiadomo bowiem przecież, że Amazon nie angażuję w operację charytatywnie.

Sama możliwość dobrania się do bezdennego źródła informacji osobistych – i to jeszcze takich, które „pozyskano” od ogromnej grupy figurantów w naturalnych warunkach – musi być w branży AI kopalnią cyfrowego złota.

Skądinąd wprost zdumiewa, że nie budzi powszechnego (i odczuwalnego) sprzeciwu masowe i wręcz rażąco bezczelne okradanie pasażerów z ich aktywów przez Metro. Ci przecież nie tylko w żaden sposób nie wyrazili zgody na wykorzystanie ich danych, ale byli tego nieświadomi.

Gdy chodzi o interes firmy – jak np. w dziedzinie walki z gapowiczami – Metro gromko gardłuje za poszanowaniem własności prywatnej. Samo jednak zdaje się uważać, że indywidualną własność klientów, jaką bez wątpienia są ich charakterystyki biometryczne, wolno mu bezkarnie zawłaszczać.

Metro: no i co nam zrobicie…?

Użycie AI do śledzenia i przewidywania emocji przez London Underground Limited i jego właściciela, Transport for London, nie miało być w planach tych instytucji wiedzą publiczną. Doniesienia o tym pojawiły się po uzyskaniu przez Big Brother Watch, organizację broniącą praw obywatelskich, dostępu do wewnętrznych dokumentów przewoźnika.

Szef grupy ds. badań podsumował to konkluzją „wdrożenie i normalizacja nadzoru AI w tych przestrzeniach publicznych, bez większych konsultacji i rozmów, jest dość niepokojącym krokiem”. Trudno przy tym stwierdzić, czy oświadczenie to świadomie zawiera walor daleko idącego eufemizmu, czy też po prostu stanowi niedopowiedzenie.

Ze swej strony rzecznik operatora stwierdził, że „bezpieczeństwo sieci kolejowej traktujemy niezwykle poważnie i korzystamy z szeregu zaawansowanych technologii na naszych stacjach, aby chronić pasażerów, naszych współpracowników i infrastrukturę kolejową przed przestępczością i innymi zagrożeniami”. Jeśli wierzyć wersji oficjalnej, zawsze chodzi o bezpieczeństwo. Nigdy o zyski i totalną kontrolę.

Lepsze pojęcie niż wersja oficjalna dają jednak wypowiedzi mniej eksponowane publicznie – nawet jeśli za oficjalnym językiem kryją słabo skrywane, pogardliwe tony. W reakcji na zapytanie ze strony Big Brother Watch dot. tego, czy niektóre osoby nie mają obiekcji przeciw praktykom operatora, instytucja oparła, że z reguły nie mają. Ale nawet gdyby miały, ta nie jest tego świadoma i nie przejmuje się tym.