Zasłaniasz kamerę w laptopie? Zasłoń raczej twarz. Na całe życie

AUTOMATYCZNA TRANSKRYPCJA PODCASTU

w nowych witam was spotkać panów kosztuje za przygotowanie Wojciech Klicki chcieliśmy rozmawiać o kamerach i rozpoznawanie twarzy dziur bandytom niech go państwo pamiętacie główny bohater raport mniejszości, próbując ukryć się w Waszyngtonie w 2050 czwarty roku, czyli jeszcze 30 lat może być rozpoznany na każdym no bo kamery rozpoznają go na podstawie skanu tych spółek co prawda skaner rozpoznający tęczówki nie weszły jeszcze powszechnego użytku, ale coraz częściej Rozwiń » kamery, do których widok na dach ulic w biurach busa znaleźli przy przyzwyczaić są wyposażone w technologię, która pozwala na identyfikację konkretnych osób i nie tylko w Chinach takie kamery monitory przestrzeń publiczną już 15 unijnych państwach do czego służą jak działają i czy ich szerokie zastosowanie oznacza konieczność żywności rozmowa z kamer rozpoznających twarze jest coraz pilniejsza, bo z 1 strony komisja Europejska pracuje na zastanawiać nad wprowadzeniem zakazu wykorzystywania taki zakaz obowiązuje w niektórych amerykańskich miastach jak chociażby w San Francisco z drugiej zaś technologia to jest coraz częściej wykorzystywana choćby na brytyjskich czy niemieckich ulicach do rozmowy o tym jak może być wykorzystana technologia rozpoznawania twarzy, czyli szeroki jest zastosowanie oznacza konieczność prywatności zaprosiłem panią dr Magdalenę Tomaszewską Michalak pani doktor pracuje w katedrze bezpieczeństwa wewnętrznego wydziału nauk politycznych i dużych międzynarodowych inwestycji w warszawskim naukowo zajmuje się prawnymi społecznymi aspektami wykorzystania technologii biometrycznej gmina jest tylko i relacji pomiędzy bezpieczeństwem, a tam do żywności Witajcie w podcaście Panoptykon 40 mówi wasz Wojciech Klicki jestem prawnikiem i aktywistów fundacji Panoptykon, która reaguje na zagrożenia związane z rozwojem nowych technologii i to co dzieje się na styku technologii człowieka bądź konieczny jest nie analizujemy ustaw nie sokiem z politykami, ale robimy coś ciekawszego zakładamy zaprzeczy technologii co zmieni w naszym życiu jak działają, a rozmawiamy o tym z dziećmi, którzy dziec dzieci upadają głosu praktykami, a przede wszystkim czas tu, więc się udzielić technologie i człowiek człowiek i technologie, gdzie na tym styku czekają nas zagrożenia jak korzystać z technologii, by na nich skorzystać jak kontrolować, kto gromadzi nas informacje do czego ich używa Panoptykon 40 podcast tokfm PL fundacji Panoptykon witam panów podcast opozycja zmusiła pani nasze zaproszenie myślę, że nasze rozmowy komisji zacząć od pewnego uporządkowania pojęć uporządkowania tegoż rozmawia rozpoznawanie twarzy może szerzej biometria to by wiele technik, które pozwalają ustalić naszą tożsamość co jest biometria i w jaki sposób nas choćby w przestrzeni publicznej zdradza takim najprostszym wyjaśnieniem biometrii jest powiedzenie, że jest pewna technologia, która pozwala na automatyczną identyfikację osoby albo weryfikację tożsamości osoby na podstawie cech, które posiadamy cechę to mogą być takie cechy biologiczną fizyczną, czyli takie, które przynależą naszego organizmu, czyli to co wszyscy znamy, czyli odciski palców twarz, a może to co coś co mniej znamy, czyli tęczówka oka siatkówkę oka układ naczyń krwionośnych albo takie cechy które, których uczymy się, które stają się indywidualne ze względu na to, że powtarzamy najprostszym przykładem jest tutaj jest tutaj podpis, ale jeżeli mówimy o kamerach czy będzie mówić o kamerach to warto wspomnieć tutaj np. o identyfikacji na podstawie na podstawie sposobu poruszania się osoby co też należy to tych identyfikatorów biometrycznych rozumiem, że to czy chodzę bardziej odbije się z palców czy spięty jakiś sposób zdradza moją tożsamość jest to unikalny sposób nikt tak nie chodzi jak ja, ale słuchacze mogą mieć takie czy ja też mogę misji ma takie poczucie, że czasami technologia w ogóle nie jest tam w ogóle nie jest kontrowersyjna, bo sytuacja, w której jest stosowana do weryfikacji tożsamości chociażby po to, żeby odblokować Iwona albo był jakiś inny urządzenie to jest coś mało kontrowersyjnego technicznym wydaje przepisy skuteczności, bo niektórzy podnoszą, że blokowanie swego telefonu może nie być skuteczne względem świat bagażnika, który w, które będzie rozpoznany jako dziękuję ja jest znacznie bardziej kontrowersyjne słucha pan inne zastosowania kompozytów edukacją są jeszcze takiego jak jasna nie znam z typologii prowadzony przez agencję przez agencję praw podstawowych, które wyróżnia dodatkowo identyfikacje kategoryzację i w jaki sposób taka w ogóle co jest identyfikacja kategoryzacja w jaki sposób tak technologia może być wykorzystywana warto tutaj powiedzieć właśnie, że jest duża różnica między identyfikacją weryfikacją to jest niestety cały czas mylone mówimy, że mamy iPhona, który czynny telefon, który pozwala nam na identyfikację swojej osoby dzięki temu dostajemy się tego ona natomiast co tak naprawdę robimy to jest weryfikacji teraz warto jest wskazać, że weryfikacja jest po prostu porównanie 11, a więc my w tym iPhonie wcześniej rejestrujemy swoją cechę ten iPhone przechowuje tą cechę i jak my chcemy się dostać do tego telefonu to po prostu porównujemy naszą twarz z tym co jest cechą czy wzorcem tej cechy zarejestrowanej w telefonie ona na twarz tutaj swego rodzaju hasłem tak tylko takim, które mamy zawsze przy sobie tak na twarz z hasłem nasze odciski palców pod czasami o tym, też mówimy nasze odciski palców będą hasłem ta ta cecha biometryczna, którą tutaj rejestruje ona nie wypływa poza ten telefon znajduje się na telefonie zarejestrowana w telefonie nie jest nigdzie zbierana natomiast, że mówimy o identyfikacji to jest porównanie 1 do całej bazy, którą posiadamy, a więc, jeżeli posiadamy bazy kilku milionów zdjęć to w takiej sytuacji rzucamy zdjęcie osoby x do systemu i ten system przeszukuje całą bazę i przeszukując bazę stara się dopasować do tej osoby ich jakąś tożsamość, a więc inną osobę zdjęcia tutaj już wymaga taka identyfikacja tego, żebyśmy mieli dużą bazę danych, którą na, który ktoś korzysta z jakimś, jakim cel taka jest różnica między tymi pojęciami bez kategoryzacji będzie się wiązała z ugrupowaniem poszczególnych cech, czyli np. cech czy też pewne charakterystyczne np. damskie czy kobiety mężczyźni kolor skóry tak tego typu tego typu cech i rozwoju niewiążącej się bezpośrednio z ustaleniem tożsamości konkretnej osoby tylko np. ustalenie tego nie, sprawdzając chyba mając aktualnych przykładów składający się do tego, aby kamera rozpoznawać klient wychodzący ze sklepu jest odwoła dokładnie po to, żeby przychodzić oceny np. skuteczności czy satysfakcji klienta należy jako przykład wykorzystania właśnie komercyjnego tej tej kategoryzacji oczywiście przykłady dotyczące tej identyfikacji nasuwają rozumiem pierwszym takim najbardziej oczywistym przykładem są działania policyjne tak przeciwdziałanie przestępczości generalnie, by idzie się w tym kierunku, żeby wykorzystać rozpoznanie twarzy właśnie czy identyfikacji na podstawie twarzy właśnie przez różnego rodzaju służby policję czy inne służby, które zajmują się bezpieczeństwem w różnych sytuacjach czy to dotyczy to w miejscach publicznych po prostu wyłapywanie osób, które byłyby, które znajdują się na jakiś listach czy znajdują się w bazie osób poszukiwanych czy też można wykorzystywać rozpoznanie twarzy już na tym etapie, jeżeli mamy zdjęcie i mamy jakąś bazę to z tego zdjęcia już nie na żywo, ale z tego zdjęcia będziemy szukali czy osoba, której na tym zdjęciu np. to myślę, że najłatwiej byłoby nam wytłumaczyć na takim przykładzie stadionowym mamy osoby, która mamy dobre dosyć dobre kamery na wielu stadionach mamy osoby, która popełnia jakieś wykroczenie na tym stadionie wykroczenie typu chuligańskiego na stadionie nie znamy tożsamości tej osoby, ale mamy bazę policyjną która, której zbieramy mamy osoby podejrzane wcześniej zebrano osoby podejrzane tak jak zbiera odbitki linii papilarnych zbierane są również zdjęcia osób podejrzanych no i mamy przypuszczenie, że ta osoba może znajdować się w tej parze wtedy wrzucamy takie zdjęcie i ono ma pomóc w identyfikacji osoby, która znajduje się, która znajduje się na tym naszym polskim zdjęciami zdjęcia dowodowe, czyli na naszych 5 nad naszym zdjęciu dowodowy, więc na pewno takie przykłady wykorzystania to głównie są po to, żebyśmy mogli właśnie, że przeciwdziałanie przestępczości to jest chyba na najbardziej ogólne powiedzenie, ale można sobie wyobrazić, że w zależności od tego co chcielibyśmy osiągnąć możemy wykorzystać te kamery również w innych celach np. jeżeli mamy demonstracje i tu już wchodzimy trochę na grunt tego prawa naszego do prywatności, że mamy demonstracje to te demonstracje często są nagrywane no i teraz moglibyśmy w trakcie tej demonstracji wykorzystywać taki system, który będzie nam na bieżąco grupowa czy kategorii aut zdjęcia, które są te osoby, które są na demonstracji ze zdjęciami, które już gdzieś tam jakieś bazie mamy, więc tak takie przykłady i nawet, więc nasze znalazłem to jest, gdyby patrzeć na teście z perspektywy tego celu do jakiego takie kamery są instalowane są cele, które są absolutnie nie kontrowersyjnej, które pierwsze spotkanie nie będzie wzbudzał żadnych obaw moich chociażby np. poszukiwanie zaginionych dzieci natomiast znany też informacje dotyczące odpada odległego od nas halę, ale jednak wskazujący na to, że to się już dzieje to jest możliwe Otóż w Indiach w 2018 roku Delii zainstalowano kamery to właśnie miały służyć rozpoznawania w sferze poszukiwań zaginionych dzieci, czyli na do tego w tej listy poszukiwanych osób sprawdzano twarze twarze dzieci natomiast później premier modi przyznał, że no już jej technologie, więc właśnie w korzystaniu w tym celu, którym w tym jest pani mówić właśnie w celu identyfikacji uczestników zgromadzenia należy do tych obaw czy negatywnych konsekwencji zaklęcie będę chciał przejść natomiast no na spółkę można z perspektywy no stróżów prawa tej tej policji, bo w samo dzień w betonie z raportu mniejszości on, chcąc się ukryć przed okradali ścigania i przemieszczając się o w Waszyngtonie 20502054 roku, żeby się ukryć musiał sobie przeszczep czekał roczne na to wydają się, że nie każdy zdobyłby się na taki taki czynsz, by ukryć swoją tożsamość co mogłoby wskazywać z perspektywy policji czy właśnie osób, które szukają przestępców no to jest bardzo użyteczne narzędzie i ciągle ma właśnie z tej perspektywy jest takim taką czarodziejską różdżką, która potrafi może doprowadzić do końca przestępczości generalnie podział tak nie ma czarodziejskiej różdżki, która może doprowadzić do końca przestępczości i na pewno biometria czy też stadiony, a konkretnie, o którym mówimy, czyli rozpoznawania twarzy taką czarodziejską różdżką nie jest, dlatego że już obecnie mamy różnego typu sposoby na próbę oszukania kamery takie kamery z zainstalowanym systemem metrycznym najprostszym sposobem jest po prostu zasłonięcie twarzy zasłonięcie twarzy nie pozwoli nam na rozpoznanie danej osoby i a w Polsce nie ma przepisów, które zakazują zasłaniania twarzy, a nawet przez chwilę mieliśmy takie przepisy, które nakazywały częściowo zasłanianie twarzy, więc na pewno nie będzie to czarodziejska już na pewno jest to przydatna cecha, która może pomóc w określonych sytuacjach tak jak tutaj było powiedziane to jest chyba najlepszy przykład poszukiwanie poszukiwanie dzieci czy też innych osób zaginionych, gdzie mamy podejrzenie, że to zaginięcie nie było, dlatego że osoba chciała wyjechać chciała się ukryć tylko, że mogło dojść do jakiegoś czynu przestępnego będą tutaj na pewno kamery pomogą natomiast na pewno nie jest czarodziejska Różczka, bo to jest też technologia, która będzie miała swoje wady i te wady będą się przekładały też na możliwość wykorzystania takiego rozpoznawania twarzy tak te wady, ale nie tylko, o których zdaje się myślimy o swoje nie tylko powodują, że inspektor policji jest to narzędzie wadliwe ułomne też perspektywy obywatela władze list to niepokojące czy też nie czytam informacje temat eksperymentu, który został przekazany na berlińskim dworcu głównym, gdzie zainstalowano kamery wszystkim rozpoznawanie twarzy tylko rząd były to był eksperyment, w ramach którego 300 osób zapisało się na na taką listę dało swoje twarze przemieszczały się dzień edukacji po prostu pociągiem przez dworzec no i by mieli być rozpoznawali co jest wyniki tego eksperymentu są właśnie i perspektyw policji z perspektywy Matelski kupujący bez perspektyw perspektywa policyjna to jest to, że kamery rozpoznające twarze mylą się i są być może 2 pojęcia, które od tych stosowanych w Pradze pani poprosił, które trudno przełożyć na Polski jak sami nie umiem tego dobrze zrobić chyba to znaczy swą pozycję w Polsce negatyw w błąd pozytywne negatywne jak pani to wyjaśniło to, że zaczną przełożenia spróbowania przełożenia tego na Polski, bo to rzeczywiście jest pewien problem błąd fałszywego odrzucenia fałszywej akceptacji w ten sposób można byłoby to wyjaśni mówi się czasami w opozycji albo w Polsce Akcept ten i Folc negatywną, czyli w Polsce ludzie księżej tak to się tak to się nazywa, więc dlatego może łatwiej będzie to to drugie pojęcie przełożyć na Polski, jeżeli chodzi o błąd fałszywej akceptacji on występuje wtedy, kiedy system stwierdza czy algorytmy stwierdza, że ktoś ma określone uprawnienie podczas gdy tego uprawnienia nie posiada i tu możemy nie myśmy najprostszy weźmy jakiś najprostszy przykład nawet na podstawie weryfikacji, bo to może być prostsze do przyswojenia słuchaczom, którzy zostają właśnie technologii biometrycznej, jeżeli loguje się mam w telefonie system rozpoznawania twarzy i będzie się próbowało zalogować mój brat bliźniak to będzie błąd i jemu się to uda to będzie on fałszywe akceptacją dostanie uprawnienie do tego, czego uprawnienia dostać nie powinien natomiast błąd fałszywego odrzucenia będzie polegał na tym, że ja mam swój telefon mam nagrane tam swoje zdjęcie ja próbuje otworzyć dostać się do tego telefonami mówi to nie jest jeszcze niema takiej możliwości, żeby dostał uprawnienia do tego telefon, więc to są takie 2 błędy, które występują w biometrii minutach i bez perspektyw tego berlińskiego dworca tam w Polsce przypaść w błąd fałszywej akceptacji nowy stan między 1% co w tamtym scenariuszu oznaczało, że koło, że jeśli nie przykładem tego bezpośrednio na liczby, ale dużo osób było uznawanych za osoby poszukiwane, mimo że nie było tymi uczestnikami dziękujemy, bo poszukiwani byli uczestnicy eksperymentu, a inni ludzie byli od zbierania czy rozpoznawani błędnie przez kamerę jako ci, którzy upomnieli popełnił przestępstwo no i jeśli to by nie było eksperyment tylko byłby to byłaby to taka codzienna rzeczywistość pracy pracy policyjnej to najlepszy okazywał wiele osób absolutnie niewinne absolutnie nie mają nic wspólnego z podejrzeniem w niej konkretnego przestępstwa byłoby chociażby zatrzymywanych też jesteśmy jest w trakcie lektury takiej książki Hanny trwa ich los Łodzi, która opisuje przykład strona aleja tu został brutalnie tak bardzo tanie zatrzymane potem przez 2000 osadzony w areszcie lub naznaczonych siedziało ze względu na to, że był podobny do osoby, która dokonała włamania na bank no i to jest właśnie z tej perspektywy obywatelskim dość przerażające, że sam fakt podobieństwa i także jakiś jakaś maszyna jakiś automat uznamy uznał, że światu nie działa tylko ten drugi ten zły to jest ich żyłach takie takie błędy w ogóle są możliwe wyeliminowanie one zbyt naturalny wpisane w mechanizmie działania tego taki system takie błędy nie są możliwe do wyeliminowania to znaczy my możemy je niwelować, by sprowadzać do procentu set od ułamków procentów do promili na czym one nigdy nie będą możliwe do wyeliminowania, bo to jest algorytm i ten algorytm zawsze popełnia błędy to co jest naszą jakąś szansą może w tym przypadku to jest to, że po testowaniu takich algorytmów my powinniśmy wiedzieć, jakie błędy popełniają w sensie czuliśmy znaczny odsetek popełnionego błędu i to powinno nam dać domyślenia to znaczy wg mnie no w tej sytuacji, kiedy mamy rozpoznanie pozytywne tak fałszywe rozpoznanie pozytywne fałszywą akceptację osoby i to może nieść dla niej poza negatywne konsekwencje to tutaj nigdy nie czuliśmy się opierać tylko na na tej technologii to znaczy to powinno być sprawdzone przez osoby, która jest ekspertem z zakresu antropologii, która może którą, która zajmuje się tym na co dzień i wtedy dopiero taką osobę powinniśmy nie powinna być dalej w stosunku do niej toczone postępowanie natomiast kamery, które mamy, które działają jak w tym na żywo rejestrują te osoby na żywo wyłapują te osoby no to to już rodzi to zagrożenie, że my się tutaj za bardzo obsiane na tej technologii za bardzo będziemy uchwali to, że ta technologia jest w stanie zastąpić zdrowy rozsądek po prostu tak tak, bo to pani powiedziała ta kontrola maszyny przez człowieka, gdyż tak naprawdę przejaw czegoś się, o czym co jest chociażby przy zasadach ochrony danych osobowych ugruntowane, że automatyczna decyzja wiążąca się ze skutkami dla osoby której, które dotyczy musi być powinna być możliwość weryfikacji decyzji przez przez po prostu człowieka natomiast w sytuacji, w której jest policjant, który ma pobiec za osobą, która gnębi przyspieszy zapaliła czerwona lampka to wtedy już niema tego miejsca nie senator nie pamiętam, kiedy tam więcej materiałów na temat tego ukraińskiego eksperymentu tam wzrostu wskazywane coś na czym się mierzył się autorzy tego eksperymentu oznacza to, że im bardziej doprecyzowane są informacje na temat osoby poszukiwanej im bardziej czym tym spada liczba 1 była jednak błędów, ale rośnie innych błędów, że to jest taki trochę błędne koło albo Atom niż łapiemy osoby, które nie są podejrzane, ale wtedy zrozumie pani to jest właśnie taki błąd takie takie błędne koło, ale wiem już, więc jak to działa no i być może rzeczywiście czas skupić na tych na tych negatywnych konsekwencji do zaczęła pani mówić o tych zgromadzeniach czy w ogóle może zacznę od tego czy w Polsce z Unii Europejskiej mamy takie technologie, które właśnie są wykorzystywane w celu w celu nagrywania czy i czy to się odbywa czy w ten sposób są identyfikowane w identyfikowaniu uczestnicy zgromadzeń mówimy o rozpoznawaniu twarzy tak na tak naprawdę trudno powiedzieć, bo mało, kto chciałby się przyznać do tego, że robi takie rzeczy w trakcie demonstracji natomiast to, że są wykorzystywane systemy są testowane systemy w różnych w różnych państwach dotyczące rozpoznawania twarzy na potrzeby służb na potrzeby nazwijmy to wyłapywania osób, które czy zatrzymywania osób które, w jakich przyczyn stanowią zagrożenie czy też popełnił jakieś przestępstwo albo jest wydane, zanim list kończy takie systemy są takie systemy są opracowywane natomiast natomiast no w jaki sposób są wykorzystywane wszyscy mówią tutaj o tym, że o tym, o czym co nie jest kontrowersyjne czy wykorzystywanie do celu poszukiwania właśnie osób, które takich dzieci czy dzieci zawsze tutaj stanowią dobry Pijar powiedziałabym, że poszukujemy dzieci, więc ta technologia jest potrzebna no i też jak tu warto powiedzieć, że rzeczywiście rozpoznawania twarzy on może być w wielu sytuacjach przydatne i też nawet z tej perspektywy policyjnej nie kontrowersyjne, bo jeżeli ten przykład, który podał wcześniej to znaczy po prostu wspomożenie policjantów przeszukiwaniu bazy danych no to no to to samo robimy z odciskami palców często to nie jest do końca to nie jest do końca kontrowersyjne natomiast to jest kontrowersyjne to, o czym mówi Maciej rozpoznawanie na czasie demonstracji, bo na, jakiej podstawie właściwie policja miałaby używać takiego takiego systemu i co miałby rozpoznawać, jeżeli mówimy o kimś, kto wywołuje zamieszki no to my możemy zrobić zdjęcie osoby, która wywołuje zamieszki później z pomocą takim systemem, ale jeżeli mówimy o śledzeniu czy też rejestrowaniu demonstrantów na żywo wyszukiwanie czy któryś z nich nie jest poszukiwany za jakiś przestępstwo no to już się wydaje dość kontrowersyjnym pomysłem, ale to tutaj widzi pani tu ten kłopot z istoty kłopotów w tym, że to się odbywa żywo czy w tym, bo na nagranie z psem w kwestii jakości tego czy na podstawie nagrania demonstracji da się ze, ale zestawienie nagrania z mojej perspektywy toczy się zestawia nagranie na żywo czy później nie jest tak istotnym wydawało się, że najważniejsze to czym się zostawia to znaczy kto jest na tej liście poszukiwany poszukiwana natomiast ten 1 z 10 najbardziej poszukiwanych przestępców w Polsce 30 baza zdjęć paszportowych czy zdrowo osobistych jesteśmy wszyscy bardziej chodziło mi o cel nagrania to znaczy, jeżeli nagrywamy osoby nie o to może rzeczywiście nie wyrażać jasno to kiedy to jest nagrywanej porównywane, ale jak jest cel tego nagrania, jeżeli nagrywamy demonstracje i bo ktoś dopuszcza się jakiegoś wykroczenia tak nad podczas tej demonstracji no jest nagrana widać to by w celach dowodowych też, że ktoś takiego wykroczenia się dopuścił no to jakby tutaj można później przeszukać bazę no nie wiem, by pod kątem czy pytanie poco po co wtedy przeszukiwać przeszukiwać taką bazę czy chcemy np. poznać tożsamość osoby, bo nie mamy być może ona znajduje się wśród osób, które wcześniej były przez policję poszukiwane, więc tutaj tutaj pojawia się pytanie po co to robimy natomiast samo nagrywanie chodziło mi o to samo nagrywanie osób, które nie wiem idą demonstrują np. byśmy sobie demonstracji przeciwko jakiemuś rządowi demonstrują osoby przeciwko jakiemuś rządowi temu rządowi to nie podoba tak chcą sobie zrobić bazy danych osób, które no jakiś aktywistów, którzy pokonanych po dziękuję bardzo, niepokornych obywateli no i to tego już robić nie można to znaczy to już będzie wkraczało tą sferę prywatności bez tu nie mamy żadnych podstaw do tego, że to sobie, że wiemy, że to wypełniają przestępstwo otworzymy pewną bazę danych osób, które nam się nie podobają jakiś przyczyn, ale nie zagraża żaden sposób państwo w sensie popełnił żadnego przestępstwa podczas tej demonstracji tak jak myślę tutaj trzeba wspomnieć o tym, że kilka lat temu bodajże 2016 roku siedemnastym co tego nie ma pewności 1 Gazeta wyborcza pisała o tym, że 1 z demonstracji zdaje się w obronie sądownictwa właśnie była nazywana przez policję co jest zresztą każdy, kto był na demonstracji, że jest się rutynowe działanie, ale potem to działa to nagranie z tej demonstracji zostało przekazane Agencji Bezpieczeństwa Wewnętrznego, która agencja mając z 1 strony legalnie z drugiej strony miała dostęp do wspomnianego przeze mnie zmiany przeze mnie bazę zdjęć paszportowych zdjęć z dowodów osobistych porównała miała porównać do to jesteśmy z tych tego co napisał 1 z dziennikarzy nieprawdziwych informacji zweryfikować porównała sobie 2 bazy po to, właśnie stworzyć listę niepokornych obywateli i no i niestety przez moje analizy wynikało wówczas, że na poziomie prawnym i na poziomie technicznym jest możliwe, że prawo tego ani nawet nie zabrania ani technika not w jakimś tam z zastrzeżeniem, że jakości nagrań, które jest się jesteśmy z boku zresztą się dzieje ktoś macha flagą NATO to jest możliwe rozszerzające z 1 strony z drugiej strony wywołuje taki efekt mrożący, bo Giddensa demonstracji bardzo chcę, żeby czasami, żeby ktoś wiedział, że jakoś tam brał udział w administracji, a tak jak pani wspomniała nie ma się obowiązku jak skoro zniesiono obowiązek noszenia maseczek nie ma obowiązku chodzenia od z odkrytą twarzą mimo tego, że były jeszcze przed 2015 roku takie 2015 roku taki pomysł, żeby na demonstracjach zakazać zasłaniania twarzy, więc ten czynnik cent zgromadzenia w ogóle swoboda demonstrowania jest jakimś jest na szali czy przy położyli po tej stronie ryzyk zagrożeń zresztą jeszcze powinni porzucić do tych problemów czy na pewno będziemy odrzucić te problemy, których chyba trochę zaczęliśmy, czyli tych błędów, czyli te problemy techniczne, bo no, bo nie możemy zapominać, że to jest jednak algorytmy i że ten algorytm się myli tak jak pan powiedział zresztą bardzo słusznie w pewnym zakresie możliwość manipulowania błędami w tym sensie, że można ustawić większą czułość nazwijmy to w ten sposób większą czułość algorytmu, która spowoduje, że ten algorytmy pędzie bardziej surowy, żeby kogo komuś nie dać uprawnień, czyli będzie jak bardzo dokładnie sprawdzą czy to jest na pewno ta osoba, ale tym samym odrzucić wiele osób, którym powinien te uprawnienia dać, więc to się może tutaj też też pojawić taki taki tego typu problem manipulował czy też błędy są pewnym problemem no ale też trzeba pamiętać, że te algorytmy, które były te, zwłaszcza pierwsza gorycz, które były wypuszczane do identyfikacji czy do weryfikacji osoby na podstawie twarze też komercyjne, ale należy pamiętać, że komercyjne algorytmy też były wykorzystywane przez policję, zwłaszcza mówię tutaj Stanach Zjednoczonych Amazon nie bardzo takie silne lobby, żeby jego jego system rozpoznawania twarzy był wykorzystywany przez policję no i okazało się, że ten system rozpoznawania twarzy ma pewne nazwijmy to uprzedzenia w stosunku do do pewnych osób tutaj świetnie mu szło z rozpoznawaniem białych mężczyzn natomiast w sytuacji ciemniejszych koloru skóry już szło mu dużo gorzej, a już w sytuacji, gdy była to kobieta ciemniejszym kolorze skóry to generalnie algorytm potrafi mieć taki prawie 3 czy ponad 30%owy ponad 30%owy błąd rozpoznania tak podczas gdy biały mężczyzna 99% skuteczności to tutaj już ta skuteczność tam zdecydowanie spadała na tu możemy sobie wyobrazić też taką sytuację, w której jednak mniejszości narodowe w systemie, który został zaprojektowany dla jakiś określonych dla jakiegoś określonego regionu, bo to są bardzo często systemy które, które są projektowane projektowane np. nie wiem Europie czy właśnie w stanach Zjednoczonych i na ten konkretny rynek, więc ci te osoby, które projektują systemy one też niekoniecznie jakiegoś przeświadczenia czy robią to niekoniecznie robią to specjalnie natomiast czasami nie myślą o tym, że to, że ten algorytm dużo łatwiej nauczył się tych twarzy, które miał, ponieważ miał twarz tylko osób o biały o jasnym Jasnej karnacji i byli to mężczyźni to się świetnie nauczyciel twarzy, ale pozostały do dużo gorzej to może oznaczać, że to osoby, którym przy, których dużo gorzej rozpoznanie będą częściej zatrzymywane po części góry będzie mówił że, że to jest osoba, którą należy zatrzymać zresztą zrobiono takie badania właśnie na, bazując na algorytm nie na algorytmie tym Amazona, które były bardzo ciekawe w swoich skutkach, bo zrobione zostały na na członka Kongresu Stanów zjednoczonych i pokazywały, że jakby ich z jakby bazą wyjściową, czyli tą, którą było sprawdzane było były ogólnodostępne zdjęcia osób, które popełniły przestępstwo było w jaki sposób poszukiwanej one były w ogólnym dostępie do zdjęcia wrzucono tam zdjęcia kongresmenów i okazało się, że prawie 30 osób zostało przez system uznanych za te same osoby, które popełniły przestępstwo co więcej zdecydowana tutaj dyskryminacja była w stosunku osób właśnie o ciemniejszym oczy mniejszym kolorze skóry czy ich było zdecydowanie więcej w tych osobach, które zostały źle rozpoznane, więc to jest też taki problem taki myślę, że w tej warto wspomnieć o momencie, gdy rozmawiałem z tym właśnie w stanach Zjednoczonych przetaczają się demonstracje właśnie czarnoskórych, którzy m.in. podnoszą fakt tego, że są nierówności niesprawiedliwie traktowani przez tak szeroko mówić przez amerykańską policję i sprawiedliwości to te błędy są nie tak jak ty komicznym tego do tego tylko grupkach my byśmy mieli tak z 1 strony błędy polegające właśnie władzy fałszywego odrzucenia akceptacji no wiążącą się z tym dyskryminacją nierównością, które również dobrze czy wynikają tak naprawdę błędu szkolenia algorytmów tego żonę szkolą się w tej chwili w bazach natomiast zarówno nieprawdziwe czy błędne rozpoznania i dyskryminacja to są rzeczy, które z perspektywy twórców tych organizmów albo propagatorów tego typu zarzuty należy wspierać oni wspierają mówiąc no to my jeszcze, więc jeszcze więcej ćwiczymy jeszcze więcej danych wprowadzają w tym naszego rozpoznające twarz będzie będziemy natomiast nawet gdyby przyjąć, że ta ten spadający procent błędów tak spada sprawę spojrzeć zbliża ze to jako zmiennik do tego za nie osiągnie zawsze może być pojawi się wspomniany przeze mnie jest w znam opisywana przez dany kraj wiadomość z piwem tali, których jest jednak został zatrzymany był jednak to się do zadań zbliżył napastnicy chyba te argumenty o tym, wspomnieliśmy, czyli chociażby zgromadzenia, których nie da się wyeliminować czy jeszcze, jakie są problemy związane z właśnie z poznawaniem twarzy, zwłaszcza takie których, które nie wynikają z konieczności doskonalenia się algorytmów sztucznej inteligencji tylko już są związane z istotą działania tego tych systemów chociażby w przestrzeni publicznej no na pewno takim problemem, który jest związany pewnie z każdą technologię, ale szczególnie z tą jest to, że my się z tej konkretnej technologii nie możemy, jakby wyłączyć to znaczy jeżeli, jeżeli ja uważam, że telefon komórkowy i ściągnie ściągana na niego poczta czy czekać konkretna poczta zmienia, by bierze moje dane wykorzystuje je do tworzenia jakiegoś jakich informacji o mnie zwrotnej, którą dostaje później w postaci reklam np. to ja mogę używać telefonu komórkowego Emu mogę powiedzieć nie używam tej technologii oraz w przypadku rozpoznawania twarzy, która miałaby być włączona system kamer takiego monitoringu wizyjnego, który mamy obecnie w różnych w różnych miejscach no to jasnego systemu wyłączyć się nie mogę na, toteż tu też pojawia się pojawia się taki problem no oczywiście mogę założyć maskę na twarz, ale tu też jest ciekawostka taka, jeżeli mówimy o tych maseczka, które teraz przez pewien czas musieliśmy nosić to już naukowcy zaczęli zbierać bazy danych nową bazę danych zdjęć instagram, gdzie osoby robiły sobie tzw. selfie w maseczkach i zaczęto zbierać te zdjęcia jak wiemy od teraz już telefonem komórkowym zrobić zdjęcia dobrej jakości Selvity bardzo dobre zdjęcia do uczenia się systemu biometrycznego, więc jak powstają powstają nowe sposoby rozpoznawania na rozpoznawanie osoby na podstawie twarzach na podstawie tych części twarzy, więc można je to jest duży problem, że to jest technologia, której nie możemy się wyłączyć to znaczy musielibyśmy przestać wychodzić z domu, a to już zdecydowanie ograniczam tak nasze prawa jako obywateli to fascynujący jak jak wiele wątków nasze rozmowy ma odniesienie do tego, gdy aktualnej sytuacji z 1 z konta czujemy, że wychodzenie z domu jest list dokuczliwe nie może być mowy wcześniej marzyliśmy o tym, żeby sobie posiedzieć w domu odpocząć wiemy, że to zasłania twarz dłuższą metę też niezbyt wygodne najprościej mówiąc, ale faktycznie ten ten ta trudność ucieczki przed systemem jest bardzo wyraźna uczy się od razu przypominają sceny do zeszłego roku protestujących w Hongkongu którzy, protestując walczącą o zachowanie autonomii Hongkongu to protest przytaczały przez miasto w izbie tygodni miesięcy pierwszą rzeczą, jaką robili było właśnie niszczenie zamazywanie kamy po to, żeby aparat bezpieczeństwa nie był w stanie zweryfikować tożsamość to jest jakaś radykalna powiedziałbym opcja sprzeciwu to znaczy burzenie przywrócenie Kamil swojego teraz Serbii Belgradzie jest stosowany bardzo blokami właśnie funkcjonuje w Polsce z funkcją rozpoznawania twarzy realizowanych projektów był zaplanowany 2 lata temu tam właśnie też to na rozpędza się nabiera rozpędu ruch osób sprzeciwia się temu sprzeciwiają się przeciw być może pójdzie właśnie w takim radykalnym kierunku no ale czy jako obywatel, który niekoniecznie może chce przywracać latanie, na której wisi taka kamera mamy jakieś inne możliwości zawsze pozostają możliwości prawne tak naprawdę, bo wykorzystanie systemów jakiekolwiek technologii czy jakichkolwiek danych może powiedzmy to tak, bo to należy przełożyć na nasze dane osobowe musi się wiązać, z jaką zasadą celowości zasadą proporcjonalności to znaczy z pytaniem czy w takiej sytuacji to nazwijmy to bezpieczeństwo obywateli, bo jeżeli mówimy o wykorzystaniu tego w kamerach takich przy monitoringu wizyjnym no to no to się po podkreśla, że to jest bezpieczne także to pozwala wyłapać osoby, które ewentualnie są niebezpieczne dla społeczeństwa czy to jest jak stoi w zgodzie z zasadą proporcjonalności w stosunku do prywatności, którą mamy czym musimy rzeczywiście w taki sposób to osiągnąć poprzez wdrażanie tego typu systemu czy też czy też nie czy też nie ma takiej potrzeby, więc mamy jakieś mechanizmy tylko pytanie w jaki sposób one są egzekwowane w jaki sposób działają jak może podam przykład też czy można już wdrażać określone rozwiązania prawne i wspomnieliśmy o tych od bazy paszportowej, do której miało dostęp ABW natomiast nie wiem czy tutaj słuchacie sobie zdają sprawę, ale w momencie, kiedy wyrabiamy paszport i oddajemy swoje wzorce biometryczne w postaci odbitek linii papilarnych no one są zapisywane w systemie po to, żebyśmy później mogli otrzymać ten paszport z tym zapisanym w systemie wzorcem linii papilarnych, które służą tylko do weryfikacji, ponieważ służą tylko do weryfikacji, czyli porównanie 11 i porównujemy się my dokumentu, a nie do jakich bazy abstrakcyjnej, która istnieje to w naszej ustawie paszportowej są prowadzone takie przepisy, które właśnie bardzo z jak wskazują na cel zbierania tych danych to znaczy, żeby obywatel nie miał takiego poczucia, że te dane są zbierane nie tylko do tego paszportu, ale też, żeby może dołączyć takiej bazy, którą później będziemy mogli wykorzystać są przepisy, które mówią, że w trakcie wyrabiania paszportu organy, które mają dostęp do innych danych paszportowych, czyli np. ABW nie ma dostępu do linii papilarnych więc, a później w momencie wydawania paszportu te linie papilarne czy te wzorce linii papilarnych są usuwane systemu, więc możemy sobie wyobrazić wprowadzenie takiego prawa, które pozwalałyby oczywiście na wykorzystywanie technologii biometrycznej tak jak mówi Maciej nie do poszukiwania dzieci do przeszukiwania baz danych w celu Wspomożenia działania policji, ale które, by zwracało uwagę czy wręcz zakazywało wykorzystywania takiego urządzenia do masowego np. podczas demonstracji tak, że no, jakby albo kazuistycznie albo kazuistycznych zawsze niebezpieczne albo jakiś sposób zakazywało po prostu wykorzystywania takie jest tak jak tutaj pan wspomniał wcześniej San Francisco czy w innych Stanach czy czy w innych miastach w stanach, w których po prostu zakazuje się wykorzystywania rozpoznawania twarzy przez policję czy też inne służby właśnie takiego rozpoznawania, jakim mówimy np. łączenia tego rozpoznawania twarzy do tego co my nazywamy kamerami na osobnym i tak, czyli tymi zgłoszonymi przez policjantów tak bardzo ciekawe to tym prawnym, ale takie, jeżeli dobrze ze zmian nie tylko karnym ma wrócić technicznym ograniczeniem możliwości dostępu do danych w tym wypadku, o czym pani Maria linii papilarnych no bo ich, żeby w naszej aktualnej rzeczywistości nie trudno mi jako osobie, która stara się śledzić też prawne regulacje związane z działań na działanie możliwościami służb specjalnych trudno mi uwierzyć, że służby specjalne, które nie są objęte regulacjami związane z Zachodu związanymi z ochrony danych osobowych zostały z nich wyłączone i to w sposób nawet 6 NATO, by pozwalały przepisy unijne będą się takimi rzeczami jak ograniczenie c minimalizacja proporcjonalność w jaki sposób ograniczać niepodlegających rzeczy egzekucji ze stron naszego organu dla rozwoju, bo on też nie ma tam nie chciałby w tej agend bezpieczeństwa publicznego czy CBA nie ma kompetencji tam, żeby takie rzeczy, żeby takie rzeczy zweryfikować stan faktycznie jesteśmy, bo w takim rozkroku pomiędzy postulatem absolutnego zabranie zapewnieniu tego, a dziś klubu głosowania takich czerwonych linii, gdzie moglibyśmy tego nie tyle zakazywać uznając, że technologia technologie nie da zabronić co co by jakoś okiełznać potrzeba, żeby służyła tylko tym celu, w jakich jakich miała być wykorzystywana jeszcze takim taką rzeczą, której chyba warto byłoby wspomnieć coś co jest w mojej perspektywie i tak pomiędzy działaniami powiedzmy uprawa, a działaniami takimi rozwiązaniami zburzenia zniszczenie kamy mianowicie jest bardzo dużo projektów takich zajęć artystycznych pokazujących co można założyć na wasz jakoś maseczkę coś, żeby ten zbite system szukać myślę, że ta dyskusja ona jest szalenie interesujące bardzo jeszcze będzie rozwijać choćby ze względu na to, że raczej zmian dotyczących komisji PiS myśli nad wprowadzeniem takiego zakazu PiS i kiedy wczoraj WIG jak jesteśmy jak pan tylko częścią postuluje wprowadzenie takiego zakazu niech pani ocenia, że ten postulat jest w ogóle na poziomie takim politycznym realistycznie trudno powiedzieć to znaczy ja chyba jednak się przechylała ze strony taką, że nie znaczy, że to nie jest realistyczny postulat, żeby zakazać stosowania tego typu środków nowo właśnie czy w ogóle rozpoznawania rozpoznawania twarzy przez przez służby, chociaż biorąc pod uwagę przykład amerykański, gdzie niektóre właśnie niektóre miasta wprowadzają takie zakazy no jest to możliwe jest on jest możliwe uregulowanie tylko ja bym była przeciwna takim zakazom właśnie policja nie może używać tego typu technologii w swoich działaniach, bo wyłączamy wtedy bardzo wiele można Inter tak ich takich pozytywnych działań policji związanych z wykorzystywaniem rozpoznawania twarzy myślę, że trzeba, by było zastanowić się wtedy jak to uregulować taki sposób, jaki stąd ten nie więcej w paszportach, żeby spróbować znaleźć to co chcielibyśmy wyłączyć możliwości wykorzystania i tego typu tego typu rozwiązanie zaproponować, bo wtedy myślę, że on ma szansę ono miałoby wtedy szansę przebicia się do takiej świadomości pokazania, że ta technologia ona ma swoje dobre i złe strony, że chcielibyśmy zablokować tylko te złe strony, które jednak bardzo uderzają w prawo do do prywatności często prawo do godności, bo jeżeli ktoś nas na podstawie takiego algorytmu do rozpoznawania twarzy zatrzyma tylko na podstawie tego algorytmu zatrzyma i my się spóźnimy na samolot, bo będziemy przeszukiwanie tak czy będziemy podlegali kontroli osobistej to wtedy uderza to nie tylko jakby jakiś abstrakcyjny dobra praw abstrakcyjnie prawo do prywatności, ale tak naprawdę naszą godność nasze indywidualne możliwość przemieszczania się czy czy prawo do przemieszczania się, więc tutaj ja bym jednak zdecydowanie postulowała rozgraniczenie, jakby celów jakich używa się rozpoznawanie twarzy tego biegu to biometryczne rozpoznawanie twarzy i poszła w kierunku wskazania, czego nie powinniśmy robić ani, że samo rozpoznawanie twarzy z technologią którą, która Ano może mieć negatywne skutki dlatego powinniśmy jakiś sposób się przed przeciwstawić tak tak absolutnie zakazane oczywiście zakaz miałby dotyczyć tylko tej nie celów tej weryfikacji identyfikacji do takich masowych masowym wykorzystaniu myśli chociażby na przykładzie zgromadzenia, ale to zostawia mnie myślę, że słuchacze taką z taką z poczuciem, że jest inaczej się zastanowić, bo jak zwykle technologia ma swoje ciemne i Jasną stronę być może tutaj ciemny przeważają stąd ten pomysł na wprowadzenie zakazu, ale wszystko jest kwestią przyszłości komisja Europejska właśnie kończy pierwszą turę na drodze konsultacji swoich swej białej księgi dotyczącej jeśli inteligencji, której właśnie ten pomysł czy czy kwestia ewentualnego zakazu rozpoznawania twarzy się pojawiła, a tymczasem jak bardzo dziękuję za rozmowę moją duszę była pani dr Tomaszewski Michalak z jeszcze Zamość Klicki no i mam nadzieję do usłyszenia w następnym pokażcie pan taką tezę technologii i człowiek człowiek i technologię, gdzie na tym styku czekają nas zagrożenia jak korzystać z technologii, by na nich skorzystać jak kontrolować, kto gromadzi nas informacji do czego używa podcast tokfm PL fundacji Panoptykon Zwiń «

Zasłaniasz kamerę w laptopie? Zasłoń raczej twarz. Na całe życie

AUTOMATYCZNA TRANSKRYPCJA PODCASTU

PODCASTY AUDYCJI: PANOPTYKON 4.0

POSŁUCHAJ RÓWNIEŻ

DOSTĘP PREMIUM

SERWIS INFORMACYJNY

Wydanie z godziny 05:00

Najnowsze Podcasty

Kiedy poznamy wyniki wyborów? Czym jest exit poll?

Jak przeliczane są mandaty w wyborach do Sejmu? Czyli słynny system D’Hondta

Cisza wyborcza w internecie. Czy trzeba usuwać stare posty w mediach społecznościowych?

Jak oddać ważny głos? Pamiętaj, by dobrze postawić znak X!

TOK FM

Polecamy

Popularne

GOŚCIE TOK FM

Gazeta.pl

WYBORCZA.PL