REKLAMA

Odcisk palca, tęczówka - to nie są idealne zabezpieczenia. O biometrii behawioralnej

Data emisji:
2019-07-04 15:30
Audycja:
Panoptykon 4.0
Prowadzący:
Czas trwania:
41:41 min.
Udostępnij:

Wraz z nabierającym coraz większego tempa procesem zastępowania ludźmi robotami, wzrasta też potrzeba "przechytrzania" przez człowieka botów - nierzadko zresztą przy użyciu innych botów. Nakręca się zatem spirala: boty uczą się, jak naśladować człowieka ale też, jak rozpoznać, że po drugiej stronie internetowego łącza nie siedzi człowiek, tylko udający go robot. Ludzie i firmy szukają coraz doskonalszych rozwiązań, by zabezpieczyć swoją tożsamość, by nie dało się jej ukraść, podrobić lub sfałszować. O tym właśnie fragmencie naszej rzeczywistości Katarzyna Szymielewicz rozmawia z Mateuszem Chrobokiem, założycielem i szefem startupu "Digital fingerprints", który specjalizuje się w biometrii behawioralnej, czyli określaniu naszej tożsamości bez zbierania o nas danych takich jak nazwisko, odcisk palca czy PESEL. Jeśli nie wszystko w tym opisie wydaje się Wam jasne - tym bardziej warto posłuchać tej rozmowy, zwłaszcza, że uświadamia nam ona, jak bardzo kwestia naszej cyfrowej tożsamości jest, często nie najlepiej strzeżonym, elementem naszej codzienności.

AUTOMATYCZNA TRANSKRYPCJA PODCASTU

dzień dobry Witajcie w podcaście Panoptykon 40 mówi do was jak zwykle Katarzyna Szymielewicz jesteśmy w podcaście, który dotyka tego co ciekawe niepokojące ważne na styku człowieka i technologii tematów nam nie brakuje ostatnio dużo rozmawiałam o roli wielkich platform regulacji o ochronie danych, bo mamy taki moment, w którym Europejska regulacja chroniąca nasze dane osobowe RODO już prawie kończy rok DC Panoptykon kończy 10 lat nastroje wspominkowy tematy się nie kończą Rozwiń » dzisiaj chciałabym trochę dotknąć takiej istoty ochrony prywatności czy my możemy zachować prywatność jednocześnie mając kontrolę swoją tożsamością czy jako ludzie korzystający z sieci możemy zabezpieczyć przed n p . tym, że ktoś się poddać pod szyję nam coś odbierze ukradnie tożsamość wojna, jaką szkodę, a jednocześnie zachować prywatność czy jest tutaj sprzeczności napięcie to jest ciekawe trochę filozoficzne pytanie, ale obiecuje, że będzie też bardzo praktycznie, bo będziemy znać konkrety rozwiązaniach i też trochę o sztucznej agencji i etyce i o tym jak się obecnie ustawiać, żeby ją kontrolować ani ona nas kontrolowała czy czy poprawiała no chyba tak właśnie chcemy do tej rozmowy zaprosiłam bardzo ciekawego rozmówcę technologie i człowiek człowiek i technologie, gdzie na tym styku czekają na nas zagrożenia jak korzystać z technologii, by na nich skorzystać jak kontrolować, kto gromadzi nas informacje do czego ich używa się z ekspertami praktykami rozmawia Katarzyna Szymielewicz Panoptykon 40 podcast tokfm PL i fundacji Panoptykon ze mną studio Mateusz Chrobok mówi o sobie, że jest z dzikiem lobbystą człowiekiem, którego interesuje cyberbezpieczeństwo ja też wiemy na rynki tego nie ukrywa, że założyłeś start -up, które nazywa się po polsku brzmiało cyfrowe odciski palców jest w moim rozumieniu nie interesuje się identyfikacją ludzi nie wiem czy śledzeniem, dlaczego tak naprawdę zmierzasz, ale jak słyszę od siebie bezpieczeństwo prywatność w 1 zdaniu i bezbłędna identyfikacja albo odróżnienie człowieka od człowieka to trochę mam poczucie pomieszania pojęć jak to jest bardziej chronić prywatność bardziej starać się zidentyfikować, kto jest, kto i po co bardzo słusznie z mojej perspektywy to wygląda tak, że mamy w tej chwili bardzo delikatną granicę, ponieważ jest bardzo dużo serwisów, które wykorzystują nasze dane zupełnie inny sposób niż do tego zostały przekazane, więc takim pomysłem, który nam się urodził głowy zróbmy usługę, która ma pewną wartość biznesową zupełnie inny sposób to znaczy ochronimy użytkowników za pomocą ich zachowania przy zachowaniu ich prywatności i tutaj bardzo wolno ich przed tym, że ktoś się po nich po 3 tak jest to naszym celem jest przede wszystkim zabieg zapobieganie takim sytuacjom, w którym ktoś straci swój login hasło albo gdzie wyciekną nasze dane albo przy manekin żółtej karteczce, gdzie to jest to, bo ktoś przejmie ktoś przejmie efekt tego jest taki, że później każdy właściciel serwisu nieważne czy chodzi tutaj o jakiś sklep internetowy czy bankowość czy gdziekolwiek macie konto to sytuacja jest taka, że podstawą loginu hasła ktoś myśli, że po drugiej stronie jesteś ty jako osoba czy bank mówi sorry ktoś się logował się Conda i wyprowadził pieniądze wyglądał dokładnie akty chciałem wiedzieć, że to był złodziej dokładnie tak dokładnie tak, bo rzeczywistość jest taka, że wszystko toczyło się w sieci elektronicznym jest pewnym modelowaniem tego jak wygląda na świat dla nas próbujemy za pomocą takiego zupełnie naturalnego sposobu działania przyjętej biometrii behawioralnej, która jest związana z tym jak wchodzimy w interakcję rozróżnić czy jesteś ty na swoim koncie czy ktoś inny, kto próbuje się potrzeby potrzebna stąd biometria behawioralna to już duży dla widza powody, żeby zatrzymać wprowadza też wyjaśnić zbieracze odciski palców takie w rozum, że nie dosłowne, bo spisał się w internecie przypomniał, czyli to nie jest usługa kradzież na Polsce czy banków fizycznie to jest wszystko w sieci, więc pajace taki jest tylko na klawiaturze wybieracie obraz człowieka zachowanie człowieka z opis model człowieka, żeby go rozróżnić od innego tak jest wszystko to jest wszystkie metody biometryczne ogólnie są pewnymi metodami statystycznymi my patrzymy sobie to w jaki sposób człowiek korzysta z klawiatury ową, jakie tempo pisania jak korzysta z myszki w jaki sposób tam rysuje krzywe n p . jak rusza się, ale nie interesuje nas to co robi to jest cienka rysuje nas jak robi, ale nie to co dokładnie tak, a jego trud oczy Gałka ruch gałki oczne takie czy też nie nie są to elementy, które wkraczamy to jest tylko takie tak stać biometria behawioralna typu drugiego, czyli inne na styku interakcji człowieka z komputerem, ale wszędzie tam, gdzie nie mamy do czynienia z cechami nie zmiennymi, bo np. Gałka oczna tam elementy związane z naszymi rzeczywistymi odciskami palców to są takie rzeczy, które bardzo trudno zmienić są bardzo wrażliwe właśnie dochodzimy do bardzo ciekawego różnie może to zaczynamy uspokaja i zrozumieć co musi czemuś ochrona prywatności podkreśla, że dzieci to jest ważne dla mnie też dlatego spotykamy i rozmawiamy, bo to zaintrygowało co tak naprawdę robicie, dlaczego jest potrzebne w rozumie, że człowiek chce mi ten komfort w sieci, że ktoś się pod niego nie patrzy ja bym chciała, żebyście mieli komfort, a jednocześnie nie czułabym się w ogóle nie czuje się OKE z tym urządzenie typu telefon zbieramy odcisk palca, nawet jeżeli sobie robi z niego jakiś model zapisuje go w formie cyfrowej oczywiście ani obrazka nadal nie czuje się z tym dobrze, iż urządzenie ma taką cechę, którą jakich będziesz stała i tego nie robicie proponujecie rozwiązanie, które obserwuje moje zachowanie i wyciąga z niego co jakoś się też prawidłowość tak, że ja to muszą palcem taki sposób zwykle dokładnie ten proces całe tworzenia tego mógłbym porównać do pieczenia np. bananowca, gdy na początku może banany orzechy ciasto, ale potem już stworzyć to często to nie da się odzyskać bananów w naszych tak mówią skoro jest dalej stosować, ale są elementem ciasta dokładnie tak to jest to jest to są takie procesy nieodwracalne swoje odciski palców to jest tak słynny przypadek został Niemiec, który nie ci, którzy się wydarzy, gdzie na podstawie zdjęcia odcisków palców udało się odblokować Czyż telefon ja pamiętam taki taką sprawę też z Kongresu Morskiego oraz iveco jego serce wojny nawet o imprezach, gdzie tak jest po prostu szklanki zdjęli dokładnie prace ministra i podpisaliśmy tak odnotowali trafi do Rzymu, ale taki jest efekt odwodnienia ograniczenie tej klasycznej biometrii wyniki się to tylko życie czy wasz model nie dałoby tak łatwo udawać ministra prawda w szczególności, dlatego że zachowanie każdego z nas zmienia się w czasie znaczy trochę inaczej zachował się w poniedziałek w piątek jak jesteśmy zmęczeni radości smutni i piękno polega na tym, że my wraz ze zmianą np. sprzętu ze zmianą naszego zachowań jesteśmy inni, więc nawet, jeżeli ktoś próbuje nas podrobić to jest podrobienie na obecną chwilę wchodzimy w taką dziedzinę, która związana z atakami na metody uczenia maszynowego i tak naprawdę jak to działa prawo, które uznaje maszynowe kolejny zbitek spory, które czuje wymienił słuchających nastroje chce chciałaby grafik wyjaśnić jasno, czego można się uciec w naszym przypadku patrzymy głównie w dziedzinie czasu częstotliwość ta dynamika jak klikasz on tworzy sobie taki Strumień mówiąc obrazowo, na który mi moich danych Strumień danych taktyką danych, które nie mówią kim jest nie są pewnym zachowaniem one później do nas lecą i my budujemy sobie taki model statystyczny tak naprawdę dla kogoś tam ze mną wszystkich grup z kapustą, ponieważ jak mogłoby wyglądać, żeby to bywa to wyciekło, że żaden system nie jest idealnie zabezpieczony nie ma już takiego jak ubezpieczeni, ale wycieka wam to co ja wtedy znajduje jakiś zapis numeryczny tak tego, że nie wiem mój ruch myszką i palce w waszej bazie to jest ciąg po prostu cyfr to jest element, który jest taki tymczasowy to znaczy my jak najszybciej się da zapominamy też rzeczy, ponieważ wiemy, że ludzie się zmieniają nie ma sensu trzymać danych, które są starsze po to, ten nie na nie nadąża za tym jak ludzie wyglądają natomiast to jest bez mojej perspektywy piękno tego, bo nawet, kiedy wycieknie wszystkie modele, które u nas znajdują, które są modelami matematycznymi one są pewni modelami prawdopodobieństwa to, jeżeli ktoś ukradnie i spróbuje z nich jak przed nią powinien ekstra chować człowieka ekstra z tego banana bananowca to nie da nie ma takiej możliwości, więc nawet ktoś ukradnie NATO będzie mógł stosu z tak powiem przejrzeć spróbować wnioskować ale, czyli on jak ukradnie to nawet nie zobaczy ktoś po drugiej stronie w razie nie zobaczy mnie, bo tak jak powiedziałem, że obserwuje się moje zachowanie, a nie zbierać żadnych formacja kim jest, ale z mojego imienia nazwiska mojego numeru dowodu mojego ludzkie odciska odcisku palca tego fizycznego moje gałki oczne tam w ogóle nigdy nie było w taki zapis mojego zachowania nadal nie ma tam obserwacji ruszyła ręką szybko ruszył ręką wolno dotknęła 3 × samo miejsce nie ma tamtego tylko jest jakiś co wniosek matematyczny zapis tego jak dziś uśrednienie tego ruchu to jest związane z tzw. cechami cechami, które każdego z nas opisują trochę lepiej w inny sposób, ponieważ są osoby, które np. bardzo dobrze szybko piszą na klawiaturze dla nich taką najbardziej rozróżniając cechą będzie co właśnie jak pisze praktycznych szybkość tak jest z punktu widzenia np. osób, które często korzystają z urządzeń mobilnych to to w jaki sposób korzystają z ekranu dotykowego, jakie mają jak sprawny czy kiwają no tak naprawdę to jest pewna pewna motoryka pewna reakcja reakcja, które także tam chodzi w działania natomiast to jest coś co jest charakterystyczne, ale bardzo podobnie do rzeczywistych odcisków palców to nie jest unikalny w skali globalnej to mówi nam, że jesteśmy w stanie z pewnym prawdopodobieństwem rozróżnić się od kogoś, kto próbował muszą być 2 osoby, które tak samo posługują się telefony posługują się telefonem to znaczy posługują się dużą ilością czujników, które tam są, ale może być także jest nie strzelam 100 osób, które pisze podobnie do siebie, ale korzysta inaczej myszki, więc my też zawsze będzie też cechy różnych rozróżniają dokładnie taki czynnik wam nie udowodni, że mylicie i że człowiek jednak jest powtarzalny w tym sensie jak się porusza jak porusza rękami na klawiaturze czy telefon nie obawiać tego upalnego dnia w banku w waszym systemie pojawi się nie tylko złożyć po prostu identycznie, zachowując się klient będzie to jest dziwnie to jest pewne ryzyko, który jest naturalnie wpisane w to co robimy było teraz to może być delikatnie zbyt techniczne to były też takie badanie, które przy przytaczamy, który był związany z tym, że sieci neuronowe znowu te metody uczenia maszynowego stworzyły sztuczną odciski palców i okazało się, że za pomocą takich zupełnie sztuczne odcisków palców udało się odblokować 8 ,5 % telefonów standardy takie europejskie i mówią o tym, że to powinno być statystycznie, że 150  000 użytkowników może się powtórzyć no to nie brzmi strasznie, ale jeżeli ktoś powie, że wymyśliła pocisk trafia rzeczywiście się pojawił ciekawe czy w tym w tej w tej w tej identyfikacji g notyfikację w tym bardzo potocznie tymi poprawia, mówi że chodzi o weryfikację chodzi o walidacji taka stwierdzenie czy ten człowiek to jest ten, którego nam chodzi od klient banku, który próbuje zalogować swoje konto czy ktoś inny w tej walce też jesteśmy w wyścigu zbrojeń rozumieć oraz cały czas ktoś próbuje nas wyprzedzić przechytrzyć jak to opisuje z tą behawioralną dla obu pojęć dlatego uznałem, że bardzo ciekawej i warto się mu bliżej przyjrzeć tym, że to kojarzy z takim opisem ludzkiej psychiki okręt zrobiło się głośno po tym, jak jak ekipa trampa na etapie wyborów próbowała manipulować wyborcami czy też przekonywali skutecznie może tak to powiedzmy w oparciu o ich cechy psychopatyczne aktywna jest cechą media, a więc sposób takiego opisania tego jak działa nasz mózg jak chciała, jaki mamy mieć charakter cech osobowości różne przyczyny tych, którzy składają ktoś będzie otwarty bar zamknięty są bardzo proste cechy i tam jest powiedzmy kilkanaście w modelu tak mówicie, przykładając do tego wasz model pewnie Sołek tysiące jest ich sporo i jest coraz więcej natomiast nie ilość z tym co co jest istotne jest taki element, który jest taką częścią naszej etyki funkcjonowanie przede wszystkim przy takim uczeniu nie wolno mieć na wejściu do tego uczenia danych, które mogą być wrażliwe to znaczy wszystkie kwestie typu, jaką ty masz płeć nie może wyznanie, skąd jesteś za, żebyśmy po prostu tego nie mamy nie chcemy mieć bo gdyby takie metody nauczyły się takiej zależności to byłoby bardzo bardzo niedobrze takich przykłady były, żeby nie dawno nie mnożyć n p . na podstawie obserwowanie Twittera metody uczenia maszynowego nauczyły się być rasistowskie i teraz odchodzi takie wielkie larum no dobrze na to czy twórcy tych metod są strasznymi rasistami stworzyli takie metody, ale poczeka na dłoni polegało czyli, bo teraz mówimy sporo sytuacji, której próbujemy stworzyć system mi tego wymyśliła jeśli rozejm działa i który pomaga odróżnić człowieka od drugiego człowieka wydaje wszystko co potrzebuje o nim wiedzieć jest to, że to jest ten ani innych można powiedzieć, że ten człowiek przy okazji pisania takiej ani nie sposób ma jeszcze inne cechy np. jest katolikiem albo, że realna perspektywa mężczyzn czy interesuje rozumiem opisuje ten system inne tak, których to jest ciekawe, które ktoś obserwuje Twittera czy Facebooka, żeby dowiedzieć się, jaki poziom tej agencji ma to osoba albo, jakim wysłanie albo jaki ma, jaką orientację seksualną także o tym, mówimy co da się dzieje tu mamy do czynienia, z czym tak naprawdę troszeczkę wolną Amerykanką, która powoli jest rozwiązywana, ponieważ ogólnie sztucznej inteligencji i w tym jak podchodzimy do niej trudno jest powiedzieć, dlaczego staliśmy taki wynik to znaczy jak mamy ten nasz gros kapustą, gdzie próbujemy tych danych chce wnioskować stawiamy sobie jakąś tezę natomiast teza jest postawiony dla pewnej sytuacji, którą opisujemy historycznie, czyli możemy się powiedzieć czy jutro będzie piątek to jest taki przykład patrzymy sobie na dane historyczne i mówimy tak z pewnym prawdopodobieństwa zawsze po czwartku w piątek tak zawsze podążali na karmimy system danymi Twittera i ten system dostanie jakiegoś powodu dostanie dostęp do danych profilowych ludzi, którzy za utratę profilach pisali nie wiedzą już pisać jakiś jakiś wyznacznik swojego poglądu politycznego załóżmy tak nawet zobaczy aha osoba, która ma wpisane nie wiem lewicowy albo prawicowy najczęściej potem ma też takie cechy nauczyć tylko relacji będzie zgadywać, że kolejna osoba, która nie wpisała nic profilu, ale znowu kwituje podobny sposób to pewnie jest poprawa, bo tele tak to o to chodzi to chodzi o to jak te osoby opłat w tym eksperymencie jego się wypowiadał i ponieważ trafiliśmy sam jest głodna i za język tak i tak naprawdę boty starały się nauczyć tego w jaki sposób osoby się wypowiadają okazało się, że się trasy nie w zależności od rasy rasa była tak naprawdę kwestię pochodzą to jest taka duża była ilość danych, która zawierała tak naprawdę można powiedzieć mowę nienawiści, ponieważ tam było część dyskryminacja wobec kobiet wobec masowej, że to wysłowił sztuczna inteligencja dyskryminowała, ale to nie jest tak, że to zostało zrobione specjalnie tylko zbiór danych, który został tatą wejście Twittera, które zostały wprowadzone było po prostu z taką mocą stworzone oka oczywiście lekarzu, którym po prostu nasza wieś nauczyła się do nas ludzie tak i znowu skupiała no to nie pierwszy przypadek śmierci bardziej nurtują nasze rozmowy takie przypadki kiedy, kiedy inżynierowie firmy tworzą systemy zmyślą o zgadywanie człowieka to nie jest myśl tego co ty próbujesz robić, czyli jak rozumie stworzeniu usługi jest dla nas ma nam pomóc ma też ochronić przed kradzieżą tożsamości najczęściej w sieci, bo do tego co czas dochodzi, ale odwrotnie tak właśnie do rządu nasz do nawet tyle identyfikowania nas, bo nie chodzi mu PSL nie mój adres sama chemia jest społecznej wpłynięcie dokładnie chodzi o wpłynięcie na mnie chodzi o ustalenie jak ja mam te cechy ukryte, żeby móc będą lepiej naśladować manipulować powiedział wprost to jest takie pytanie, którym etycznie bardzo wcześnie sobie zadaliśmy, bo okazuje się np. z ruchu myszki można powiedzieć, kto się we wczesnej fazie choroby Parkinsona i jako ludzie stanęli przy takim bardzo ciekawym problem to znaczy moglibyśmy wspaniałe rzeczy uratować tak naprawdę dzięki dzięki takiej wiedzy, ale z 1 strony byłoby to przetwarzanie niezgodne z tym co chcemy dostarczyć nasz zbiór danych byłby zbiorem danych medycznych być może kiedyś będziemy chcieli iść tą stronę, ale to nie byłoby fair wobec użytkowników z naszej perspektywy to jest bardzo np. wydaje się, że taki graniczny o, tyle że że go używa też Roger aktem człowiek, które w, który towarzyszył Facebookowi jego pierwszych latach koczował Soderbergha i plasował się Somewhere Johnny winny spotkać się nie boi może kiedyś tutaj przyjdzie zaprosić wszystkich chętnych, żeby działać jak myśli nawet on dzisiaj jest dzisiaj apologeta takim krytykiem tak za droga jest krytykiem tego co się dzieje w Dolinie Krzemowej i w bardzo ostre słowa mówi o tym co robi co robi Facebook, ale też daje taki przykład, że weźmy taką fazę rozwoju tych usług cyfrowych, które już nie jest klientem dostać w ogóle jest tylko takim bytem obserwowanym na takim dostarczycielem paliwa dla tej służby w ewidencji o takiej metafory używa i np. urządzenia, które chyba Google przeważnie kontroluje zwane Kaczą tak czy taka technika rozpoznawania czy ja jestem człowiekiem ani potem też przy przy przy logowaniu do rozmaitych usług musimy to zrobić one tak naprawdę karmią algorytmy rozmaitym danymi, które pomagają owej różnych agencji nauczycie jak człowiek pisze odręcznie tak, bo przepisujemy odręczne pismo kawałki tekstu albo ustalamy czy na obrazku są światła czy samochód czy lodówka czy coś uczymy ją podać obraz i w ramach tego tych zbiorów danych dla rodziny marnymi jest oczywiste, że dokładnie będzie ten jest graniczny to znaczy la inteligencja nauczyć również naszych chorób naszych nie do ważności i niepełnosprawności wszystkiego innego u nas w oparciu o ruchy myszką zatem zrobi z tą wiedzą zrobił cel jest bardzo bardzo ciekawą tutaj kwestię, ponieważ każdy ma chętnych mają działanie dla mnie dlatego jeszcze bardzo cieszy, bo ten moment, kiedy stwierdziliśmy, że to jest świetny czas, żeby założyć start -up było wprowadzenie RODO i jaką rolę, czyli Europejskiej regulacji, która chroni nasze dane osobowe na nie jest nowością dla nas zwierzę mówiliśmy wcześniej również 20 lat bardzo podobne prawo, ale jest trochę nowości dla tych firm Doliny Krzemowej, bo on został nim również objęte, dokąd na torze świadczą usługi w Europie tak i teraz to jest pewna ochrona, która nigdy wcześniej nie było okazało się, że pewne usługi, które działały dotąd na podstawie danych wnioskowały dostarczały pewnych usług na podstawie danych, których nie powinny zbierać, bo w tej chwili to już nielegalne, ponieważ np. twój adres IT, czyli adres twojego komputera jest uznawany za daną osobą tak oczywiście, że może samo połączyć tak tak dalej okazało się, że jak w momencie, gdy to jest wykorzystywane na to jest to zbiór danych osobowych, tak więc dostawcy takich usług tak naprawdę dostarczaniu w tej chwili to usługi, które nie są nie mógł nie powinny być dostępne zgodnie z tym prawem to podczas tworzą pewną niższe dla mnie jest parę takich elementów, które spowodowały, że to jest bardzo dobry moment na to, żeby mówić o prywatności i bezpieczeństwie manipulacja emocjami przez Facebooka, gdzie odpowiednio był zmieniany Stream użytkowników przepraszam na tablicy przestały zmieniany post, który po to, żeby zbadać reakcję na pewne emocje tak my jako użytkownicy Facebooka jak ja osobiście nie jestem, ale musieli się zgodzić NATO w w umowie, która jest przy otwieraniu konta ma teraz na rozmaite badania eksperymenty tak bardzo szczegółów, jakie będą dokładnie, więc daliśmy takie taki weksel in blanco to właściwie bez skorzystał po ujawnił, jakby nigdy nie ujawni, bo latem ujawnił wyniki i nagle podniósł raban jak to dlaczego chcecie jak reagujemy na to, że pokazuje nam bardziej represyjne albo bardzo wolne w Polsce na co jest wino oczywiście przecież w stylistyce dzięki kolejny przykład pokazujący mam im po prostu potężną asymetrii władze cały czas tych firm nad nami ja takich jakich zwykle złotych mówi, że to nie jest jednak wina użytkownika nie doczytał to jest arogancja i potęga firmy, która wykorzystuje, kto wie, że nikt nie zatrzyma to jest olbrzymia jest tutaj zmianę dla mnie taka piękna metra która, jakby rozproszenia się na świecie w Kaliforni powstało w Kalifornii Customer Protection, który z takim RODO dalej w Singapurze np. miał okazję porozmawiać o ich data Protection act, który także jest zgodny właściwie zrobili z tym polskim odpowiedniku rodu rady, która chroni dane osobowe ciekawe to jest taki moment, kiedy uważam, że jako ludzkość zaczynam się budzić, że to nie jest tylko tak dostajemy coś za darmo ale, że to są pewne rzeczy wrażliwe i dlatego warto o tym, mówić warto wspominać, bo jeżeli coś za darmo to my jesteśmy produktem no tak było kiedyś tak, bo w tej pierwszej fazie rozwoju kapitalizmu nadzorczego myślę, że teraz jestem już dużo gorzej własnych szpitali we, który wobec głosu to tym przypadka czy także, że po prostu nie mamy szansy obejść systemu, które żąda naszych danych mógłby tak naprawdę spokojnie poznawać coś powiedzieć czy potem postawę ruchu myszką tylko włącznie tym nie musi dodatkowo odgadywać tych irytujących czasami doraźnych obrazków i po raz kolejny mówić pokaż mi jeszcze raz, bo nie jestem pewien czy to światło młodzi na koniec obrazek to jeszcze tam światła autorstwa wkurza to strasznie, ale główne tego, że wiem, że to służyć do karmie inne cele, które nie autoryzował, więc dzisiaj nie ma w zasadzie w ogóle ruchu RODO mamy, zanim przyszło trochę za późno, ale frapuje mnie, żeby powiedzieć wers wkurza, kiedy słyszę właśnie ludzie jak rodzina kredytobiorców ratowała wcześniej, którzy dzisiaj mówią jak to możliwe jak to się stało, że oni w domyśle tak właśnie Facebook Google Amazon wzięły wszystkie nasze wrażliwe dane i zrobiły z nim zrobimy zrobił no no no Hello Europę mówiliśmy od 20 lat nie róbcie tego nie idzie drogą u nas nikt nie był legalne, a dostawaliśmy tak naprawdę ten sam rachunek za to, bo również film wchodził do nas tylnymi drzwiami i zbierał naszej formacji teraz mamy dziś będzie lepiej cieszę się, że również spodziewasz moją moją opinię, że taka regulacja była potrzebna i cieszę się, że takie też biznes jak jak wasz na tym korzystają no ale wróćmy jeszcze do tej innej definicji czy też czy też tego poszukiwania wiedzy o człowieku czy to ten ani się wyrobić to po to, żeby pomagać głównie bankom jak rozumiem chronić ich klientów przed kradzieżą tożsamości przy tym, że ktoś włamuje na konto, ale wspomniał Singapur stany Zjednoczone ja mogę, by wspomnieć Indie parę innych krajów, gdzie również może nie tyle banki co np. państwo bardzo chce widzieć czy to ten ani inny człowiek i mieć systemy, które bezbłędnie już właśnie identyfikują po meczu tej klasycznej pociskach palców źrenicy oka, kto jest kim jak ten trend postrzega uważa, że oni nieodwracalne, że będziemy wszyscy za chwilę zidentyfikowali mojej perspektywy najlepsze co możemy zrobić to zupełnie rozłączne zbiory danych to znaczy to jest problem np. Googlea, który ma olbrzymią ilość danych i np. takich firm jak ten czyn, czyli ten Tencent, który ma życia w Chinach miałem okazję parę miesięcy temu być ich siedzibie i kiedy dowiedziałem się, że oni za pomocą aplikacji, które ma ponad miliard użytkowników można oczywiście zamówić taksówkę zapłacić z drugiej strony zrobić takie rzeczy mówić do lekarza nie wiedzą też na co, kiedy jesteś chory z kim jest, ponieważ prywatne usługa formalnie czy to jest usługa, którą jakoś nie ten jest prywatna natomiast ona osiągnęła taki poziom i to był moment, kiedy się absolutnie przeraziłam, że np. kiedy będziesz chciał złożyć wniosek do rozwodu lokalnego kantonu to może to zrobić też aplikacja, a i w tym podziemiu od absolutnie nie mam ochoty z tymi ludźmi mieć za bilet czy nie, ponieważ mając świadomość jak te dane mogą zostać wykorzystane patrząc dalej na taki kornik osobowych mówimy jest dobry coś może po morzach, jakim projekcie jest w kręgu społecznego wg systemu, który ocenia człowieka zgonem tego co oni społecznie słuszny przydatny współgra z płaczem czy należy udać punktów więcej czy mniej o tych punktów zależą jego moralny dostęp do różnych usług publicznych prywatnych tata to czy poleci samolotem to czy będzie mógł zamówić taksówkę właśnie ile nie poczeka to czy będzie mógł aplikować o lepszą pracę czy będzie mógł Włoch w włoży dziecko do dobrej szkoły tak i t d. tutaj mamy do czynienia z usługami, które są do form usług jak rozumiem tak można niewiele można je Niemiec, ale kosztowej skuszony tym, że to się jeszcze rozwijać jeszcze powie wysiłek taki w Warszawie przez aplikację dokładnie chcemy wszystkim jest dla mnie jakby skala tego jest tak olbrzymia zaskakiwało mnie n p . że np. były tam osoby, które sprzedawały lokalnie owoce one nie przyjmowały gotówki właściwie tylko tam bardzo często płaci się przez komplikacje kurtynami dalej była spotkałem n p . takich lokalnych muzyków, którzy nie zbierali jak to ładnie mówi do kapelusza, toteż były QR kody to wszystko jest tak jakby nakręcając się wzajemnie, że osoby, które nie są wykluczone z tego systemu absolutnie mają ciężko żyć w Chinach rozumiem, że presja jest ogromne, bo jeżeli nie uczestniczy w systemie skoro go społecznego jest poza społeczeństwem po prostu, jeżeli tych punktów nie zarabiasz, a zarabia się, robiąc wszystkie takie rzeczy tak jak ja rozumiem nie byłem w Chinach widzianych z bliska LED le czytam to rozumiem, że prawie każda aktywność każda interakcja społeczna może mieć znaczenie to jest taki trochę mechanizm kręcenie się jak nie wiem czy oglądaliście oglądać czasami ten serial Black Mirror lustro, w których w poprzednim sezonie miało inny właśnie od końca blisko ringu trochę jak Facebook tylko z inwestowaniem do czegoś bardziej opresyjnego, gdzie każda interakcja była przerabiana na punkty, a tutaj możemy spekulować tylko, abyśmy zachowali my sami mają taką presję wchodzisz czy nie wchodzić jesteś jak nie ma to po prostu nie ma, ale my w Europie jeszcze mamy wyjście jeszcze możemy tych aplikacji, które nam ułatwiają rozmaite transakcji społeczne nie uruchamiać tak, ale uruchamiamy z wygody przede wszystkim z tego, że zgadzamy się natomiast z mojej perspektywy to jest moment, kiedy po kawałku, kiedy dostał odzyskujemy kontrolę nad swoimi danymi, bo teraz trzeba musi być ściśle określony powód, dla którego my zbieramy dane co z nimi robi nie, bo nadchodzi taka era transparentności albo będziemy ludźmi, którzy wszystko osoby podadzą na tacę na Facebooka tego świata i każdy będzie mógł tak naprawdę np. odblokować za pomocą wydrukowanej gdzieś tam naszej twarzy zrobiony jakiś maski nasz telefon, gdzie mam nadzieję, że to wpłynie na poczucie bezpieczeństwa osób, które dzielą się bardzo dużą ilością danych o sobie albo będziemy dawali takie zgody na przetwarzanie konkretnych celach i moim zdaniem to jest pierwszy raz mamy taką broń bardzo silnym wiem, że możemy jego klient też mówić dobra dajecie aplikacja dostęp do swojego nie wie właśnie czy obserwowania jak już myszką albo obserwowania jak rozmawiam z ludźmi, ale chce, żeby to służyło tylko mojemu zdrowiu np. niezwłocznie przekazać informacji mają ubezpieczycielowi IT ufa, że one tego nie zrobiła tak to uszanował musimy wysokie kary to jest potężna regulacjom to moim zdaniem w przyszłości tutaj tak troszeczkę zareklamuje książka Marka belkę 0, gdzie ludzie, którzy by jak by nie powiem z nizin społecznych, ale którzy, których nie było stać sprzedawali swoje dane w czasie jak pierwszy raz czytającą książkę wie co jest absolutnie przerażające, a potem okazało się, że Facebook płaci nastolatką za to, że instalują wypijemy po to, wymóg nie sposób ich podsłuchiwać także uczyć się takich zachowania, a prawie każdy Telekom mówi daj mi zgodę na marketing albo zapłacić więcej to jest początek tej transakcji nosi, którą ja mam bardzo duży problem nie rozumie naprawdę regulatorzy w Polsce i mogą dopuszczać na gruncie rodową uważam, że RODO w tym temacie bardzo jasne zgoda nie może być wymuszona, jeżeli wchodzimy w jakiś takie odcienie szarości czy 5 zł to robi różnicy czy my nie robi to już przegraliśmy, bo może mi nie robię może sąsiadowi po robi, a może ile to będzie złotych 10 w skali roku pomnożone przez liczbę miesięcy będzie to realna kwota dla mnie nie możemy po prostu iść tą drogą ja myślę, że to jest coś gdzieś, gdzie powinien wysokiej taka taka jasna Zielona linia no ale jeszcze regulatorzy nie ustalili, więc czekam na pierwszą sprawę w tym w tym temacie, a tymczasem rozglądam się po tej naszego polityce szczerze mówiąc przeraża mnie, że ty mówisz o usługach, które szanują, które linie nie przestrzegają także z o swoim pomyśle napisy studies etyczny, ale przecież chodzi się chce mnie z inwestycji więcej zdjęć i zidentyfikować tych cechach stałych tak wystarczy zrobić zdjęcie zasadzie, ale także twarz i odciski palców są wszędzie wymaga cyfrowe pozyskiwania i sąsiadów i coraz tańsza jest wszechobecne kamery są wszędzie naturalne przez złożenie tego przez jakąś tam szósty wciąż są w ewidencji za chwilę będzie też bardzo tanie czy to nas czeka będziemy wszyscy wiedzieli kim ja jestem bez mojej wiedzy zgody Bomi nagrali gdzieś tak myślę, że te metody związane z rozpoznaniem czy to ty jesteś ty będzie coraz więcej to jest taka naturalna ewolucja algorytm, gdzie na początku np. algorytmy rozpoznawania twarzy najlepsze były w Rosji potem był w stanach potem były w Izraelu w tej chwili naturalny sposób są w Chinach, ponieważ tamten zbiór danych największe to można sobie pozwolić na taką wolną Amerykankę, żeby zbierać bardzo dużo danych jak chce uczyć dali się uczyć być coraz lepszym tak tak naprawdę na tym polega ten wyścig zbrojeń, więc teraz niezależnie czy ktoś zbierze twoją zgodę do tego, żeby badać, gdzie spogląda jak korzystasz zawsze może być użyte, jeżeli jest taka ogólna zgoda w inny sposób także innym miejscu zostanie zidentyfikowana jako ty, mimo że prawdopodobnie chciałby zachować swoją prywatność, czyli mamy tutaj mieli pole pole manewru jako jako ludzie jakoś wykluć przepychanie przez te wszystkie stacje metra lotniska dworce, gdzie kamery jest bardzo dużo mają one możliwość nagrywania i analizowania kim jestem im jako użytkownicy fizyków tego świata, które również przy wrzucaniu zdjęć próbują analizować co na nich jest czy mamy drogę ucieczki przed tą ratyfikacją powszechną moim zdaniem to co teraz będzie bardzo istotne to będzie to, żeby ludzi ludziom pokazać co najgorszego może ich spotkać to jest coś co się dzieje, bo z 1 strony mamy tu afery, która w cudzysłowie nazywa się Cambridge Analytica, czyli wpływanie na to w jaki sposób głos głosowali przestrogę, że może nas, że chodzi o wpływ tak naprawdę taką usługę wpły w, że można być manipulowany tak ludzie tak naprawdę bardzo często, z którym mam do czynienia mówią, ale nie nie dotyczy, ponieważ ja sam podejmuje decyzję rzeczywiście jest taka, że przy odpowiednim środowisku, które znam podane podane tak naprawdę bogata, bo wszystkie media dążą do tego, żeby to one za nas wybierały, bo to one wiedzą lepiej i wszelki mają dobre dane mają w stanie przewidzieć lepiej niż my, gdy klikniemy i co tak wiemy też polecam, by krzyż rozmawiam z Pawłem Boguszewskim podcaście naukowca, który zajmuje się pracą mózgu i działanie mózgu też nie zostawiało to bardzo optymizmu, choć Karaś nieskrępowany wolny wybór, więc tak bądźmy pokorni nasz gaz i mózg chce uciec działa tak bardzo mocno wpływa pompuje na różne różne hormony nie tylko strachu czystej przyjemności naprawdę nie tak trudno jest wpłynąć na to gdzie klikniemy prawda i dalej to ekstra, polując wybierzemy czy kupimy czy jaki styl życia za chwilę będziemy wszyscy mieli w bankach, które jesteśmy zamykani, bo tak naprawdę o to chodzi z mojej perspektywy mamy także lubimy piosenki, które lubimy, więc my coraz bardziej zamykamy się w pewnych sytuacjach i wszystkie serwisy nie służą do tego, żeby uzyskać wartość, którą chce uzyskać tylko, żeby wpaść tzw. krótki cykl pominął czyli, a jakiś niektóre interesujące 8 nakłaniali podwyżki, które pompują sobie dokładnie tak dokładnie to jak listek hormon szczęścia, bo mają takim taką możliwość i dochodzimy teraz takiego momentu, gdzie przyszłość nasza przyszłość sztucznej inteligencji, która przez niektórych jest nazwane tak od końca ludzkości, bo nie wiadomo jak sztuczna inteligencja się zachować nie stwierdzi, że my jesteśmy właśnie przeciwnikami zabiera energię byli w Widawa wyłączyć wyłączyć tak w dłoni zachować jako dostawców prądu jak matrycy tak jest jest 1 z opcji natomiast nie wiemy jak taki sposób się zachowa jak jak pójdzie dalej teraz powstała taka bardzo ciekawa idea znowu gdzieś tam Darko w stanach po opowiada o tym, że jest bardzo duża potrzeba tzw. wytłumaczone sztuczną inteligencją taktem bardzo podoba i wierzyciel może powiedzmy wyraźnie na czym polega, czyli te sieci neuronowe, które tam rozwija ten pomysł na nie jest taki, że to nie jest czarna skrzynka, którą ja rzucam wszystko co ma ona mi wypluwa 17 wstydzimy analizę taki nr 3 czy jakiś model Bystrego np. wynika, że osoba rasy kaukaskiej to pisze w taki sposób osoba nas innej pisze inaczej i to jest wniosek tylko ona pozwala prześledzić swoje wnioskowanie może też mogła jako twórca tego skorygować błędy albo albo skrzywienia tak tak, bo w tej chwili, jakby mamy do czynienia tak naprawdę taką śmieciarkę danych to troszeczkę nazywam, gdzie wrzucamy wszystkie dane wrzucamy do modelu, który wiemy, że dobrze albo źle się zachowuje w większości przypadków podali mówimy o statystyce i mamy wynik, ale nie wiemy czy ten wynik jest, dlatego że akurat była środa i pecha, którym było na zewnątrz było tak jak nie innej padał deszcz czy kolejnego siedziało tylko dostaliśmy wynik wytłumaczone ja czy te eks jaj ktoś ładnie mówi też takie nowe nowe pojęcie eksplozji była jaj, a nie służy nam 1 służy do tego, żeby móc powiedzieć, że sytuacje dostaliśmy wynik jesteśmy po stanie po, dlaczego to znaczy to jest takie szczególnie bolesne, kiedy ktoś ocenia bez udziału człowieka, bo taka ucieczka od od rozmowy tak naprawdę relacji z kolei kredytowe, które jest taki najbardziej brutalnym i prostym przykładem odmówiono kredytu nikt nigdy nie powiem, dlaczego już teraz powie, bo praktyka zresztą był w tym to co zamierzamy wywalczyć w Polsce taki właśnie nowe prawo to zrobić wyjaśniono jeszcze na decyzję podstawy decyzji kredytowej dla każdego kary sytuacji czyli, jeżeli dziś ocenimy czy to człowiek czy to właśnie taki system oparty o algorytmy i wypluje negatyw to ja mogę sprawdzić co miało to wpły w mogą to zrobić jest bardzo świeża rzecz która, która obowiązuje od maja zachęca się do testowania, ale po poważnie wraca do koncepcji w banku jest proste mam wrażenie tutaj te modele nie są aż tak skomplikowane te podlegają nadzorowi rozmyć organów banki, o ile mi wiadomo nie wkładają tam milionów zmiennych tylko to jednak takie ogarnia leżeć, ale jeżeli ktoś wrzuca dane swojego udziału całego Facebooka mówi po prostu się tak szukaj, a coś znajdziesz te systemy posługują się taką ilością zmiennych, że co mogą nam wypluć modną wypruć setki stron drukowanych, jakimi głównymi czynnikami prawa one mogą też do bardzo spodziewanych wniosków nie wiem czy kojarzy np. taki przykład Tesli czerwonego roweru rower na samochodzie tak doraźnie tak właśnie mała tłumaczy właśnie taki przykład, że w sytuacji, kiedy mamy do czynienia z tymi, jakby bieżącymi metodami sztucznej inteligencji, gdy mówimy dobra cel jest taki naucz się rozpozna samochód odróżnić od roweru tak tylko tego nie można tak wprost powiedzieć my zjeżdżamy z Górki cała sztuczna inteligencja polega na tym, że losujemy sobie Górka, na której jesteśmy staramy się jechać na rowerze doznanej przez najbliższego dołka, bo tak rzeczywiście matematycznie jest opisywane i teraz nie wiemy jak ta ścieżka wyglądała, ale okazało się w przypadku Tesli, że w momencie, kiedy samochody zauważyły czerwony rower to nie reagowały tak powinny tam awaryjne hamowanie i te przykłady miałem okazję porozmawiać gdzieś tam Stanach osobami, które się m. in . tym zajmowały okazało się, że te klasyczne metody, które są wykorzystywane przy programowaniu zostały wykorzystane czytam mówiąc brzydko pewien warunek został poddany zobaczyć czerwony rower to nie reaguje, bo niestety trzeba trzeba sobie z tym poradzić, bo jeżeli nie wiemy, dlaczego taka decyzja poszła, ponieważ te struktury są tak bardzo skomplikowane, bo przecież rzucamy im inne zachowek ładnie wykład dzięki tej ekspert były 2 wyjaśnia nosi moglibyśmy prześledzić jak zostało z systemu środowisku czerwony to jakoś inaczej zachowuje są takie dziwne kazusy tak jak nie rozluźnienie np. pieska siła od Marcina, bo fotografia pieska z góry przypomina mafii z rodzin oraz rodzynkami system oświaty dokładają ale kto to kary troszeczkę inny przykład ponieważ, jeżeli spojrzy NATO jako człowiek no może to widać podobne kształty kolory inne elementy prawdziwej czerwono, dlaczego nagle inaczej tak natomiast wszystkie ataki na sztuczną inteligencję, który w tej chwili są tak interesujące polegają na tym, że zamieniamy, gdyż listami 2 piksele i nagle okazuje się, że sprawie wyraźnego obrazu orangutana sklasyfikowane jako warstwa naukami i takie takie rzeczy dzieją tylko ze względu właśnie na to, że nie nie da się prześledzi tego procesu jak można wykorzystać, bo ostatnio w Estonii sztuczna inteligencja lokalna ma okazało się, że będziesz sądziła sprawy do 5000 EUR, jeżeli nie ma czego uczy się taka sztuczna inteligencja najlepsze co można podać to przykład spra w historycznych, a więc jak będzie taki sędzia na Krymie naszymi wszystkimi ludzkimi skrzywienia błędami błędami wykopami tak, ale dokładnie ciekawych mówiłam, żeby życie już dostał jakiś kodeks może nie karny, bo to było za grube ale, ale sprawy gospodarcze tak, żeby została już wszystkie przepisy dotyczące spółek handlowych i umiała rozróżnić faktura od faktury faktury po Trybunał od prawidłowej przeczytać umowę i ustalić to co w umowie jest prawda na ile to pasuje do naszego prawa i co zrobić to się wydaje sensowne, ale uczynić fizycznych sprawach zupełnie spalony pomysł ciekawy bardzo pani poznała jeszcze o o tym, Expo nie było a, czyli wyjaśnionej czy w agencji z tego co do mnie dociera tu naprawdę pomysł jest niezwykle potrzebny bez w zasadzie nie można mówić o dalszym rozwoju tych systemów mojej opinii, ale też kontrowersyjny i wykonaniu może okazać bardzo trudnym obiecuje, że postaram się upolować rozmówcę do tylko tego wątku jak to miałoby działać jeśli znasz takowego takową to sugeruje proszę ja się z jazd mogliśmy trochę zanurkować w świat identyfikacji, która twoim wykonaniu nie jest publikacją, bo nas nie przykleja na różnych cech prawda tylko pozwala nam się odróżnić od innego człowieka, w które nam rzeczy źle, bo próbuje się ponad potrzebę w zasadzie bardzo dobra wiadomość dla użytkowników głównie usług bankowo elektronicznej, że dzięki takiej pracy jak wasza będą mogli poczuć bezpieczniej ja się poczułam zaintrygowana różnymi koncepcjami które, które Europe dało, więc serdeczne dzięki był ze mną Mateusz Chrobok bardzo dziękuję usłyszane kolejny raz dokładnie tak mówi do was Katarzyna Szymielewicz i jesteśmy w podcaście Panoptykon 40 rozmawiamy o tym co ciekawego na styku technologii i człowieka o tym co się zmienia się powinno zmieniać albo co mamy jeszcze przed sobą do ulepszenia też takiego regulacyjnego, więc dzisiaj było trochę o algorytmach i sztucznych agencji to nie jest na pewno ostatni raz brzydko wracać zachęcą was do tego, żeby sugerowali również swoje tematy i ciekawych rozmówców dla mnie dzięki, że jesteście z nami do usłyszenia technologie i człowiek człowiek i technologie, gdzie na tym styku czekają na nas zagrożenia jak korzystać z technologii, by na nich skorzystać jak kontrolować, kto gromadzi nas informacje do czego ich używa się z ekspertami praktykami rozmawia Katarzyna Szymielewicz Panoptykon 40 podcast tokfm PL i fundacji Panoptykon Zwiń «

PODCASTY AUDYCJI: PANOPTYKON 4.0

Więcej podcastów tej audycji

POPULARNE

DOSTĘP PREMIUM

Z Dostępem Premium TOK FM odsłuchasz każdy podcast! Wybierz pakiet Aplikacja i WWW - słuchaj gdzie chcesz i kiedy chcesz!

Kup teraz

SERWIS INFORMACYJNY

REKLAMA
REKLAMA
REKLAMA