REKLAMA

My, konsumenci, jesteśmy paliwem dla hegemonów rynku. Jak to regulować? Odpowiada Wojciech Wiewiórowski

Data emisji:
2019-05-16 14:00
Audycja:
Panoptykon 4.0
Prowadzący:
Czas trwania:
43:45 min.
Udostępnij:

Czy wiedzieliście, że istnieją "sieci społecznościowe" dla samochodów? Auta konkretnej marki komunikują się ze sobą przekazując np. dane o stanie nawierzchni. Nietrudno sobie wyobrazić, że mogłyby zbierać więcej danych, i że mogłaby pojawić się trzeci podmiot, który chciałby wszystkie te dane, od wszystkich marek zbierać, przetwarzać i przechowywać. Całemu przedsięwzięciu przyświeca założenie, że dzieje się to dla bezpieczeństwa jeżdżących tymi autami ludzi. Nietrudno jednak zauważyć, że te dane mogą posłużyć także innym celom. Dlatego powinien się temu, zapewne, przyglądać instytucjonalny regulator. Rozwiń »
Przed jakimi wyzwaniami stoją dzisiaj instytucje, regulujące przepływ danych i stojący na straży ich ochronie - to bardzo ogólny temat wielowątkowej rozmowy, jaką, na 10lecie fundacji Panoptykon, jej szefowa, Katarzyna Szymielewicz, przeprowadziła z Wojciechem Wiewiórowskim, dziś zastępcą europejskiego Inspektora Ochrony Danych, a wcześniej polskim Generalnym Inspektorem Ochrony Danych Osobowych. Zwiń «

AUTOMATYCZNA TRANSKRYPCJA PODCASTU

wita w podcaście Panoptykon 40 i mówi wdowa Katarzyna Szymielewicz i na co dzień prawniczka prezeska fundacji Panoptykon i przez to zajęta bardzo rozmaitymi pytaniami prawnymi politycznymi regulacyjnymi na styku człowieka i technologii tutaj mam trochę więcej wolności mogę się wypuszczać na wycieczki o tym jak to działa i co my powinniśmy jako ludzie robicie, żeby działało lepiej niż dzisiaj ostrzega, że będzie trochę wspomnień Govou i trochę regulacyjne jak napotka z Rozwiń » rybą w po jest taki rok, który miał nam nastrój słownikowe to jest wzrok, którym Panoptykon kończy 10 lat mam takie poczucie, że ten w zakręcie podejścia do wielkich firm technologicznych zaczynamy dostrzegać jak ogromnym zagrożeniem dla naszej wolności i autonomii jest to co dzieje się z informacją o nas jak bardzo stać się paliwem dlatego kapitalizm nadzoru, o którym pisze też szans, bo w ważnej dla tego roku książce w bardzo mocno komentowane na całym świecie, bo jest taka dokumentacja tego jak zmieniał się ten kapitalizm jak zmieniamy się my nasza rola jako dawni użytkowników, a teraz po prostu paliwa dla tych wielkich firm i wobec tego musimy się wszyscy jakoś ustawić musimy znaleźć odpowiedzi jak to regulować czy normy prawne czy etyczne czy mamy walczyć z monopolem i co co robić jak trwałe potrzebuje kogoś kogoś bardzo mądrego i dlatego za mną w studiu dzisiaj jest sam Wojciech Wiewiórowski technologie i człowiek człowiek i technologie, gdzie na tym styku czekają na nas zagrożenia jak korzystać z technologii, by na nich skorzysta jak kontrolować, kto gromadzi ona z informacji do czego ich używa z ekspertami praktykami rozmawia Katarzyna Szymielewicz z panów tylko on 40 podcast tokfm PL i fundacji Panoptykon chciałabym powiedzieć, że ze mną w studiu nie do końca razem na studia, bo w studiu w Brukseli, ale słyszymy się bardzo dobrze sam Wojciech Rafał Wiewiórowski witam serdecznie dzień dobry witam serdecznie witam państwa bardzo serdecznie nie ukrywam że, że jestem poruszona tym rozmawiamy w moim potyka się, bo znamy się z Wojciechem na ponad 10 lat znamy się w rozmaitych rolach tych bardzo oficjalnych, kiedy byłeś Generalnym Inspektorem Ochrony Danych Osobowych we mnie w Polsce i nogach urzędnicze państwo, z którym Panoptykon współpracował już trochę mniej formalnie, odkąd wyjechała z Brukseli i przyjąłeś rolę zastępcy Europejskiego inspektora ochrony danych w segmencie jako przyjaciela i sojusznika w walce o ochronę danych, ale też jak powiedział Rz dla mnie osobiście, więc dostatecznie dzięki zgodziła się porozmawiać o nazwie jest miłe słowa, ale to czy jest mu tutaj osobą zaszczycona, ponieważ rzeczywiście okazy w znaczeniu po 10 lat raz jeszcze przypomnę, że myśmy się właśnie spotkali jeszcze innych rolach hałasu, gdy dochodzi do opracowania listy spraw wewnętrznych i administracji były dyrektor departamentu informatyzacji i jakiś nowy and CEO Sych nowe Stowarzyszenie zaprosiło mnie na debatę prowadzoną wówczas ze słynnym dzisiaj mu wówczas również redaktorem genezę, a na temat interoperacyjności systemów po wycinkach żona razem możemy bardzo duży magazyn obrać i 2009 roku osoby rozmawiające takim temacie to tak, że zaczęło i powiedzmy jak nie byłem traktowany przez teren działki jako naturalny sojusznik to prawda pamiętam, że kiedyś, kiedy szykowaliśmy się do monitorowania, bo robimy to za każdym razem, kiedy pojawia się nowy kandydat na urząd inspektora ochrony danych właśnie ciebie kandydata to niż takową nie ukrywają w ogóle zagwozdkę czy człowiek, który był w administracji rządowej i mówiąc najprościej zbierał dane o ludziach, tudzież tworzą systemy, które miały je zbierać klasyfikować nadaje się do roli tego, kto ma teraz ich chronić no ale w udowodniły swą niezależność to to z całą pewnością, a Powidz jest jeśli masz ochotę możesz jak to wygląda teraz perspektywy siedzenia w Brukseli poza w ogóle polską czy ta ochrona danych w ogóle ma sens seksie niż w administracji rządowej i nie można zacząć wdrażać do pojęć w ten sposób, gdybym uważał, że nie ma sensu to z pewnością gniewu buntu, gdzie jest w tej chwili właśnie to, że staram się zajmować sprawami związanymi z ochroną prywatności wynika z tego, że wydają się, że jest absolutna konieczność mówienia o tych sprawach absolutna konieczność bronienia prywatności przy całej świadomości tego, że świat się zmienia świat wygląda inaczej już po dziewięćdziesiątym szóstym roku, kiedy wchodzi w życie dyrektywa poprzednia czy osiemdziesiątym pierwszym, kiedy pojawia się konwencja rady Europy my cały czas mówimy o tych samych zasadach mówił o zupełnie innym świecie świecie, w którym informacja przybyło dużo szybciej również świecie, w którym pojedyncze osoby mają dużo większą możliwość bezpośredniego wpływu na to w jaki sposób wygląda i w prawo europejskie i implementacja tego prawa Europejskiego wiem, że to może zabrzmi dziwnie się, ale jeżeli postulujemy Sejm wyobrazić jak wyglądało organizowanie protestu przeciwko jakiemuś rozwiązaniu prawnemu w dziewięćdziesiątym szóstym roku przy tamtejszych możliwościach technicznych jak wygląda dzisiaj to widać ogromną rolę odgrywają właśnie takie organizacje Panoptykon właśnie takie osoby, które mogą gromadzić wokół siebie tych, którzy albo ad-hoc albo generalnie zajmuje się zagadnieniami związanymi z ochroną praw, których niestety tych powodów do protestu na mnie nie ubywa, ale zupełnie serio dla mnie ten rok 2019 jest może tak to jest moje myślenie życzeniowe, że on mi jakoś będzie przełomowy, bo w końcu jesteśmy nie tylko o prawie, że już rok po przyjęciu tego instrumentu, który pewnie nieraz dzisiejszej powiemy RODO Europejskiego rozporządzenia chroniącego lepiej, a na pewno szczerze, bo też poza Europą oddziałującego dane dane osobowe, ale też mam wrażenie, że mamy moment takiego kryzysu w myśleniu o technologiach, które jeszcze właśnie do dziś lat temu było postrzegane przez większość ludzi może nie przez nas tak zmagających tutaj, bo byliśmy krytyczni, ale przez ptaki męscy medialne jako zbawienie rozwiązanie tacy ludzie jak Morozow wtedy byli kompletnymi rocznikami, którzy pisali dziwne rzeczy krytyczne narzekali na dworzec nie będzie demokracji z tego nie będzie niczego niczego lepszego niż mieliśmy dzisiaj w Velvet dziewiętnastym czujemy, że trochę miał rację prawda ciut ciut wiemy wszyscy nie tylko my ME krytycy pojawiła się książka już szans, bo Ferenc Wellness kapitalizm opisująca to jak do tego doszło, że powstały tak potężne imperia informacyjne jak i jej zdaniem psami one się wymykają bardzo skutecznie regulacji jak też czytał czytając książkę można mieć wrażenie, że bez sensu tak, że nie da się po prostu z Brukseli np. opanować tego bajzlu, który zbywa hodowaliśmy, pozwalając na stworzenie takich imperium w jak bez twojej perspektywy jednak regulatora, w którym wiesz jak będziesz w sen z ochroną danych to to wygląda czy to co mamy w Europie Radom to jest za późno bez sensu to jest właśnie ten instrument Trybunał potrzebne ja myślę, że to jest przede wszystkim wyzwanie to znaczenie może powiedzieć, że kiedyś było lepiej teraz gorzej ani, że kiedyś było gorzej teraz lepiej jest inaczej pewne rzeczy są łatwiejsze po dużo czy bronić łatwiej pewne rzeczy bronić trudniej pewne rzeczy wymykają nam się głównie z 1 strony oczywiście dużo trudniej nam chronić prywatność w świecie, w którym zostawiamy swoje ślady za sobą w sieci tylko Edyty Herbuś to są i będą się za nami bloku przez lata z drugiej strony mamy możliwość reakcji, które nie mieliśmy 10 lat temu mniej niż 15 lat temu wczoraj miałem okazję prowadzić do 8 uczestniczyć w Inter View prowadzonym przez młodego naukowca poszli jeszcze studenta z uniwersytetu Maastricht, który zbierał informacje o tym w jaki sposób wygląda wpły w na prawo europejskie ze strony lobbystów i porównam sobie jego pracę w dniu dzisiejszym do pracy swoich 90 piątym roku, kiedy pisał swoją pracę magisterską tematy międzynarodowe, do której napisania założyłem w ogóle pierwsze konto e-mailowe nauki na wydziale prawa Uniwersytetu gdańskiego, jeżeli istnieje ogromny artysty, który w areszcie jest poprzez jak ogromna jest zmiana w możliwości dotarcia do informacji możliwości przetworzenia informacji i możliwości szybkiej reakcji jest z 1 strony są to zagrożenia niewątpliwe, z którymi trzeba się zmierzyć z drugiej strony wyzwania również i plus rzeczy, których nie mogliśmy robić wtedy ich już lekką mgiełką konkretnie wracała z owego co robisz jest bowiem, że nie jesteś fanem książki nie są też rozmawiać, bo mamy ciekawsze tematy ale, choć to perspektywa czy my jesteśmy w stanie uregulować firmy z Platformy technologiczne, które przeszły z fazy oferowania nam darmowych usług w zamian za dane, gdyby mogła zrobić z całą dobę to zrobiła ona nigdy nie było darmowe oczywiście przeszły przez władze profilowania nas i tworzenia prozy naszych ekip awatarów Cypru, który nie kontrolujemy okazały się bardzo wpływa program, bo cała ta afera choćby wokół Facebooka i wyboru amerykański pokazuje, że jest na co na kogo i czym wpływać aż wreszcie mamy moment, w którym misie wydaje, ale też nie chyba tylko nimi, że nie mamy wyjścia trochę jesteśmy zamknięci w ekosystemach, które są bardzo szczelne i dzisiaj przedostać się gdziekolwiek w internecie nie potykając się o nie wiem kapcie czy czuć jakąś inną usługę nawet nie usługę taką funkcję, którą obsługuje trasy korporacji nie zostawią w danych to jest niemożliwe prawda byli jak mówię no rzeczywiście nie jestem wielkim fanem tego co, bo wpisze natomiast przyznam szczerze, że kilka porównań, które tam się znalazło kilka porównań również to momentów historycznych jest słuszny to znaczy rzeczywiście jesteśmy w takim momencie w jakim byliśmy na początku dwudziestego wieku, kiedy trzeba było walczyć z wielkimi trasami, które przerosły możliwości opanowania ze strony jakiegokolwiek czynnika społecznego tak powiem, ale ze strony rynku jako czynnika również czy w czasach zbliżonym do lat pięćdziesiątych sześćdziesiątych zaczęliśmy myśleć w ogóle o ochronie środowiska to są te momenty, w których przekop przez stawiamy myślenie dotyczące problemu natomiast nie znaczy to, że znajdziemy prostą odpowiedź czy proste rozwiązanie regulator w liście protestacyjnym do punktu widzenia trochę bardziej administracyjnego trochę bardziej myślącego o tym, że po tej drugiej stronie też są ludzie, którzy mają prawa raczej ci, którzy zbierają dane i też mają prawo do rozwijania swoich technologii pra w do rozwijania nauki prawa do prowadzenia różnego rodzaju badań różnego rodzaju działań, które mogą być bardzo przydatna, ale myślę, że to co regulatorzy z tego regulatorzy zaczynają sobie zdawać sprawę teraz to jest to, że nie da się uregulować prywatności bez w oderwaniu od regulowania konkurencji umowa nie da się uregulować konkurencji w oderwaniu od Telekomunikacji Telekomunikacji w oderwaniu od praw konsumenta za chwilę również w rynku energetycznego, bo przecież, kiedy zaczęliśmy mówić o smart idea smart meteringu, czyli inteligentnych systemach przesyłu energii elektrycznej i badania tego w jaki sposób jest wykorzystywana to od razu okazało się, że musimy współpracować z regulatorami z zakresu energetyki, którzy do tej pory w ogóle nie zajmowali się prywatnością, a jednocześnie my nigdy nie zaś w roku zajmowaliśmy się elastycznością życiu, zaczynając swoją pracę jako Generalny Inspektor Ochrony Danych Osobowych nie sądziłem, że musisz dowiedzieć, kto to jest operator systemu przesyłowego ma być też ono tego nie musiałam uciec został z ludźmi od inteligentnych liczników to nie wiedziałam, gdzie zacząć liczyła się, jakbym opowiada sobie internet takie od początku jako działa 01 prąd płynie płynie no tak musimy wchodzić głębiej technologie, ale wracając do wątku regulatorów, którzy się w budującej wspólny front łączą się takim wspólnym froncie Niewiem czy przeciwko temu już bać opozycji partnerskie Acta a kto słyszał o wynegocjowaniu standardów, kiedy ja słyszę, że Facebook i komisja Europejska negocjować porozumienie szczerze mówiąc mam trochę ciarki po sobie myślę i pozamiatane tak, jeżeli te co możemy zrobić wystawić naszego najdroższego zawodnika, czyli regulatora, który mimo wszystko ma jakiś kontynent za sobą do negocjacji z firmą prywatną i to jeszcze nie wiadomo co z tego wyjdzie no tylko trochę mam poczucie, że stoimy na słabych nogach i jest problem, ale może mnie przekonasz, że powinna dbać optymistyczne czy te ten wspólny front regulatora rynku regulatorami dużą konkurencją żywności są już jakiś skowronki, jakiej sprawy, które pokazują w Europie, że nie wiemy podzielimy ich ujarzmić mer co się zmieni i ja myślę, że nie można jednak podchodzić do tej pory takim prostym założeniu, że regulator jest od tego, żeby komuś czegoś zabraniać regulator nie jest od tego, żeby komuś i tego zabronić tylko, żeby tworzyć warunki do rozsądnej gry i rozsądnego działania policja nie zabraniano jeździć samochodem policja sprawdza czy robimy to w sposób zgodny z przepisami i czy nie próbujemy nadużywa swojej własnej pozycji dobrego kierowcy na drodze ja przypomnę, że równie duży szok wywoływało w sytuacje, w których Panoptykonu, ale również inne organizacje społeczne siadał do stołu z organizacjami pracodawców i potrafiły, przygotowując Rodło wystąpić ze wspólnym stanowiskiem, w jakich kwestii mu jakaś duża wtedy głosy ja wtedy też się głos, ale zaraz chwilę przecież oni nie są od tego, żeby dogadać z pracodawcami, że tam po drugiej stronie siedzą manipulatorzy przygotowali do ściągnięcia do biednego dział usług w stronę, którą na pewno nie powinien być ściągnięty, więc rozmowa musi być dyskusja może być na razie zapytać o to czy zdają sobie z tego sprawę do końca regulatorzy i muszę powiedzieć, że jest różnie to znaczy widzimy, że z różnych stron próbujemy dotykać tego samego problemu i próbujemy przynajmniej wymieniać informacjami na tyle na ile to jest dozwolone to może dziś istniejących procedurach nie jest także organy ochrony konkurencji może zadzwonić do nas rodzice Madzi mam taki temat mam tutaj we włoszech ta zawiązaliśmy komputery w firmie x i fajne rzeczy na nich znaleźliśmy wiecie może chcielibyście się z nimi zapoznać, bo one mogą nam się przydać, żeby ich do kupna z drugiej strony go tak nie można mu dobrze wiedzą podzielą, słuchając o tym, do czego mieliśmy, by się bić miarowo odejść może może być to, o czym mówimy schematy trzeba zamawiać jakieś regulacje, jakie organy i dwojakiej Janice grę wchodzi szczegół, jaki organ, gdzie i sypać przykładami spraw, ale bardziej wyobrazić sobie przyszłość czy potrafi sobie wyobrazić najlepszy możliwy scenariusz już taki, do którego byśmy chcieli dojść tak w wyniku tej współpracy taki czy innej są wielkie ekologiczne dla Platformy, które rozważają olbrzymie ilości danych o ludziach wpływają na rynek zasadzie regulują rynek po swojemu niektóre rzeczy, które ona robiona nie podobają nie, dlatego że nie lubimy go jak są niezgodne z prawem niezgodne z RODO mówi jak to miałoby wodnych przyszłości oni mieliby być innymi firmami mieliby być gospodzie leni mieliby być słabsze ekonomicznie interoperacyjność, bo tego słowa użył na początku rozmowy z tym podzielenie na mniejsze firmy też ktoś uważa Żuk opowiedział, że to bodajże kawalerowi, kiedy powiedziano, że jego firma zostanie podzielona na mniejsze to jeszcze podział haniebnym w takim razie 5 firm, które nie będą zarządza 5 różnymi rynkami nie będą się GROM Turowo 7 konglomeratu, więc patrzmy przede wszystkim na doświadczenia z historii patrzmy co zrobiliśmy dobrze w sprawie ochrony konkurencji, a wiele dobrych rzeczy zostało zrobionych co się nie udało co zrobiliśmy dobrze wprawie ochrony konsumentów, a co może nie do końca działa co zrobisz dobrze również prawie ochrony danych osobowych co co dobrze robią organy ochrony danych osobowych ostrzy sobie nie radzą, by mnie, jaka będzie przyszłość jak oni niespecjalnie lubię wymyślać przyszłości natomiast wiem, że z pewnością sytuacja, w której pojawi się graficzne bądź grupa graczy, którzy będą w stanie samodzielnie zarządzać ryzykiem to szeroko rozumianym łącznie ze stosunkami politycznymi jest czymś na czym nikomu nie zależy maturę zdało ich z graczy są wśród nas są wśród nas oni jeszcze nie rządzą, ale są rzeczywiście na samej granicy tego, żeby taką władzę po 6 to jest niewątpliwie moment, w którym musimy reagować teraz pamiętajmy, że to nie jest cecha kapitalizmu kapitalizm oparty o wolny rynek jest przeciwny takiemu rozwiązaniu monopol nie jest rozwiązaniem, do którego dość wolny rynek stąd też nie wydaje mi się, że tak proste zestawienie, że oto spotykamy się z kolejnym ruchem kapitalistycznego wielkiego brata to jest wielcy bracia to są jakieś małe siostry, która w pewnym momencie rosną do odpowiednich potęgi nie wiem czy utrzymają się na rynku te podmioty, które dzisiaj rządzą natomiast byłem nie tak dawno temu z o swoją dwunastoletnią córką na koncercie pewnej gwiazdy pop i tak gwiazda pop w zarządach placement Hej, hektarowi zajmuje w pełnej gwiazd o ptaku w i tak gwiazda pop powiedziała, że to są tunelu są tu na sali ludzie, których znam z czasów MySpace ja nawet cha cha cha nie zdziwiło mnie, że muszę opowiadać w mojej córce z tobą MySpace, ale zdaję sobie sprawę, że 1617 latkowi też musiałbym opowiadać to są rzeczy, które nie istnieją na rynku w niczym ten rynek jest jest, bo niezmienne, choć oczywiście masz rację, że ci, którzy doszli w tej chwili do pozycji wielkich graczy utrzymają się do nich zapewne odmienna oni odstawili je w na swoje szczęście może gorzej dla nas nie konkretną usługę, ale właśnie zarządzanie nowym ekosystemem usług, a wręcz siecią koszta zawodu sieci miała też nie spieszy się czegoś przekładać jakieś stare rozwiązania z konkurencji Niewiem główny siatkowe z firmy na mniejsze, ale może takie rozwiązanie bliskie temu co się stało ze przesyłamy cieszą się sami też cały gaz czy prąd w przeszłości jak zostało rozdzielone funkcje raczej funkcję tych różnych sieci, a nie podzielone spółki tak po prostu, żeby były mniejsze to mogą być ciekawe, ale zostawmy to skoro nie chce się spekulować o przyszłości Bremen o tym co dzieje się teraz w Europie, o ile mi wiadomo, że komisja Europejska jest bardzo dumna z tego, że wymyśliła taki pomysł na konkurowanie właśnie tym z Zachodem z doliną Krzemową tym, że u nas rozwój tzw. sztucznej inteligencji chce go nigdy nie miała oznaczać będzie etyczne będzie ta inteligencja, którą budujemy będzie godne zaufania pojawił się pomysł i wytyczne trochę wstyd ja my i pomaga tym właśnie taki, że zaczynamy się ludzie budzą się realizują to, że także norm znaki najgorszej wersji maszyny przy mogą przejąć kontrolę nad umysłami nawet tutaj inna książka pewnie Harry i jego Homo Deus mogłaby się nam skojarzyć także jest taka narracja o tym jak to się poddamy władzy inteligentnych maszyn, które nam to wszystko poukładają trochę lepiej był właśnie regiony będą złe maszyny będą kontrolowane przez kapitalistów to nie będzie dobrze czy mnie trochę kończące pół żartobliwie spekulacji wracając na grunt ten polityczny jak postrzegasz ten projekt etyczny w ewidencji czy w ogóle budujemy coś takiego w Europie strasznie dużo tematów poruszyła jednocześnie powiedział, że to co paraliżu to jest 1 rzecz, zwłaszcza jeśli rząd ich do 8 mniejszych wniosków dochodzi czasem Bosch którą, który w swojej Super inteligencji w książce Super inteligencja napisał, że być może, że ten moment sił zdarzył i to co my widzimy w tej chwili to nie jest już świat, który jest światem rzeczywistym tylko raczej Matrix tak Czyż może być niezauważalny dobrego momentu to inteligencja przejmie kontrolę, ale to oczywiście jest w ramach spekulacji teksański trotyl i chciał prowadzić myślę że, czyli ciekawe są 22 inne wątki pierwszy to właśnie to czy ktoś powinny państwa bądź organizacje międzynarodowe w tym zakresie i drugie tego co dzieje się dzisiaj i czego oni nie dostrzegamy jako sztuczna inteligencja to jest sztuczna inteligencja, zaczynając od tego drugiego punktu czy tego czy Europa wymyśliła sobie słusznie, że będzie działał w w kwestiach etycznych to znaczy, jeżeli Europa uważała by, że to jest rozwiązanie problemu tobym się nie zgodził natomiast, jeżeli się zapytam czy to dobrze, że o tym, myślimy czy to dobrze, że od tej strony to rozważamy to powiedział, że tak zdecydowanie tak zdecydowanie dobrze, że robimy to w tej chwili nie wiem czy Europejska sztuczna inteligencja cokolwiek miałoby oznaczać to sformułowanie będzie bardziej godna zaufania w związku z tym, że zagraliśmy i reszta pytań etycznych natomiast wiem, że te ileś pytań etycznych trzeba zadbać, o której zadaniem regulatora czy firma, która tworzy takie rozwiązanie bardzo ciekawe pytanie, ponieważ jak powiedział, że jednak powinni jedni drudzy zadawać to znaczy, jeżeli stworzyły sobie model biznesowy polegający na tym, że robisz coś co stało się to co w coś robisz jest faktyczna, jeżeli produkuje się telefony i po prostu twoja firma zajmuje się produkcją urządzenia to patrzy na to gdzie i produkuje już czyimi siłami produkuje aż, w jakich warunkach produkuje, nawet jeżeli ktoś nie dzieje w Europie tylko w gali w Kongo czy Bangladeszu, czyli musimy zdawać sobie sprawę z tego, że ci, którzy tworzą modele biznesowe są odpowiedzialni również etycznych tego modelu, a w Iranie i zachowanie co prawda mecz może my uważamy, że stała, ale oni mogą tak nie uważać mogą wariować dla nich zrobić z zysku nie to nie jest tak, że oni są zasady złożyli oni zdają sobie sprawę z tego, że nawet, jeżeli chcieliby robić tylko zysk to w którymś momencie zostaną rozliczeni z tego co co zrobi i w którymś momencie zdarza się pić, bo pan, że przypomnę tragedię chemiczną zdarzy się jakich zdarzeń, które mu w Łodzi Winter to co jest problemem to jest rzeczywiście problemy dla ekonomistów dla tych ludzi, którzy zajmują się zarządzaniem to jest to, żeby krótkoterminowe cele nie zdominowały tych długoterminowych jak chciał, żeby długoterminowym celem tak dla przedsiębiorców jak i dla państwa nie twierdzę, że regulatorów dla państwa było to, żeby to co dzieje się na rynku było nieetyczne, więc pod tym względem jest na co natomiast bardzo ważną częścią również wkład pracy, którą wykonujecie w panu tylko oni jest to, żeby patrzy dzisiaj na to co dzieje się już teraz powinni mówić, bo science-fiction to nie jest Kongres hydrologiczny dojazd nie wiem ile wolnej dominacji tylko mówiły o tym co dzieje się dzisiaj dlatego muszę bardzo podoba podoba np. idea, którą goście stworzyli sprawdzenia tego w jaki sposób przeprowadzony z kolei w bankach w jaki sposób działają firmy ubezpieczeniowe od, oceniając klienta, gdzie to jest robione przez człowieka, gdzie te zrobione przez maszynę maszyny w cudzysłowie oczywiście, bo to jest system informacyjny, który to robi i ciekawe pytanie, które jest źle, który jest bardziej z prawidłowo rozwiązań czy to, że rosyjscy mniej dyskryminacji Ukrainek High est przecież udowodniono, że w i w Izraelu udowodniono, że wysokość kar w postępowaniach karnych jest ściśle skorelowana z odległością pomiędzy orzekł pomiędzy wydaniem orzeczenia, a Lancerto w, że bardziej głodni sędziowie są ostrzejsze w swoich ocenach, więc mu mówię tu mogą być bardzo różne sytuacje, z którymi mamy do czynienia i dzieją się one teraz to jest też tak jak dyskusja na temat autonomicznych samochodów ja uwielbiam skorzystają autonomiczny samochód o Rydzyka w bojach lechity opornie angażować swojego tylko żona jest fajne na zasadzie pewnej przyszło nowe prawo jazdy równie nagłego poświęcam dużo uwagi rzecz, która w sumie tak magii mogłaby za medale w SP z inwestycji, a za komiks zachęcał ludzi zdrowo swoim stwierdzeniem natomiast to co się dzieje ważnego, jeżeli chodzi o przetwarzanie danych i panowanie nad naszymi danymi dzieje się dzisiaj z połączonymi samochodem blisko taktyka z oczywistym, że już dzisiaj samochód jest największym urządzeniem mobilnym, który zbiera informacje o nas przekazują na zewnątrz poza tym od czasu, kiedy dowiedział się, że istnieją sieci społecznościowe dla samochodów o tych, w których 1 samochód kontaktuje się z innym samochodem poza plecami kierowcy, przekazując mu informację o tym jak wygląda droga i natychmiast wyobraziłem sobie, że powstaje film, który tzw. zaufana strona trzecia, która robi to nie tylko dla volvo jako pierwszy przez lud przyznał się do tego, że ich samochody com kontaktują się z kolejnymi samochodami jadącymi tą drogą, zostawiając im informacje o stanie nawierzchni tylko pojawia się stres zaufana strona trzecia, która zbiera od wszystkich użytkowników drogi tego typu informacji dla bezpieczeństwa i znów no i o to, żeby ten gen Heinz mając zbyt głośno umysły, ale i klienci mogą lepiej działać, więc na koniec teoretycznie wszystkich wszyscy zyskujemy, ale właśnie czy one zaczną nami zarządzać, gdyby zarządzała nami także uniemożliwiają taki dziwny ruch na drogach, które się w Warszawie są bardzo popularne tanie zajeżdżanie komuś, bo się spiesz się zmienia pas co 15 sekund jadę szybciej wolniej Drawsko było wycinane przez ów połączono umysł może rzeczywiście mielibyśmy bardzo realną korzyść nie tyle z etyki tego umysłu połączonego co w jego racjonalności po prostu, ale myślę, że właśnie w tym momencie czas postawić pytanie etyczne, czyli pytanie do czego możemy wykorzystywać informacje, które zbieramy, nawet jeżeli zbieramy je w celu czy możemy dokonać możemy dokonać zmiany tego celu czy może wykorzystać do czegoś innego to tu wracamy do punktu, który poruszyliśmy już 2 × tego straszliwego słowa interoperacyjność, czyli połączenie ze sobą różnych systemów informatycznych i to połączenie nie tylko od strony technicznej, ale również doprowadzenie do tego, że one będą nawzajem rozumiał informacji, która przychodzi z tego innego systemu to rzeczywiście jest to ściema, bo w tej chwili do czynienia już od kilkunastu lat co najmniej, ale w tej chwili to lawinowo wszelkich we wszelkich środowisk, gdzie pojawia się nowa technologia informacyjna z Unii Europejskiej widzimy to przy próbach połączenia baz danych europejskich i krajowych dotyczących szeroko rozumianego bezpieczeństwa, czyli od systemu informacyjnego Schengen przez system wizowy przez systemy zbierające dane o pasażerach przez system antyterrorystyczny przez systemy zbierające informacje o sytuacji finansowej tak dalej tak dalej tak, ale on w GP Formuły i pomyślałem ze wszystko wszystko widać efekty dla kobiet liczba jest widoczny dla każdego ICO bez granic nie mamy znamy program kosztuje on teraz właśnie po pokaźnym przykład innym bardzo praktyczny, gdy spotykamy się temu również w Polsce to są również przykłady z Polski z miastami, które postanowią o pomóc swoim mieszkańcom poprzez to, że będą w stanie udzielać im pomocy w związku z wszystkimi cechami, które ten mieszkaniec posiada, czyli zebrać całość informacji o obywatelu, których zasobach miasta jest ona ogromna oczywiście oraz osobach systemów informacyjnych, których miasto ma dostęp po to, żeby lepiej służyć mieszkańcom ja naprawdę wierzymy, że miasta sądzą, że w ten sposób lepiej służą mieszkańcowi co więcej uważam, że w 80 % przypadków rzeczywiście tak będzie, ale wielkim przypadkiem w ciężkim pytaniem jest to czy przyjęcie informacji zebranych dla 1 celu i użycie jego zupełnie innego celu, aby na pewno jest zgodne z etycznymi sceptycznym podejściem do człowieka czy to, że coś co ktoś ją ujawnił ze względu na to, że chce być lepiej leczony powinno być wykorzystywane do innych celów przez Administracyjny administrację publiczną to są pytania, które stawiamy na poziomie europejskim w tym po przy tych połączeń przy tych Inter przy tej interoperacyjności, czyli punktualności Airbus europejskich i które są zawsze bardzo trudne, bo to odpowiedź ze strony tych, którzy te bazy prowadzą i po raz kolejny powiem chciałbym używać po raz kolejny powiem, że w dobrym c w dobrej wierze to robią jest taka im więcej będziemy wiedzieć, tym bardziej będziemy w stanie zapobiegać pewnym zdarzeniu Nowak cała cała kwestia verso predykcji i próby zorganizowania człowieka w bardziej racjonalny tani sposób no to znowu dla mnie to jest taka narracja Bośniak GieKSy jest karany jego kraj jest uwodzicielska mamy bajzel nie radzimy sobie z pewnymi zjawiskami źle zarządzamy środowiskiem raczej w ogóle po prostu niszczymy energią ruchem drogowym własnym zdrowiem źle wiemy, że ruszamy nowo po prostu uporządkujmy się, a ponieważ człowiek jest bardzo o taki podatny na emocje na stany zmienny jest cnotą narzucił mu system, którego wyreguluje i to będzie zabiegał o to dlaczego nie możemy nie możemy doprowadzić żaden sposób traktować jak tutaj jest bat pierwszą turą będzie protestował jak syn próbuje przypomnieć muzykę, której słuchają mając 16, który do dzisiaj lubię słuchać czy to uważam, że mogę zostać uznane za niebezpieczeństwo dla ludzkości z tego powodu, że ich słucham Dezertera, który w piosence chciałam wiedzieć zachowajmy te wrażliwe dane te ruchy w tajemnicy ale gdy ta właśnie chyba mówienie części o tym, że mamy tego typu informacje, że tak, gdy wraca do nas dziś istnieje umożliwia zobaczenie na czym polega zagrożenie w 1 z sieci społecznościowych moim kolegą moim przyjacielem z trendem w rozumieniu tej sieci jest brat znanego przestępcy znanego gangstera, tak więc oczywiście na tej podstawie można oceniać ja mam jakiś powiązanie z tym środowiskiem mają powiązania oczywiście polega na tym, że chodziłem do szkoły no i chodziliśmy do szkoły na dom w slumsach dorosły derby rozgrzały było naprawdę integracyjnym w sobotę spotkać każdego z dzielnicy nie biznes na Zachodzie do takiej szkoły, które można było spotkać każdego do dzielnicy słucham takiej muzyki, która dziś mogą być uznane za nawoływanie do przestępstwa spróbujcie państwo sobie wyobrazić dzisiaj, że usiedzieć przed telewizorem i obejrzycie np. urodzonych zabójców nad Łabą Killers z PS z tym bagażem wiedzy, które macie po 20 kilku lat od ich powstanie zbudujcie sobie wyobrazić na czym polega za zaoferowanie przestępcą, który wtedy zostało pokazane, dlaczego ten film, bo się podobało sam fakt, że się podoba może wydać się 2 może wydać się niebezpiecznie rodzącą są 2 wątki Brnie nie mamy już mi dużo czasu, żeby w Niechorzu głębiej, ale chce jak pokazać, że jest wątek naszej samoregulacji takiej takiego marzenia każdego człowieka, żeby stawać się w najlepszym rozumieniu takim, jaki marketing nam kreuje podpowiada, czyli np. bardzo atrakcyjnym na rynku pracy bardzo atrakcyjnej części społecznej i tutaj wchodzą te wszystkie apteki i ulepszaczy, które sobie sami podpina my być może nie będą w stanie przewidzieć tego jak miasto zmieni tak za lat x i drugi poziom to jest ta regulacja państwa, o której elementy ciekawie opowiadać mówiąc o programach miejskich programach unijnych o tym, takim Total Information aurę z takim oglądaniu wszystkiego po to, żeby przewidzieć, kto coś źle zrobi nie ukrywać niebezpieczne nie chcę tego oceniać, że oba te nurty są dosyć przerażające i o ile w tym drugim tym państwowym mamy regulację prawną łamać organy jak i jak ten, który ty dzisiaj reprezentujesz, które się nad tym zastanawiają, a z kolei w tym pierwszym nurcie, gdzie sam się regulujemy dążymy do perfekcji w zimie jakiegoś genu jakiś wygranej społecznej zawodowej w zasadzie nikt nas nie ograniczaj może być wszystko oddać obudzimy się z ręką w nocniku proszenie wciągać mnie dyskusja na temat tego czy Legia może pomóc ich dobra obiecuje obiecuje, że nie, ale już takie w takim razie, podsumowując ten wątek wagi zagrożeń czy trudnych tematów czy ty masz takie swoje najtrudniejsze Cypr najtrudniejsze sprawy, które widzisz na horyzoncie jako regulator i jako jako osoba, która ochronę danych no no mama głęboko w sercu w sumie jak mogę powiedzieć oto co się martwisz się co nas zaskoczy albo przeskoczy ja myślę, że jednak cały czas moim stałym o ogólnym zmartwieniem są różnego rodzaju aplikacje, z których korzystamy nie zdając sobie sprawę z tego, jakiego rodzaju informacji zostawiały teoretycznie wyrażają zgodę w powodzi, kiedy podpisujemy regulamin przepraszam mówi tego, kto w ten sposób Itaki tonuje te słowa, ale tak regulamin podpisywany jak zgoda co oczywiście w stopniu trudnymi słowami szczególnie dla prawnika, który chciałby z nich wyciągać jakiś rozsądek nawet rozsądne działania, jeżeli zdamy sobie sprawę z tego ile aplikacja znajduje się na naszym telefonie i aplikacji używa nasz komputer miał Cat używana samochód i o ilu jesteśmy w stanie rzeczywiście powie do tego służą w mało, bo można się przerazić można zdać sobie sprawę z tego rzeczywiście zostawiamy za sobą zbyt dużo śladów śladów, które mogą być bardzo różny sposób wykorzystane to jest to jest moje główne punkty zainteresowania, gdzie nie znam odpowiedzi w jaki sposób sobie poradzić z problemem pomyśli, że w przypadku baz prowadzonych przez państwo również patrząc na to w tej chwili z punktu widzenia Europejskiego regulatora, który wie co dzieje się w Europolu wie co dzieje się w agencji już Liza, która zajmuje się różnymi bazami mogę powiedzieć, że regulator jest w stanie wpływać na to w jaki sposób działają tylko organizacji doprowadza się do rozsądnego kształt zdarzają się też trudne pytania etyczne ludzi bardzo trudne pytanie jest wycinana czysto prawne okazuje się, że tak naprawdę najtrudniejsze pytania są to Super naprawdę pytanie o to czy to na pewno warto robić szum drzew na pewno macie podstawę prawną do robienia tego, więc mówię nie boi się tak bardzo wielkiego brata państwowego, choć uważam, że trzeba w nim ciułaczy boi się natomiast bardzo zostawienie informacji o sobie i ich ewentualnego wykorzystania czy to będzie system państwowy jak w Chinach to słynny z tamtejszy system od jedno nazywany bywa systemu kredytu społecznego to nie jest kryzys może być ocena z Unii bardziej z kortu społeczny to jest kolejny społeczny toczy się tam złóż to słowo kredyt w angielskiej angielskiej nazwie, ale ono znacząco innego oznacza ocenę de facto strój czy ty czy to będzie właśnie stąd państwo czy to będzie system, które będą tworzyły inne czy przedsiębiorstwa czy Platformy czy może i być może grupy interesu to już byłby ma długą wzdłuż Bugu bardzo ostrożne podam taki przykład 1 z krajów Unii Europejskiej News, któremu o, których chodzi, gdzie na fakt, że banki wymagały zbyt dużej liczby informacji od klientów, prosząc ich o dane dotyczące wszystkich przelewów, które wykonywali na wszystkich kontach, które mieli reakcją na to tamtejszego odpowiednika związku z rynku w związku banków polskich było zaproponowanie rozwiązaniami na zasadzie kodeksu dobrych praktyk że, żeby nie było także jedni zyskują drudzy nie uzyskują wszyscy mogą uzyskać kilogram powiedział nam to było otwieramy punkt, a my jesteśmy w tej chwili bardzo trudnym momencie, bo będzie, gdy z 1 strony mówimy o bezpieczeństwie danych finansowych, a z drugiej strony mówimy o realizacji dyrektywy PSD 2 PSD 2, czyli dyrektywy o otwartych z o usługach finansowych m. in . gdzie zasada, że dajemy dostęp do danych klienta, a jednocześnie znamy klienta bardzo dobrze, bo musimy realizować zasady związane z po z zapobieganiem praniu brudnych pieniędzy doprowadzenie sytuacji, że te dane się rozpływają, a my zostawiamy cały czas zostawiamy je w i w każdym miejscu tym używamy karty, który wykonywał wykonujemy operacje, ale on my zawsze mówię, że nie tyle zostawiamy co są one nam w głoszenie wykradł dane są obserwowane generowane odgadnie zwane tak czy są poddawani o wiele głębszy obserwacji i analizy niż sami świadomie czujemy, bo to co my udostępniamy przekazujemy do systemu to jest tylko czubek góry lodowej, ale to już jest jakby moja mantra, żeby po prostu też podkreślać, że to nie jest tak bardzo też nasza specjalność zatrzymanie tego systemu, który mówi że, ale to jednak jest przybija Empik konsekwentnie jaz nawodna na pole tych, którzy zbierają to oni muszą być pilnowani muszą rozumieć że, że chcą trochę trochę za dużo no dobrze, ale jak zwykle, jeżeli możemy przejść nasze polskie poletko, jeżeli jeszcze jeszcze mini obserwuje co dzieje się w naszym kraju zaczęłam od spełnienia tego, że mamy nawet nową regulacją unijną nową już prawie roczną RODO, która ma tak jak rozmawiamy obojgu nam wydaje się bardzo potrzebna i bardzo na czasie w kontekście tych globalnych wyzwań właśnie rozwoju profilowania inteligencji sztucznego zrobią banki tego co robił Urbańska, a w Polsce w te wielkie wrażenie, że wdrożenie RODO przebiega pod hasłem wielkiego absurdu jak trochę nie rozumiem, dlaczego tak jest ja oczywiście obserwuję bardzo dokładnie co tu dzieje w Polsce natomiast za żaden sposób nie mogę tego oceniać pozew, który w tej chwili znajduje, czyli zastępcy Europejskiego inspektora ochrony danych oznacza, że z 1 strony formalnie on robi tego robić nie wolno mi wysuwać ocen dotyczących państwa, bo wniosek SLD oraz Piotr deska IOD jak to w głębi Polski skrót PJN tej instytucji w 2 zdaje sobie sprawę z tego, że byłoby to mocno nie fair w stosunku do również polskiego organu ochrony danych polskiej już od polskiego prezesa urzędu ochrony danych, które ma pełne prawo do tego, że to wyrażać opinie regulatora regulatora w Tbilisi zajmującego się prywatnością jako jedyny w Polsce Niemczech jak nie wiadomo oczywiście oceny regulatora tylko raczej tego co się wydarzyło na rynku co wydarzyło się w rozmaitych instytucjach też publicznych szkołach szpitalach sklepach internetowych, gdzie się, żebyśmy różnili w tym co się wydarzyło od innych krajów Europy oczywiście nasilenie tego bywa różne ja się czasem cieszymy z tego, że znajduje się w różnego rodzaju absurdy związane z RODO, bo to oznacza, że w ogóle się dostrzega w kwestii, ale że są w sposób taki kuriozalny, bo żyć mówią, że nie wiem nie wyda mi płaszcza, bo nie udzieliła nam zgodę na już Niewiem na co także, że potrzebuje mojej zgody n p . żeby żeby, żeby wydać mi Świder, który potwierdza mi to, że ja zostawiam ci przedmiot w przechowalni albo albo dziecko w przedszkolu ognistą salsą są takie sytuacje ze wszystkiego robi się zgodę, gdzie RODO jak pewnie już myślę, że słuchający nas mam nadzieję, że wy też powiedzieć, że nie zaprasza nas na to czekam tylko aorta mamy dużo o urodę o tym jak to powinno działać zgoda jest 1 z 6 podsta w przetwarzania danych i to on taką najsłabszy powiedziałabym tak najrzadziej używaną i 5 w no właśnie widz co w wyrobie wszędzie zgoda ja mam taką hipotezę, że w Polsce nami trudno się odnaleźć wprawie, które jest tak elastyczne i taktem inteligentne swej konstrukcji, że nie nie ma tam kazuistyki, która mówi jeśli Adobe jeśli robisz to to musisz zrobić tamto itd będzie dobrze tylko musisz jednak myśleć i musisz podejmować ryzyko i wyciągać wnioski to jest dla nas trudne tak kulturowo społecznie, ale może się mylę mam nadzieję, że zgodzimy się z tym podejściem zgodził się to podejście jesteśmy niewątpliwie kraje, bo prawa stanowionego, które lubię wszystko jest napisane jak jest napisane czy można udzielić, jaki Ciech jest napisane nie wolno deptać zieleni to można również to można przy okazji DT to co żółte chętnych do chrztu zawsze bronił się przed odpowiedzią potrzeba jest więcej edukacji potrzeba jest więcej świadomości z tego powodu, że to jest reguła odpowiedź trudnej prawdy i Niemiec opowie on mówił o potrzebie wiedzy edukacji na temat sprawy, że potrzebuje oczywiście politycy teraz zajęli waga jest przekaz kampanii do placu Sobieskiego jest trochę rozmowy o tym jak to, więc przedsiębiorcy Big brothera zostali zagubieni w nowej regulacji aha, więc może doczekamy się moment, w którym duże pieniądze publiczne pójdą na ten cel nie ma złotego bardzo życzę wam się w pro Bono Joannie zachęcali Cyganeria Ruda wielka albo tego zrobić je lubię Żyda bieli, które w niektóre fragmenty tych programów politycznych tylko oczy konferencji prasowych, które się w ostatnich tygodniach odbywały, a które dotyczyły RODO rzeczywiście wywoływały zaskoczenie, bo spodziewa się akurat tak Ostrowa były też testował politycznego spektrum będzie oponował przeciwko RODO, a 1 popiera miał okazję na żywo w 2 jest, że mamy te same problemy co inne kraje też ten sam sposób oceniane widzieliśmy się, że dała pierwszą stronę gazety trafiają absurdy logo aniżeli państwowe dziś na dowolny serwis informacyjny łącznie z tymi, które uważacie za bardzo obiektywne to zobaczyć, że połowa informacji dotyczy skandali tych twórców założeń jak w tej chwili mediów tego typu wiadomo, że w sprawie rozporządzenia o ochronie danych osobowych bardziej od zasady rozliczalności sposobu jej wykazania go sprzedają się informacje dotyczące Boga różnej fazie tego nie nie można określić tak czy pewnych pewnych nie nieporozumień co najmniej, jeżeli świadomego manipulowania tego co przyda wiadomo, że mogliśmy ogłosić po prostu wydania w podcaście, że szukamy dobrego narratora gospodarek jest kryminał albo dobry serial albo coś z RODO w zachowanych w tle może być Lech i samochodach inteligentnych myślę, że jakoś to przymkną oko nie rób tego tematu ale, ale w życiu przydaje to po to, chętnie może być o ochronie zdrowia może być też obawy europejskich, ale będziemy tłumaczyć, dlaczego tego potrzebujemy językiem sensacji w takim razie w Libanie Rainera jestem za jest wstanie ufundować indywidualną nagrodę Bafta dla tego, kto w najlepszy sposób będzie w stanie wyjaśnić czy kwestie związane z ochroną prywatności przemocy prosty przykład w na dobre tak nagraliśmy to ogłosimy niebawem bardzo zależy dziękuję ci za te, że zgodziła się tak to wydrukować i ich przeszłość swoją i w przyszłości może to jest trudne zgadywać przewidywać będzie działo też nie wiem, ale muszę przyznać, że nikt nie jest z powodu niepokoju gdzieś wisi w powietrzu, więc cieszy mnie, że mamy regulatorów mądrych i żonom ludzi, którzy marzą o tym, rozmawiać dla mnie to była duża przyjemność był ze mną ze studia w Brukseli Wojciech Rafał Wiewiórowski bardzo dziękuję dziękuję bardzo ja pozwolę sobie chyba sam koniec powołać się do tyłu dawną wypowiedź Jakuba Słowika kiedyś dziennikarza komputer mordu, który powiedział, że on lubi polską Polska jest w zasadzie frajda czy w zasadzie się pewne rzeczy udają i to myślę, że jest dobre podsumowanie na to w jaki sposób toczy się również ochrona prywatności w Polsce jest w zasadzie lepiej niż budżet w latach dobrze przyjmuje to za dobrą monetę mówi Białas mówiła już kończymy Katarzyna Szymielewicz i jesteśmy także spotkać się ono tylko 40 to takie trochę świąteczne dla mnie rocznicowe może wydanie dziękuję, że byliście z nami i jak zawsze jestem ciekawa tego z czymś czym kończycie, czego ci słuchacze w przyszłości gości słyszeć jakieś wątki poruszać dziękuje i do usłyszenia dewizy technologie i człowiek człowiek i technologie, gdzie na tym styku czekają na nas zagrożenia jak korzystać z technologii, by na nich skorzysta jak kontrolować, kto gromadzi ona z informacji do czego ich używa z ekspertami praktykami rozmawia Katarzyna Szymielewicz z Panoptykonu 40 podcast tokfm PL i fundacji Panoptykon Zwiń «

PODCASTY AUDYCJI: PANOPTYKON 4.0

Więcej podcastów tej audycji

POPULARNE

DOSTĘP PREMIUM

Teraz 30% zniżki na Dostęp Premium! Wybierz pakiet "Aplikacja i WWW", aby słuchać podcastów TOK FM na komputerze i w aplikacji mobilnej już dziś.

KUP TERAZ

SERWIS INFORMACYJNY

REKLAMA
REKLAMA
REKLAMA
Przedłuż dostęp Premium taniej!