"Cyfrowy wyścig zbrojeń za kilka lat może być już nie do zatrzymania". Prof. Zybertowicz o manowcach rewolucji technologicznej

AUTOMATYCZNA TRANSKRYPCJA PODCASTU

Witajcie w podcaście Panoptykon 40 mówi Ewa Katarzyna Szymielewicz jestem prawniczką i prezeską fundacji Panoptykon, która reaguje na zagrożenia związane z rozwojem nowych technologii to co dzieje się na styku tej technologii człowieka ponadto konie 40 mam ten komfort, że nie wykonał do ustaw nie gadam z politykami, ale mogę zrobić coś ciekawszego mogę zajrzeć na zapleczu tych technologii przemyśleć to, skąd się wzięły co tak naprawdę zmienia w naszym życiu jak Rozwiń » działają i rozmawiam o tym z ludźmi, którzy wiedzą wiedzą, bo badają wiedzą są praktykami i to wiedzą potrafią ci dzielić technologie i człowiek człowiek i technologie, gdzie na tym styku czekają nas zagrożenia jak korzystać z technologii, by na nich skorzystać jak kontrolować, kto gromadzi nas informacje do czego używa z ekspertami praktykami rozmawia Katarzyna Szymielewicz Panoptykon 40 podcast tokfm PL fundacji Panoptykon dzień dobry witam was serdecznie w studiu dziś Katarzyna Szymielewicz wracamy do normalności, choć dla mnie ten podcast będzie szczególne i myślę, że za chwilę okaże się, dlaczego obiecuje głębokie nurkowanie w temat ryzyk zagrożeń, które niesie rozwój technologii, więc fundamentalnie to co nas spotka się najbardziej interesuje zrobi to razem z osobą, której prace intelektualną publicystyczną od lat obserwuje z rosnącą ciekawością, szczególnie że nasze perspektywy 10 lat temu, kiedy ja swoje refleksje dopiero rozpoczynała pewnie nie były bardzo zbieżne z roku na rok stawały się coraz bardziej zbieżne duże radziłam powiem powiem kim jest Osowa oczywiście, że powiem to jest prof. Andrzej Zybertowicz witam serdecznie panie profesorze tam także myślę że, że nie trzeba przedstawiać, ale troszkę to zrobię oczywiście socjolog profesor związany od lat z uniwersytetem Mikołaja Kopernika w Toruniu publicysta doradca w biurze bezpieczeństwa rodowego szczególnie spraw cyberbezpieczeństwa no dla mnie przede wszystkim autor samobójstwo oświecenia świetnej książki wydanej w 2015 roku, czyli w momencie, kiedy dla większości osób obserwujących z tych technologii człowieka cały czas ten rozwój technologiczny kojarzył się pozytywnie to był może ten moment przełomu właśnie, kiedy krytyka fala krytyki zbierała pan już napisał książkę, o której można powie chyba tylko nawołuje alarmistyczne nawołujące do przebudzenia, bo czytam teraz opisu książki taki akapit są tam takie tezy m.in. jak nowe technologie neuro biją na no oraz sztuczna inteligencja przybliżają moment, gdy my ludzie zostaniemy zwolnieni z obowiązku istnienia osiągnięcia neuronauki przybliżają moment, gdy człowiek takiego teraz rozumiemy stanie się zbędny rewolucja cyfrowa grozi bowiem cyfrowym totalitaryzmem nowymi formami koncentracji nierówności władzy wreszcie eksplozją sztucznej agencji, za którą nie nadąży żaden ludzki umysł no właśnie przede wszystkim jestem ciekawa jak będzie widzi ową rewolucję technologiczną co to jest to jest trend, który obserwujemy z boku nic nie możemy z nim zrobić to jest polityczna zmiana, którą możemy powalczyć spróbuje to 3 punktach jeszcze bar pierwszy punkt ważne zastrzeżenie nie jestem wyłącznie autorem książki samobójstwo oświecenia napisał ją zespół 4 osoby obok mnie masz już zza rzeki Kasia tam morska Mateusz Trawiński Jan Daszewski wuj jest dwoje z nich obroniła mnie doktoraty w tym 1 dotyczący właśnie zagrożeń dla prywatności, czyli spraw, które są dla pani bardzo ważny od lat w tym się pani specjaliści też pierwsza druga rzecz pełen tytuł książki jest taki samobójstwo oświecenia znakiem zapytania po tytuł jak euro nauka nowe technologie pustoszą ściśle i trzecia rzecz jest ważna związana z lekturą, którą pani poleciła bez portalu Boston Review nieznanego wcześniej wygląda NATO w dalszym tekście bardzo dobrej jakości i sądzę, jaki jest kontekst pytania Otóż autorzy mówią, że scenariusz apokaliptyczna, a my w tej książce rysujemy pewien apokaliptyczny scenariusz sami zresztą przestraszyliśmy, że doszliśmy do wniosków jak zrobić w analizie trendów, które odmieniają dzisiejszy świat staliśmy, że zidentyfikować trendy dominujące jako 1 z tych dominujących trendów, który przy walce wuja Rozbark sumuje wszystkie instytucje społeczne wzorce kulturowe itd. to była automatyzacja procesu, żyjąc od 1000 lecie, ale od rewolucji cyfrowej nabrało zupełnie inne wymiary jak odczytaliśmy najbardziej prawdopodobną trajektorię tego trendu to się przestraszyliśmy, a w tekście, którym pani poleciła Boston Review, który z zainteresowaniem przeczytałem tam jest celne powiedzenie rzecz, która mnie męczy od dłuższego czasu może taki kontekst wiele osób uważa, że nic nie można z rewolucją technologiczną zrobisz no właśnie zakłada, że determinizm technologiczny i to jakby walec, który idzie swoją drogą my możemy w procesach, które przez technologie są wytwarzane uczestniczyć skorzystać, ale nie jesteśmy w stanie się przeciwstawić tak jakby jakby zmiana technologiczna nie była współtworzona przez człowieka nie była w pewnym czytam projektowana przemyślana w czasie projektowana wymyślona przez człowieka tak jakby firmy nie działały w tym start-upy w tym giganty technologiczne w ramach wyznaczonych nadal przez prawo jak już niemożna było instrumentami prawnymi w ogóle nic zrobić takie myślenie apokaliptyczne mówiłem autorzy tego tekstu prowadził już bardzo dobrego do wyuczonej bezradności pracuje się z tym trendem tak, że kibicowania może albo przerwania z wynikami co tu się wydać całego kraju perwersyjne ego, jaka piękna katastrofa szczeka prawda na to są efekty zmian niewiarą w to, że ludzkimi instrumentami, a jednak wszystkich instrumentów jest rozmowa, w której szukamy wspólnej definicji sytuacji wspólnych metod radzenia sobie i od lat, gdy proponuje pewne rozwiązania nie chce, by sprzedać nasze rozmowy mówić, jakie one mogą, jakie mogą być o tym, zaś o głos standardowej, że to jest niemożliwe no właśnie, jaka jest pańska perspektywa, a moja perspektywa jest taka, że granice determinizmu społecznych wyznacza ludzka determinacja to znaczy trzeba testować możliwości ludzkiej podmiotowości dopóki jeszcze mamy właśnie w tej książce tam między nimi taka teza, że od czasu sieć zmienia technologie, czyli od czasu internetu, którego kolejnym krokiem tego sieciami technologii oczywiście będzie internet rzeczy i tutaj straszne 52 o nastąpiła zmiana relacji między człowiekiem technologię od tysiącleci człowiek był panem technologia ba sługą to nie był bierny sługa, bo tutaj oczywiście pracuje dialektyka Hegla, który pokazał czym bardziej cenny dla pana siły niewolnik czy usługa, tym bardziej pan uzależniony od swego broń, ale cały czas pan zachowywał przewaga nad niewolnikiem, a ludzie zachowali przewagę nad technologią, jaką zbiorem narzędzi za pomocą, których rozwiązujemy swoje drobne przykład można go rozumieli zasady działania, aby mogli naprawić to jest rannych kluczowy element natury od czasu 62 i technologii ona zaczyna ewoluować autonomicznie dzisiaj sama architektura internetu życia albo szerzej świata cyfrowego jest tak złożona, że nie wiem czy ktokolwiek to potrafiącą ogarnąć, a ewolucja technologii proces innowacji w tym innowacji algorytmów, które same piszą kolejne algorytmy to jest coś tak złożonego, że przekracza nie tylko zdolność ludzkiego jak choćby umysłu, żeby ogarnąć jakiś Adaś niedawno powiedział nie ma ludzkiego najwybitniejszego umysł, który rozumie, aby wszystkie zasady praw fizyki oraz reguły inżynierskie, wg których iPhona zbudowano czy inny nowoczesny smartfon, ale coś innego jest jeszcze poważniejsza, bo to, że ludzie nie rozumie świata, który współtworzą to nie jest narodowe, że to była już dawno Hayek np. wybitny ekonomista noblista ani niesłusznie spychany do do getta myślicieli ekonomistów to był także wybitny filozof mówił nie rozumiemy jak działa kultura mądrość kultury jako pewnego maszyna obliczeniowa przekracza mądrość wszelkie ludzkie umysły ale gdzie to zagrożenie widz zawsze nie rozumieliśmy do końca świata, ale zdaje się, że tracimy z dnia na dzień instrumenty pozwalające nam przywrócić kontrolę tych łąk czy 1 z instrumentów jest wiara w to, że ta technologia jest w stanie poprawić, bo ja szukam myślę bardzo podobnie do pana widzę ryzyko również nie samym nie chcemy złożoności, która przecież nie musi być obiektem Poznania każdego człowieka nie każdy musi rozumieć działa samochód nim kierować samodzielnie latać, ale najdalej, ale w pewnym momencie na styku człowieka i tzw. różnych agencji pojawiło się założenie czy pomysł, który bardzo popularną spopularyzował i uwag Harry, ale też tacy badacze Kokosiński są bliscy tej teorii, że oto człowiek powinien się wycofać w zasadzie ze swoim krytycznym myśleniem, bo jego krytyczne myślenie niewiele warte, bo popełniamy błędy poznawcze, bo my podlegamy swojej biologii swoim swoje chemii, która steruje bardzo naszymi emocjami, a emocje rdzeń poznawczymi tak naprawdę lepiej byłoby dla nas, żebyśmy się trochę wycofali nawet bardzo posunęli oddali pole w decyzjach nawet kluczowych nawet politycznych takich decyzjach jak to jak leczyć ludzi albo jak tworzyć politykę karną czy politykę społeczną owym nowego typu no umownie mówiąc maszyną oczywiście mam namyśli złożone bardzo systemy, które oparte na na technologii takich jak sieci na nowe sieci uczących się i ta wiara wydaje się, że jest lub rzecznikiem nowym tak, że wcześniej Lohan, który zarządza swoim sługom czuł się jednak ważniejszy mądrzejszy lepszy miał do to może podstawę może nie, ale czuł się taki, a teraz wycofujemy się czy pan obserwuje obserwuje przejście z ludzkiej megalomanii do mikro manii sekcji defetyzm człowieczeństwa niewiara w to, że człowiek może jeszcze coś podmiotowy sposób zrobić ten ten tekst z Boston Review, który pani poleciła, który uważnie przeczytałem podrzucił link pod pod miastem popieram, bo to jest, mimo że w kilku punktach nie zgadzam bardzo mądry tekst napisany przez ludzi, którzy wiele przemyśleli on dotyczy stawia główna teza taka nie należy wierzyć w to, że stronniczość algorytmów, czyli pewne rozwiązania technicznego, które ludzie powołali może być rozwiązana przez same technologie to synchronizuje innym myśliciela, którego pani dobrze zna, z którego ogólnym przesłaniem myślenia się także zgadzam Eugeniusza rozmowę wybitnym analitykiem internetu z pierwszych krytyków rozmachem ważnego trzeba to cecha Białorusi Białorusinem z pochodzenia od lat działa w świecie anglosaskim i on ukuł takie pojęcie technologicznego Schultz syjonizmu, czyli przekonania, że wszelki jakikolwiek problem nie znajdziemy ludzki to to to tylko trzeba zbudować odpowiednią technologię i ona to rozwiąże to można je też to jest też wpisuje się deficyt w defetyzm człowieczeństwa to jest bardzo to ta strategia, którą tak nazwał on sam jak rozumiem się nie zgadza zwierzęta rozumiem prawda i ta strategia, jakby podcina skrzydła tym badaczom czy tym społecznym czy tym politykom czy tym ideologią czy aktywistom, którzy chcieli zmobilizować nas, a najpierw do refleksji co się dzieje z człowieczeństwem w świecie cyfrowym bez wokół jakich wartości powinniśmy organizować, żeby ocalić to co uważamy za ceny takiego nie było ich wartości niż sam rozwój rozwój dla rozwoju rozumiany jako innowacja, które już niczemu nie służy poza sobą samą, której my stajemy się podporządkowanie jeśli ofiarą jest np. nasza wolność prywatność czy są koszty społeczne jak wykluczanie pewnych grup czy dyskryminacja to trudno to najwyraźniej jest to koszt konieczny na owej drodze do rozwoju tak ciekawe ja przypadkiem dopiero niedawno uświadomiłem sobie, że istnieje poważna literatura na temat pułapki postępu progres słabszy i usiadł jest też od lat są analizy, które pokazujące że, że postęp uprawiany bezrefleksyjnie często tworzy więcej problemów nieszczęść niż jesteśmy w stanie ich rozwiązania jest doskonały model biznesowy prawda, bo jeżeli problemy powstają Nowe Miasto, żeby takie rozwiązania problem jak jak i jako ogromny interes zrobiły firmy cyber bez z zakresu cyberbezpieczeństwa w obliczu błędu Milenijnego prawda i nie wiemy ile tutaj fortun powstało, ale uświadomią sobie jak łydki wpływ ma racjonalne myślenie na procesie ewolucji cechą systemu, bo kilka lat temu co Lech Lech Zachar uświadomił mi się już nie należy mówić o systemie społecznikami techno systemie, bo to jest adekwatnie, iż ujęcie mechaniki tego wszystkiego, ale jednak jest to system, gdzie człowiek jeszcze ma co nie do powiedzenia Otóż dla na ta ta dynamika tego techno systemu nie tylko się nam wymyka, jakby spod kontroli, ale nie należy poddawać się w przekonaniu, że co technologia zepsuła ona sama jest w stanie zreperować, bo to powoduje, że programiści czy środkowy ikony wykonane sami pewnych trendów kulturowych ani podmiotami autorzy tego tekstu z Bostonu robi proponują, żeby każda programista czy tak dokładnie może deweloper systemowe, by nie nie chodzi tylko o zwykłych wpisywać kodów tylko tych, którzy systemy programu postawił sobie takie zadanie, że w, które stawiane przed producentami leków każdy legł musi mieć ulotkę informującą o możliwych skutkach złość niechaj mówią autorzy tekstu programiści systemów informatycznych twórcy architektury algorytmicznych, które reguluje procesy, a na np. procesy przyjmowania na uczelnie wyższe procesy rekrutacyjne procesy przyjmowania do pracy proces zwalniania proces zamiany brak wiarygodności klientów banków 2 bodaj miesiące temu uczestniczy na zaproszenie Solidarności tej handlowej w konferencji, gdzie dyskutowano o niebezpieczeństwach związanych z automatycznym ocenianiem pracowników i automatycznymi zwalnianiem z pracy się, że ktoś ten rolnicy z Poznania niż mają problem z Amazonem w Polsce tak na szczęście unijne regulacje jeszcze tam także ekspertka, jakby prawniczka mówią, że proces decydujący o zwolnieniach z pracy nie może być w pełni zautomatyzowana potwierdza to wynika z RODO, czyli naszej obowiązującej już od paru lat regulacji chroniących dane osobowe jak znam przypadek Amazona oni ciekawe pod pod tym kątem, że tam tam jest człowiek ktoś mówił żargonie programistycznym Intelu, czyli w procesie wpisany my studiowaliśmy Panoptykon nie regulamin i polityki Amazona formalnie niewiele można zarzucić ma faktycznie ludzie znając te z ośrodka mówią, że człowiek jest tam bierny on właśnie ulega temu defetyzm nowy, który pan pisał i poddaje się raczej temu co sugeruje algorytmy oceniające efektywność pracownika w oparciu o bardzo twarde dane, bo to jest jednak magazyn, w którym pracują ludzie można ulec łatwo takiemu wrażeniu, że ci ludzie są tam tylko, dlatego że niema jeszcze robotów dostanie, aby zastąpić tak, ale myślę ta bierność człowieka będzie bardzo widoczne będzie niebezpieczna w zakresie nowych technologii medycznych już dzisiaj, gdy rozmawiam z bardziej inteligentnymi lekarzami czy takim zaprzyjaźnionymi, którzy otwarcie tłumaczy pan rzeczy mówi ta wg procedury, która jest międzynarodowa uznana nas obowiązuje powinien zrobić tak tak tak zależy takie leczenie zapiszesz leki itd. ale ja tu widzę, że wyraźnie ten przypadek nie do końca pasuje jeśli postąpi zgodnie procedurą ona na razie jeszcze nie zautomatyzowana pełniejsze jeszcze diagnoza nie jest robiona przez uczuciami dzielnicy jeśli postąpi zgodnie z procedurą co się pacjentowi zdarza ja jestem po bezpiecznej stronie, a jak się pochyla radzić wyrwane przypadkiem zaryzykuję zaryzykuję co się zdarzy to to ze mną będzie gorzej teraz co się wydarzy już wiadomo dzisiaj diagnozowanie przez systemy sztucznej inteligencji niektórych chorób np. prawdopodobieństwa rozwoju się procesu nowotworowego przez system jest lepszy niż najlepszych specjalistów niż najwybitniejszych ekspertów, gdyby nie Czekaj pokazujące to, że ludzie wybraliby system ani człowieka pacjenci tak bardzo oczekiwane teraz ja obrażą się taki scenariusz lekarz, który dostanie uprawnienie przeciwstawienie się diagnozie automatyzować danej będzie w tej samej pułapce co lekarz dzisiaj, który waha się przeciwstawić się z zapisanej odgórnie narzuconej mu nie wiem, jakie tam jak późno unormowania prawne prawnie procedurze bezpieczniej będzie dlatego lekarza zrobić HOKEJ oczywiście Intelu on w tym cyklu decyzyjnym jest Allianz, ale będzie bezpieczniej dla niego zawodowo zachować się biernie niż niż podjąć tzw. pracę głęboką nie automatycznie Aną, które wymaga kreatywnej analizy i podjęcia decyzji idącej pod prąd tak bardzo ciekaw jestem teraz coraz więcej badań, które obserwuje duży wysiłek rozwój organizacji czy poza polską po prostu cały czas wszystko jest w powijakach nad czym niezmiernie ubolewam idzie w tym kierunku, żeby trenować ludzi do słupa z algorytmami, bo i, godząc się z trendem w algorytmie będą używane coraz większej liczbie dziedzin badacze aktywiści myśliciele próbują Wyka wzmocnić próbują tak zrobić, bo on nie ulega właśnie temu w tym DC które, które pan opisuje to jest 1 pomysł na rozwiązanie z masy człowieka, żeby ten był w stanie oprzeć się pewnym pokusom i żeby był jednak partnerem dla owej inteligencji nie były podporządkowane drugi pomysł jest oczywiście bardzo bliski przejrzystość ten pomysł na przywołany przez pana na traktowanie algorytm podobnie do lekarstw, do których powinny być zrozumiałe ludzie ulotki jest bliski co, więc od pół roku pracuje nad modelem takiej ulotki nawet fundacji Panoptykon przyznał, że to jest potwornie trudne, bo no właśnie mierzymy się systemem, który nie trochę bać złożone pewniejszy niż niż aspiryna i jeszcze nie mamy rozpoznanych tam ono może on wcale nie jest ba może, a może interakcji algorytmu z procesem społecznym nie są bardziej złożone niż Inter akcje leku z organizmem człowieka przez każdy specjalista pobierze z różnymi organizmami ten sam Lech może winny interakcji chodzi prawda z różnymi kulturami procesami społecznymi może jagody winę trafiali wygodnie wmawiać techno entuzjastą czy techno chwilom że, że to jest tak złożone to jest wiedza ezoteryczne i zgoda tutaj obywatel niech tutaj nawet ekspert i pomysł my organizacji takiej typu czy tak można palić pani jak i realizacji tej pani prezes Andrzej prawda czy prezeską i będziemy, bo robili zasłonę niewiedzy albo wiedzy ezoterycznej kapłaństwa technologicznego dokłada do popełnionego przez aurę, że przecież wszyscy naprawiamy ludzkość tak nocy stąd moje wziął się bardzo potężnymi czarne skrzynki o bardzo wielu systemach nawet prostych przecież dziś nie będziemy tego robić, bo robimy ja robiłam to z moimi gośćmi winnych odcinkach podcastu i nie chcę tego powtarzać definiowanie tego czym jest czym nie jest tzw. też inteligencja zestawianie w 1 worku bardzo prostych systemów takich jak jak drzewa decyzyjne czy czy proste regresja z uczeniem euro z sieciami, które uczą się nowymi błędem nie każdy system jest tak złożony, że przysparza nam autentyczną trudność wyjaśnia tego jak on do decyzji, którą podjął, ale nawet nawet dla, które są złożone dla np. uczących się sieci neuronowych mamy rozwiązania, które pozwalają nam dziś odpytać te tzw. czarne skrzynki nie wiedząc jak w środku to co działo od pytać o o pewne pewne mechanizmy poprzez produkowanie takiego zewnętrznego wyjaśnienia, ale i w tym organizacjom ile się czytałem niedawno jako analiza badań biura tańsze wyobraźmy sobie, że jest konkurencja rynkowa między 2 typami polega mówi 1 program ma moduł zobowiązujący go do, że ten program może działać tylko wtedy jeśli na życzenie człowieka wyjaśnia jak działa, czyli sam się od czarną skrzynkę czuję mówi to ten moduł prawdopodobnie przedłuży ten program i opóźni jego wprowadzenie na rynek, a ktoś inny mając min mając mniej dociekliwość ludzi różnią się stopnia orzecznictwo, choć mniejszą odpowiedzialność społeczną mierzy poziom zagrożenia, tak więc właśnie są ludzie, którzy mają radary na sobie na zagrożenie nie tylko na sukces prawda można przyjęcie rewolucji rynkowej tę te moduły czarno skrzynkowe jako szybsze tańsze, bo bez modułu kontroli objaśniania wyprą, ale efekty, jakie to kumulację wytworzy mogą się wymknąć poza czy czymkolwiek kontrolę zgadzam się i mógł taki sam przywołać bardziej dokument też obiecuje że, że podrzucę nikt do niego pod pod naszym podcast tym na stronie fundacji Panoptykon mam namyśli dokument zwany przez brytyjski organ ds. ochrony danych wspólnie z Instytutem Alana Turinga, który właśnie udowadnia, że nawet czarną skrzynkę można rozliczyć tylko na działanie otwierającej do końca ale, obserwując tzw. import aut w ornacie czy, zmieniając dane wejściowe, obserwując jak zmienią się dane wyjściowe im, że różne eksperymenty na nich możemy wyjaśnić na klimat głębi na razie, ale złożoność tych systemu cały czas wzrasta musimy się liczyć z tym że, że rozpowszechnienie się rozmaitych wyspecjalizowanych cały czas systemów sztucznej inteligencji, czyli wąskiej jeszcze niesamodzielnej nie uczące się autonomicznie będzie prowadziło do rozmaitych nałożenie rozmaitych synergii między tymi systemami przecież, żeby sprawdzić jak działają pewne algorytmy trzeba napisać inne algorytmy, w którym momencie inny program, który od pyta i wtóry, ale te nowe algorytmy też prawdopodobnie obszary jeśli nie przez to za pomocą innych algorytmów, żeby nie trzeba, bo tysięcy milionów linii kodu wpisywać i jakby poziom nieprzejrzystości będzie cały czas dla całej ta nadzieja sprzed chwili może być już w celu molo oraz tym zatrzymać, bo słyszę stara się jednocześnie słuchać naszej rozmowy jak tak jakbym siedział jako 0303. słuchacz i mam poczucie, że zaczęliśmy od mocnej niezgody na off na ów trend, w którym człowiek podporządkowuje czy też zostaje podporządkowane, a teraz trochę sami wpadamy w pułapkę mówienia tak się stanie tak się musi stać jeśli nagle zostaną podjęte, ale rozumiemy, bo przy świecach marzy o aktorach, którzy za tym rozwojem dziś stoją w tym sensie, że jego finansują programują kształtują wybierających kierunki kim w Pańskiej ocenie i którzy którzy są kluczowi w tym w tym obrazie rewolucji teologiczne tak jak dzisiaj znamy, jakiej doświadczamy, gdybym chciał długą historię długą opowieść może prowadzić do esencji tam być tak też efekt mojego namysłu ostatniego roku jeśli elity USA i chęci są nie dogadają się jakichś form strukturalnego globalnego kontrolowania postępu technologicznego co do jakich procedur nie proliferacji pewnych typów systemu wśród inteligenci jeśli nie będzie porozumienia przypominające prozę porozumienia non pro-li operacyjne po drugiej wojnie światowej, które uchroniły jednak ludzkość przed wojną jądrową i przed zastosował produkowane na masową skalę innych broni biologicznej chemicznej jeśli czegoś takiego nie będzie w najbliższych latach to podejrzany nie uda się cyfrowego wyścigu zbrojeń utrzymać pod kontrolą, dlaczego krótkie uzasadnienie czy różni dzisiejszy cyfrowy wyścig zbrojeń od wyścigu zbrojeń od zimnej wojny tamten był prowadzony przez kompleksy militarne przemysłowe głównych państw był to wyścig scentralizowany i państwa miały kontrolę nad rozwiązaniami technologicznymi dzisiaj jest to rozwój rozproszonych robione przez setki tysięcy start-upów ich, które w rozmaitych synergia wytwarza efekty poza kontrolą tego co się dzieje, jakby kompleksami żadną Przemysław Hinc to jest wyścig tak rozproszony, że nie ma na państwa nie mają nad nimi kontroli i nie mogą, jakby równoważyć pewnych procesów tutaj musi być prewencyjne działanie podjęte które, które spowoduje inaczej bądź spowoduje że, że pewna cecha dzisiejszego rozwoju technologicznego dzisiaj rozwój technologiczny nie może być jednocześnie technologicznym wyścigu wzory patrz musi być pod odcięta w wyniku międzynarodowych porozumień, czyli wierzy pan niniejszy w to, że jest jakiś forum międzynarodowe, na którym te elity mogą jeszcze niema trzeba jak najszybciej powołać myślę, że ta odsłona wojny handlowe pewno nie ostatnia między USA Chinami i sygnałem ostrzegawczym skoro USA już podjęta decyzja nie wiem czy ona jest formalnie na poziomie de egzekutywy od prezydenta, że pewne technologie ściągnięć inteligenci nie mają być eksportowane na zagrożenia, ale o tym, przynajmniej publicznie mówi nic nie wiem czy się decyzja formalna to znaczy, że świadomość, jakby skali zagrożeń i najlepiej długo po szamotaninie dziś widać pewne porozumienia w tym efekcie tej wojny handlowej ustąpienie 1 z drugiej strony w pewnych sprawach po tej szamotaninie jeśli byłaby faza nowego ładu światowego na poziomie jakiegoś moratorium technologicznego to moglibyśmy wrócić do sytuacji, w której człowiek ma przewagę nad technologią korzysta z jej owoców nie jest ofiarą, które są walcowane przez to jest pana jasne, jaki obszar powinien być moratorium objęte czyli jakie cele powinny powinna, czego należy się obawiać rozwoju konkretnie czy jest jakiś rodzaj technologii, żebyśmy wyeliminować z analizy obecnie wydaje się obecnie że, że dotyczy to oczywiście inteligencji kluczowe byłoby, żeby przejście od tych inteligencji uczonych przeznacza nawet Blair ringowe realizowanych przez tak do autonomicznych tutaj być może to jest bariera to jest ta czerwona linia, który przy, po której przekroczeniu wszelka się wybić spod kontroli człowiek powinien oddać nadzoru nad procesem uczenia maszynowego powinno zaszaleć nadzoru może jeszcze wcześniej to trzeba zrobić, bo ktoś włamał się to może być nie czerwona linia Eko rozmazane linia, której przekroczenie uważamy do ten sam człowiek Intelu, czyli w procesie np. będzie nadzorował tylko formalnie z testem nie zauważa widzenia coście tak niepokoi niektórych analityków Bałka Iza się perspektywa, bo ukrainizacji internetu czy złożenie zdarzyło słucham też już nie wydarzyło jakiś czas temu a, a nie perspektywa tylko fakt, ale chińskie amerykański trochę rytm może segmentacja internetu to znaczy stworzenie kwas cywilizacyjnych odrębnych kontynentów chroniłaby przed sytuacją, gdy jakiś 1 system przyszłej inteligencji możliwość podboju wszystkiego może może może perspektyw oraz coraz głębsze wykorzystywanie algorytmów na rynkach finansowych powinna prowadzić do wniosków, że musimy z miejsca, które globalizacji poseł mentora dla bezpieczeństwa, żeby jakiś geniusz, który synchronizuje dotychczasowe i jak algorytmy postanowi ograć rynki finansowe nie spowodował katastrofę dla całej ludzkości być może trzeba zaoferować, bo jednak zabronić programu etycznego podejścia do do tychże, ale frazach jak zabronić w sytuacji gdy, gdy każde państwo chce mieć swoje swoje start-upy, których najjaśniejszą umysły będą kombinowałem przełomowe dyrektywę tzw. innowacje konkretnie rzecz finansowe to myślę, że jakaś próba ograniczenia spekulacji to nie jest nowy pomysł chyba od okazji, chociaż podatek Tobina wymaga krytyki co spowoduje, że spekulacje zostanie na giełdowe przestanie być aż tak opłacalna zgadzam się zadania tutaj nadmierny deficyt wykazałem tak tak, bo dziś mamy mamy niewyjaśnione od od od wielu lat przypadek krachu na giełdzie Nowym Jorku, które budowały pracowni 2 algorytm, które weszły jakąś interesującą interakcje między sobą i to powinna być przestroga, za którą powinien muzyki kroki mające w rynku ograniczenia właśnie tego tego fakt jednak tego szybkiego błyskawicznych transakcji dowiedział się kompletnie poza ludzką kontrolą służą tylko spekulacje, ale to troszkę jechaliśmy w konkretny sektor wracając do rozwija, ale być może punktem, jakby wyjścia bowiem takie odrzucić tezę, że nic nie można zrobić odrzucić tezę, że państwo powinny być daleka od rozwoju technologicznego to przecież Amer państwo amerykańskie złożyły wielkie pieniądze w rozwój rozwój Googlea rozwój Facebooka pewnych fazach czekam aż pan o nich wspomnieć czekała na dyrektorów dokładnie do tego miał zmierzać ma konkretne pytanie, więc cieszę się, że on się pojawili się w rozmowie coś co z nimi co z tzw. gafę i firmami, które komercjalizacją technologii kiedyś militarne czy tworzone w celach naukowych, a dzisiaj dostępne na każdym smartfonie w każdej aplikacji i oczywiście to oni bardzo często padają za ową no no taką minę do rewolucji ekologicznej, czyli powiedzenie nam tego się zatrzymać to nam mówią te kolejne aplikacje usługi zgłoszone w czasie nie dała ma przecież chcesz, by było szybciej wygodniej nie chcesz w tym też kolejną wersję tego smartfona tej aplikacji takiej usługi teraz będziemy rozmawiali ze swoim urządzeniami to jest taki projekt ma opóźnienia mają pragnienie, a potem mówią, że pomogą nam je spełnić albo najpierw nas podtapiają oceanem dezinformacji, a potem ją przyjął się algorytmy, które filtrują one także informacji co co z nimi tutaj widzi pan pole dla państwa i taki, jakiego państwa jak najbardziej, ale mam wrażenie, że tu powstała pułapka geopolityczna, w której bez porozumienia USA Chiny można, by było jako, jaką wygląda w stanach Zjednoczonych jest głęboka podejrzliwość wobec monopoli rynkowych wszelkiego rodzaju i wielka tradycja skutecznych działań anty prostą w związku z tym od lat mówiono że, że giganty technologiczne są zbyt gigantyczne mają zbyt duży obszar rynku i najdalej z różnych powodów powinny być uregulowane podzielone rozwarstwienie takie samo jak np. w sektorze energetycznym istnieje, a będą lęk to znaczy firmy, które zajmują się wydobywaniem gazu czy ropy nie mogą mieć kontrolować jednocześnie struktur sieci przesyłowych rozwarstwienie nastąpiło dalej sprzedawać tych, więc takie rozdzielenie i Allen, ale mówiono, ale zobaczycie tutaj nie ma klasycznej klasyczne renty monopolowe, bo szale bo, bo monopolistyczna pozycja Bugla na rynku wyszukiwarek nie przekłada się na gorszą jakość usług i podwyższenie dostępności tych usług przekłada się na koszt w postaci nadzoru willa prywatne już tego prawie nikt nie widział jeszcze do niedawna i w związku z tym uświadomiono sobie, że jednak ze względu na ten koszt i inne pokrewne społeczna, bo dostał się dobro publiczne nie będąc zobowiązany za jakość dostępu do, jakby za jakość tego dostępu dostarczone dobra Facebook pełni funkcję dobra pomoc po Platforma, która jest komunikacyjnym dobrem publicznym i w stanach widzimy, że między nimi w obecnej kampanii prezydenckiej są głosy wyraźny o działania Hanny monopolowych, ale poziom Fed amerykański analityk USA nie może tego zrobić, bo kulturowo jest dla nich zmiana kulturowa wysoka, bo mają dzisiaj klient rozbili chyba 77 zaliczyło wolność wypowiedzi dla niej należy powiedzieć to jest 1 oraz do, ale z 2 powodów będzie, kiedy firma amerykańska gospodarka ciągle ma przewagę globalny, ale drugi poważniejszy obok FAM Google Amazon Facebook Apple Microsoft jest Banks Baidu Alibaba Tencent krajami pewno jeszcze działała jak chciały dopisać, czyli wyobraźmy sobie, że zachód się pewnym czasie rozbroić i posłali swoich praw ma w Limie zrównoważonego rozwoju cywilizacyjnego osłabi swojej korporacji, które wytwarzają bardzo tak mówi zysk ekonomiczny szkodliwe Exxona, ale też efekty uboczne bardzo szkodliwe tym kulturowych, które przez emocji, ale Chińczycy tego nie zrobimy co wtedy oni będą mieć na swoich gigantycznych bazach danych gigantycznych, bo mają ponad 750 000 000 użytkowników smartfonów liczba większa baza danych uczę swoich algorytmów, a my sobie tutaj pot niemy no to jest punkt armia zwykle wprowadza rozróżnienie na bliski panu obszar cyberbezpieczeństwa na obszar konsumenckich usług, o ile widzę ten dylemat napięcie tam, gdzie rozmawiamy o wyścigu zbrojeń, że jeżeli my przestaniemy w to inwestować Chińczycy nas prześcignęła nas podbiją bardzo to oczywiście, organizując upraszczając no może wcale pani ból realizuje myśleć takimi bardziej o języku nietechnicznym ego pozwalam sobie w dziedzinie ekonomii tylko taki militarny, a z drugiej strony mamy przez cały rynek usług konsument nigdzie tak jak już się chyba, którą zgodziliśmy te wielkie firmy kreują nam sztuczne potrzeby kreują problemy, które potem rozwiązują podporządkowują nas coraz bardziej swojej wizji rozwoju i programują nasze mózgi jak pan wielokrotnie mówił i pisał ja się z tym coraz bardziej za zgadzam tylko nie chcemy i rozwój w tym zakresie jest po prostu czymś negatywnym, tak więc i rozwoju w tym ciężka rozmów z mieszkania jest dobra, więc jeśli mamy poprzez wycofanie tych korporacji ich osłabienie w wyścigu z Chinami coś stracić to obszar usług konsumenckich możemy nie traci tylko zyskujemy np. więcej wolności park z groźnego, ale wszystko rozgrywa w futerale globalizacji, czyli relacji geopolitycznych i być może nawet gdyby nie było trampa to ten konflikt handlowy między Stanami Chinami, by się pojawił i on może jest znakiem, że trzeba na nowo zorganizować zreorganizować globalizacji ludzkość państwa muszą ze sobą współpracować Chan jest stare powiedzenie jeśli między kraj graniczny przekraczają towary tą granicą przeznaczane przez oddziały żołnierzy da, czyli nie ma nie ma długofalowej izolacji możliwe zawsze coś co się będzie chciał, by tak tak i teraz pytanie o formę reguły tak dalej Chińczycy są niezadowoleni z dominującej pozycji dolara Amerykanie o zaniepokoili się sukcesami uchwałę ja w oferowaniu usług kompleksowych zakresu 52 nie mniej niż wystrzeleniem Sputnika pięćdziesiątym siódmy roku przez Rosjan wydawały się zacofany kraj zniszczony prze przez przez straszną wojnę będzie technologicznie z tyłu nagle pierwsi inicjują podbój kosmosu Amerykanie w reakcji na to uruchomili głęboką reformę systemu edukacji w USA, ale osobiście mam wątpliwości czy edukowanie kolejnych pokoleń innowatorów jest rozwiązaniem można je odwrotnie rozwiązaniem jest znalezienie sposobu na spowolnienie pot po trzeba dosłownie traktować zwrot, gdy reaktywne innowacji one tak żywy co innowacja, która rozrywa strukturę zarządzania w jakiejś korporacji w filmie Firenze to i fale tej innowacji nie rozchodzą dalej w systemie wysokiej, ale innowacja, która zmienia głębokość stosunek człowieka do rzeczywistości stosunek sumy z dostawą do faktu powoduje niezdolność odróżnienia tego co realne od tego są fikcyjne to jest innowacja, która przewiduje, że część innowacje z zakresu neuronauki którymi zajmowaliśmy w tej książce, które umożliwiają przebudowę natury ludzkiej okablowania tego jak człowiek wysyła jakieś hasła jedz umysł ludzki to są innowacji, które zmieniają fundament ontologiczny życia społecznego a, a przemyślenie konsekwencji tego wszystkiego to już zdaje się przekracza zdolności umysłu ludzkiego nasze bądź też utworzenie w zależności uświadomili sobie, że jest, że Pandora posiada skrzynkę jak otworzymy to na świat wydobędą się rzeczy nad którymi nie będziemy, w których nie zrozumiemy za którymi nie podążymy, żeby kontrolę nawet scenariusz który, który pan rozważa się osoby z oświecenia, czyli właśnie neuronauki, które zaczyna eliminować w ogóle sens tak naprawdę człowiek takiego, jakim go znamy nawet taki scenariusz można sobie wyobrazić idący w tym kierunku, że tworzą się po prostu nowe klasy ludzi na ludzi hałas Harari o tym, PR pracy zakazana ludzi, która steruje tym rozwoju, które technologie kreuje ma dużo bardzo do zyskania być może pod rządami tej klasy trochę, nawiązując do Arystotelesa przywołanego przez pana kontekstu starożytnego taki pomysł, że odcina ludzie są racjonalni wyposażeni w geny, ale technologie sami są nimi ulepszanie i oni projektują na lepsze społeczeństwo taki już kompletnie do pana w obrazie nie przemawiać boją się go szanował przemawia za życia, ale w tej książce jednak zwiększonym przyszłości władzy rozumowanie prowadzę w pewnym fragmencie tak na całe dzieje ludzkości można spojrzeć, na jaką analiza asymetrii między nazwijmy to bogatymi potężnymi ludem i bogaci potężni, czyli zorganizowana mniejszość starała się mieć przewagę nad zorganizowaną większość rodziców, że badanie proste jak z tym naszym prawda daje była to tzw. władza nad od momentu, gdy demokracja zaczęła dojrzewać wyłoniliśmy władze do organizujących oddolnie, żeby wspólnie rozwiązywać pewne problemy uwierzyć taką narrację, ale co się wydarzyło OKE częściowo jak tu i tam się udaje czasami prawda jakich danych wspólnota i teraz tata, a historia rewolt regresów przełomów buntów też historia polegający na tym, że władzy nigdy się nie udaje stworzyć radykalnej trwałej asymetrii lud co pewien czas potrafi rządzących przywołać do porządku za pomocą różnych metod często brutalnych urząd lub do swojej rodziny są po prostu jest wizja nanotechnologii wizja mu czy organizacji izba wizja technologii genetycznych to jest wizja symetrii radykalnej nieodwracalna droga w kierunku tak jest po od rozdzielenia świata na na Super Elite i lód, który nie ma żadnego potencjału o, jakby przeskoczenia tego dystansie i Harari jest tego świadoma mam wrażenie, że jakoś w jego myślenie, iż przyzwolenie na też ma wrażenie dlatego chętnie im, polemizując w tym podcaście już wielu odcinkach pojawiła się polemika z Harry między prof. Pawła Łukowa etyka, który bardzo pięknie i ten fragment myślę, że polecam nie wywołują nie słuchała jak po plecach wszystkim słuchającym powrót do tego podcastów jeśli go nie pamiętacie lub jeszcze nie słyszeliście, bo on właśnie pięknie mówi o tym o tym w sensie człowieka, że człowiek musi poznać ludzki w tym również doskonały, żeby móc w ogóle realizować swój ludzki los i pozbawienie się tej cechy czy też rozwój technologii w nadziei na to, że nam tę cechę, że młody szuja człowieka bez niezdolnego do cierpienia napis prawda projekt człowiek, jakim jak i jakich znamy lubimy ja to dosyć ślubie pan chyba też lubi ja myślę, że jak lepiej wylądujemy jak się po godzimy z ze słabościami naszej ludzkiej natury niż, gdy będziemy chcieli radykalnie przebudować, bo wtedy, kiedy wymknął nam się spod kontroli rzeczy nie będziemy w stanie przewidzieć, bo oczywiście jest taki żart, że któryś momencie jak będzie singel synku Larry ty nowa ciemność zbudujemy szczucia inteligencję, która powoduje, że człowiek będzie nie będzie, że umrze ostatni programista w żaden kraj nie będzie w stanie lista w niej poprawi się garnąć ona nie wiemy czy będzie dobroduszny czy będzie złośliwa czy będzie wszech potężna czy będzie tylko na szczyt potężniejsza, ale to jest tak jak byśmy podeszli do przepaści pojedzie na skaczemy wygląda wygląda kolorowo wiemy, że samo podejście tutaj potwornie trudne i też w rozmowie z obecnym Szymańskim na ten temat doszli do wniosku, że jednak to jest ostre o refundację są większe dzisiaj dla nas cały czas ta regulacja ta ta generalna sióstr agencja osobliwość zwał jak zwał, która ma myśleć samodzielnie projektować samodzielnie nas w końcu uregulować chyba żylibyśmy bardzo napracować radni robi robi bardzo ja niestety jestem bardziej pesymistyczny Chabry robi bardzo ważne rozróżnienie, gdy wiele razy dyskutuje o problemie zagrożeń ze strony urzędu agencji, która będzie on, że w jakimś sensie trwa nasza czy mądrzejsza 3 oby tak za taką uznamy się wycofamy to też jest takie ryzyko o tym od tego zaczęliśmy to ludzie mówią ja studiowałem problemy świadomości to jest jeszcze wiele dekad, zanim będziemy mieli tutaj inteligencją zdolne do samodzielnego myślenia odczuwania dzieł sztuki Chada mówi nie należy mylić inteligencji z mądrością ci inteligenci świadomość inteligencja to jest umiejętność rozwiązywania pewnych problemów czy, żeby ktoś nas oszuka musi być od nas mądrzejszy my lepiej wykształcony bardziej świat bardziej świadomy przecież także 3 karty czy innej hazardowej grze trwania, który pod wieloma względami nie ma pojęcia jak działa świat można szukać oszusta może być od nas wiekiem istotą prymitywnie Otóż ryzyko polega na tym, że jakiś kolejny system wśród inteligencji będzie od nas lepszy w tym parametrze, którym danej fazie ewolucji techno społeczne jest kluczowe jest premiowany, a winnych może być prymitywny i chamski tak powiem nawet, żeby użyć te twarze estetycznego określenia, czyli ta inteligencja nie musi być tą Chopin mądrą samouczące się wystarczy, że optymalizuje jakieś procesy, które podatną na zdolność reagowania np. więc jest to głos w kierunku ostrożności wyborze parametrów wybierajmy takie parametry, których jednak niż leczyć stanie mamy szansę pozostać Legia ja jak np. mądra ocena takich a, ale czy jesteśmy w stanie określić kryteria pomijam problem dla zbudowania konsensusu o tej model oceny przyjmiemy, że uda nam się udało, bo lokalne środowisko to zbudować, ale czy my jesteśmy w stanie przewidzieć, który parametr w nowej fazie techno ewolucji nowej fazie globalizacji będzie parametrem wiodącym, który przesądza być czy nie być jak uważa, że byliśmy do tego mieć umowę społeczną czy nie powinno to być przewidywanie nasze i nasza Pogoń za parametrami wyznacza nam także technologia, ale tak nasza dyskusja między sobą pytanie oczywiście ten podmiot kim sądzimy prawdę bardzo mało jednak globalnej wiosce, więc to jest potworny problem podmiotowości i tego jak na demokrację uprawia, ale to ona dzisiaj może zaparkujemy, więc podmiot powinien się dogadać co do pewnej umowy na również na parametry np. już dziś spotykam się w w ciekawą analizę różnych zrozumieniem po co jest ta służy ewidencja i jest zgoda, że kategoryzacja obrazów treści segregowanie nie wiem rzeczy podobnych, ale z danych to jest tylko w porządku jeśli chodzi o wpuszczanie coraz głębiej owej technologii, ale osądy i predykcji nie, tak więc wiemy żywot, ale np. obrażania wartości polega, że systemy są w stanie rozpoznać przewidzieć, że proces chorobowy będzie miał nowotworowe e-konsument, zanim jakikolwiek człowiek stanie rzeczy mamy mieć problem mówi się tam znieśli, ale musimy zmienić ostrożni dopóki system jest używany do diagnozy i głównym celem rozpoznać na obrazie skanu ludzkiego ciała jakiś nowotwór czy inną zmianę świetnie czujemy się bezpiecznie, bo to jest dokładnie dotyczy to też nadaje, gdzie ryzyka nie dostrzegamy jak nie dostrzegam, ale tam zapraszamy też system do podejmowania sądu lub przewidywania przyszłości i wprowadzamy jednocześnie mechanizmów kontrolnych no sam zabija, ale jakieś mechanizmy kontrolne w systemach predykcyjnych używanych na rynkach finansowych, gdzie ten algorytm ma przewidzieć zachowania konkurenta biznesowego bardzo jest zasadne, bo jest optymalizacja na prędkość i Astrid takie asy na off imprez tego roku nową decyzję jak tu powstrzymać to być jakiś ja mam moja ogólne, aby strategia nie może wracać, ale chciałbym, żeby to stało stało się częścią debaty wokół moja jakbym, a rekomendacje, które najgłębiej na razie potrafi sformułować to jest moratorium technologiczne spowolni rozwój to nie jest żadna czasami są raczej mamy wracać do epoki kamienia łupanego spod mamy go spowolnić rozwój, żeby kupić czas czas do namysłu i do przedyskutowania plusów minusów tego wszystkiego co rewolucja cyfrowa przez spowolnienie my ją kupmy czas do namysłu, czyli do dyskusji wokół, bo np. kryteriów oceny algorytm chciałabym chciałbym wierzyć takie porozumienie ludzkości, bo chyba nie musimy rozmawiać, żeby można było np. dogadać no pan rozumie ma swój wygląd podgląd na pewne procesy polityczne geopolityczne, więc może trochę większy niż nazwijmy osoby niezwiązane z sektorem bezpieczeństwa państwa, ale ułomne nie sądzę, żeby w dzisiejszym systemie społecznym czy globalnym jeśli jakikolwiek podmiot jakakolwiek, jakkolwiek tajna służba, jakkolwiek grupa analityków jakakolwiek grupa polityków, która mogłaby być dysponujemy adekwatne modele procesów, które zmieniają świat i potrafimy na czas interweniować, żeby chronić nas przed jakimś katastru może to lepiej, bo też mogliby wtedy nie tylko chronić, ale też, ale też mogliby mieć planszy poważny, ale problem także, dlaczego książkę nazwaliśmy samobójstwo oświecenia takie zapytanie znak zapytania znaczy nadzieja samobójców polega na tym, że pod hasłem rozumianego stosunku do świata stworzyliśmy świat trudne ludzkiej rozumie zdegradowany aż do poziomu bycia niepotrzebnym nie idźmy tą drogą bardzo się pod tym potem przez, jaką podpisuje pod nadzieją chciałabym może się chwilę pomyśleć bardzo dziękuję za takie głębokie zanurzenie w te niepokoje, które myślą nie tylko my dwoje odczuwamy, ale są one szczególnie w roku 2020 dość dość powszechne, bo ten kryzys technologiczny razem z ekologicznym są coraz bardziej ewidentny i coraz więcej fantazji wokół tego jak zatrzymać co zrobić wszyscy snujemy snuć musimy w tym roku na pewno będę snuła je coraz częściej moim gościem dziś był prof. Andrzej Zybertowicz bardzo dziękuję dziękuję proponuje zastąpić techno entuzjazm entuzjazmem wiary człowieka pięknie kupuje ten slogan na koniec żegnał się zwami zwrócić tylko, że zrobi drobne ogłoszenie Fundacja Panoptykon w coraz większym stopniu jest wspierana środkami od ludzi, którzy czują naszą misję od takich osób jak wy chodzi także o 1%, które można przekazywać w ramach rozliczenia swojego podatku zachęca do tego, żeby zapoznali się z tym co robimy co nam się udało przez ostatnich 10 lat zapraszam na stronę Panoptykon krótka org ukośnie wolność liczy do usłyszenia technologie i człowiek człowiek i technologii, gdzie na tym styku czekają nas zagrożenia jak korzystać z technologii, by na nich skorzystać jak kontrolować, kto gromadzi nas informacje do czego ich używa z ekspertami praktykami rozmawia Katarzyna Szymielewicz Panoptykon 40 podcast tokfm PL fundacji Panoptykon Zwiń «

"Cyfrowy wyścig zbrojeń za kilka lat może być już nie do zatrzymania". Prof. Zybertowicz o manowcach rewolucji technologicznej

AUTOMATYCZNA TRANSKRYPCJA PODCASTU

PODCASTY AUDYCJI: PANOPTYKON 4.0

POSŁUCHAJ RÓWNIEŻ

DOSTĘP PREMIUM

SERWIS INFORMACYJNY

Wydanie z godziny 23:00

Najnowsze Podcasty

Jak dbać o swój orgazm?

Emocje po obejrzeniu "Zielonej Granicy"

Marsz Miliona Serc. ''Walczymy o Polskę, w której bez problemów będzie można spełniać marzenia"

Marsze równości, filmy i festiwale powinny mieć wpływ na politykę i prawo

TOK FM

Polecamy

Popularne

GOŚCIE TOK FM

Gazeta.pl

WYBORCZA.PL