REKLAMA

Czy Biden poskromi Facebooka i Twittera? Co mógłby zrobić, a pewnie nie zrobi?

Wieczorem
Data emisji:
2021-01-20 22:00
Audycja:
Prowadzący:
Czas trwania:
53:01 min.
Udostępnij:

AUTOMATYCZNA TRANSKRYPCJA PODCASTU

Transkrypcja podcastu
Agnieszka Lichnerowicz dziś wieczorem zapraszam państwa na rozmowę o Poskromieniu gigantów tak to mogłabym ująć będziemy Kuć żelazo póki gorące, dlatego że podejmiemy temat w sprawie, którego na temat, którego znawcy eksperci badacze alarmują od lat, ale wydaje się, że teraz właśnie w tych dniach szczególnie udało się tę uwagę społeczności społeczeństw przykuć, więc stąd to kucie żelaza póki gorące póki ludzi to interesuje debata wydaje się kluczowa ważna Rozwiń » dla naszych demokracji będziemy rozmawiać o kapitalizmie kognitywnych kapitalizm inwigilacji kapitalizmie sieci kapitalizmie cyfrowy nazwy są różne, ale to jest część teoretyczna, bo już tak mówiąc wprost przestać przestępcy bawić z państwem po tak trochę staram się tą waszą uwagę przyciągnąć będziemy rozmawiać o tym czy Joe by ten, a może Unia europejska coś podejmą jakieś konkretniejsze radykalniejsze działania by mieć większą kontrolę nad potężnymi firmami, które w ostatnich latach czy już nawet 2 dekadach powstały w Dolinie Krzemowej, więc to jest dyskusja przede wszystkim na temat świata Zachodniego, bo w Chinach oczywiście te firmy funkcjonują inaczej i tak naprawdę to jest drugi część druga część naszej rozmowy na ten temat stąd ci sami goście, z którymi rozmawialiśmy kilka tygodni temu państwa gościem jest Piotr Szostak dziennikarz GazetyWyborczej dzień dobry dzień obrad jest też Jan zygmuntowski dzień dobry nie to prawie dobry wieczór Jan jest wykładowcą Akademii Leona Koźmińskiego współprzewodniczącym polskiej sieci ekonomia w kontekście naszej rozmowy zaznacza, że też autorem książki kapitalizm sieci rozmawialiśmy teoretycznie i pewnie jeszcze wrócimy dziś wieczorem do tej teoretycznej rozmowy na temat tego nowego kapitalizmu, który w, którego gigantami czy przedstawicielami symbolami stały się Amazon Facebook czy Uber mówiliśmy teoretycznie zainspirowani książką wiek kapitalizmu inwigilacji szans, bo to jest taka książka konieczna czy dla właśnie tej dyskusji, więc dziś może to jest dobry dzień by trochę porozmawiać już nie teoretycznie, a praktycznie dobry dzień, bo jest czterdziesty szósty prezydent Stanów Zjednoczonych Joe by ten, który przejął władzę od Donalda Trumpa, który to Donald Trump przez 4 lata mówił co chciał jak chciał oburzał prowokował i rolować i tak naprawdę w tym dużą korporacją to nie przeszkadzało aż do szturmu 6stycznia, po które postanowiły go uciszyć i to wybuchową bardzo mieszane uczucia tak bym określiła, że już nie nie rozbijać szczegóły, bo wiele o tym powiedziano, więc pytanie czy oczekujecie trzyma czy krzyczy czy możemy przeanalizować co by jego administracja chcą mogą powinni zrobić jak to się wiąże z Unią europejską nie wiem czy któryś z was chciałby zacząć czy mamy chętnie proszę nie odniosła się stanie po wydarzeniach na Kapitolu i tym domu zablokowaniu kont Trumpa przez Twittera wydaje się, że bardzo zaczyna kadencję w jakimś takim momencie, w którym obie partie są wściekłe Platforma społecznościowa i może wykorzystać ten ten gniew, który jest ponadpartyjne do ich regulacji do jakiś postępowań antymonopolowych przeciwko gigantom będzie też tu dużą presję ze strony Demokratów że, żeby to zrobić przy czym pamiętajmy, że Twitter Facebook zablokowały w ostatnim momencie konta Trumpa też po to, żeby przygód przy podobać się nowej administracji Bidena one trochę mogą chcieć liczyć na łaskawość nowego prezydenta pytanie, jakie realne zagrożenia są tutaj nad bitami po pierwsze, Kongres kontrolowany przez Demokratów może zmienić prawo i sprawić, że media społecznościowe zaczną być odpowiedzialny za treści swoich użytkowników na platformach będą traktowani trochę wydawcy dotychczas Platformy w ogóle nie odpowiadały za za treści swoich użytkowników i zresztą to prawo wyłączające jest tej odpowiedzialności chciały zmienić trans system Alice 230 tak art. 230 tak i część Republikanów też chciał zmienić tylko tylko oni chcą zmienić zupełnie odwrotnych powodów drugą stronę zasadniczą prawa strona sceny politycznej chcą utrudnić serwisem społecznościowym blokowanie profili usuwania wpisów czy czy nawet oznaczanie jako dezinformacja jak bowiem Polska prawica walka z cenzurą tak niezbędne cenzurą twierdzą, że Platformy aktywnie tłumią głos konserwatystów z siebie na kolei lewa strona chce, żeby platform musiały usuwać ich treść jest, więc jakoś bardziej dbać o to, żeby nie było niż tych toksycznych materiałów, żeby to było też egzekwowane pod groźbą wysokich kar finansowych jeśli Platforma społecznościowa stały się odpowiedzialne za treści takie wydawcę oznaczałoby to dla FIZ bułkę Twittera Kuba i innych duży wzrost kosztów musieliby pan samą odpowiedzialność za to co my firmy, których pracujemy w sensie radio telewizja czy 3 Gazeta tak tylko, że dla nich oznaczałoby przy skali oznaczałoby to o zatrudnienie kolejnej armii moderatorów do usuwania oznaczania fałsz tych toksycznych materiałów i spadek przychodu przez konsekwencje z tym związane tylko te firmy stać na bardziej, a odpowiedzialne podejście druga rzecz, która grozi teraz platformą moim zdaniem znacznie poważniejsza to postępowanie antymonopolowe to pytanie jak ostro będzie prowadzić administracja Bidena no choćby w grudniu amerykańska w misji ruszyła z dochodzenia przeciwko o firmie Marka Zuckerberga tylko tutaj istotna jest kwestia zmian albo aktualizacji amerykańskiego prawa antymonopolowego, które jest archaiczne i jak twierdzą eksperci nie przystaje do realiów gospodarki cyfrowej ono w obecnym kształcie tak naprawdę nie pozwala na jakieś bardzo daleko idące działania wobec Facebooka np. na jego podział na te 3 firmy instagram łowca Facebook na zmianę tego prawa ono też mogło mocno uderzyć oczywiście Google Amazona i Eiffla dotychczas nie pozwalali został Republikanie mówi coś takiego w stanach Zjednoczonych nie powinien być karany za swój sukces, czyli osiągnięcie tego te de facto dominującej pozycji, ale teraz Demokraci kontrolują Kongres, a wśród Republikanów też narasta gniew wobec Platformy jest szansa na reformy przepisów tutaj będzie też możemy nawiązać trochę do książki Zubow, którą uważam, że te firmy technologiczne mają taką przewagę, że nie da się problemu rozwiązać przy pomocy prawo ochrony konkurencji np. wg niej przymusowy podział Facebooka niczego nie zmienił z 1 firmy kapitalizm nadzoru powstaną 3, które będą dalej tak samo konkurować nasze dane przetwarzać nadwyżkę behawioralną jako stan pasaży połowa z nas wydaje mi się też za musimy też spojrzeć na trochę na taką realną sytuację polityczną i też trochę niestety pohamować te marzenia o regulacjach podziałach no bo by 1 i wiceprezydentka Kamala Harris to nie senatorze zapytało mnie, że Sanders, którzy w ostatnich latach jakoś wprost wzywali do rozbicia niektórych firm technologicznych są bardzo umiarkowanie do tego charyzma bardzo mocne związki z doliną Krzemową inwestorze stamtąd i linie technologiczne finansują oddać i kampania wyborcza i kuratorką była też Sheryl Sandberg z Facebooka, a jej rodzina przyjaciele byli współpracownicy odstaw kursują przez obrotowe drzwi pomiędzy Waszyngtonem, a doliną Krzemową, więc moim zdaniem nie jest powiedziane, że nowa administracja jakieś widzi się na firmy technologiczne, chociaż no będzie w tym kierunku duża presja polityczna to z kolei to na chwilę zawiesza czy przerwać to skarb państwa Piotra Szostaka jeszcze będzie oczywiście różne wątki podnosić, ale chciałbym by Jan zygmuntowski zabrał głos dorzuca tylko jeszcze taką informację, którą znalazłem w Center for ekspansji polityk wg ich wyliczeń Facebook Google i inne firmy z Doliny Krzemowej wydały tylko w ostatnich 9 miesiącach ubiegłego roku 59 000 000USD na lobbing to to są ogromne to są potężne wpływy wiemy, że partia demokratyczna akurat z tymi korporacjami miała całkiem dobre relacje łączyło ich to wzywanie do różnorodności wolności itd. to się zaczęło trochę psuć w ostatnich latach tak jak mówił Piotr Szostak jedno kandydatek na kandydata partii Demokratycznej Elizabeth Warren już wprost wzywała do rozbicia Facebooka, więc pytanie do Jana, czego ty się spodziewać z tej perspektywy politycznej czy to będzie jakiś przełomowy rok albo przełomowa kadencja pierwsza tak zwrócił uwagę na kwestię dotyczącą regulacji odpowiedzialności za słowo tak bym powiedziała oraz na te kwestie ochrony konkurencji, czyli na pozycję monopolowy chyba już globalną, jaką te firmy mają pytanie czy czy właśnie czy coś z tym zostanie zrobione wydaje się, że te środki, które i tak zainwestował tak można powiedzieć właściwe w kampanii lobbingowe już zwracają z 1 strony oczywiście sama opozycja wiceprezydent Harris, ale z drugiej strony ludzie, którzy pojawili się w tym zespole przejściowym prezydenta Bidena jest kilka osób Amazona Ubera z Googlea PS dziwnych start-upów, które są finansowane przez chociażby byłego szefa Googlea Erika Schmidta, więc widać, że te obrotowe drzwi już wprowadziły trochę osób to nie są raczej ludzie, którzy jak pomysł Tristan Harris odeszli ich z WIG Czechów, żeby tworzyć teraz edukować ludzi tworzyć alternatywy raczej są osoby, które bardzo dobrze rozumieją jak można łączyć interesy naraz tych największych korporacji i samego i samej nowej administracji rządu amerykańskiego jest stekiem jestem sceptykiem zdecydowanie wydaje się, że to wynika i różnica między Stanami, a Unią europejską, którą prędzej wydaje się, że warto wierzyć w tym kontekście pokłady zaufania różnica jest taka, że stany jednak mają za po pierwsze, hegemona z tym kapitalistycznym systemie na całym świecie i mają długą tradycję tworzenia sobie tego takiego tzw. kompleksu przemysłu zbrojeniowego wiersze z 1 strony przemysł wykonuje polecenia produkuje na zamówienie z sektora wojskowego, a wojsko dzięki temu cały czas zabezpiecza wg pomysłu trafiali najlepsi ludzie bez płytą granty to ważne, że firmy technologiczne wyrosły w ten sam sposób Dolina Krzemowa pierwsza inwestycja być może tak naprawdę wojsko teraz dopiero zacznie odzyskiwać swą swoje zwroty nieprzypadkowo ba 1 no też był jednak kluczową postacią w administracji wcześniej za afery Snowdena, a więc esej i cała cała afera szpiegowska, która pokazała, że nasze dane nie są bezpieczne i wszystko co trafia do amerykańskich gigantów jest analizowany przez wywiad, więc sądzę raczej, że tak być może na powierzchni wydarzy się coś w zakresie moderacji raczej nie odpowiedzialność platform a, a pewnie pozostawienie indywidualne odpowiedzialności, ale jakaś presja, żeby sama regulacja tzw. tak samo regulacja procedury odwoławcze, żeby trochę usprawnić ze strony konkurencyjności być może poziom być może, ale słusznie najpierw zauważył, że to aż tak dużego znaczenia zasadniczo nie ma jeśli to są jeśli jest to powiązane siatką podobnych ludzi albo podobnych zagłębiając się interesów to ten system będzie trwał w tym w tym stopniu natomiast teatr ten trzeci element, czyli rzeczywiście demontaż tego tego szpiegowskiego systemu inwigilacji no wymagałby dużo dalej idących reform i sąd prędzej Unia europejska zrobi, szukając jakiejś suwerenności cyfrowej teraz pada hasło strategicznej autonomii imprezy tutaj jest poczucie, że następuje taka fundamentalna erozja niż w stanach, które stwierdzą dobra zapewnimy jednak do naszych własnych potrzeb to jest ten trzeci wątek w dyskusji o odpowiedzialności czy regulacji tych dużych firm Doliny Krzemowej, czyli kwestia ochrony naszych danych osobowych tego co oni z tym robią to w zasadzie jest tzw. klucz, czyli sedno naszej rozmowy też sedno książki słyszany Zubow, do której się odwołujemy, ale dopytam jeszcze Jana Gutowskiego i oddam głos Piotrowicz z taką bez jeszcze ten czwarty wymiar braku odpowiedzialności tej chwili czy swojego swoistego kłusownictwa, czyli kwestia podatku podatków o Unia europejska OECD czy poszczególne państwa Unii Europejskiej od lat tak mówią, że trzeba było wprowadzić ten podatek cyfrowy, ponieważ te firmy o wymiarze globalnym umiejętnie omijają płacenie podatków wiemy, że drenaż budżetów jest coraz większym problemem też wynikają nie usług finansowanych usług publicznych przez państwo klasy średniej na wypłukiwanie tego co jest ściśle związany właśnie z m.in. niepłaceniem podatków czy u unikaniem legalnym najczęściej w tym przypadku podatków przez duże firmy, więc czy trzymasz poczucie, że w kwestii podatku cyfrowego Unii Europejskiej coś się ruszy za tej po to jest związane z nową administrację jak bardzo się wścieknie o to będzie bronić tych swoich firm zobaczymy, że powszechnie na pewno już takie hasła padły to przewodnicząca komisji Ursula von der Leyen już zdążyła powiedzieć, że no cóż albo będą regulacje wspólne unijne nad nimi do 3 praca no albo te firmy zmierzą się z tym, że każdy kraj europejski zrobi się też po swojemu, więc z komisji idzie przyzwolenie na to część krajów oczywiście Polska gdzie, gdzie rząd PiS-u z 1 strony zmniejszą lukę CIT krajową, a więc ściągalność lotów krajowych, ale luka zagraniczna CIT cały czas rośnie na razie jest tylko na jest mniej niż 50% całości tej luki, ale cały czas rosną element ją do końca tej dekady prawdopodobnie będzie największym, więc coś z tym trzeba zrobić część administracji jak Francja Czechy Hiszpania podjęła się realizacji tego podatku cyfrowego wydaje mi się, że te rozmowy OECD, które miały w ogóle zmienić cały system podatkowy dla naszego świata wywrócone przez Trumpa być może zostaną wznowione, ale tutaj, czyli w Europie pewna cierpliwość się skończyła i ten podatek cyfrowy pewnie będzie na razie lokalnie wprowadzany ale kto wie, bo konsultacje nad tymi 2 kodeksem usług cyfrowych kodeksem rynku cyfrowego ciągle trwają pierwsze tak nie wiem czy coś by jeszcze do tych wątków, które omówiliśmy dorzucił, zanim przeszedł do do kolejnego etapu naszej rozmowy, czyli coś jeszcze zastanawiamy szczególnie w kontekście nowe ministra bardzo, ale nie tylko czy to może być przełomowy rok jak mówili niektórzy jeśli chodzi o regulacje jakąś poskromienie gigantów Doliny Krzemowej Janek wspomniał tom kodeksu usług cyfrowych niż wydaje, że ta sytuacja w stanach Zjednoczonych też mocno promieniuje na nas na Europę i cała ta sytuacja z banem dla Trumpa wydarzeniami ta Capitolu daje już większego paliwa też tej przygotowywanej regulacji kodeksu cyfrowego przez ten przez ten chaos w Waszyngtonie możliwe żona będzie ostrzejsza jest taki paradoks ja tak myślałam właśnie o tym po ten temat wolności są tak uciszenia przez Twittera Trumpa wzbudził ogromne emocje zainteresowanie wielu się wypowiadał rozmawiało jak tylko się pojawia hasło kodeks usług cyfrowych to również wszyscy usypiają tak strasznie przykre, że taka ważna dyskusja budzi duże emocje, kiedy już przedstawione konkretne rozwiązanie kodeksów cyfrowych to właśnie straciliśmy słuchaczy, ale wydaje się, że właśnie dla przywódców europejskich szokujące było to, że prezes prywatnej firmy może wyciągnąć wtyczkę z megafonu prezydenta Stanów zjednoczonych bez jakiegokolwiek nadzoru weryfikacji i kontroli i minister bez dla nich też kłopotliwe tak wizerunkowo potwierdzają taką potęgę tych platform słabość tego jak jesteśmy zorganizowani jako społeczeństwo w przestrzeni cyfrowej myślę, że to będzie mocnym impulsem właśnie tej regulacji które, która część tych problemów właśnie rozwiązuje oczywiście nie wiadomo jak będzie ona miała na finalny kształt regulacji będzie dedykowana w kolejnych latach i na pewno to co mówiliście giganci cyfrowi rzucą ogromne środki lobbingowe przeciwko tej regulacji już zresztą prowadzą i dograł mi się, że już jest ciekawy wątek też tego politycy więcej co to znaczy to robią no nie wiem właśnie Janusz Tazbir ogłosił, że właśnie Google ogłosił np. że teraz uruchomi 2 miliardy euro na walkę z cyfrowym wykluczeniem, która będzie dawana różnym różnym będzie osób wcześniej w Polsce uruchomił też kilkaset milionów na lokalne dzienniki media lokalne, więc ta sieć różnych takich drobnych grantów wsparcia przyjaźni jest dosyć gęsta oczywiście to nie jest nic przekupstwo niż korupcja tego nie trzeba robić wprost wystarczy zbudować sobie dobre relacje uśmiecha się równą potem jest jasne, że kodeks usług cyfrowych zostanie kiedyś przedstawiony jako znów akta 3 albo akta 4 albo jakiś inny sprawdzony pomysł takiej lub stycznej księgi zresztą wyciekły dokumenty, które krążyły między tymi korporacjami o tym nawet jakich strategii narracyjnych używać by bułkę obywateli w Europie i jakich konkretnie polityków należy personalnie atakować oczywiście dzięki temu, że to wyciekło no pewnie strategia zostanie zmieniona, ale spodziewajmy się bardzo ciekawego roku co też dojazd był pierwsza tak przepraszam, że przecież, że przerwę, ale tam jeszcze w taki wątek, że Google widziała jako potencjalnego sojusznika np. polskie Allegro do takiego lobbingu i też pytanie czy np. nasz Polski rząd, który żyje bardzo dobrych relacjach z bublem nie będzie też używane jako jako taki lobbing owe sojusznik na forum Unii Europejskiej to rzuca wyzwanie jak jeszcze krótko opowiedzieli słuchaczom co wiemy co może być jakiś mechanizm w tym kodeksie usług cyfrowych, które zaproponowała komisja europejska, która chce teraz będzie malowany na poziomie unijnym na poziomach narodowych ale o co chodzi to teraz, żebyśmy byli słuchacze cha cha cha na zmianę zdania wyzwanie, ale chodzi, bo mówimy, o czym jest dobra to możemy ją rozwiązuje niezwykły bardzo się naprawdę próbuje jakoś tak powiedzieć, żeby to było interesujące chodzi o to, że będzie można odwołać się od decyzji, więc jeśli ktoś zostanie zbudowany usunięty jakoś nie niesprawiedliwie potraktowany to będzie dużo lepsza procedura na odwołanie się powiedzenie ja się z tym nie zgadzam do tego mają zostać powołane specjalne organizacje tzw. czasem plagę, czyli tacy zaufani zaufanie raportujące zaufanie znajdujący, którzy będą zgłaszali szczególnie szkodliwe treści, a przez to, że pracują w organizacjach, które są tak jakby oficjalnie zweryfikowane są na takiej liście zweryfikowane to będzie wiadomo, że ich zgłoszenia są ważne warto zaufać nie jest to co do zasady oba te pomysły są ważne i jakby do tego, aby kierunek tak demokracji państwa prawa musimy mieć możliwość odwołania jeśli ktoś w sferze publicznej podejmę jakąś decyzję co do nas, a z drugiej strony tak musimy wciąga też obywateli jeszcze bardziej te procesy decyzyjne obie rzeczy natomiast są w obecnym kodeksie usług trochę no na miękko, że tak powiem są dużo słabsze niż w propozycjach, które wcześniej były omawiane, a powinna być śrubę dokręca dużo mocniej pierwsza tak jeszcze coś do dużo dziś może nie kodeksu usług chmurowych, ale wydaje się, że ciekawe jest w tych w tych w tym kontekście regulacyjnym, że najgłośniej z tymi pomysłami regulacji serwisów społecznościowych, które by w części powielają te te pomysły z kodeksu usług w Polsce wystąpiła ta, którą prawica, która dociera do swoich wyborców za pośrednictwem przede wszystkim z Facebooka i z pominięciem mediów głównego nurtu mam na myśli oczywiście Konfederacji, która jest najmocniejsza na długu, ale też solidarną Polskę Zbigniewa Ziobry, który ostatnio zaproponował utworzenie jakiś no właśnie ara rady wolności słowa tak, która i tak rada wolności słowa ma ma kontrolować te serwisy, żeby te serwisy nie blokowały tych treści ani profili pomijając, że to jest jakiś potencjalny nowy konflikt w rządzie, bo premier Morawiecki chce tej regulacji na poziomie Unii Europejskiej tłumaczy żona na poziomie krajowym byłaby nieskuteczna to ciekawe, dlaczego to prawica wysuwa mocniej postulaty no bo oni kalendarium postulaty tzw. walki z cenzurą po książkę pan zaglądali do krajowego tak, bo oni chcą chronić dostęp do swoich wyborców, a skrajna prawica dostaje się do Sejmu głosami użytkowników mediów społecznościowych Konfederacja jest z najsilniejszych partii na Facebooku i ją już arbitralne decyzje Platformy dotykały, bo Janusz Korwin-Mikke został zablokowany na Facebook miał tam był politykiem z największą profilem, więc na tym na tym serwisie i Ziobro np. faktycznie wyleciał TVP jego partia jest nieobecna i oni właśnie chcą by bronić dostępu do swoich do swoich wyborców mam taką propozycję teraz przypomnę państwu państwa gośćmi są Jan zygmuntowski Piotr Szostak wprowadziłem do naszej rozmowy czy czy z powrotem zaprosiła do naszej rozmowy słyszane Zubow byśmy jeszcze raz trochę dali teoretycznego tutaj kontekstu do tej naszej rozmowy, a jeszcze w trzeciej części zatem chciałbym, żebyście się rozmarzył-li i jakby wskazali te rozwiązania czy te kierunki myślenia no który, które pozwolą odzyskać te demokratyczną kontrolę jak to się mówi pisze dzisiaj Vera Jourova, więc wiceprzewodnicząca komisji europejskiej od pisze, że nadszedł czas by zaprowadzić porządek w cyfrowym wydaniu demokracji i zwraca właśnie uwagę na to, że najwięcej uwagi skupia się teraz na BiT dechu, czyli na międzynarodowych ponadnarodowych cyfrowych korporacjach i wpływie na nasze zachowania tak to one dopuściły pisze do rozkwitu teorii spiskowych wzbogaciły się na dezinformacji tolerowały ludzi podmioty, które gospodarcze i polityczne cele zagrażały demokracji tak nie było odpowiedzialności tak bitych wciąż wpływa na naszą debatę publiczną wręcz może ją kontrolować może nawet usunąć z mediów społecznościowych profil prezydenta Stanów zjednoczonych na podstawie niejasnych kryteriów te groźna to groźne dla wolności słowa, choć uważam, że nieodpowiedzialne podżeganie do przemocy prezydenta Donalda Trumpa zasługiwało na reakcję to jasne jest, że tak dalej być nie może, więc jak mogłoby być o tym jeszcze za chwilę, bo najpierw przypomnę państwu siana grubo i jej wiek kapitalizmu inwigilacji początkowo w każdym razie zainspirował te nasze rozmowy to jest duża książka w tym sensie konieczna, że dyskutowana doniesie odnoszą różni uczestnicy debaty państwo możecie sięgnąć po moim wcześniejsza naszą rozmowę z piaskiem przy takim Jankiem Zygmuntowskich znajdzie się w systemie podcast nowym, gdzie opowiadamy dużo więcej, a w sumie dosyć krytycznie się do niej odnoszą moi goście, ale może jeszcze raz trochę teorii w dużej mierze siana Zubow pisze o tym, że wkraczamy na ścieżkę bardzo niebezpieczną na jej końcu jest jakiś taki totalitaryzm ona to co podkreśla wydają się, że to cały czas się nie przebija, że w tym nowym systemie tak naprawdę te duże korporacje duże monopole zarabiają na tzw. redakcjach to znaczy zbierają masowo dane na nasz temat te co im przekazujemy, ale również te, które przekazujemy nieświadomie, które no oni są od nas mądrzejszy sprytniejszy gromadzą dane milionów setek milionów ludzi na ich podstawie analizują znajdują algorytmy jakieś typy naszych zachowań mają tzw. predykcji, bo mniej więcej skoro rozumieją jak się zachowujemy to mogą przewidywać jak się zachowamy i handlują nimi na rynku reklamy w dużej mierze to o to chodzi o całym kapitalizmie wszy cała reszta, czyli wyszukiwarki media społecznościowe to jest trochę do dodatek, żeby nas przyciągnąć, żebyśmy chętnie korzystali dobrze się bawili i te dane przekazywali którymi oni handlują to jest tak w dużej mierze mój moją uproszczone podsumowanie 700 stronicowej książki, ale Piotr Szostak w sumie w jakimś sensie jest jak deklarował, żeby opisać to pod hasłem nadwyżki behawioralnej, bo to jest kluczowe hasło w tej opowieści o kapitalizmie tym nowym oka warto się też warto wyjaśnić to to to pojęcie z umów twierdzi, że ten cały kapitalizm nadzoru został wymyślony zaprojektowany w Google po kryzysie 2001 roku i po pęknięciu bańki internetowej i do tego momentu zdaniem obojga było taką dobrą pożyteczną firmom, bo wykorzystywał dane o użytkownikach tylko do poprawiania swojej technologii i swojej wyszukiwarki i było także firma gromadziła dane o użytkownikach wpisujących te słowa kluczowe do wyszukiwarki część z nich wykorzystywała tych niezbędnych do poprawienia swoich usług, a reszta danych leżała odłogiem firma nie wiedziała co z nimi zrobić ten nadmiar danych pierwotnie niepotrzebnych Zuboff nazywa właśnie tą nadwyżką behawioralną, którą co konkretnie się udało się firmie użyć ponownie to są to są te dane, które pozwalają dopasowywać reklamy do zainteresowań c użytkowników i precyzyjnie tak gotować, czyli są po był to budynki tylko to co sami piszemy tego Facebooka czy Googlea, ale również je rozumie często robimy w jakim nastroju co wiedzą na nasz temat naszej płycie tak i próbują sobie wszystko co się da wyciągu wycisnąć z tej tynki na nasz temat zebrać chodzi też uznanie to co to co myślimy co robimy to, czego pragniemy też metadane itd. wszelkie informacje o naszym o naszym życiu, kto o to ona twierdzi że, że te firmy technologiczne w kapitalizmie nadzoru przerabiają każde nasze prywatne VAT na indywidualne doświadczenie na te dane behawioralne i te z kolei przetwarzane mocą obliczeniową służą jego przewidywania naszych zachowań jak już też automatyzować nas i modyfikacji naszych zachowanym tak jak powiedziałaś powstające w wyniku tego, jakie prognozy naszych zachowań giganci internetowi oferują na na rynkach nowego typu co to znaczy rynkach nowego typu w sprzedają je sprzedają innym firmom informacje o tym jak się zachowamy w przyszłości czym konieczne nawet sprzedają te nasze dane po czasami uspokajająco słyszymy, że nasze nie przekazują dosłownie tych naszych danych, które widzieliśmy Facebooka tylko predykcji, czyli przeanalizowane przedstawione dane na nasz temat tak to się wydania le istotne, dlatego że często słyszę od ludzi taki bardzo indywidualne podejście znaczy ktoś mówi, a ja nie mam do ukrycia albo, a ja ja ja, a to co zupą podkreśla to jest to, że nie chodzi tylko naszą indywidualną relację z Facebookiem tylko, że pomagamy, przekazując różnego rodzaju dane mu mądrze, jakby budować coraz lepsze mechanizmy również automatyzować przyszłości naszych zachowań wpływania na nas tak twierdzi Zuboff to jeszcze coś dorzuci też kwestia wydaje się, że Rze, że istotne było też dla tego kapitalizmu inwigilacyjne jakieś takie konkretne warunki historyczne, które pozwoliły na jakieś jego uruchomienie z umów zauważa, że nałożył 2 rzeczy po pierwsze, zamach 11września, po którym służby USA przede wszystkim NSA zaczęły masową inwigilację i zbieranie danych swoich obywatelach w ogóle o całym świecie i wtedy temat ochrony prywatności w ogóle nie obchodził regulatorów czy rzecz czy mediów tak jak dzisiaj drugi czynnik, który który, poprzez które to poprzedzające ten okres 3 dekady polityk neoliberalnych deregulacji było to już taki moment, kiedy w mainstreamowej dyskusji nikt nie chciał ograniczać wolnego rynku pęta stron korporacjom czym nie może powstrzymywać postępu technologicznego w tych warunkach ta to konkurencja o nadwyżkę behawioralną mogłaby jest taka nieskrępowana też z umów pisze, że na początku w ogóle nie chciało finansować swojej działalności z reklam Larry wejść i Sergey Brin uważali w ogóle za szkodliwe nie tylko dla swojej wyszukiwarki, ale też dla całego internetu pierwotnie planowali zarabiać oferujących usługi biznesowe, ale pękła bańka sitcomów padały kolejne start-upy zaczęli tracić pieniądze firma znalazła się na granicy upadku na zatwierdzanie w tym stanie wyjątkowym takim przyparci do do ściany wtedy postanowili uruchomić to to profilowanie reklam, czyli dopasowanie do zainteresowań, ale też licytowanie w czasie rzeczywistym pomiędzy reklamodawcami, kto jest w stanie zapłacić więcej za zadaną para oczu i tak miał się tak miał narodzić ten wirus kapitalizmu nadzoru, które kilka lat później już w ogóle miała przenieść do Facebooka Sheryl Sandberg, którą zło tak pretensjonalny na Zachodzie, a tych ustaw numer od przydomka takiej nowojorskiej kucharki z początku dwudziestego wieku, która była wtedy nosicielką duru brzusznego tak zależy bardzo dużo ludzi i i Sandberg Googlea została szefową operacyjną Facebook jest nr. 2 po marcu cukier Bergu wg Zuboff od tego momentu firmy technologiczne zaczęły ze sobą konkurować nadwyżkę behawioralną ta cała największa gra w gospodarce zaczęła polegać na tym, kto wy punktuje więcej danych w naszym życiu i napis, żeby nowy mechanizm stał się jakimś domyślny sposoby naszej scenie na kolacji w całej Dolinie Krzemowej zmienia się tam kontrolę niż do wszystkich aplikacji usług internetowych do innych sektorów gospodarki to co wydaje się warte podkreślenia i przekazuje głos Janowi Zygmuntowi czemu to są 2 rzeczy jednak, że ona bardzo podkreśla nie wierzcie im bliżej oni mówią, że was nie podsłuchują albo, że zbierają waszych danych to albo przeczytacie te wszystkie małym druczkiem i zobaczyć czy na pewno tak jest albo może dziś liczyć z tym jesteście oszukiwani i w tym kontekście rzeczywiście warto przypomnieć Jan zygmuntowski ten pisał ostatnio w polityce tygodniku polityka obietnice Facebooka, który przyjmował WhatsAppa i obiecywał, że tych danych nie będzie z tego co wyciąga do centrali tymczasem już wiemy, że zmienia ustawienia prywatności od maja w tej chwili najprawdopodobniej będzie te dane z WhatsAppa mu wygodniej do wykorzystywać to jest 1 rzecz, a druga właśnie on zwraca uwagę na to, że skoro mechanizm jest taki, że chodzi o dane na to że, gdyby na wszelkie sposoby próbują te firmy te dane zdobywać czy przez te takie systemy głosowe, które teraz są bardzo popularny różnego rodzaju co się do nich coś mówi one od razu reagują pytanie co one nagrywają albo co nagrywają domyśleć bardzo głęboko poszukać, żeby to wyłączyć czy np. samochody autonomiczne, które będą miały dużo kamer czy w dużej mierze każdy postęp technologiczny z perspektywy tej analizy kapitalizmu inwigilacji służy przede wszystkim wyciskanie z nas danych czy w takim razie powinniśmy zmniejszy entuzjazm myśleć albo nawet zatrzymać postęp technologiczny dopóki sobie nie uporządkują systemu ekonomicznego zdecydowanie przekierować go, a nie zatrzymywać to o spojrzeniu właśnie tata co nazywam obietnicą techno optymistów w latach dziewięćdziesiątych było właśnie stwierdzeniach postęp nas uwolnili prawie wszyscy będziemy szczęśliwi, że będziemy przedsiębiorcami sami siebie i takie przerodziło w taki techno termin postęp jest nieunikniony będzie więcej kamer będzie więcej, ale sytuacja podsłuchuje wszystko dostarczyć Amazon nie może nic z tym zrobić nie jest tak to my tworzymy technologię wybieramy, jakie są finansowane co jest możliwe, jakie są standardy dla tych technologii, ale jak myślisz teraz o rozwoju technologii 52, która ma nam dać tzw. internet rzeczy, czyli jeszcze więcej rzeczy będziemy sterować zdalnie jeszcze więcej rzeczy będzie sobie przekazywało różnego rodzaju dane na nasz temat naturalnie to czy w tym systemie można już przy tych ustawieniach przy tej świadomości itd. tak dalej długo wymieniać jest jak jest czy on może być korzystne dla obywateli czy będzie jednak przede wszystkim korzystne dla dużych podmiotów gospodarczych no właśnie to jest zawsze dyskusja po co nam tak naprawdę 5 grę jeśli cały czas nawet w Polsce są białe plamy miejsca, gdzie w ogóle nie ma dobrego dostępu do internetu, a cyfrowe wykluczenie przez się powiększa tak jeśli mamy 1 trójkę dzieci wszystkie siedzą na laptopach na edukacji zdalnej no to on to trochę większe znaczenie ma puszczanie światłowodu po kablu niż, żeby teraz ogromne pieniądze znowu rozdawać tak naprawdę największym dostawcą Telekomunikacji, żeby kupowali sobie nowe zabawki natomiast myślę, że na drodze do ministra albo na wyjątkowym dniem od samego początku fascynuje przy okazji dyskusji o technologii 5, gdzie trafiają się ważna ciekawa, że ktoś w ogóle brakuje rozmowy o tym poco nam to rozmawiamy o tym czy Chiny czy Ameryka jak technologia, kto się wzbogaci i w ogóle przyspiesza dostęp do internetu, a jak mało o tym jakie mamy z tego korzyści a jakie poniesiemy koszty tego no jest tak oczywiście natomiast nie wiem czy dyskusja o 5 dziennie wymagałoby jeszcze zupełnie osobnego programu dobra, a chcą na chwilę wrócić do ZUS, bo tego poukładania ekonomii, o którym wspomniała nieprzypadkowo angielska nazwa, którą stosuje nadwyżki behawioralnej to Biegaj Ros plus, czyli jasne dosyć nawiązanie czytelne do stref rozwalił Markowskiego, czyli wartości dodatkowej tu polskie tłumaczenie jest jednak trochę inaczej było bardzo trudne rzeczywiście, więc i jest jednak powrót do tej koncepcji, że jeśli my pracujemy i testy pracy nie służy zaspokojeniu naszych potrzeb tylko trafia do właściciela środków produkcji kapitału maszyny to oczywiście to jest część wartości dodatkowej tury podobny koncert tam, gdzie ona mówi o zachowaniach tradycyjni marksiści chociażby spod znaku Opera Izbą czy o autonomicznego marksizmu mówili często o pracy informacyjnej albo pracy pół, czyli jak przetwarzają informacje jak wy wykonuje pewną pracę i pracę w jakim stopniu może nie zaspokoić jeśli np. potrzebuję przejechać, więc musiał udostępnić ten pies musi go włączyć tak musi wygenerować te dane o tym czy pieszego, ponieważ chce przejechać z punktu ADO punktu UB, ale teraz jeśli jeszcze tego są kolejne dane generowane, które służą te firmy do osiągania zysku no to rzeczywiście jest nadwyżka behawioralna i zarazem pewna nadwyżka tej pracy informacyjnej ta wartość dodatkowa za prawną z niej, więc na pewno nie przypadkowe jest to, że te firmy stały się największymi największymi firmami świata z drogą jeszcze przed cel sam Berg ten kluczowy moment, kiedy rzeczywiście Google, a obraz państwa ścieżkę rozwoju momentem, kiedy został zatrudniony w Google właśnie Erick Schmidt później i osoba, która pomagała cywilizować rząd Obamy mówiono wtedy, że rząd Obamy to Google, a gov KW moment później później siedział na radzie doradców Trumpa no a teraz jest był spikerem na na wydarzeniach fundraising owych dla Bidena, więc tak tata kontynuująca się właśnie te nawet obrotowe drzwi, ale wręcz brak tak jest ze spawaniem się największych tytanów nowego cyfrowego przemysłu i rządów no budzi bardzo duży niepokój jeśli mielibyśmy poukładać gospodarki inaczej jeśli mogę skończyć tak nie kończy w funkcjach fundamentalne jest to, żebyśmy właśnie odzyskali kontrolę nad tymi danymi i po raz wypowiedzi szczerze pewnych danych po prostu musimy zakazać zbieracz zaś nigdy nie potrzebuje ona służy wyłącznie regulacji śledzenie tego, kto w magazynach Amazona w Polsce, żeby nie mówiąc problem jest odległy ten problem, który tu i teraz śledzenie tego, gdzie dokładnie hali znajdują się ludzie czy oni ze sobą rozmawiają jak szybko się poruszają w każdej sekundzie pracy to naprawdę są nadmiarowe dane do jak rozumiem, że jest przekonywali bycie właściciele, że one są bardzo potrzebne, żeby zwiększyć efektywność i bezpieczeństwo pracowników jest moment, kiedy zwiększanie efektywności sabotuje już o bezpieczeństwo np. wtedy, kiedy są tam przypadki śmiertelne kary nakładane przez Państwową Inspekcję Pracy za naruszenie BHP, kiedy rzeczywiście te normy są tak podkręcone, że większość ludzi jest w stanie sprostać przez to jest ogromna rotacja wypalonych po prostu wyciśniętych docent pracowników z pewnych danych i inwigilację innych zdjęć naszych twarzy pewnych danych po prostu nie powinniśmy przetwarzać, a inne dane, które są bardzo potrzebne bardzo ważne historia nasza historia medyczna historie naszych zakupów np. z banku te dane mogły posłużyć temu, żeby projektować np. sztuczną inteligencję w publicznych przychodniach czy lepiej sprawdzać, jakie mu takie produkty mogą być potrzebne i trzeba produkować więcej albo mniej i tego typu dane musimy kontrolować tego są takie pomysły np. wspólnicy danych, które będą służyły publicznemu interesowi już wspomniałem o wspólnikach danych to jest pomysł realistyczny w tym otoczeniu politycznym po piętach w tym otoczeniu politycznym i to jest najlepszy pomysł, aby go testować, bo wiemy, że te dane w tym momencie są trzymane przez często różne podmioty, którym już nie ufamy o przynajmniej patrząc na ciągle to jak naruszają naszą prywatność z drugiej strony nie możemy całkowicie przejść do aparatu państwa po dziś, proszę bardzo, jeszcze nie patrzymy na ręce ufamy bezgranicznie jesteśmy właśnie takiej patowej sytuacji tak samo jako obywatele czy użytkownicy użytkowniczki nie mamy takich kompetencji państwo możemy takie kompetencje, ale nie do końca ufamy jednak chcemy, żeby Sasi zaglądał nasze prywatne dane, a z drugiej strony jeszcze mniej ufamy jakiemuś milionerowi zza oceanu, który dla, którego jesteśmy tylko liczbą przemyślenia tej właśnie w takim w takich warunkach moim zdaniem znalezienie dobrych rozwiązań jest najtrudniejsze, ale one zostaną z nami jako nowe instytucje cyfrowej cyfrowego społeczeństwa no na potencjalnie na długie dekady to tylko dodać, że wspólnicy czy Wszechnica danych to miało być takie publiczne bazy danych, które właśnie zbierały różnego rodzaju dane potrzebne do funkcjonowania społecznego, a w dużej mierze mielibyśmy ograniczyć możliwości prywatnym podmiotom albo nawet im zakazać tak dokładnie i ten system ten system powinien być nadzorowany publicznie, ale nie znaczy, że musi robić to się 1 komórka typu ABW albo o Ministerstwo Spraw Wewnętrznych mogą robić np. jakieś konsorcja złożone z samorządów publicznych bibliotek uczelni, które mają repozytoria, czyli narodowe ani unijne Unia już już widzi, że jest senatorowi nazywa to zaufanymi przestrzeniami współdzielenia danych, więc ta dyskusja toczy się na poziomie unijnym i tam też bardzo chętnie poszerza pole dyskusji, ale tak naprawdę już na poziomie samorządowym Narodowym to miałoby sens w środku Polski w 40 000 000 pacjentów prawie 40 000 000 pacjentów pacjentek NFZ-u to jednak jest już potęga natury można zbudować oczywiście Polski przemysł np. sztucznej inteligencji, którą dziś kuleje to rozumiem tak podsumuje odda głos na koniec Piotrowi Krzystkowi, że biorąc pod uwagę właśnie te tezy Zubow czy w ogóle diagnozy kapitalizmu inwigilacji to oczywiście te kwestie regulacji wolności słowa odpowiedzialności platform czy kwestia demonopolizacji rozbicia ich czy kwestia dotycząca podatku cyfrowego są Super istotna, ale kluczowe jest, kto ma dostęp do tych danych i stąd rozumiem to jest to co najbardziej największe marzenie, o którym pyta wcześniej Jan zygmuntowski pierwsza tak na co ty byś wskazał jako kluczowe w myśleniu o tym co robić w tym nowym kapitalizmie z tymi ogromnymi podmiotami cyfrowymi i tutaj się w całości zgadzam z Janem, że to problem jest rozwój technologiczne to nie jest bez tych oto ja pomiędzy techno optymizmu techno pesymizmem, ale kluczowe jest, jaka za technologią stoi polityczna ekonomiczna organizacja czy jakaś jakaś baza ta obecna jest pasożytnicza neoliberalnej eksploatująca i tak Janek mówił ona może być bardzo inkluzywna wspólnotowa społeczną w zależności jaki, jaki kierunek niż nada, ale chciałem też na koniec trochę włożyć i w mrowisko i mówił, jaka potężna jest inwigilacja ze strony rządu ze strony korporacji wydarzenia na Kapitolu trochę pokazują, że inwigilacja obywateli jest nieskuteczna oni to nie mogli powstrzymać ataku terrorystycznego zorganizowanego na otwartych nie zaszyfrowanych platformach, który każdy miał dostęp jak znam ten argument ale, pozując też kim koreańskiej mrowiska odpowiedzieć na to tak, bo to jest trochę właśnie teraz zastanawiamy czy Cambridge analityka rzeczywiście miała takie moce mogła zmanipulować ostatecznie wyniki wyborów w Stanach Zjednoczonych właśnie czy te służby mają dostęp do takich danych, a nie zapobiegły atakowi na kapitał na Google i inni mają taki dostęp do danych i fizyki zupełnie niepasujące dla mnie reklamy, które się pojawiają tylko tak czy my chcemy ryzykować stałe na ich Ogar nie uciecze na głupotę i liczyć na to, że właśnie tym razem we mnie nie trafi Ninie oczywiście, że nie, ale też wręcz, że łatwo demonizować to wszystko, a bycie to jeszcze podrzuca w takim razie rzeczywiście na koniec fragment listu Very Jourovej trapi tak wreszcie musimy sobie zdać sprawę, że Donald Trump nie jest tylko przyczyną, ale przede wszystkim objawem po jego odejściu zasadnicze powody podziałów braku zaufania i frustracji wcale nie znikną nie są one właśnie cechami społeczeństwa amerykańskiego mamy również u siebie w Europie dlatego nie możemy skupiać wyłącznie uwagi na platformach internetowych musimy wspierać media społeczeństwo obywatelskie kolejny krok do zastosowania naszych systemów edukacji do rzeczywistości cyfrowej to pozwoli bezpiecznie poruszać się w sieci jest najlepszym sposobem na podniesienie nastroju cyfrowej odporności rozumiem, że chodzi o to, że problemów mamy znacznie więcej nie tylko one to to jest to co chciał powiedzieć wyraźnie jak najbardziej zgadzam, ale jednak tylko oficjalnie nie Ogar tych platform jest dowodem na to, że im się system tej z celnej do władzy cenzury kontroli po prostu jeszcze nie domknął, więc mamy świetną okazję, żeby wsadzić właśnie taki też tych, czyli w tym sensie jednak zwracać uwagę na to, że Rze, że to się naprawdę może źle skończyć i czy zgodziliby się na końcu także to wyzwanie właśnie, czyli jednak większej demokracji wielu większej społecznej kontroli no chodzi o to, żebyśmy naprawdę no była to władza w rękach ludzi, a nie korporacji to jest wyzwanie na poziomie tego dziewiętnastowiecznego wyzwania pracowników fabryk, którzy ostatecznie wywalczyli ten 8 godzinny na przestrzegane przestrzegane ale, chociaż jest co do zasady dzień pracy prawo do urlopu i jakiegoś zdrowotnego wypoczynku czy to jest ten poziom wyzwania Piotr moje zdanie Jan, a potrzebujemy potrzebujemy marzyć potrzebujemy dążyć takich realistycznych utopia ach, np. myśleć o tym jak możemy całego Facebooka uspołecznić oddać kompletnie moderacji w ręce rozproszonych użytkowników użytkowniczek cyfrowych ławników będziemy stawiali sobie takie cele to jest szansa, że po modelowaniu naszych celi celu przez rzeczywistość no dostaniemy, chociaż solidne regulacje jak żądam uspołecznienia środków produkcji skończyły 8 godzin dniem pracy zawsze coś Piotr Szostak ostatnie słowo do ciebie, ale ja się jeszcze jak najbardziej zgadzam tylko wydaje mi się to wszystko ma turze realne ograniczenia i jest mocno w sferze marzeń na razie znów, dlaczego w ograniczy to władza władza korporacji i ich spięcie na nas naszą sferę publiczną tak mocno że, że oddolne inicjatywy to jest z tego gigantyczna praca do wykonania, która też Walton warunkach konkurencji one one często nie mają szans z kapitałem, który stoi za, a za wielkimi platformami to Jan Szczot, jaka byłaby twoja twoja boja rozumiem ten sceptyczny, bo to rzeczywiście jak nie wiadomo co robić lepiej robić swoje, więc i od dołu działać w ramach mniejszych inicjatyw i większych, ale rzeczywiście no wygląda tak starcie Dawida Goliata no to jest to wymaga wiele pracy to stajemy jutro wcześnie rano postój my informujemy i budujemy cyfrowe spółdzielnia cyfrowe spółdzielnie czyli, czyli te technologie, ale będące nie tylko innowacją technologiczną go też innowację społeczną taką, którą my kontrolujemy dosłownie w myśl hasła użytkownicy użytkownicy użytkowniczki wszystkich krajów łączy się to pozostaje po jeszcze tylko Doda mówi ma więcej jeszcze przypomnę, bo to jest druga część naszej rozmowy z pierwszej turze Zubowicz wracając uwagę na to, że to nie jest dobrze po technologie już sięgają sięgać będą również władze polityczne, że tutaj może po prostu powstać z perspektywy obywatela Super niebezpieczny Sojusz, ale państwo ewentualnie do słuchacze możecie sięgnąć po podcast w naszym systemie Radia TOK FM z pierwszej rozmowy zachęcam ja uważam, że warto się zapoznać z wiekiem kapitalizm inwigilacji, a potem polemika znów, które były w naszej rozmowie ciąg dalszy nastąpi może pretekstem będzie właśnie technologia 5, gdzie nie wywoła dyskusję o swoim sensie też w wymiarze ekologicznym dziś państwa gośćmi byli Piotr Szostak dziennikarz gazety wyborczej Jan zygmuntowski Akademii Leona Koźmińskiego też polskiej sieci ekonomii bardzo wam za rozmowę jak zwykle dziękuję mam nadzieję, że będą kolejne tyle co dziś wieczorem, które wydawała Małgorzata Łuczyńska, a realizowała Martyna Osiecka już za chwilę informacja Zwiń «

PODCASTY AUDYCJI: WIECZOREM

Więcej podcastów tej audycji

REKLAMA

POPULARNE

REKLAMA

DOSTĘP PREMIUM

Słuchaj podcastów TOK FM bez reklam. Wybierz pakiet "Aplikacja i WWW" i słuchaj wygodniej z telefonu!

KUP TERAZ

SERWIS INFORMACYJNY

REKLAMA
REKLAMA
REKLAMA