w 1343 Jakub Janiszewski przy mikrofonie z nami jest Maciej Broniarz centrum nauk sądowych Uniwersytetu Warszawskiego dzień dobrem dzień dobry będziemy rozmawiali o nowym paru co najmniej tematach związanych z nowymi technologiami którymi zajmuje się Unia europejska, ale to za moment czy zająć porozmawiamy o tym jak czas GPS skomplikował sprawę związaną ze sztuczną inteligencją, ale najpierw żeśmy zaczęli od takiego wątku, który przewija się od dobrych kilku laty i talent
Rozwiń »
język coraz bardziej się zaostrza zaostrzają się też działania parlament europejski w końcówce lutego zakazał stosowania na firmowych telefonach komórkowych TikToka TikToka jest niejako przez instytucje unijne oficjalnie mianowany, choć oczywiście dalej, aby używany w Europie, ale coraz większą nieufnością się do niego podchodzi i nie ciekawić z czego to się bierze to znaczy na ile ten TikTok jest ni osobnym przypadkiem od wszystkiego co mieliśmy do tej pory to znaczy o tym, że rozmaite aplikacje, których używamy w telefonie zbierają dane o tym wiemy od dawna, że duże Platformy społecznościowe to są narzędzia do zdobywania miliardów danych informacji to tam też, jakby coś wiemy, więc czym się różni ten przypadek TikToka, dlaczego tak szczególnej, dlaczego jego akurat trzeba mówiąc krótko balować 13 wprowadza przede wszystkim do tego, kto ostatecznie jest właścicielem Platformy, a ponieważ to jest, czyli takiego rozwiązania jest powiązane z Chinami NATO wiadomo, że to jak zaufanie do Platformy jest wielokrotnie niższe i też Unia doskonale rozumie, że chińskie podmioty nie podlegają tym samym restrykcjom prawnym co chociażby podmioty działające na terenie Unii, a dodatkowo mamy dużo przesłanek dotyczących tego, że jednak Chińczycy wykorzystują TikToka pod kątem no profilowania damy, ale też aktywnego przekazywania konkretnego typu informacji do użytkowników TikToka z kilka miesięcy temu pojawiły się porównania, że w takich sterylnych laboratoryjnych warunkach telefon ze szklistym numerem jak podszywający się pod nastolatka w konkretnym wieku dostaje zupełnie inne treści niższe w telefon nastolatka w tym samym wieku, który sam dodaje, że mieszka na terenie Stanów zjednoczonych Europy więcej tutaj jest dużo takich działań, które nimi ze strony firm, które właśnie Empik taka po prostu wzbudzają dużą nieufność nie do tego dołożymy ten wątek, że ich tak bardzo intensywnie prosi, żeby Marika dostała dostęp naszych multimediów do naszych kontaktów no co za chwileczkę może się boją pojawić problem co tak naprawdę z tymi danymi się dzieje takich odmian są przetwarzane jak analiza danych są robione w, czyli rozumiem, że w zasadzie tutaj mamy do czynienia z tym co do siana Zubow w swojej książce kapitalizm nadzorczy kapitalizm nadzoru rynek to właśnie przekładać na Polski mocno akcentowała znaczy, że jedyne bezpieczne dla użytkownika i w pełni można powiedzieć respektując jego prawo do prywatności obieg informacji to jest taki, w którym dane nie wyciekają poza twój domowy serwer jeśli można by tak powiedzieć nigdzie nie trafiają każdy inny układ jest w gruncie rzeczy ryzykownej w tym momencie Europa to potwierdza mówi my nie możemy dopuścić do tego, żeby te i taty te dane jak ten obiekt był przechodził przez Pekin, bo my nie wiemy co Pekin robi się kończy to jest taki takie potwierdzenie tego, że tak ten biznes polegający na tym, że twoje dane krążą w obiegu, na które nie ma wpływu jest jednak ryzykowne tak do tego trzeba dołożyć jeszcze 1 informację co znaczy to bardzo często są nie tylko nasze dane, ale są to też dane na temat innych osób, które mamy w telefonie to znaczy, jeżeli np. my włączamy sobie ich taka na telefonie i pojawia się pytanie czy zgadzamy się żeby, kto uzyskał dostęp do naszych kontaktów to siłą rzeczy wszystkie kontakty, które mamy w telefonie prawdopodobnie mogą zostać pobrane na czystą chiński serwer tam być przetworzone, więc jeżeli np. ja bym używał TikToka i miał telefon do pana redaktora to mimo tego, że pan redaktor nigdy taka nie korzystał siłą rzeczy firma, która jest właścicielem taka będzie miała numer telefonu będzie mogła dane królować w różny sposób chociażby smakując jakieś siatki kontaktów w latach rzeczywiście takie to bardzo jednak mocno pokazuje mam wrażenie, że noże trochę się osób na czym mamy podwójne standardy to znaczy, że twierdzimy, że póki to są firmy amerykańskie europejskie spoko możemy się tak bawić, ale będzie je tutaj wchodzą Chiny i robi się za polityka to lepienie to to jednak jest jakoś to takie powiedziałbym no właśnie tak się PET i trochę grałem trochę zawstydzające w oczywiście są to podwójne standardy w idealnym modelu w pewnym momencie same restrykcje będą dotyczyły chociażby film amerykański nowość, jaką u mieszkańców Unii Europejskiej chciałby mieć ten komfort że, iż jakakolwiek Platforma przetwarza moje dane to po pierwsze, powinniśmy zgodę na przetwarzanie danych, a jego zgodę mojego znajomego na przetwarzanie moich danych i w razie czego mogę w dowolnym momencie zareagować lica zresztą zgodę itd. na teraz sama by reakcja i Unii Europejskiej na TikToka jest dobra natomiast to jest właśnie początek to powinno pójść dalej i rzeczywiście należy podobny sposób traktować wszystkie Platformy, które funkcjonują na terenie objętym, czyli wiarę no właśnie czy teraz pytanie jak czy przypadek TikToka jak za początku jakiegoś rodzaju myślenie czy to w ogóle możliwe może tak czy to ciągle są są na to szansę czy też dalej będziemy to jednak będzie także po prostu, ponieważ to jest chińska Platforma to będziemy się nie podnosi odchodzi po podchodzili z dużą nieufnością właśnie ją panowali w pewnym sensie z od tak wali jako taką niebezpieczną cała reszta będzie jednak tak jak zwykle znaczy tutaj myślę, że mamy 2 problemy, bo z 1 strony i tak też stworzył taki model konsumpcji treści właśnie na podstawie tych krótkich tak to 12 sekundowy filmów, który spowoduje, że bardzo często ludzie prostu siedzą godzinami przewijają treści z kolegą film filmem dokładny mechanizm wskazywali lotów skopiował instagram więcej podobny tryb karmienia nas mało wartościową ta komedia szuja rzeczywiście powielamy natomiast drugi kolega taki, że to ludzie uczą się powoli, ale jednak się uczy, że te Platformy biorąc nasze dane przetwarzają je co z nimi robią jego kontem bez Facebooka dosyć powszechnie rozmawia już na temat kontroli treści na post innego stylu użytkownika, czyli użytkownik świadomie decyduje co komu udostępnia, jakie treści są widoczne publicznie a jakie są Jacka tylko dla grupy znajomych rodziny czasie gigantyczny przeskok mentalnością by na przestrzeni ostatnich kilku lat teraz, jeżeli rzeczywiście będzie mocno stron czy też zakresie dyskusja na poziomie całej wspólnoty, że zapewne Platformy, których praktycznie akceptujemy to co jest dobrą stronę tylko ten skandal goszczono czy dotyczy wszystkich pasów ani tylko akurat tutaj TikToka Chińczyków, bo to nie rozwiązuje problemu również rzeczy dzieją się po stronie, którego ta struktura na razie tak kreśli kompozycji no właśnie to niniejszym stwierdzi się przejść my do tematu nr 2, czyli regulacja dotycząca sztucznej inteligencji w kontekście czasu dzieli 5 ciał dzieci, które straszliwie namieszał znów wywołał całą masę śmiech szkół w sprowokował mnóstwo contentu na rzeczy jest to zabawa przednia, ale który jak rozumiem, bo tak się przynajmniej wydaje może bardzo wiele zmienić w kontekście tego co w ogóle myślano sztuczna inteligencja się za chciało się na początek zapytać, dlaczego to znaczy, dlaczego to jest takie szczególne, dlaczego takie wyjątkowe, dlaczego takiego ciężar, bo to jest bardzo skuteczne łatwo dostępne i to jest kolejny niestety przykład, gdzie legislacja rada nie może zapomnieć kapel technologicznym i bo Czyż to nie jest tak, że ktoś obudził i październiku listopadzie 2020 drugie roku i stwierdził mam wolny weekend zrobi sobie Platformę sztuczna inteligencja, która zrewolucjonizuje zrewolucjonizuje rynek czas, gdy ITI to są gigantyczne pieniądze zainwestowane przez wiele znanych w ekosystemie mi terytorium osób chociażby Pitera Phila i często forma, która powstawała od lat, więc to, że ona wreszcie dojrzała i stała się popularna to jest kolejny krok na drodze, a jak ktoś nagle uderzyło, czego nie można przewidzieć Unia rzeczywiście pracowała nad regulacjami dotyczącymi stalowymi, które wykorzystują sztuczną inteligencję i tam były takie założenia, że to oczywiście powinien być zawsze mechanizm jakiś kontrami ludzkiej, że te systemy powinny być monitorowane są pewne działania, które systemy jak powinny podejmować natomiast najlepszy czas szpital pokazał dobrą myśmy to wszystko robimy i właściwie jest dostępny dla każdego bezkosztowo albo za bardzo małe pieniądze na w tym momencie rzeczywistość zmieniła znaczy Unia próbowała dostosować do rzeczywistości, która przestała istnieć tak naprawdę musi zacząć od nowa to jest symptomatyczne czy wątku to jest artykuł polityka sprzed paru dni ten temat, który zaczyna się od tego, że można sobie kliknąć przycisk mówiący nie sztuczna inteligencja przeczyta ten artykuł faktycznie generowane komputerowo głos czyta tekst dosyć karne czy tak zastanowimy, ale potem są komentarzy, gdzie redaktorzy polityka zapytali się tam, gdzie PIT CIT co Unia europejska powinna zrobić w kontekście regulacji prawnych dotyczących właśnie arniki i co ciekawe czarnych dzięki mówimy to co zdroworozsądkowo wszyscy widzimy, czyli że Platforma powinna być kontrolowana chociażby pod kątem możliwości wykorzystania do masowej dezinformacji czy do innego tworzenia materiałów, które potem będą wykorzystywane ze szkodą dla społeczeństwa, a te ma ochotę zapytać, dlaczego to znaczy co takiego może zrobić jeśli chodzi o masową dezinformację, czego nie robi do tej pory sztuczną inteligencję albo czego nie robiły Niewiem farmy trolli albo nie mam pojęcia co jeszcze na różne tutaj można przywołać modele różne sposoby czy np. teraz ten ostatni taki mój ulubiony, czyli Team Horch z Izraela, który też miał swoje własne z dedykowane oprogramowanie do zarządzania milionami awatarów, które tam też coś pisały i zabierały głos w tzw. debacie czym się różni życie to jest zmiana no właśnie to nie jest kwestia zmiany jakościowej jest kwestia robienia tego na zupełnie inną skalę okej to taniej szybciej więcej można będzie realnie niższy i tak jest, jeżeli teraz czytam od paru dni i to parę tygodni te brednie dotyczące Rafała Trzaskowskiego, który na zakazie jest miastem będzie musiał do jedzenia robaków k i czytamy do kraju, w którym jak się dobrze stanowimy dajemy zepsutą kapustę i zaprząta ogórki z tak zły jak chce w tę stratę dzięki rozmawiam chcę wtedy tak jak rozumieć niechęć, jaka Polaka zostali zabrani, ale bardzo przepraszam natomiast uważnie mi to w tym momencie mamy technologię, która może też poproszona właśnie wygeneruje nam 10 000 000 wpisów oburzonych Polaków za, gdyby zakazem jedyne miasta i w tym momencie pozostaje kwestia tylko upowszechnienia tych treści tego nagle osoby, które zajmują się z informacją są w stanie Masza sposób generować wiarygodnie wyglądające treści jest dostępny wraz oczywiście mi Unia nie interesuje tylko właśnie czwarty piknik, gdyby nie po prostu pokazałyby skalę problemu natomiast, jeżeli mamy systemy inteligencji, które potrafią podszywać się pod ich głos nie ma żadnego problemu, żeby np. właśnie wygenerować wypowiedź 1 drugiego polityka, który wprost mówi, że także uważa, że np. wyborcy jakieś inne partie nie powinny mieć prawa posiadania samochodu jedzenia mięsa i potem odkręcanie tego dementował nie będzie bardzo trudne to będzie dużą szkodą jak dla całego społeczeństwa nie jeszcze kilka kilkanaście miesięcy temu pojawiały się argumenty, że kombinacja oparta o model głosowy to jest bardzo fajne rozwiązanie też prośby by czytać już wiemy na pewno tak nie będzie, bo systemy, które potrafią się otrzeć pot głos konkretnej osoby na podstawie krótkiej trzyminutowej dwuminutowej próbki głosu są bardzo trudne rozpoznanie jak się słucha amerykańskim podcaście chociażby poświęcony właśnie tutaj w ewidencji to tam regularnie pojawiają się takie odcinki, gdzie ktoś z plag np. w treści 56 minut wypowiedzieć została napisana przez szóstą inteligencję i odczytana przez syntezator, żeby podsuwać pod głos 1 prowadzących i dopiero od wysokości podawane informacje, że właśnie też takie, jakie zostało zrobione też bardzo trudne do wyłapania w 1356 za chwilę wrócimy do rozmowy łączenie ich wdzięk skutki w czternasta 6 Jakub Janiszewski przy mikrofonie z nami jest Maciej Broniarz centrum nauk sądowych Uniwersytetu Warszawskiego rozmawiamy o sztucznej inteligencji rozmawiamy o czasie BTP regulacjach Unii Europejskiej, która właściwie ten dziad dzieci i ten czas dzieci PISF wywrócił jak powiedzieliśmy, ale i spróbujmy jeszcze raz może bardziej precyzyjnie nazwać na czym polegało to nieuwzględnienie możliwości czatu dzieci i w kontekście tej regulacji to znaczy, czego ta regulacja nie przewidziała o niej nie była w stanie ująć na czym polegało to zawężenie czy prześle pieniędzy no taki właśnie rozwiązań, które też tak jak pan to słusznie zauważył przed informacjami nie były nie powstawały w jakimś zakresie w pewnym sensie było wiadomo, że nad tym pracuje to znaczy tutaj mamy i taki przeskok technologiczny, którego chyba tworzący legislację unijną nie przewidzieli albo i przełożyli do niego należy wagi znaczenia te dyskusje, które toczyły się jeszcze na przełomie roku dotyczyły tak naprawdę kategoryzacji rozwiązań, że np. mamy systemy sztucznej inteligencji, które pozwalają tworzyć teksty i albo kontrolować jej teksty najczęściej oczywiście Kierat się gigantyczna przez nadużyć tysięcy informacji mamy systemy, które pozwalają tworzyć zdjęcia czy grafiki, które pozwalają pewne rzeczy zrealizować i teraz założeń, bo takie systemy będą kategorie mamy problem się pojawi wtedy, kiedy nagle okazało się, że mamy czasem nie piki mamy analogiczne rozwiązania, które inwestują inne duże firmy pamiętajmy, że czas do opieki to jest rola być, który ma czas zainwestował bardzo duże pieniądze Bóg buduje podobne swoje rozwiązanie jak dziś okazało, że tak naprawdę system nie jest takie proste do ZAK i kwalifikowania do żadnej kategorii to jest system, który w dużej mierze narzędzie pozwala tworzyć różne rzeczy pozwala, więc robić rzeczy, które są pozytywne potrzebny społecznie no i poczytność pozwala tworzyć rzeczy, które potencjalnie są są szkodnika, więc tutaj się okazało, że trzeba w ogóle obrady narodowa i zacząć rozmawiać to wszystko nie na temat kategorii rozwiązań, ale na temat konkretnych zastosowań tutaj widać też bardzo ciekawy brak aktywności takiej publicznej ze strony właśnie tak dużych firm typu Microsoft pomogą, które ewidentnie czekają na to co Unia zrobi, którą stronę pójdzie już zaczyna się dyskusja po stronie polityków wspólnoty, że nie ni no na ile te ingerencje Truman kontroli systemu próba funkcjonowania rozwiązań typu jaj przez przez system prawny to jest pewne naruszenie wolności ograniczenia technologiczne tak dalej to znowu będzie ten sam dualny, który mieliśmy w kontekście mediów społecznościowych naście lat temu, gdzie na świat w trakcie przetwarzania danych osobowych nie była zaadresowana w stanach przez lata, mimo że wszyscy mówili, że będzie z tym problem Unia poszła krok do przodu wprowadziła drzwi Pijar dopiero potem tak naprawdę na kanwie różnych skandali i ma opinię publiczną w stanach wymogła pewne rozwiązania, które mimo wszystko są dużo bardziej liberalny niż co mamy na terenie 100 lat, a może precyzyjnie rozwiązania, które dużo gorzej chronią obywateli i 5 myślę, że będziemy mieli podobne rozwiązanie i podobną sytuację zobaczymy natomiast oczywiście czas wybitej pokazał, że tak naprawdę właśnie inteligencja jest dostępna właściwie od ręki w bardzo szerokim zakresie bardzo dużo mi pole do wykorzystania w tym również bardzo dużą palę duży podbieg powinna też bardzo boli to, że koszty spróbuje napisać sobie nie biegnie bardzo mamy też sprzedać światu mówić, gdy widzi także referatu do szkoły natomiast już głównie parlamentarzyści w europarlamencie, żeby pokazać skalę problemu przygotowywali przemówieniach, że na koniec dawaliśmy przemówienie w całości zostały napisane przez czas, gdzie PIT-y i to pokazuje niestety skala zagrożeń i ryzyka, które my musimy doczekać dobrze to bym to jeszcze jedno pytanie czy na czym polegała ta powiedziała przeskok technologiczny w przypadku czatu czy PIT jeśli zostają na czym polegałoby czy to jest tylko i wyłącznie kwestia tego, że to jest jak głębszy poziom jazdy na głębokość w pewnym sensie tych warstw nieraz zresztą mówię zgodnie z z taką, jaka to będzie nomenklaturą technologiczną w odniesieniu do sztucznej inteligencji czy to jest kwestia czy po prostu to jest tak, że to jest jakiś nowy inny system czy to jest jednak także takich jest dalej ten sam, jakby system Wipler ringowy, który był tylko lepiej dopracowane na czym tutaj polega ten przeskok Elin rzeczy do po pierwsze, cały czas jest takim branżowy żart, że uczenie maszynowe to jest Power pointa sztuczna inteligencja ze Spartą tego nakazuje, żeby i, gdzie one rozwój technologiczny, gdzie indziej mamy marketing natomiast mówi no poważnie ciąży pyta czy nie jest przez technologiczne, dlatego że osoby, które siedzą w tym temacie wiedział, że takie rzeczy dzieją problemem jest to, że nagram rozwiązanie, który jest bardzo łatwe w użyciu bardzo dostępne bardzo funkcjonalne tak naprawdę problemem nie jest sama technologia problem skala i popularyzacji, bo w tym momencie to nie jest zabawka tylko dla wybranych dla akademików dla naukowców itd. te rozwiązania, którego może skoro tak będę dowolna osoba żeby, żeby się tym pobawić na oczy się też pokazuje pewną skalę zagrożeń, jeżeli się okaże, że faktycznie czas w PIT będzie za chwileczkę w tej wersji premium dostępny także opłatę bodajże 20USD miesięcznie to ciągle są bardzo małe pieniądze za technologię, która pozwoli np. masowo generować fałszywe oni wpisywać i po prostu zrobić my machinę propagandową, która na świat będzie tak PiS generowała rzucałam jakieś pora na grupy dyskusyjne, próbując przesuwać akcenty jedno czy drugą stronę, jeżeli chcielibyśmy zrobić nagonkę tak jak była nagonka sztucznie oderwana anty imigrantka z 2015 roku to jednak wymagało zaangażowania i ma wzmocnić teraz tak naprawdę większość tego wysiłku może być przesunięta na narzędzia informatyczne to może być dużo bardziej skuteczne dużo tańsze, ale też Gui opłakane skutkach przez to częstsze prawda, bo wiadomo że, żeby zorganizować taką nagonkę 2015 to trzeba było wyłożyć kupę kasy teraz już nie trzeba tej kasy będzie to wszystko dużo prostsze, ale równocześnie gdzieś w tym wszystkim jak rozumiem wyświetla się na taki problem, że nawet nie chodzi o to, że technologicznie czy, że jakby Unia europejska nie ogarnęła tematu, bo nie wie jak się biznes rozwija niewłaściwie jak się rozwija tylko problem polega na tym, że to co będzie nas cały czas zaskakiwało to jest wdrożenie prawda czy to do jakiego stopnia sztuczną inteligencję można zaprząc do nowych rozwiązań, których my sobie jeszcze umiemy wyobrazić także tutaj myśli pan tę 1 rzeczką tak jest, ale powszechności, jeżeli chcieliśmy jeszcze kilka lat temu zrobił taką kampanie promującą mieli partie polityczne ten pogląd społeczny cokolwiek to było duże pieniądze to była duża infrastruktura duży wysiłek widziałem ten przypadek kogoś kto, prowadząc ich konkretny biznes bodajże warsztat samochodowy wygenerował sobie na czas, gdyby kilkadziesiąt pozytywnych recenzji i miał problem klejenie ich na rubla jest tak naprawdę klei taki ciąg kilkunastu różnych recenzji, które będą wyglądały one przez naszą burz natomiast pokazuje znak technologia, która absolutnie dostępna dla wszystkich, a teraz, odpowiadając na pytanie wiadomo, że niemożna ograniczać rozwoju naukowego wiadomo, że to jest także naukowcy szukają nowych ścieżek będą testowali nowe rzeczy te rozwiązania bardzo często same w sobie nie są realne dobra energia atomowa w uchwale sądu mające problemy może też zabijać natomiast inny problem jest w tym, że my musimy oczywiście skupić się natomiast rozwiązanie implementować i wybudować sobie troszeczkę takie ramy, że kiedy pojawi się nowy przełom tych technologicznych, a ma również będzie działo dużo częściej również nie wcześniej to tak jak też musi być szybka to znaczy wspólna europejska musi być przygotowana na to, że jeżeli pojawi się takie rozwiązanie to pewne mechanizmy prawne zaczynają działać od razu nie czekamy tak jak przypadku media społecznościowych do de facto 10 lat 12 na reakcję tylko taka atrakcja wydarzy się w ciągu kilkunastu miesięcy, czyli de facto jeśli rozumiem polegliśmy tutaj na czym to znaczy na na tym, że nie dało się przewidzieć takiej sytuacji życie bardzo prosta sytuacja prawna czy w celu próbuje sobie w jakby odpowiedź na pytanie i trochę też, jakby słuchaczom na to pytanie, dlaczego Unia europejska nie była w stanie tego jak wpaść na to, że coś takiego powstanie jak ten myślę, że tutaj paradoksalnie nie polegliśmy to znaczy też częściej, więc również jest pewna trudność i warunki gry też troszeczkę się zmienią, bo rzeczywiście zmieniła, ale mówimy nie sytuacji, kiedy nam Unia jest zaskoczona właściwie masowo dostępnymi rozwiązaniami typu jaj nie nie musi wprowadziliśmy pewne działania te technologie zaczynała się do przodu musimy wrócić do tablicy musimy z powrotem, żeby adresować, żeby zaadresować aktualny stan nie nie stan rzeczy już pojawiają się głosy to bardzo celna uwagi, że dobra może popaść w kat do przodu próbujemy budować pewne ramy, które takim poziomie ogólności będą adresował takie problemy, które i tak pewnie się pojawił to znaczy mamy kwestię przygotowania kwarków wideo to powinniśmy jakoś usankcjonować nie wiem jak technologia będzie kosztował na szansa, że na 10 lat nie będzie antyki czy PIT będzie masa innych rozwiązań i musi jeszcze notowany stan prawny pewne rzeczy po prostu nie można nie można robić, ale też np. pewne badania dotyczące szkód inteligencji muszą być one sposób teraz pan tak, żeby nie było także w korporacjach buduje sobie swoje rozwiązanie bardzo skuteczne bardzo funkcjonalne, które będzie absolutną tajemnicą wyniknie będziemy wglądu, jaką funkcjonuje no bo to może być bardzo złe skutki muszą te dziękuję bardzo, nam Maciej Broniarz z centrum nauk sądowych Uniwersytetu Warszawskiego był z nami 1417 za chwilę informację
Zwiń «
PODCASTY AUDYCJI: POŁĄCZENIE
-
09:22 W studio: Anna Łabuszewska
-
-
12:06 W studio: dr hab. Grzegorz Makowski
-
-
10:57 W studio: dr Oskar Pietrewicz
REKLAMA
POSŁUCHAJ RÓWNIEŻ
-
30.05.2023 15:40 Światopodgląd14:33 W studio: płk Piotr Lewandowski.
-
30.05.2023 13:40 Połączenie12:06 W studio: dr hab. Grzegorz Makowski
-
-
30.05.2023 17:20 Wywiad Polityczny29:05 W studio: Marcin Duma , Michał Fedorowicz
-
-
30.05.2023 13:20 Połączenie14:08 W studio: dr Wojciech Woźniak
-
30.05.2023 14:00 Połączenie12:14 W studio: prof. Małgorzata Myśliwiec
-
30.05.2023 15:20 Światopodgląd12:41 W studio: Piotr Barczak
-
30.05.2023 16:59 Techstorie37:47 TYLKO W INTERNECIE
-
30.05.2023 14:40 Raport Gospodarczy13:27 W studio: dr Mariusz Dziwulski
-
30.05.2023 15:00 Światopodgląd12:17 W studio: Piotr Czaban
-
30.05.2023 16:00 Światopodgląd10:35 W studio: Paweł Pieniążek
-
30.05.2023 16:39 Co z ciebie wyrośnie?
-
30.05.2023 16:20 Światopodgląd12:40 W studio: dr hab. Paulina Kramarz
-
30.05.2023 16:40 Jeszcze Więcej Sportu16:33 W studio: Przemysław Pozowski
-
-
30.05.2023 18:30 TOK36009:21 W studio: Ryszard Schnepf
-
-
07:20 Poranek Radia TOK FM30:46 W studio: prof. Mirosław Wyrzykowski
-
30.05.2023 18:40 TOK36008:11 W studio: dr Marek Kozubel
-
-
30.05.2023 18:20 TOK36006:06
-
30.05.2023 19:10 TOK36007:41 W studio: dr Anna Cichecka
-
08:34 TYLKO W INTERNECIE
-
-
-
15:33 W studio: Stanisław Mazur
-
30.05.2023 18:50 TOK36008:27 W studio: dr hab. Konrad Pawłowski
-
30.05.2023 19:00 TOK36005:58 W studio: Michał Waszkiewicz
-
REKLAMA
DOSTĘP PREMIUM
W maju TOK FM Premium 40% taniej. Podcastowe produkcje oryginalne, Radio TOK FM bez reklam i podcasty z audycji.
KUP TERAZSERWIS INFORMACYJNY
REKLAMA
REKLAMA
REKLAMA
-
TOK FM
-
Polecamy
-
Popularne
-
GOŚCIE TOK FM
-
Gazeta.pl
-
WYBORCZA.PL