REKLAMA

Ekspertka: Chcemy rozwijać sztuczną inteligencję w Polsce, ale nie mamy odpowiednich zabezpieczeń danych i prywatności

Data emisji:
2019-08-27 14:00
Audycja:
Połączenie
Prowadzący:
Czas trwania:
26:37 min.
Udostępnij:

AUTOMATYCZNA TRANSKRYPCJA PODCASTU

łączenie 145 Jakub Janiszewski przy mikrofonie ze mną studia prof. Katarzyna Śledziewska DELab UW dzień dobry dzień dobry witam państwa będziemy mówić o polskiej strategii rozwoju sztucznej inteligencji nie jest to dokument oryginalny na tle innych krajów takie strategie powstały już w wielu miejscach na świecie możemy sobie zadać teraz pytanie, dlaczego ale, żeby zrozumieć musimy wytłumaczyć co to jest sztuczna inteligencja, która stała się tak bardzo popularna w Rozwiń » ostatnich latach, jakiego właściwie rodzaju wynalazkach my mówimy czy może zaś takiego prostego przykładu w ogóle, kiedy jest, kiedy nie ma tej sztucznej inteligencji byśmy sobie kamery, które z jak wiadomo zaczyn mam są powszechnie stosowanej to jest jakaś tam technologia cyfrowa dajmy na to ani stawiają firmy kamery na sąd obserwować parking czy chcą obserwować z biznesem słowo tzw. dalej tak i w momencie, kiedy stosujemy już inteligencję to chodzi o to, że np. kamery nie muszą już na stop nagrywać tylko, jeżeli właścicielowi chodzi chciałby właściciel czy przedsiębiorca chce wiedzieć czy chce chronić nie dajmy na to swoich zasobów typu samochody, które są na parkingu to taka kamera łączy się w momencie, kiedy ktoś podejdzie do samochodu zacznie się przy nim kombinować i to co chodzi właśnie, że w sensie, że kamera czy inaczej algorytm, który jest zastosowane będzie wiedział będzie w stanie czytając obraz określić czy następuje potrzeba czy też nie włączenia tej kamery, żeby nagrywać i np. też przesyłać informacje dalej dajmy NATO do właściciela do ochrony gdziekolwiek na temat tego, że jest coś włamanie co się dzieje, więc to jest to jest różnica pomiędzy taką zwykłą kamerą, a kamerą, która jest już zaopatrzona w sztuczną inteligencję generalnie dla mnie ta sztuczna inteligencja to inaczej to jest po prostu technologia są algorytmy, które analizują dane i potem coś dalej z tym robią to właściwie nie jest technologia nowa to jest technologia jeszcze z lat sześćdziesiątych siedemdziesiątych zamiast nowej sytuacji w ogóle się pojawiła 50 piątym roku w stanach Zjednoczonych po raz pierwszy ma kartę napisał właśnie projekt, którym mówiło sztucznej inteligencji także tak to nie jest nic nowego, ale nowa sytuacja, bo zmieniło się przede wszystkim to otoczenie zmieniły się możliwości technologiczne i mamy całą masę danych dla sztucznej inteligencji to jest ta najważniejsza wartość tak to znaczy wcześniej czy po pierwsze mamy całą masę danych małe mamy cała masa też urządzeń, które te dane generują począwszy od na samych w momencie, kiedy jesteśmy i czego szukamy w interesie cokolwiek jakąkolwiek działalność mamy w internecie skończywszy na sensora, które są teraz powszechnie już na szczęście stosowane i one też generują te dane i a to jest po pierwsze, że mamy więcej danych po drugie mamy chmurą obliczeniową, która pozwala, gdyby te dane przetwarzać, a po trzecie mamy algorytm, czyli to właśnie tzw. słyszałam inteligencji, która post pozwala na to, żeby z tymi danymi co dalej robić i a generalnie na tym właśnie polega ta czy w ogóle cała ta transformacja cyfrowa także nagle z jesteśmy w stanie wytworzyć jakąś dodatkową wartość w oparciu o te wszystkie narzędzia technologie ICT i oczywiście w tym sztuczna inteligencja ma bardzo duże znaczenia sztuczna inteligencja stała się hasłem dla polityków od jakiegoś czasu tak mniej więcej 23 lat zaczęły powstawać narodowe strategie rozwoju sztucznej inteligencji bardzo wielu krajach na świecie co właściwie mają dać coś się to robi, że generalnie jest technologia, która niewątpliwie zmieni funkcjonowanie państwa zmieni funkcjonowanie gospodarki zmieni funkcjonowanie firmy i otoczenie tych firm i na samych jako obywateli i w związku, z czym warto się zastanowić w jakim kierunku powinny pójść zmiana znaczy trzeba na pewno sobie powiedzieć, czego my chcemy dziś i ile jesteśmy w stanie na to dać pieniędzy, żeby uzyskać tak jak inne fakty albo, żeby przed łącznymi skutkami tej słusznej tak na rozwoju sztucznej technologii się inteligencji się chronić stąd też się z jak wiadomo są kraje typu Chiny, które przodują, jeżeli chodzi o inwestycje w sztuczną inteligencję stosowanie sztucznej inteligencji i rozwój badań nad nią są stany Zjednoczone w i też no Europa i każdy z jakim bez tych 3 bloków ma inne podejście do tego czy tutaj mówię, że to nie tylko chodzi o samą sztuczną inteligencję to trochę ten termin też należy odczarować, bo ta sztuczna inteligencja to nie jest taka inteligencja jeszcze nazwijmy to głęboka, jaką posiadają ludzie, ale to z przede wszystkim są dane i wydaje mi się, że teraz najwięcej wokół danych należy robić i no to są algorytmy i tutaj co też jest no ważne też jest kwestia zrozumienia tego co tak naprawdę robią algorytmy, jakie są skutki uboczne tak dalej, więc to z suszą inteligencja podzieliła na dane i algorytmy no i oczywiście infrastruktura, czyli ta wszystkie kwestie związane z przetwarzaniem danych z mocą obliczeniową i chmurą, kiedy patrzę na wywiad, który wygasł Sylwia Czubkowska Markiem Zagórskim ministrem edukacji Gazeta wyborcza to mam takie, że mieszane uczucia jak mówią tak w Polsce potrzebny jest plan, który pomoże wykorzystać nasze przewagi n p . w tych branżach czy niższa, gdzie mamy osiągnięcia, jeżeli ktokolwiek w Europie chce tworzyć rozwiązania dla przemysłu motoryzacyjnego to w pierwszej kolejności udaje się do Niemiec, jeżeli jednak takie rozwiązanie oferować przemysłowi drobiarskie mu to czy meblowe mu automatycznie kieruje się do Polski trzeba tutaj pomyłka Marek Zagórski minister cyfryzacji to jest moja pan poseł panie, dlaczego będziemy edukacji ma w można tylko profesora studiów, ale czy to jest właściwe myślenie o sztucznej inteligencji to znaczy czy rzeczywiście chodzi tutaj szukanie jakiś przewag bardziej chodzi o udrożnienie prawnej administracyjne, żeby łatwiej wdrażać technologie rozmaitych obszarach może niekoniecznie, szukając jakichś nowych zastosowań znaczy trochę trochę tak trochę nie to znaczy nie do końca rozumiem, o co chodziło ministrowi Górskiemu, bo nie znam tego akurat wywiadu, ale generalnie jak rozumiem to jest także faktycznie Polska, jeżeli chodzi o produkty eksportowe to dużo mebli eksportujemy ma to duży udział w meble mają w naszym eksporcie jak również druk i niewątpliwie zarówno w rolnictwie, jaki w przemyśle meblarskim nastąpią pewne zmiany, jeżeli chodzi o tras transformację cyfrową to znaczy, że po pierwsze, prawdopodobnie właśnie w samym rolnictwie naj najwięcej będzie w tej samej tej cyfryzacji i niewątpliwie to tam trzeba może chodzi o to, że nie tylko w przemyśle motoryzacyjnym, które jest bardzo dużo już teraz tzw. elementów przemysłu 40 należy wprowadzać na sztucznej inteligencji, że należy też myśleć od razu też o tych Przemysław Krych my mamy tę przewagę eksportową, żeby jeszcze mocniej umocni się na rynkach międzynarodowych i niewątpliwie zarówno w 1 takim drugim tym sektorze noc z zastosowania sztucznej inteligencji są i na pewno się rozwijać, więc jak najbardziej, ale też to co mówię wcześniej, czyli kwestie regulacyjne i tak daje to ona IT związane z wyzwaniami są wydaje się teraz najważniejsza, bo musimy się powiedzieć my chcemy, żeby w ogóle rozwijała się ta sztuczna inteligencja w Polsce i na ile chcemy, żeby takie, jakie obszary same i w jaki sposób chcemy oddać tej sztucznej inteligencji, ale właściwie, jeżeli mielibyśmy się zastanowić nad tym co w takiej strategii dla Polski mogłoby być powinno być to coś tam umieściła, gdyby ta sama pisała, że generalnie to jest także w strategii no trzeba sobie określić, jakie mamy priorytety, dlatego że nigdy nie jesteśmy w stanie powiedzieć czy jesteśmy w stanie wszystkiego zrobić trzeba przede wszystkim mówić o tym co jest dla nas najważniejsze jak dla kraju tak, czyli ta może być np. właśnie wzmacnianie jakich konkretnych gałęzi przemysłowych tak dajmy na to właśnie ten drugi i sektor meblarski, bo tam mamy przewagi i tam chcemy, żeby się te sektory rozwijały, że chcemy np. eksportować mniej więcej tak jakby troszeczkę też poszła dalej mianowicie my mamy tu dużo więcej tych przewag i na wątpliwie przez moje perspektywy w ogóle niedoceniony jest w Polsce i Commerce mamy jesteśmy krajem czy jesteśmy obywatelami czy z handlującymi mamy pewne zdolności do tego, żeby ten handel rozwijać i do WIG mecz się n p . bardzo rozwija się sztuczną inteligencję, ale rok to jest to jest jednak to są priorytety dalej mówimy ocala tak czy dokładnie co chcemy osiągnąć i w jaki sposób chcemy do tego dojść, ale przede wszystkim musimy sprawę, jakie są dostępne zasoby i wydaje mi męża z tutaj w szczególności, jeżeli buduje się taką strategię państwową rządową należałoby się zastanowić nad tym jak właściwie instytucje rządowe w jaki sposób one teraz funkcjonują, jakie są ich zasoby i co one robią w ramach właśnie tej transformacji cyfrowej to znaczy będziemy dokładnie jesteśmy, jeżeli chodzi tam dajmy na to nauka jeśli chodzi o szkoły szkolnictwo jeśli chodzi o chociażby rolnictwo tak, gdzie w, jaki sposób tam można i gdzie należałoby czym prędzej wprowadzać rozwiązania technologiczne czy ze sztucznej inteligencji czy w jaki sposób edukacji kształtować tak dalej tak także to jest szczyt, czego nam brakuje taka ewaluacja, by się przydała tych naszych pod tym kątem zasobów najpóźniej dopiero w momencie, kiedy wiemy, gdzie jesteśmy można jakiś nakreślić jakieś działania także tutaj jest niewątpliwie one z udo usystematyzować Ania i do sprawdzenia jeszcze jak to działa i w jaki sposób jest na pewno dużo do zrobienia z 1417 za chwilę wrócimy do rozmowy powinny więcej o takim dokumencie, który pojawił się ostatnio na stronach ministerstwa cyfryzacji mianowicie droga do Polski sztucznej inteligencji to jest dość ogólne teksty mówiące o tym, chcemy w ogóle mniej więcej chcemy, a właściwie o tym, czym w ogóle w tym momencie można tą technologie u nas tak dużym skrócie jeść to informacja jest czternasta 171424 Jakub Janiszewski przy mikrofonie za studia prof. Katarzyna Śledziewska DELab UW mówimy o polskiej drodze do polskiej strategii jaj o tym co się nazywa polityka rozwoju sztucznej inteligencji w Polsce na lata 201927, którą tworzy ministerstwo cyfryzacji kłopot z dokumentami z wypowiedziami polityków dotyczące mówiących właśnie o tym, o tym o tej polityce taki żony są dość ogólne właściwie trochę nie wiadomo na co mamy stawiać mówi się o tym, że chcemy wesprzeć nasz przemysł, ale przemysł w gruncie rzeczy są firmy prywatne one wesprą same, kiedy będą tego potrzebowały, więc trochę pytanie brzmi tak do czego potrzebny państwo, żeby tworzyć strategie rozwoju sztucznej inteligencji co tutaj jest tą barierą na poziomie administracyjnym prawnym, że tu akurat potrzebne polityka rządowa znaczy moim zdaniem absolutnie, żeby rozwijała się sztuczna inteligencja w Polsce potrzebne są, żeby samo państwo zaczął ją stosować nawet ja bym odczarowała ten termin sztuczna inteligencja typowym patrzę powiedziała, że po prostu państwo powinno większym zaangażowaniem zacząć stosować w technologie cyfrowe rozwiązania cyfrowe wprowadzać wprowadza się to jako usługi jako identyfikacja, ale również no wprowadzać tzw. zarządzanie na tak na bazie danych, czyli wykorzystywać danych do podejmowania decyzji rozwijać systemy informatyczne i rozwijać wszystko co jest związane są technologią cyfrową po to, żeby po pierwsze, lepsze usługi świadczyć po drugie, żeby skutecznie efektywnie zarządzać po trzecie, żeby lepiej się komunikować z obywatelem, a po czwarte, żeby też no zwiększała się jakość życia tak no bo też technologie w szczególności w miastach one zmienią sposób w jaki będziesz miasta czy rządzący będą podchodzić do najważniejszych wyzwań wyzwań związanych z ochroną środowiska ze smogiem transportem ze śmieciami z samym zakresem różnych spra w tak także to jest bardzo ważne, żeby dla aktualnie w Odrze były wykorzystywane te możliwości, jakie dają technologie cyfrowe czy sztuczna inteligencja no tak jak się popatrzy na rozmaite zestawienia Unii Europejskiej pokazujące jak wdraża się polityki cyfrowe ta akurat Polska jeśli chodzi o administrację i państwo tzw. była całkiem nieźle sytuowane zdaje się ostatnio w tych rankingach spadliśmy, ale to nie była jakaś taka działka kompletnie zaniedbana znaczy to jest trochę także, jeżeli mówimy o tym, indeksie DESI, który jest przez komisję co roku na podstawie danych Eurostatu w komunikowaniu i na nogi na nowo liczone no to generalnie Polska jest w ogonie Europy z względu NATO, że na obrazie zabrawszy wszystko w szczególności mamy problem, jeżeli chodzi o integrację technologii cyfrowej przez firmy, a tutaj w szczególności małe średnie firmy dlatego w tym obszarze niewątpliwie potrzebna jest państwo tylko, że w takim bezpośrednim tylko bardziej takim, żeby właśnie tworzyć infrastrukturę zachęca do tego, żeby firmy korzystały wykorzystywały rozwiązania technologii cyfrowych najlepiej wprowadzić taki system wsparcia dla tych firm, z czym prędzej, jaki również na system edukowania tutaj już też zaczęto robić w tym kierunku, jeżeli chodzi jak tak patrzymy na polską to polityka rozwoju tuszy inteligentna inteligencji w Polsce wzorami mówi dużo o tym, że właśnie będzie tworzona ta Polska Platforma przemysłu przyszłości, czyli tego przemysłu 40 i on będzie mógł w ramach tej Platformy właśnie będzie bardzo dużo działań takich edukacyjnych w kierunku NATO w ukierunkowanych dla wsi to jest jedno też czy tutaj mamy na pewno jest duży problem drugim problemem, jakim jest, toteż co, bo wychodzimy na deski to są kompetencje cyfrowe Polaków tak jak my jeszcze bardzo wniosku to nie odstajemy, jeżeli chodzi o te kompetencje takie bardzo podstawowe to jesteśmy prawie na średniej Unii Europejskiej tak już ta kompetencje ponad podstawowa to udział w z Polaków, którzy mają kompetencje na wyższym poziomie niż podstawowy jest tam ponad 10 punktów procentowych niższe niż średnio w unii Europejskiej to jest na pewno bardzo zaskoczona czy papież zaskakująca na drugi na pewno temu wystaje takie wyzwanie, dlatego że rozwój gospodarki teraz wraz rozwojem sztucznej inteligencji technologii cyfrowych będzie bazował przede wszystkim na tym kapitale wiedzy i to niedobrze, że my mamy natak niskim poziomie i tutaj w tym kontekście ta polityka ten projekt polityki rozwoju inteligencji dużo mówi o tym, podnoszeniu kompetencji cyfrowych w Polsce przy czym znowu mi się wydaje, że taki projekt tego podnoszenia kompetencji powinien być budowany przede wszystkim przez ministerstwo szkolnictwa i ministerstwo nauki czy minister edukacji Ministerstwo Nauki i Szkolnictwa Wyższego i w szczególności tutaj jest taka rola teraz wydają się też uczelnie, jeżeli chodzi o podnoszenie kompetencji zarówno w edukacji, jaki też się i to na wszystkich kierunkach studiach we wszystkich dyscyplinach naukowych, ale też właśnie we współpracy ośrodków ośrodków naukowych z biznesem czy administracją, ale dalej, jeżeli patrzymy sobie na ten bestii to kolejne są takie obszary, w których oceniana jest stan rozwój technologii cyfrowych w Polsce i to 1 to jest infrastruktura i o to też tam, gdzie za 2 przedszkole tutaj jesteśmy tak bardzo tu, ale właśnie też stosowanie tych rozwiązań cyfrowych przez rządy i myśmy do tej pory mieli bardzo duży problem z np. otwartością danych tutaj wracamy do tego co mówiliśmy poprzednio, że jeżeli chodzi o rozwoju kluczowe jeśli chodzi o sztuczną inteligencję wybrane rzeczy to jest także dane są bardzo różne dane są wszędzie teraz tak czy mamy też dane, które są osobowej osobowy mamy dane, które są generowane przez 3 przedsiębiorstwa i dane generowane przez sektor publiczny i to na co może mieć wpły w rząd to jest przede wszystkim poradzenie sobie z tymi danymi czy ja jak będą zrobienie więcej, jeżeli chodzi właśnie otwartość danych publicznych i nam znowu rozwój różnych usług w szczególności w miastach zależy od tego na ile firmy mają dostęp do tych danych tak, ale to nie tylko, bo też możemy wspierać działania firm poprzez większy dostęp do danych publicznych wtedy one mogą w nim w jaki sposób lepiej sobie coś zaprojektować lepiej organizować lepiej zarządzać tak ktoś taki, więc na pewno to jest takie duże wyzwanie to jest to są dane zdanymi z kolei będą się wiązać 2 rzeczy po pierwsze, że opuszcza go do zapewnienia tego dostępu to jeszcze i tej otwartości Noto mamy jeszcze odpowiedzialność za jakość czytanych i co to znaczy jakość danych to znaczy, że no dane to są jakość danych związana jest z tym, że musimy sprawdzić na ile one są na bali pochować uporządkować trzeba, ale coś jest weryfikować w szczególności jak mają być podejmowane jakieś decyzje na tej podstawie tych danych to trzeba to ktoś musi wiedzieć one są prawdziwe i że one faktycznie nie są zafałszowane i t d . to jest jedno, bo na danych pracują algorytmy tak są byśmy wcześniej i to też jest kwestia odpowiedzialności zapewne algorytm algorytm poznał, jeżeli w polityce publicznej i usług zaczniemy stosować jeszcze co słyszą inteligencję to musimy w jaki sposób kontrolować dane, na które wchodzi sztuczna inteligencja musimy też kontrolować algorytmy, bo od nich o będzie zależy to, jakie usługi na jakim poziomie my indywidualnie będzie otrzymywać chcemy ktoś coś nam coś trzeba trzymamy coś zaczynam coś tam tak dalej część z nich dochodzi po prostu o to czy my w ogóle jesteśmy proceduralnie gotowi do tego, żeby używać takiej technologii tak tak, a proceduralnie to jeszcze będą łączyła do tego, że jesteśmy w stanie zadbać o bezpieczeństwo tych danych jak rytmów i czy jesteśmy w stanie zadbać o prywatność danych, czyli jak najbardziej c tak, ale czy to oznacza, że na dobrą sprawę, gdybyśmy w trochę mam takie wyobrażenie jak tego słucham że, gdybyśmy zaczęli używać sztucznej inteligencji dziś na tych danych, które mają w swoim posiadaniu urzędu to, aby mogło doprowadzić do całej masy bardzo trudnych i niespodziewanych niekoniecznie dobrych sytuacji tak czy takich chaotycznych na czym tak czy po kieszeni wiemy dokładnie, jakie mają te urzędy dana nie wiemy w jaki sposób one są przetrzymywana część danych już jest wykorzystywanych tak, bo tutaj możemy mówić takim spektakularnym naprzód projekcie mamy połączenie danych dotyczących studentów z z danymi pracowników, czyli danych susłów w ten sposób wiemy n p . takie są kariery studencki to jest taki przykład, gdzie w momencie, kiedy dane zostały sprawdzone zostały skopał łączone to widzimy coś z czego wynika tak im i faktycznie wtedy możemy powiedzieć np. bardzo szczegółowo, po którym kierunku studiów jak szybko osiągane są np. pewne poziomy, jeżeli chodzi o wynagrodzenie tak dalej to jest takie nią z taki przykład właśnie zastosowania danych jeszcze nie sztucznej inteligencji, bo tam nie ma nic poza poza taką analizę tak, ale już na tej podstawie można, by było podejmować decyzje dalej i teraz chodzi na czym dokładnie nie wiemy ile tych danych jest w administracji na ogół zbiera dane są też dane publiczne one są raczej uporządkowana, ale już inne zasoby są nieznane tak tak, że to jest żadni inni my składamy ciągu takie deklaracje NATO to wtedy są nasze dane w jaki sposób one są przechowywane co się tam z nimi robi tego nie wiemy czy w ogóle one są zrobione prawda szpitali są one jeszcze kolejny problem tak każe mazi w momencie, kiedy zacznie ten proces na pewno trzeba będzie bardzo uważać na jakość danych i zawsze będzie musiał być podmiot bierze odpowiedzialność za to jak już w momencie, kiedy ja mówię zaczniemy stosować bardziej zaawansowane usługi w państwie, ale w takim razie dlaczego ministerstwo cyfryzacji mówi głównie o wprowadzeniu sztucznej inteligencji w przemyśle czy tam naprawdę są potrzebne jakieś regulacje czyli, jeżeli chodzi o przemysł co tak jak mówiłam czy generalnie jesteśmy wchodzimy teraz z powszechnym, mówi że prowadzimy taką transformację, której transformacji cyfrowej przechodzimy do przemysłu 40, który właśnie polega na tym ten przemysł 40 będzie polegał na tym, że tak będzie następowała taka pełna integracja danych systemów informatycznych systemów operacyjnych taka też to się integracji poziomej pionowej i w efekcie taka pełna automatyzacja i ani o to, żeby to była możliwa no to potrzebne są bardzo duża czy zasoby finansowe też technologia nowa strona eksperymentować nie wiadomo czy się uda albo w jaki sposób się uda i w związku z czynno tutaj jest potrzebne niewątpliwie wsparcie, a z drugiej strony w momencie, kiedy się udaną to może być jakiś sukces, gdzie to wsparcie państwa dlatego nie rozumiem to znaczy, że taką refleksję, że jeżeli rzeczywiście dane firma będzie chciała zainwestować w ten algorytm wyrafinowanej technologii, która jest nie był już taka rozwinięta potrzebne to zrobi no po prostu kupić tele zapłaci za to prywatnemu dostawcy już, gdzie tutaj państwo potrzebne jest na tym, że w oczy niewątpliwie państwo jest potrzebne na etapie edukacji to jest pierwsza to znaczy, że tych możliwościach wynikających z wdrożeń technologicznych najczęściej właściciela albo też menadżerowie po prostu mogą wiedzieć i z edukacja z pokazywanie tego w jaki sposób to funkcjonuje potrzeb z drugiej strony z tego powodu, że to technologia, która się rozwija nie wiadomo tak naprawdę co się sprawdzi albo też nie wiadomo tak naprawdę, jakie standardy będą sprawne sprawdzone i tutaj też jest potrzebna, jakby trochę pomoc w kontekście tych standardów oczywiście, że rynek większości on będzie weryfikował te kwestie tak, bo to, że my teraz nie wiem używamy takich innego standardu, jeżeli chodzi o ładowanie instytucje do tego nakład niepotrzebne państwo tylko właśnie ten sam rynek, ale z Gino i gdyby ta wiedza i zakres tych technologii jest na tyle teraz obszerne, że dobre wsparcie i uczelni i szkół zawodowych i systemu szkoleń jest potrzebny niewątpliwie, ale razem, że w gruncie rzeczy być może niepotrzebna jest w Polsce strategia rozwoju sztucznej inteligencji co w ogóle strategia cyfryzacji no można powiedzieć, że tom to sprawia, że to samo obecni w szachach dziękuję bardzo prof. Katarzyna Śledziewska z dala, bo w obu państwa i moim gościem czternasta 38 za chwilę informacje Zwiń «

PODCASTY AUDYCJI: POŁĄCZENIE

Więcej podcastów tej audycji

POPULARNE

DOSTĘP PREMIUM

Teraz 30% zniżki na Dostęp Premium! Wybierz pakiet "Aplikacja i WWW", aby słuchać podcastów TOK FM na komputerze i w aplikacji mobilnej już dziś.

KUP TERAZ

SERWIS INFORMACYJNY

REKLAMA
REKLAMA
REKLAMA
Przedłuż dostęp Premium taniej!