REKLAMA

Warto odczarowywać sztuczną inteligencję. "Nic nie wskazuje na to, żeby próbowała przejąć władzę nad światem"

Nauka Praktyczna
Data emisji:
2021-09-08 21:00
Audycja:
Prowadzący:
Czas trwania:
24:18 min.
Udostępnij:

Ogromna liczba aplikacji, z którymi spotykamy się na co dzień, wczesne diagnozowanie pacjentów, interfejs między komputerem a mózgiem sparaliżowanej osoby, roboty wykorzystywane w akcjach ratunkowych, systemy bezpieczeństwa na drodze... Ze sztuczną inteligencją spotykamy się dziś niemal wszędzie. O tym, w którą stronę cywilizacja zostanie popchnięta przez sztuczną inteligencję, Karolina Głowacka rozmawia w pierwszym odcinku "Nauki Praktycznej" z dr. hab. inż. Piotrem Szczuko, profesorem Politechniki Gdańskiej z Katedry Systemów Multimedialnych na Wydziale Elektroniki, Telekomunikacji i Informatyki, a także z Centrum Technologii Cyfrowych. Rozwiń »
Do wysłuchania podcastu zaprasza Politechnika Gdańska. Zwiń «

AUTOMATYCZNA TRANSKRYPCJA PODCASTU

Transkrypcja podcastu
do wysłuchania podcastu zaprasza Politechnika Gdańska tajemnicza niedostępna czy wręcz codzienne i spowszedniała przy potężna może zapewnienie porad na sztucznej inteligencji jest bohaterką programu nauka praktyczna zastanowimy się, w którą stronę cywilizacja zostanie połknięta przez te jednoznacznie częściej dyskutowanych technologii nazywam się Karolina Głowacka dobry wieczór państwu moim gościem jest dr hab. inż. Piotr Szczuka dobry wieczór dobry wieczór prof. Rozwiń » Politechniki gdańskiej katedry systemów multimedialnych na wydziale elektroniki Telekomunikacji informatyki, a także centrum technologii cyfrowych no właśnie panie profesorze jak to jest co sztuczną inteligencję czy ona jest 1 czy jej jest wiele rodzajów ma takie poczucie głębokie, że ona funkcjonuje w świadomości społecznej w jakiej takiej dychotomii z 1 strony i kojarzy się cały czas takim głębokim futuryzm mam część jest rozwijany wyłącznie w Super hiper nowoczesnych laboratoriach bardzo drogie za bardzo wiele pieniędzy, a z drugiej mówi nam się, że ta sztuczna inteligencja wszędzie od naszych kieszeniach torebkach, bo jest w naszych telefonach to jak to w końcu jest ja pozwolę sobie wykorzystać sformułowanie, które pani użyła we wstępie ona jest wszechobecna i nieporadna także rzeczywiście jest wszędzie istnieje mnóstwo rodzajów tej sztucznej inteligencji możemy mnóstwa rzeczy oczekiwać od sztucznej inteligencji i ona jest wszędzie w ogromnej liczbie aplikacji, z którymi spotykamy się na co dzień natomiast można ją odczarować to nie jest specjalnie skomplikowana dziedzina i ona wcale nie jest zamknięta przede mną czy przed moimi studentami jest to bardzo bardzo dostępne i rozwijane w sposób otwarty otwarta nauka czy otwarte publikacji są teraz bardzo ważny trendy rozwoju naukowym i zapewniają one to, że każdy z nas jest w stanie trochę uszczknąć trochę doczytać dowiedzieć dla siebie i zastosować to zastosować w codziennym biznesie w codziennych zainteresowaniach w amatorskim w projekcie polegającym na zbudowaniu Samochodzika, który będzie sam jeździł po pokoju i omijał przeszkody to jest wszystko sztucznej inteligencji chce pan powiedzieć, że te tutaj niczego nie chcę reklamować, ale popularne odkurzacze, które same wiedzą, którą stronę pojechać, ale czasami się zaprzątają dywan, ale potem są w stanie wrócić np. do bazy to też jest sztuczna inteligencja można szeroko powiedzieć, że to jest sztuczna inteligencja, chociaż wewnątrz tej dziedziny wyróżnia się jeszcze taki trochę mniejszy zakres nazywany uczeniem maszynowym i to sformułowanie można powiedzieć, że jest prawie synonimy, ale on jest zdecydowanie węższe Intelligence jest wszędzie tam, gdzie oczekujemy od aplikacji podejmowania własnych inicjatyw rozwiązywania problemów, których wcześniej ta aplikacja nie napotkała natomiast uczenie maszynowe to jest zachowanie się algorytmu modelu urządzenia w takich sytuacjach, do których ten model to urządzenie było wcześniej przygotowane, więc ten robot jeżdżący odkażające nasze skomplikowane mieszkanie jeszcze radzący sobie wśród mebli, które np. przedstawimy dzisiaj trochę inaczej to jest uczenie maszynowe to nie potrzeba specjalnej inteligencji czy właśnie tej inicjatywy czy odkrywania albo rozwiązywania problemów, które wcześniej się nie pojawił, bo tam cała przestrzeń mówię tutaj taki sposób abstrakcyjnych, którego jesteśmy jako naukowcy przyzwyczajeń przestrzeń to musi być wcale trójwymiarowa przestrzeń może mieć mnóstwo wymiarów to jest bardzo skomplikowanych opis problemu, który ma rozwiązać maszyna dla takiego naszego robota dla samochodu autonomicznego taką przestrzenią jest pokój przestrzenią jest to zadanie, w którym on sobie świetnie poradzić i dotrzeć to najmniejszego skrawka go posprzątać dla samochodu autonomicznego przestrzenią jest to np. zmienne parametry, które ustawi kierowca, dokąd chcę pojechać codziennie może być to zupełnie inna trasa i ten algorytm musi sobie radzić, ale powiedziałbym, że to jest ciągle uczenie maszynowe, czyli taki zakres i taka skala problemów, które w ogóle nie wymagają tej inicjatywy i takiej kreatywności algorytm, czyli wychodziłoby na to, że sztuczna inteligencja jest czymś stopniowa, bo trudno mi oczywiście to jest interesujące jak sam sobie ten odkurzacz jeździ i ogarnie mieszkanie, ale dużo bardziej ekscytujące są np. takie doniesienia jak to, że sztuczna inteligencja pokonała mistrza w grę go jeszcze wytworzyła takie sposoby gry, o której ludzie wcześniej używający, grając w grę odsetek jeśli nie tysięcy lat na to nie wpadli o wiele bardziej emocjonujące są te doniesienia sztucznej inteligencji, która trochę zaskakuje biologów, którzy od lat starają się ustalać struktury Białek czy przychodzi program też programiści przynoszą ten program właśnie sztuczną inteligencję i proszę bardzo, tutaj prognozują jak ta struktura Białek będzie wyglądać tutaj nawiasem mówiąc to, jaką strukturę 3 de ma białko ma ogromne znaczenie dla jego funkcji, więc umiejętność takiego prognozowania jest bardzo ważna dla biologów no właśnie to proszę panie profesorze powiedzieć czy tak jest też sztuczna inteligencja jest właśnie czymś w szerokim takim dużym workiem, do którego wkładamy wiele tych elementów, ale są takie to topu takie rzeczy wisienki na torcie, które np. pana najbardziej interesują jako te, które mogą popchnąć nas dalej przywołany przez panią przykład rozwijania i zwijania Białek to jest rzeczywiście topowe zastosowanie jesteśmy świadomi, że coś takiego może ratować życie może pozwolić nam tworzyć nowe leki może nam pozwolić wykrywać szkodliwe substancje i itd. podobnymi aplikacjami, które także są bardzo ważne i topowe są wszelkie zastosowania właśnie ratujące życie to może być wczesne diagnozowanie pacjentów to może być niedawny przykład interfejsu pomiędzy komputerem, a mózgiem sparaliżowanej osoby, które to interfejs pozwolił odkodować sygnały takie osoby i przekładać na wypowiadane słowa to może być również autonomiczny robot, który powiedzmy ma kształt pieska, bo to pokazało nam ostatnio internet te psy potrafią mnóstwo różnych czynności wykonywać natomiast mogą być użyte do o wiele bardziej użytecznych celów niż po prostu nagranie filmu, na którym roboty tańczą taki robot może być wykorzystywany w akcji ratunkowej odnaleźć drogę pod jakimś osuwisk czy za walizkę i dotrzeć do poszkodowanej osoby wskazać najlepszą drogę do niej sytuacji bezpieczeństwa na drodze systemów wspomagających poruszanie się pojazdem kontrola trakcji kontrola hamowania system, który będzie podpowiadał, że powinniśmy, choć trochę wolniej, bo przed chwilą był rozpoznany przez kamerę znak ograniczenia prędkości system kontroli trakcji, utrzymując ten pojazd w ramach realizowanych pasów na jezdni tych zastosowanie mnóstwo można byłoby naprawdę mnożyć i one pojawiają się w dziedzinach bardzo rozrywkowych z 1 strony takich jak chociażby klonowanie głosu ja mógłbym mówić głosem czymś w innej osoby mógłby nałożyć na swoją twarz twarz zupełnie innej osoby poprzez zastosowania w medycynie tak jak właśnie wspomniany przeze mnie przez wczesne diagnozowanie albo chociażby pilnowania by pomiędzy pobieranymi lekami nie był jakiś negatywnych interakcji poprzez ratowanie życia wprost w sytuacji, kiedy robot sterowany sztuczną inteligencją uczestniczyłby akcji ratunkowej albo w operacji wręcz aż po sytuację codziennego bezpieczeństwa bezpieczeństwa informacyjnego czy inaczej cyberbezpieczeństwa, gdzie do naszej skrzynki pocztowej nie trafi mail z wyszynkiem próbujący wyłudzić od nas dane, ponieważ skutecznie zostanie wykryty i tych zastosowań naprawdę mnóstwo coraz więcej one nie są bardzo ze sobą połączone tutaj coś takiego pani zapytała jest to rzeczywiście ogromny worek z takimi luźno rozsypane klockami od inteligencji takie prawdziwe oczekiwalibyśmy żona będzie wszechstronna nasi studenci mają rozmaite zainteresowania potrafią mnóstwo różnych rzeczy sami posługują się ogromną liczbą różnych metod sztucznej inteligencji natomiast te metody niestety wciąż domagają pod tym względem one nie łączą się ze sobą jeszcze to bieżące prace i aktualny aktualny rozwój idzie właśnie w tym kierunku, aby zapewnić większą inteligencję i połączenie rozmaitych kompetencji teraz ta inteligencja jest bardzo wąska część takim się mówi wąska inteligencja w przeciwieństwie do inteligencji ogólnej, która byłaby świetna we wszystkich dziedzinach życia, czyli np. program korzystający właśnie z tej koncepcji sztucznej inteligencji będzie znakomicie analizował zdjęcia radiologiczne i wykrywał mamy jakieś anomalia, ale ten sam program już sobie nie poradzili stworzeniem np. obrazu abstrakcyjnego to musi być inny program dokładnie tak na samym początku musimy my jako twórcy takiego algorytmu czy student realizujący swój projekt amatorski czy tak jak wspomniałem no dowolny pasjonat musi sobie postawić założenie, że jego algorytm ma wykonać 1 konkretną rzecz następnie musiałby wybrać tych algorytmu tutaj potrzebna jest ta pewna podstawowa wiedza, jakie to są typu algorytmów co tak naprawdę możemy oczekiwać od algorytmu Monika nie potrafi wszystko zrobić przykład podany przez panią rewelacyjne co innego to klasyfikacja obrazu rozpoznawali choroby zupełnie czymś innym jest tworzenie syntetycznych istniejących obrazów pejzaży twarzy i albo tworzeniem muzyki przez takie algorytmy później ten twórca musi odpowiedzieć sobie na pytanie jak on chciałby trenować ten algorytm i podpowiadać temu algorytmowi, że otrzymywane od niego wyniki są cieszą nas są satysfakcjonujące są dobre i nad na czym musimy zdefiniować na czym np. polega wygrana go ten algorytm nie ma bladego pojęcia na temat tego co znaczy wygrać nie ma żadnej motywacji ku temu nie ma ambicji na promie modni nie będzie się również przerażał porażką tak jak nas motywuje po prostu to, że możemy wygrać dla algorytmu niestety wszystko jedno, ale naszym zadaniem jest to, żeby opisać w sposób matematyczny co to znaczy grać lepiej co znaczy grać gorzej albo co to znaczy skutecznie sklasyfikować choroby albo przewidzieć, jakie trendy, a co to znaczy robić to źle wtedy algorytm wielokrotnie powtarza dane zadanie taki trening algorytmu nauka algorytmu może trwać miesiącami obserwuje algorytm samoczynnie obserwuje swoje postępy potrafi poprawić się, ale tylko wtedy, jeżeli my dostarczymy mu odpowiednią wiedzę i tą informację zwrotną, kiedy on sobie poradził dobrze dlatego zadania wydają się takie skomplikowane niedostępne tak to wygląda na co dzień panie profesorze mówi pan o tym, że studenci studentki Politechniki gdańskiej pracują uczą się i uczą jak rozumiem sztuczną inteligencję jak to wygląda tak po prostu to jest najzwyczajniej w świecie siedzenie przy komputerze pisanie oprogramowania czy wcześniej trzeba podjąć jakąś burzę mózgów rozplanować to inny sposób jak się pracuje nad takimi rozwiązaniami na początku jest rzeczywiście burza mózgów wymyślamy coś, czego jeszcze nie było wymyślamy coś co może pomóc człowiekowi później jest bardzo pasjonujący, ale żmudny proces gromadzenia danych, gdybym chciał rozpoznawać mowę mu się spotkać się z setkami tysięcy osób nagrać głos poprosić ich próbki tego głosu następnie dokonać transkrypcji, czyli przepisać ten konkretny fragment wypowiedzi zamienić tekst, bo ja wykonam zadanie, które później za mnie wykona ten algorytm komputerowy następnie nadchodzi również żmudnej również pasjonujący proces trenowania tego algorytmu niestety od samego początku nie wiemy w jaki sposób algorytm skonfigurować trzeba podejmować mnóstwo różnych prób i podejść z różnymi konfiguracja algorytmów, żeby zobaczyć, która z nich poradziła sobie najlepiej i wtedy nadchodzi sukces, a czym sztuczna inteligencja jest od człowieka lepsza, a czym jest słabsza to się trochę przewijało w naszej rozmowie, bo ona jest właśnie częściową nieporadna za chwilę potrafi być od nas lepsze to słynne były już badania, że właśnie wrócę do tego przykładu analizie zdjęć radiologicznych, gdzie sztuczna inteligencja dość 3 szybko była lepsza od nawet doświadczonych radiologów co nie znaczy, że ich zastąpi Jacek przynajmniej uważa rząd będzie dla nich wydarzeniem wspierającymi pozwoli uniknąć pewnych błędów natomiast wracając do tego pytania czym jest właśnie lepsza tym słabsza i czy w tworzeniu sztucznej inteligencji chodzi o to, żeby odtwarzać ludzką obecnie nie chodzi o to, żeby odtworzyć ludzką inteligencję raczej chodzi o to, żeby człowieka wspomóc w bardzo żmudnych zadaniach i w takich zadaniach właśnie algorytmy sztucznej ewidencji mogą być od nas lepsze, ale to nie znaczy, że skuteczniejsze tylko szybsza ogromną zaletą algorytmów sztucznej inteligencji jest to, że możemy powielić dowolną liczbę razy, jeżeli dysponuje 50 komputerami to tak jakbym zatrudnił 50 specjalistów wykonujących to jedno żmudne zadanie rzeczywiście w tej sytuacji lepiej jest 50 specjalistów zatrudnić do rzeczy kreatywnych, których nie potrafi obecnie sztuczna inteligencja, a ten algorytm powielać przekazywać mu bardzo żmudne zadanie, kiedy oni lepszy od nas wtedy, kiedy należy wydobyć jakąś zależność zdanych spróbować odkryć pewien statystycznie najbardziej powtarzalny wzorzec np. kiedy jest od nas gorsza na pewno wtedy, kiedy potrzebna byłaby jakaś inicjatywa algorytm nie będzie potrafił stwierdzić, dlaczego się pomylił ja np. słuchając osób rozmawiających po angielsku rozumiem je dosyć dobrze, ale jeżeli któraś z nich wtrąci słowo w języku francuskim jak nie zrozumiem, ale wiem, dlaczego nie zrozumiałem tego słowa wiem, kiedy się mylę algorytm taki niestety tego nie wie i w tym aspekcie jest o wiele gorszy od człowieka brakuje inicjatywy w poszukiwaniu nowych źródeł wiedzy to co my robimy na co dzień jako naukowcy jako ludzie próbujący nadążyć za postępem technologicznym to algorytmy nie mogą tego zrobić, bo tego nie potrafią rzeczywiście twórcy algorytmów mogą spróbować ręcznie programować w taki algorytm to, aby on po napotkaniu jakiegoś nieznanego faktu nieznanego zjawiska próbował doszukać dane na ten temat, ale to zawsze będzie działało zgodnie z naszymi oczekiwaniami z tym co my ręcznie w programowalny my co przewidzieliśmy algorytmy nie potrafią tworzyć zachowań i wychodzić z inicjatywą tutaj trochę już zaczyna ten problem być rozwiązywany przez badaczy, ponieważ pojawią się algorytmy, które potrafią tworzyć rzeczywiście przykłady muzyki tworzonej przez algorytm obrazu tworzonego przez algorytm taki obraz można sprzedać na aukcji, chociaż myślę, że to była jednorazowa sytuacja, gdy portret został z tworzony przez algorytm sztuczna inteligencja następnie pełną świadomością kupującego, że to jest wynik algorytmu został zakupiony i to jest bardzo głośno głośny przypadek natomiast taki algorytm stworzył obraz, ale nie będzie potrafił np. stworzyć ścieżki dźwiękowej, która pasowałaby do do tego pejzażu nie będzie potrafił nam wytłumaczyć, dlaczego jego zdaniem to jest wartościowe albo cieszyć się z tego co wykona chętnie bym kupiła taki obraz sztucznej inteligencji niższy niewidzialną nieistniejącą rzeźby, bo taka była sprzedana też jakiś czas temu też głośna sprawa to akurat wymyślił człowiek nie sztuczna inteligencja sztuczna inteligencja na tyle kreatywne, aby niebyła tych jeszcze nie, ale ani osoby zaprogramować sztucznej inteligencji właśnie, żeby była ambitna, żeby chciała się uczyć, żeby chciałaby coraz lepsza, żeby nie wiem trzeba być wrażliwa nie da się czegoś takiego programować może w przyszłości z pomocą przyjdą neuronauki i psychologia które, jeżeli będą potrafiły opisać w sposób matematyczny co to znaczy satysfakcja co to znaczy zadowolenie z sukcesu co z drugiej strony znaczy porażka to, jeżeli uda się to opisać matematycznie może wówczas algorytmy również będą potrafiły naśladować zachowania tego podchodzi do takich różnych lęków, które są wokół sztucznej inteligencji, że oto ona właśnie stanie się pazerna na władzę, że ona uzyska samoświadomość, że właśnie przejmie władzę nad światem to będziemy niewolnikami to są takie opowieści, które funkcjonują przecież od lat wydaje się, że ostatnio coraz słabiej sztuczna inteligencja jest coraz bardziej oswojona, ale jednak cały czas funkcjonuje w popkulturze skoro funkcjonuje po kulturze to funkcjonuje też wielu umysłach jak pan do tego podchodzi i jestem bardzo sceptyczny myślę, że jeśli z taką kiełkują chcą się samoświadomość zaobserwujemy za lat 100 albo 200 to będzie ogromne zaskoczenie i sukces obecnie nic zupełnie nie wskazuje na to, żeby taka sztuczna inteligencja miała wykazywać inicjatywę i próbować przejąć władzę czy w ogóle czuć potrzebę władania albo bycia lepszym od człowieka swojego Stwórcy w tym momencie sztuczna inteligencja jest narzędziem, którym my tworzymy konkretnego celu takim samym kalkulator tylko bardziej skomplikowanym tak dosłownie to może kłopotem jest to, że ona jest mieszana z robotyką i sztucznej, czyli komputery oparte na sztuczną inteligencję korzystające z oprogramowania typu sztuczna inteligencja są obsadzane w roboty humanoidalne przypominające człowieka patrzą zerkają kiwają głowami odpowiadają rozmawiają Sofia nawet ma obywatelstwo słynna sprawa może to jest przyczyna tych lęków bardzo możliwe w humanoidalnych robocze dopatrujemy się pewnych cech, które posiada człowiek dopatruje się tego, o czym opowiedzieć przed chwilą, że Rze, że algorytmy nie posiadają inicjatywy ani charakteru ani samoświadomości i warto odczarować tą sztuczną inteligencję i warto wprost mówić o tym, że obecnie to są pojedyncze narzędzia bardzo bardzo proste wbrew pozorom, których zadaniem jest realizować tylko 1 precyzyjnie określoną rzecz i w zasadzie nic więcej one nie będą wychodziły z własną inicjatywą, ponieważ w ogóle nie mają ku temu żadnych predyspozycji taka inicjatywa czy samoświadomość jak jak wiadomo one wyniknęły z instynktu samozachowawczego z ewolucji przez wiele milionów lat i czegoś takiego nie da się obecnie odtworzyć po prostu, pisząc program komputerowy to w takim razie schodząc już tych fantastycznych rejonów chciałam pana zapytać co panu najbardziej interesuje w tym temacie co pan chciałby stworzyć napisać rozwiązać, jakiego rodzaju zadanie może jakieś projekty, które teraz szczególnie ma pan w swoim umyśle obecnie dużą ambicją dla nas dla naukowców jest śledzenie tego tego galopującego galopującego procesu rozwoju każdy dzień przynosi coś coś nowego już w naszej krótkiej rozmowie wymieniliśmy chyba 10 przykładów, które są bardzo głośne i w zasadzie zmieniać mogą myślenia o tym dlaczego sztuczną inteligencję użyjemy, więc jedną z moich motywacji pas jest, aby obserwować zmiany one są tak dynamiczne, gdybyśmy te rozmowy mieli przeprowadzić za miesiąc czy za 2 ona by wyglądała zupełnie inaczej zresztą możemy spotkać się za pół roku wtedy wtedy są samodzielnie się przekonam tą pasją tym zainteresowani wiedzą dzielimy się z nowymi pokoleniami specjalistów nie dalej jak w lutym tego roku otworzyliśmy nowe 2 specjalności na naszym wydziale 1 specjalność jest uczenie maszynowe druga sztuczna inteligencja i mamy 50 kilkoro bardzo zdolnych studentów, którzy są zafascynowani tymi tymi dziedzinami i dla nich właśnie dla kolejnych roczników my sami staramy się nadążać za tym rozwojem tą wiedzę i to jest ciekawy interesujący sposób przekazywać pomaga nam w tym też oczywiście to, że sami bardzo blisko praktycznie jesteśmy związani z takimi dziedzinami jak np. z obecnie kieruje projektem, który nazywa się informacją jest to przygotowywanie nowoczesnego efektywnego oświetlenia do miast takiego, który będzie automatycznie dostosowywał się na zasadzie takiego właśnie inteligentnego algorytmu do wszelkich zjawisk zewnętrznych zjawisk takich jak zmiany warunków oświetleniowych zmiany pogody zmiany ruchu ulicznego po to, żeby optymalnie i efektywnie Energie spożytkować na to, żeby miasta oświetlać ekologiczny, a przy okazji też przyjemny sposób projektów jest mnóstwo całkiem niedawno także nasz zespół zakończył projekt związany z analizą ruchu drogowego i przewidywaniem prędkości, która będzie bezpieczna przewidywanie niebezpieczeństw na drodze to co osobiście chciałbym do tej dziedziny wnieść co jest moją ostatnią pasją jest to rozwiązanie problemu takiego ograniczenia w sztucznej inteligencji, które nazywamy katastrofalnym zapominanie może być bardzo zaskakujący tutaj mamy algorytm, który ma w zasadzie nieograniczone zasoby pamięci w naszym komputerze czy chciałbym Super komputerze, a tymczasem wykrywamy, że algorytm ten po prostu zapomina zapomina to znaczy nie potrafi realizować zadań, których uczyliśmy go wcześniej rozwiązań tego problemu będzie myślę kolejnym ważnym krokiem w tworzeniu algorytmów, które będą bardziej wszechstronne i może troszkę bardziej inteligentne i ciekawa dekada przed nami z tego co słyszę może mam nadzieję, że dzięki sztucznej inteligencji może inaczej dzięki programistą programistom, którzy pracują przy użyciu sztucznej inteligencji i kooperacji z innymi naukowcami uda się rozwiązać jak najwięcej problemów cywilizacji tego życzę panu panie profesorze pan studentom studentkom dr hab. inż. Piotr Szczuka prof. Politechniki gdańskiej katedry systemów multimedialnych wydziału elektroniki Telekomunikacji informatyki, a także centrum technologii cyfrowych dziękuję panu serdecznie bardzo dziękuję za rozmowę, a ja państwu serdecznie dziękuję za wysłuchanie programu nauka praktyczna Karolina Głowacka do usłyszenia Zwiń «

PODCASTY AUDYCJI: NAUKA PRAKTYCZNA

Więcej podcastów tej audycji

REKLAMA

POPULARNE

REKLAMA

DOSTĘP PREMIUM

Podcasty TOK FM oraz internetowe radio TOK+Muzyka teraz 40% taniej. Wybierz pakiet Standardowy i słuchaj gdziekolwiek jesteś

KUP TERAZ

SERWIS INFORMACYJNY

REKLAMA
REKLAMA
REKLAMA