REKLAMA

O sztucznej inteligencji. Czy boty mogłyby zastąpić sędziów?

Wieczór Radia TOK FM
Data emisji:
2017-05-30 23:00
Prowadzący:
Czas trwania:
53:31 min.
Udostępnij:

Pojawianie się nowej technologii stawia wyzwania w sferze moralnej? Czy komputery mogłyby wyprzeć takie zawody jak sędziowie, prawnicy, konsultanci?

AUTOMATYCZNA TRANSKRYPCJA PODCASTU

Transkrypcja podcastu
Radia TOK FM dwudziesta trzecia 6 wieczór Radia TOK FM Tomasz Stawiszyński żywych jeszcze w każdym razie, ale to nie jest uwaga proponuje Jan stanu zdrowia w bądź też innych ryzyk tylko uwagę propos tego co mi właśnie powiedział dr Tomasz Witkowski wychodząc, że mianowicie, bo zapowiadałem tę rozmowę, która teraz przed państwem, ale dr Witkowski powiedział mianowicie, że na interesuje się od pewnego czasu tematem sztucznej inteligencji w psychologii psychoterapii in Rozwiń » niezwykle ciekawe rzeczy się tam dzieje oczywiście to taka króciutka rozmowa kuluarowe tylko, ale n p . z Board różnego rodzaju to o tym, słyszałem akurat z prowadzoną sesje psychoterapeutyczne z pacjentami za pośrednictwem komunikatorów internetowych rzecz jasna i pacjenci podobno są bardzo zadowoleni z usług takich bodźców, bo ty też doskonale to mi powiedział dr Witkowski sprawdzają się w diagnostyce potrafią np. wykrywać z dużym prawdopodobieństwem zbliżającą się epizod depresyjny osób, które cierpią na depresję mają nawroty depresji np. i w ogóle stawiać diagnozy znacznie bardziej trafniej precyzyjnie aniżeli robią to ludzie nie zadała mu tego pytania, ale teraz je sobie zadaje czy to przypadkiem nie oznacza, że za jakiś czas w każdym razie boscy albo inne oparte o różne rozwiązania rodem ze sztucznej inteligencji Betty zastąpią po prostu psychologów psychoterapeutów, a może i psychiatrów, a może lekarzy w ogóle zastąpią im będą leczyć ludzi no ale właśnie może nie tylko lekarzy psychoterapeutów zastąpią może będą też boty prowadząca audycje radiowe i kto wie może teraz to państwo mówi taki bodziec nie wiadomo, a może np. zastąpią też prawników skądinąd to się już dzieje w studiu dwoje prawników Zuzanna Warso dobry wieczór zresztą Helsińska Fund Fundacja praw człowieka i Łukasz Kowalczyk radca prawny dobry wieczór dobrych, a troszeczkę bliżej myślę też, bo ta to dość dowodzi, że nie jest też powstać wspaniale w wyjeździe z tego co pomiędzy Schetyną wynika, że studia są też dwójka botów, a to właśnie, bo to, gdybyśmy byli w Indiach Chinach, a po sta RO i teraz, bo się zawiesił jest taka zna ten przynajmniej mógłbym tak powtarzali po wyborach w, a po ale, gdybyśmy byli filmie łowca Androidów to można, by było przed prowadzić jakiś test np. czy jesteście czy nie jesteście jak można przetestuje w sprawie też sprawdzić czy jesteś bezbronny w tekście wobec Motyki tak dalej razem z was dobrze nie jest jeszcze, bo tam możemy tak sprzyjający możemy im taką roboczą hipotezę obozów w dot EFRR z przyjmujemy roboczą hipotezę wszyscy jesteśmy tutaj istotami żywymi, ale i teraz już poważnie czy wobec różnych doniesień, które przedstawimy w tej rozmowie z dnia doniesienie, o które już z Zuzanną rozmawialiśmy tutaj na antenie Radia Pomerania wszystkich tak tak nieraz i nie wszystkich, ale o niektórych rozmawialiśmy takich mianowicie, że n p . w różnych instytucjach związanych z wymiarem sprawiedliwości stosuje się już dzisiaj programy komputerowe, które dokonują pewnych ewaluacji oceny NIK dyrygują np. działaniem patroli policji, które jadą tam, a nie gdzieś indziej właśnie, dlatego że algorytm obliczył, że tam jest największe prawdopodobieństwo, że się wydarzy jakieś przestępstwo albo co jest ostatnim doniesieniem takie programy, które zastępują właściwie chyba sądy tak można powiedzieć decydują o tym na podstawie tych analiz algorytmicznych czy ktoś wejdzie czy nie wejdzie na warunkowe zwolnienie z NATO właściwie się zastanawiają czy w kontekście tych wszystkich doniesień w jako prawnicy młodzi prawnicy już się nie obawiać, że już wkrótce właściwie boksy oraz zastąpią Zuza też nie obawiasz długo on długo o tym, myślał o w ChRL i Enel póki co się nie obawiam, ponieważ z tego co z tego co wiem z tego co się orientuję to on boty są kiepskie w niuanse, a to czynność zajmujemy prawnicy zajmujący się prawami człowieka to są właśnie testy te niuanse, czyli takie sytuacje graniczne, które są barów ważyć różne wartości i takie proste algorytmy, które póki co z usług są stosowane sobie z tym nie radzą także póki co nie było realnej duże myślę tu możemy się bardziej go i Łukasz Kowalczyk dyrektor Kowalczuk z agencji nie boi, a w domu i jego, bo w zimie miał wpły w w oczy to wprawdzie wydaje także prawnicy będą zastępowani coraz bardziej przez różne rozwiązania technologiczne w tym w szczególności przez boty czymkolwiek jest bowiem szczerze powiedziawszy nie nie wiem czy do końca jest w stanie odróżnić nie wiem, bo ta od Odry nie ma innej ich innej Formuły używający nie wiem sztucznej inteligencji czy trzeć oparty na jakimś tam algorytmie tak czy inaczej co znaczy dla mnie to pytanie jest takie oczywiście nie chciałbym go tygiel izolować, ale Tusk przypomina pytanie, które pewnie można, by zadać ileś tam lat temu uczy się prawnicy nie boją, że ich zastąpią maszyny do pisania to po części zastąpiły później po części zastąpiły komputery ich teraz moim oprogramowaniu, które mi służy letni most w programowaniu misy nie są moje np. w niego licencji jaj na programowaniu moje kancelarię w tym nie służy tam nie wiem do wyszukiwania orzeczeń i przepisów już pojawiają się takie nowinki jak przed nim okręty, które tam nie będę podawał nazwy jest gość takie nowinki jak wyszukiwanie linii orzeczniczej co nie bardzo zaintrygowało z punktu widzenia algorytm zacny, bo co to znaczy to znaczy, że oddanie linii orzeczniczej z punktu widzenia algorytm za co bardzo mi się to po raz winne not rozjazd w twarz no i idzie o to, że zupełnie czym innym jest to, że urządzenie maszyna cokolwiek pomagać i stricte technicznie tak mówi szukaj mnie orzeczenie ze słowem słoniny znajdują się wszystkie orzeczenia zespołem w swoim uzasadnieniu to jest czynność stricte techniczne, ale jeżeli ja proszę o coś takiego no powiedz jak tam kto w orzecznictwie osłoni nas poniesie zapatruje sąd w kontekście nie wiem tego jak słonie można transportować i maszynami odpowiada, że nowy realizm słoniami to kiedyś było bardzo restrykcyjnie, ale teraz daleko posunięty liberalizm możesz nawet na otwartej Platformie, bo tutaj są takie orzeczenia, aczkolwiek przewiduje, że to może się to wszystko zmieni, bo to jest taki 1 nogą orzeczenie, kto może wyznaczyć nowy kierunek to to rzeczywiście już jest wejście stąd, tak więc sferę, której tutaj była mowa także, że niuanse tak jakby troszeczkę te niuanse moim zdaniem to sztuczna inteligencja stara się przejmować i też sugerować pewne rozwiązania przy pomocy takich rozbudowanych usług nazwijmy to wpły w na trawniku dawniej, ale nie tylko prawnikom tak rozumiem, że to może być dalej idąca, gdyż decyzyjność krzyczy czy sugestywność tra w w tym w tym tych dwoje rozumiem rozumiem to informacje tak to może w ten sposób Zoran to pytania te informacje, które tutaj mówimy już przez otworzyć jeszcze w link, ponieważ zgasł mi tutaj w jakiś błąd po prostu podmienił w tej chwili Facebooka ewidentna ją w jakiegoś innego właśnie się na żądanie już Facebook jakiegoś innego tutaj redaktora w, a nie mój głos w każdym razie w każdym razie Ano właśnie mam jest to obszar ów pani była prowokacja botów mówimy o tym, o tym tekście o tym, o tym doniesieniu, które powiada, że w Wielkiej Brytanii właśnie jest testowany taki program, który będzie już wkrótce zamiast sądów orzekał na podstawie różnych rozwiązań takich statystycznych algorytmów, kto może tak to nie wyjść na zwolnienie warunkowe Otóż wyobrażam sobie tak mamy do czynienia po prostu z pewnego rodzaju narzędziem, które w gruncie rzeczy stosuje praktycznie te same metody, które stosują ludzie, bo ludzie też pracując jako sędziowie mają jakąś wiedzę dotyczącą tego, kto z, jakim prawdopodobieństwem popełnić albo nie popełni przestępstwo maja do zdania, że mają dysponuje jakimiś takimi danymi fakty graficznymi dotyczącymi tego z UE jak wyglądają te to prawdopodobieństwa mają jeszcze do tego jakoś nic intuicję rzecz jasna, ale tez jakiś subiektywne subiektywne odczucie, które może być w różnym stopniu mylące co na co dawać jakieś realne rozpoznanie my to jest coś takiego właściwie robi to samo w nie tylko pewnie jest tańsze i może bardziej precyzyjnie operuje tymi danymi, więc to jak do no nie wiem może spojrzeć też, że automatyzacja i wtórnego procesowo, ale także inaczej ma miejsce natomiast to co jest może niepokojące to jest taka no mam wrażenie jak czytam kolejne kolejny tekst na temat właśnie tego, że on, że pewien algorytm będzie sugerował rozwiązania sędziom, że to jest taka Excel analiza z odpowiedzialności za decyzje podejmowane w sądzie co daje mi się nie do końca pożądane z drugiej strony rozmawialiśmy o tym, już kiedyś sędzia, podejmując decyzje na temat zastosowania leczenia zastosowania tymczasowego aresztu mam szereg przesłanek, które może wręcz odwaga w pewnych rzeczy przynajmniej wprost nie powinien mieć pewne pewne fakty nie powinny wprost wpływać na najgorszej decyzję z kolei takie zautomatyzowane narzędzia biorąc pod uwagę kwestie, które nie do końca nie do końca powinny być brane pod uwagę rozmawialiśmy o tym miejscu zamieszkania danej osoby tak czy, więc z 1 strony można powiedzieć, że jest to bardziej kolarze z góry tak to często właśnie on nie posługuje się bezpośrednio jakąś przesłanką, która byłaby jawnie dyskryminacyjną tylko jakiś inny sposób ją piją tłumaczy tak przez takiego w cudzysłowie pośrednika atak na 4 miejsce zamieszkania, które często wiąże się z konkretnym pochodzeniem etnicznym w każdym razie może być też bardziej transparentne natomiast nie jest transparentny, bo czasem nie wiemy co jest w algorytmach IS IT jest duży problem to są tajemnice handlowe firm, które je w rodzaju Trojan, o ile, o ile dobrze pamiętam akurat w tym eksperymencie, który został przeprowadzony w Wielkiej Brytanii, bo o tym, mówimy jest jest to zaangażowano Uniwersytet, więc można oczekiwać pewnego wyższego stopnia transparentności niż w sytuacji, w której po prostu dany sąd kupuje akcje 3 czy dane nie prowincja kupuje pewno programowania wdrażania i Hans Weiss sami sędziowie nie do końca wiedzą wiedzą, czego używają także z 1 strony jest to o tyle dobre, że jeśli jest, że jeśli w takiej eksperymenty czy takie testy są zaangażowane uczelnię jest ten poziom większy poziom transparentności, ale z drugiej strony to co niepokoi to właśnie taka, a on przeniesienia tego przeniesienia odpowiedzialności na dno maszyna inni po, która jest otoczona pewnym takim nimbem nieomylności w sensie nadal w Otwocku w odczuciu wielu osób i najmu i Cieszyna to się może wiązać z brązu z negatywnymi konsekwencjami dla konkretnych osób, które będą traktowane jako niejako indywidualne przypadki tylko jako po prostu dostać z gwiazd też można dojść do Piekar wątek, bo powiem szczerze nasz hotel z nie wiem czy chcesz ad vocem od razu, czyja mogę jeszcze trochę and Jazz ocalić względną niektórzy grali razem, a później byśmy wrócili do tej z UE do tej kwestii odpowiedzialności dla nas niezwykle ciekawa atuty w 2 jedno tylko uwagę chciałam groźne jeśli można mianowicie no właśnie to jest w miarę przejrzysta tak jak powiedział Jezus zaś jest taka automatyzacja Kierz procesu, który w których, który i tak zachodzi w momencie, kiedy tam siedzi człowieka niebo z natomiast na to mamy właśnie do czynienia z w gruncie rzeczy dosyć prostym jak rozumowanie natomiast w momencie, kiedy trzeba prostym opieranie się statystyczne dane jest moment, kiedy mamy do czynienia w oczy będziemy mieć do czynienia czy pomyślelibyśmy w ogóle to w jakimś takim inne programie, który miałby rozwój urywać czy jakby spełniać rolę znacznie bardziej znacznie bardziej złożonych sprawach na jakieś sędziego np. albo adwokata kogoś, kto generuje np. pewna linia obrony albo w kto rozpatruje jakoś bardzo skomplikowaną z prawej ma rozstrzygnąć czy ktoś jest winny czy nie inne narodowości myślimy o kimś, kto miałby czy, o czym myśli o takim utworze, który miałby przetworzyć jakąś niezwykłą liczbę danych, które miałby on właśnie odtworzyć czy wziąć pod uwagę jakąś niesamowitą liczbę niuansów i zastanawiam się na ile to jest w ogóle wykonalne najlepiej jest możliwe czy tak, odnosząc się do tego, ale też do tego czy wcześniej los mówiliście Bobo buddyści się zgodzili co do takiej kwestii, z którą nie wiem czy się psuł jestem gotów się zgodzić to znaczy, że zastąpienie nawet tych prostych taki pomysł wyszedł w winiarniach decyzyjnie układa tak, gdyż binarne to jest albo kogoś wypuścimy tego aresztu albo go tam zostawimy względnie go tam sadzimy albo tanio sadzimy tak czy rzeczywiście słusznie mu moim zdaniem bardzo wskazali też zupełnie co innego niż osądzenie danej osoby od zaraz bym chciał też czemu też na atak na sygnale to kto chyba jest inne podejście sędziego wydaje mi się nie mogli się mylić oczywiście, gdyby tak fundamentalnie inne niż to, na którym się opiera centralny oraz sędziego Boscha jest z niego człowieka znanego algorytmu, jeżeli dobrze rozumiem opiera na zasadzie do ustalania ryzyka recydywy tak, czyli on bierze maksymalną liczbę danych i wydaje się, że ma dostęp do większej liczby danych, dlatego że sędzia Ano w odpowiedziała, że to jest podobnie, dlatego że sędzia też ma informacje o tym kto może popełnić przestępstwo pierwsze wydają się, że ma dużo mniej tych informacji, bo one nie są pewni skanowane pewnie nie są zagregowane takie są na potrzeby tych algorytmów, a po drugie to chyba nie jest kwestia informacji, kto może to też kwestia przewidywania, kto może ich praw jazdy bardziej Gruzja 1 zarządzania ryzykiem biografię mądre rzeczy 2 rzeczy chcę powiedzieć po pierwsze, wydają się jednak fundamentalnie różna i to Włodzimierz przeci w decydowanie o sprawach np. przyznania albo nie przyznania mandatu za złe parkowanie, bo to jest taka sprawa, w której często są teraz wykorzystywane właśnie pod tak jak i algorytmy, że to jest 1 kategoria spra w, a decydowania o zastosowanie mają zastosowanie tymczasowego aresztu nawet jeśli to nie jest sądzenie rynek jest decydowania o pozbawieniu kogoś wolności jakiś, czas więc tutaj się zakłada czerwona lampka natomiast to co druga rzecz, która też budzi we mnie budzi moje zaniepokojenie to jest to, o czym, o czym mówiła tak czy ale, ale strony z 1 strony mianowicie o tym, że w sytuacji, w której ten algorytm czy Talbot zdecyduje czy nie da czy zastosować czynie zastosować tymczasowe aresztowanie pozostali oceniam konkretną osobę na podstawie informacji, które dotyczą zupełnie inny sposób mówienia nadal miasto docenia to co ta osoba ma wspólnego z innymi różnymi osobami jest złym zrozumieniu w proces karny 31, a i jego istota w pewnym sensie polega na tym, że jednak oceniamy konkretną osobę i oczywiście posługujemy stereotypami, bo przed tym się nie da uciec natomiast jednak oceniamy konkretnego człowieka my też co jest tak, a może to jest ona, że wam się tylko wydaje, że oceniacie konkretnego człowieka, a w gruncie rzeczy front robót ten proces mentalny czy intelektualny, który zachodzi w takiej sytuacji jest właśnie dokładnie takim rodzajem Danielowi bokser nie taki jest i tak już w Rwandzie jest możliwość, że wszyscy o nich robili to samo tylko nie było tego widać, a teraz ci wszyscy i robią to odsłaniali gniazdem jest staną się być bardziej w rozmowie z psychologami na ten temat w jaki sposób sędziowie się zachowują natomiast wydaje mi się, że wprawie UE jest bardzo dużo takich mitów Bernd, na których opiera się nasz Ernest Pohl porządek prawny taki mit niezależności i t d. i w żaden sposób nie nie deprecjonuje tych instytucji, posługując się tym w tym słowem natomiast wydaje mi się, że są bardzo fundamentalne jest przekroczenie pewnych fundamentalnych granicy, w której stwierdzimy, że nie nie oceniamy człowieka doceniamy ARM stad od posługujemy się statystykom także jest to jednak odwrócenie i może to odwrócenie polega na takim przyznają, że król jest najbliżej tak to się dzieje, więc trudno to on otwarty 1 natomiast wydaje mi się, że jednak ERM brak nie nie ma takiej debaty tak przydaje się z nich jest Budka, w której w, którym w tych artykułach, które czytamy w ten wątek się nie pojawia wasze to może jest kwestia właśnie tej różnicy, do której Łukasz wspomniał o grosz różnicy pomiędzy takim prostym w rozstrzyganie czy ktoś ma wejść na zwolnienie warunkowe czy nie wyjść czy go otrzymać w tym areszcie czy go wypuścić opartej o pewnego rodzaju przewidywanie to znaczy tutaj dokonujemy tak to jest to jest analiza ryzyka spowolnić wydaje, że zwróci uwagę, że myśmy już oddali pole algorytmom ich już oddali pole algorytmom wcześniej sprawach nie prominentny jest wymiar sprawiedliwości hale, a dokładnie z tak samo, jakby na tym samym się zasad dających działaniach tak, czyli co analiza ryzyka kredytowego analizy ryzyka ubezpieczeniowego nikt nie bił, by co tam się można bić na zadany dysk HDD Health z miejsca na dany klient niech nikt karawany nie był w stanie z nimi słyszałem odgłosy oceanu Bono nasi Pono nasi radni byli ani nasze ani nie byli z wtedy, kiedy automatyzować łosie proces oceny ryzyka kredytowego teraz np. w regulacjach nowo tam nowych regulacjach unijnych na 4 dotyczący danych osobowych się o tym, mówić, że z tą automatyzacją tonie tak Sobczuk, ale do tej pory to było robione gór no oczywiście Zielnej pisze ocenia ryzyko kredytowe przyrównując danego kredytobiorcy do grupy danej, do której należy poprzez wiadomo na pewne czynniki jakieś tam dystrykty jedne tej grupy niż takie gdy, wpatrując się głęboko w oczy zastanawiając się może on coś jest podobny do tych innych, którzy Kret nie spłacali, ale ten 1 z wdaniem się, że spłaci oczywiście można mieć fantastyczną intuicja tak a gdy tak samo z ryzykiem ubezpieczeniowym i oczywiście te czynniki mogą też być czynnikami dyskryminacyjnym który, o czym mówiła tak, czyli tam ECN et nos czytam nie miejsce zamieszkania cokolwiek poziom dochodów też przecież może wcale nie być w tym konkretnym wypadku może być absolutnie fałszywego dodaje i jest dokładnie 1, kiedy dokładnie to samo jeśli chodzi o to przed terminem wezwanie do 100 sprawdzamy produktywnie czy letnie nie sprawdzamy i zastanawiamy się czy dana osoba zachowa się sposób ich stronie zachowa się sposób tutaj ten problem związany z potencjalnymi dyskryminacyjny mi zachowaniami tych bonów czy tych algorytmów też wiąże się z tym, że no właśnie takie proste bezrefleksyjne, a jednak, bo to cały czas są bezrefleksyjne tam szacunkiem hala dla botów rzecz jasna takie proste użycie statystyki no może działać konserwujące względem branych jest przerażający przedsądu w charakterze dyskryminującym mielenia, serwując no tak no w tym sensie, że często porządek społeczny czy pewne, jakby to fakty społeczne takie np. jak nie wiem to co jest związane z miejscem zamieszkania Anny w co się może łączyć z kolorem skóry i t d. no jest jakby czymś wtórnym względem uprzedzeń, które organizują przestrzeń społeczna albo, wykorzystując to teren produkuje w gruncie rzeczy pewnego rodzaju dyskryminacyjne przed którąś ze złej i bardzo chyba rozmawialiśmy kiedyś jeśli nie to warto o nich rozmawiać kwestionują książka się nazywa angielski tytuł to zła ten SUV ma dostać się tak, czyli Thomas jest zostało zastąpione słowem matematyka ona właśnie pisze o tym, że algorytmy nie kody szykują teraźniejszość nie wymyślają przyszłość i na tym polega niebezpieczeństwo, o których wspomnieliśmy natomiast pracownicy są do kwestii ubezpieczeni i kredytów dużo się na ten temat mówi pisze właśnie teraz ona zresztą piszą w tej książce na temat na temat przyznawania nie przyznawania kredytów jest trochę za późno tak, ponieważ jak często jak często z technologiami i ich wpływem na życie społeczne natomiast ja jednak zastanowiłabym się nad tym czy taki sam czyta czy można zrównywać właśnie obszar wymiaru sprawiedliwości do 1 obszaru usług takich świadczonych powiedzmy przez podmioty prywatne ciek ten ten sam standard ten sam poziom staranności powinien być oczekiwane od instytucji, która udziela kredytu, jaką od SLD sędziego czy sądu wydaje mi się, że nie, bo jednak instytucje publiczne powinny posługiwać się trochę innymi kryteriami niż realne niż instytucje biznesowe, mimo że konsekwencje dla życia konkretnych osób mogą być porównywalne tak także, ale jednak mimo wszystko czuje jednak czuję jakiś rozdźwięk pomiędzy pomiędzy tymi tymi obszarami UE powiedział, że nawet o rozwód tak jest myślę, że nawet nie tyle co oczywiście poziom staranności być może kolejka się domagał od tych z sektora prywatnego bardzo chętnie też bardzo wysokiego poziomu staranności, tym bardziej iż jest to konsekwencją mogą być doniosłe tylko, że nie widzę coś takiego w tym wymiarze sprawiedliwości tego nie widzę w usługach bankowych jak jednak to żony z ufundowany na coś co tam chyba Hartman wzywał tak to regułą uznania to znaczy no my uznajemy wyroki sądowe wściekł się wydaje nie, dlatego że są one trafne cokolwiek to miało znaczyć, bo w sumie nie wiem co ty miał oznaczać, że ten system jest gdzie filozofii społecznej tak trafny wyrok na zawsze jest nauka i reżysera z boku uznajemy je, dlatego że uzna, że uważamy, że osoba drukujących uderzona pewnym autorytet ze strony ministra, który miał staram się maluje on nawet Jeślinie i czy inaczej wydaje mi się czynnik ona może mu być może technik nie ma powodu, aczkolwiek to broń Boże nie chcę deprecjonować sędziów Wrony w żaden sposób być może znalazłyby się powody, dla których można, by odmówić tego autorytetu, jakim konkretnemu sędziemu, ale wydaje mi się znajduje dobrze rozumiem do nauki społeczne w Zaspie ta gra w niedzielę w rozwój nauki społeczne to jednak to jest konieczne dlatego żeby, żebyśmy mieli do czynienia z jakimiś tak powiem posłuszeństwem niewymuszonym czymś innym niż naga siła w stosunku do szeroko rozumianych tak powiem orzeczeń wymiaru sprawiedliwości taki nie mówią naszym współczesnej sytuacji mówi o tym co się dzieje tysięcy lat na świecie tak to oczywiście od momentu, kiedy przestaliśmy wierzyć w to, że to czy nieczystej ale kiedy po 3 i przestał być powszechne u twierdzenie, że tak naprawdę co sprawiło, że Boska tak czy jakaś tam siła wyższa, która mówi ustami sędziego Novotel nie było problemu tak, bo to po prostu było tak powiem co z vox Dei tak nas, odkąd to nie jest vox Dei na to przecież to z jakiegoś autorytetu siebie i dlatego odpowiada są twoje pytanie sprzed jakiegoś czasu moim zdaniem trudno będzie tym, bo to nieszczęsnym zastąpić sędziego właśnie z tych sprawach, w których on ma moc wyrokowania tak nie osądzania linearnego czy tak czy dać kredyt czy nie dać wpuścić czy nie wypuścić nie nieważne kto by było istotne dla danej trudnego człowieka tylko po prostu osądzić tak biorąc pod uwagę wszystkie okoliczności sprawy jest nawet mogę wyobrazić też na tym nie znam technicznie, że będą tak doskonałe bazy danych będą tak doskonałe algorytmy uczące się przybyć może tę cokolwiek by to miało znaczyć to będzie trafniejsze w tym sensie bardziej konsekwentny będzie ten wyrok będzie bardziej winni tak powiem rzeczy zgodnie z poprzednimi będzie może nawet jakoś bardziej odpowiadał nie wiem dominującej mu systemowi wartości danej społeczności w danym czasie, ale mimo wszystko jakoś mam wątpię czy ludzie się podporządkują temu i czy nie będą się poczuli jakoś odbić od braci ze swoich praw po prostu podstawowych, jeżeli to będzie de facto automatyczna decyzja maszyny tak to obdarzona można będzie mieć łańcuch i stadiony autorytet natychmiast się pojawi nadzieję, że to trochę strony się w Dubaju adwokata diabła, bo mam nadzieję, że jest, że będzie tak jak tak jak mówi Waldemar sobota środa Flota została albo adwokatka, bo to rzecz natomiast zastanawiam się, że Franzowi rację, bo KO ta część osób wyliczyła, że gdzieś jest nota bronić aż tak i tak będą bronić, bo to w wyraźny wzrost o najwyższych w 2 minuty będą obrazy wota zastanawiam się czy rzeczywiście tak benzynę jak dokładnie wyliczyła sztorm w UB sobotę, a Dymek strasznie przerywa w kościele jest przestarzała wypełnić PIT tak po prostu on chce, żebym straciła wątek, ale bez niej nie da, bo te w Gnieźnie zaprasza w UE dobrze to wiedziałem, że ludzie będą mogli się czuć obdarty ze swych praw w sytuacji, gdy rynek maszyna będzie decydowała ani sędzia natomiast zastanawiam czy rzeczywiście te wartości, które są aktualne obecnie nadal będą aktualne za parę lat i czy biorąc pod uwagę taką absolutną absolutny kryzys zaufania między ludzkiego, z którym mamy do czynienia z naz w różnych polach społeczeńst w i nie tylko w naszym społeczeństwie to czy wręcz przeciwnie nie okaże się za jakiś czas ludzie są bardziej gotowi zaufać maszynie, która właśnie jest konsekwentna, która nie ma nie ma złych złagodniał czy dobrego dnia, która nie jest kolegą albo koleżankom i tej czy innej osoby i właśnie w związku z tym nie niem nie będziemy mieli do czynienia z wysp przeciwną sytuacją co się wiąże z tym, że MIB i o tym czy czasem się mówi mu kiedyś, kiedy rozmawiamy na temat tego w jaki sposób technologia wpływa ona na nasze życie, że to nie tylko nasze nasze wartości w środę technologie, ale także technologiach kształtuje nasze wartości tak przed jak ten proces automatyzacji połączone właśnie z kryzysem zaufania nie doprowadzi do sytuacji, w której paradoksalnie ten element ten mit nieomylności odśnieżamy niezawisłości niezależności będzie nie będzie minibar chętnie obdarzać maszyny na złodziei po to jest w ogóle bardzo ciekawy wątek zastanawiam się skądinąd to mi przyszło do głowy jak nie mówiłaś o tym, właśnie na ile i inni ten mit nieomylności bezstronności tego właśnie, że boks dokonuje jakiejś takiej analizy, która jest wolna od różnych uwarunkowań zaciemnienie, którym może podlegać analiza dokonywana przez przez człowieka na ile nie będzie to coś co, owszem, będzie na atrakcyjnej będzie przyciągało, ale tylko tych, którzy będą mieli poczucie, że są uczciwi i że analiza bezstronna danej sytuacji zawsze przemówi na ich korzyść, a na ile będzie to coś, czego będą starali się unikać ci, którzy liczą być może w takich sytuacjach na torze może jakoś uda się tutaj trochę jak teraz mąż i tego, bo ta w sumie może też jakoś przekonać, że Niemcy wraz z jego strony dlatego jeśli nawet się zgubiły z tą końcówką o tym, mówić, że coś wymyślać jak bogatego bota na czystej chodzi o to, że rynki, które są świeżą głośnym echem mówi sierż Dorota Boreczek tyle samo w CV to chętnie się po dadzą temu osądowi, bo regionalnemu w system nie uczestniczyli też będą dowozy mieszkaniec Gdyni kończyn dolnych jedno Zuza powiedziała, że być może w kontekście ogólnego kryzysu między ludzkiego zaufania i t d. właśnie wcale nie jest także w, że ludzie nie będą chcieli z tymi, bo tam mieć żal w sądach do czynienia tylko przeciwnie będą uważali to, bo to właśnie gwarantują większą rzetelność najazdy zastanawiam czy to nie jest także pomyśleć tak tylko ktoś, kto jest tam przekonane o swojej uciążliwości, kto ma takie poczucie, że transparentnej tak dalej to może ja tak być tylko, że w ogóle dla mnie powiem szczerze to jest taki rys ton takie rzeczy rysunek, jaki obraz który, które są jedź jest dla mnie oczywiście dość smutny, gdyby ludzie mieli tak tak uznał, że już lepsza maszyna niższy niż dziś ten niż ten sędzia czytam inne inne nazwijmy to wyróżniony inny tak społeczeństwie, którym po prostu daliśmy kiedyś tam przed jakieś prawo do decydowania o naszym naszych kranach tak w pewnym w pewnym stopniu no bo to jest to sędzia z takim idealnym przykładem są też oczywiście inne takie zawody czy inne funkcje i czyj jest lepiej być rządzonym przez maszyny nowość do tego sprowadza tak mi przez ludzi jak jak weksel polować na syntezatorze ludzie będą dobrze to zrobi rządząc przez Ciech w granicach cały pomysł Marcin Terminatora okazuje się absurdalny, bo nie chcą przystać na chleb i urządzeń dziewczyna, więc Matrix tak w Berlinie z oddechem, że tak, ale może dychę dobre uczciwe maszyn w nie da za rzezie znajome dobry Polski uczcili albo tych z jazdy, ale wizja polskiego, ale powiem wam się zmieniamy natomiast ATM ostatnie na razie z 2 na razie Polki w UE w kwietniu został opublikowany raport zgromadzenia parlamentarnego rady Europy, czyli wasz bardzo poważne instytucje, które zrzesza parlamentarzystów ze wszystkich krajów, które są stronami Europejskiej konwencji praw człowieka i ten raport dotyczył właśnie rozwoju technologii nowych technologii tak jak wpływają na terenach życie społeczne jak prawo powinno na te wyzwania odpowiadać i w tym raporcie postuluje się na sformowanie 2 nowych praw człowieka przy czym jedno z tych teraz miałoby polegać na tym, że każdy z nas miał mieć możliwość decydowania o tym czy o jego losie decyduje człowiek maszyna i moglibyśmy wybrać czy chcemy być oceniani przez człowieka są przez maszynę albo czy chcemy rozmawiać z konsultantem, który jest mottem jest konsultantką, które jest człowiekiem, a konsultantem w jakiej sprawie jakiekolwiek realne jest sformułowany bardzo szeroko jako właśnie prawo do wyboru czy chce mieć kontakt z robotem czy chce mieć kontakt z człowiekiem jak zawsze brali w oczy przede wszystkim to jest dla mnie jest lewe trochę z 8 tys może bez hipotek przeglądem tym raportem, bo drugie z tych praw to jest prawo do niebycia do niebycia profilowanymi tak powiem nie do analizowanych realizowanym przez dziennik Daily ataki dokładnie na wizji artystycznej na czym nam z takim zasięgu i wydają się oczywiście rozumiemy obawy tego zgromadzenia parlamentarnego syty bardzo ciekawy raport, który bardzo dużo tak to jest jak bardzo wie może odwiedzić na temat tego stanu typem zaawansowania tych rozwiązań technologicznych w życiu społecznym naszym, ale i to mi troszeczkę przypomina takie prawo, które pewnie pamiętania czy pamiętacie no i które kojarzyć jak wprowadzali samochody stan samochody nie są tak, żeby w tym spalinowe czy Czyty jesteś i parowe z 2 w stanach ono obowiązywało na świecie wtedy to nie wydawać, że uzupełnienie pamiętać, ale też głowami tak czy inaczej być dobrze krytykować, gdy samochody mogą jeździć po naszych drogach tylko taki 1 drobiazg Gilbert czy 3 dni, mimo iż gość z chorągiewką i ostrzega, że jedzie zaś są na giełdach będzie mógł ich tylko 12 mil na dobę czytamy na niej nie ma hali handlowej z głównego do innych, ale rzutów rożnych wolno no strasznie wolno, ale wprowadziliśmy samochód wprowadziliśmy chcieli w unowocześnienie to mają i to jest też to dla mnie pod nogami podobny po nas tak czy Jana Lenicy doradzamy wprowadzamy to i tak pan do użycia, ale zawsze dajmy człowiekowi prawo, że będzie mógł powiedzieć, że nie chce z tego korzystać z pierwszej, a drugie czytanie niebycie profilowanym, że będzie mógł odmówić tak powiem, żeby ta technologia była zastosowana w stosunku do niego moim zdaniem oba te prawa niestety są iluzoryczne to znaczy, jeżeli wpuścimy to dostrzegł ten to rozwiązanie no to od tej, gdyby oczywiście bardzo by głosowanie byśmy zawsze mogę odmówić, ale przecież notes przy kupnie w bardzo to nie transparentne tak to, że my tak powiem na tt na wizji nie będziemy widzieć tego błota i porozmawiamy z panią Haliną bądź z panem Jackiem to świetnie, ale gdzieś tam głębie oczywiście rozwiązali ją uratować Witalij Kliczko leje się one boiska hełmy wież oraz grałem w pani Heleny podpowiada pani Halinie co mogło być tak z wizji wizji monitor koni teraz ma nie wierzę w Puławach jak dokładnie pani ze znanych z Niechorza polega, że to jest jakby te nowe prawo to takie zdanie dla mnie tak mówiąc półżartem pół żartem no tak troszeczkę złośliwie Francja to jest jednak dla mnie taki objaw bezradności w tej sytuacji, aczkolwiek to samo uprawnienie już jest będzie od maja 2018 roku elementem porządku prawnego w naszym kraju, gdyż wtedy będzie obowiązywać rozporządzenie dotyczące danych osobowych zastąpi aktualną ustawę o ochronie danych osobowych i tam jest wprost przewidziana możliwość właśnie nie tak powiem nie, a żeby ażeby w zakresie tam danych osobowych danej osoby nie należę nie było takie decyzje były podejmowane nie automatycznie, lecz właśnie przez człowieka tak czy to prawo będzie będzie wprowadzane nie tylko on takim postulatem tym obszarze, ale dystrykty normatywnym, ale się wydaje, że to tylko uciekł z chorągiewką i znikł to prawda i te samochody pędzą szybko to myślę że, że żal, że żal, że też algorytmy będą chciały szybko pędzić i las Vegas te różne próby asekuracji dni i takiego łagodzenia i właśnie wpisywania różnych takich jak Józef Szmidt, a że jest to nie zgadzam zdecydowanie uważam, że ze względu na wiele razy już mieliśmy do czynienia z takimi sytuacjami, w których najpier w wprowadzono jakość technologie i podaż remontowana na dużym stopniu narusza równe prawa najczęściej była to prywatność ochrona danych osobowych i nie chciałabym zrezygnować jednak z prób jakiegoś nawet na ukierunkowaniu rozwoju technicznego także był on w dół w dużo większym stopniu szanował prawa osób, z którymi nie to oczywiście Real i wydaje mi się że, że nie może sobie odpuścić na wychowanie oczywiście to to na pewno to może źle jak tutaj źle wyraziłem tak jakoś niezręcznie niepokoi mnie wziął go zrobić bez nich nie herbatką odpuścić i poduszki powietrzne nie będą samochodach hamulce nie będą dobre innymi słowy, przekładając taty, bo te nasze nieszczęsne z tym pewnie już uszy są całkiem ich czerwone dachy w długim terminie najlepiej zareklamują alegoryczny rozmytych przekreślić algorytmy niech będą coraz lepsze niech nie biorą przy procedowaniu pod uwagę takich dat takich czynników cały czas się polepsza inny certyfikuje myjek ograniczajmy nawet ich zastosowanie w pewnych obszarach absolutnie, ale człowiek z Holandii Konitz rozwiązań to znaczy nie wierzę w to, że będzie można dać prawo, które polega na tym, że możesz się człowieku, lecz użytkowników tak, by obywatelu możesz mi zgodzić może się nie zgodzić na to, żeby w okolicach twoich przejeżdżał samochód tonie samochody będą przejeżdżały twoje w okolicach chodzi o to, żeby one nie dymiły, żeby były bezpieczne, żeby szanowały swoje prawa w maksymalnym stopniu talent ale, że to jest rzeczywiście tutaj analogia to znaczy, że taka sytuacja, w której pozostaje słaby w możliwości wyboru pomiędzy tym czy boks czy człowiek no tak zdobędziecie Bielana nadzorują wałów tak powiem ekonomicznie jak znaczyło, że zawsze musi być dekad przygniotła, sprowadzając to data, czyli zawsze musi być człowiek chorągiewka, bo zawsze musi być pojazd konny, który jest, drukując każdy egzemplarz samochodu musimy jeszcze pamiętać o tym, że w stanie mieć dodatkowego konia no no no tak też ciągle są one bowiem szczerze, że model biznesowy się dostosuje do tego jeśli my jeśli stworzymy pewne wymagania to ja ufam i wierzę w kreatywność biznesu tak, żeby się tak, żeby się do tego dopasować, gdyż ta analogia z człowiekiem z chorągiewką nie do końca jest jest właściwa bardziej bardziej się podoba to z poduszką powietrzną także wdrożenie pewnych pewnym bezpieczników to możliwość wyboru dają się jednak nie jest nie jest aż tak ekstremalnym ograniczeniem rozwoju technologii jak jak postawienie człowieka z chorągiewką przed samochodem mógł toczyć się też jest zawsze każde porównanie jest takie dosyć siłą rzeczy tak na mnie nie nie pewnie nie stuprocentowo pewny, że MSZ z chorągiewką jest absurdem natomiast możliwość wyboru nie jest absurdem dla mnie czy dla mnie też oczywiście nie jest absurdem natomiast wyobrażam sobie, że właśnie w ramach rozwoju modelu biznesowego, gdyby to miało zostać i jako ta norma obowiązująca to właśnie raczej będą ukrywane pewne automatyzm rozwiązań taka, żeby była pewna pozorna możliwość wyboru niż rzeczywiście ktoś będzie się godził na to, żeby pozostawić ten ten stary model i w pewnym sensie nie maksymalizować zysku mówiąc już tak brutalnie wynikające właśnie z tego, o czym to konserwator powiedziała, że pewne że, że te boty nieszczęsny czy też te algorytmy działają szybciej sprawniej taniej tak samo może być tego sformułowania i jakość to jest chyba takiej tak powiem, że siła napędzająca no jednak rozwój technologiczny to ona też optymalizacja, więc tutaj to obawiałbym się na ile można to wstrzymać jak to mówią znieść ubóstwo ustawą tak wiele można go ustawodawczą tak powiem czy normatywnie to ten kierunek utrzymać oczywiście bardzo lubimy bardzo byłbym rad, gdyby gdyby, gdyby takie są pewnie przez, gdybym był bardzo groźnego prawo, gdyby takie prawo było efektywnie nim tak powiem żonie jedno stosowany ten i maja 2 jedno w LO w użyłem porównania do kwestii ochrony danych osobowych takich które, która też jest tym często oceniane jako karkołomną, ponieważ co się dzieje i jest często poza naszą kontrolą nasze dane są gromadzone i t d. natomiast jednak w Europie jest dość silne do sądu silne instrumenty prawne coraz silniejsze wrażenie coraz skuteczniejsze, które umożliwiają egzekwowanie prawa do prywatności w tym obszarze także to wydaje mi się trochę oleju w historię sukcesu jednak jasne to jest trudna walka w cudzysłowie natomiast tak jak powiedziałam wolałabym w sobie nie odpuszczać na wstępie z założeniem, że to, że biznes i tak będzie chciał jak najwięcej zarobić jasnym biznes będzie, że najwięcej zarobi netto natomiast naszą rolą chce sypnąć tak jak postrzega swoją rolę jako prawniczki zajmującej się prawami człowieka jest znak dyskutowanie sposobów jak jak ten fakt to uniemożliwiła zła jest kwestia sposobu protezę do budowy w razie tylko, że bardzo dobry przykład z danymi osobowymi, że planety dokładnie tak orzekł, że nie powiemy, że słuchacze zawsze może każdy z dysponentów danych może może bezwzględnie zakazać przetwarzania swoich danych nie mam taką przesłankę przetwarzania jak cel uzasadniony interes administratora ją wtedy może przetwarzać nawet mimo tego, że się nagranie związane, ale rozwój właśnie wprowadzamy do poduszki powietrzne tych mówimy, ale musi przetwarzać tak, żeby nie wyciekły, ale musisz nie notyfikować o tym w jakim zakresie przetwarzać, a jeżeli chcesz tam powierzyć komuś innemu to też może określono obowiązki tak, by w taki wypadek w tempie, że to nasz spór się, że dyskusja dotyczy bardziej środków, które należałoby zastosować niż niż tego czy należy stosować jakiekolwiek to jest dla mnie oczywiste, że technologia zajęli bezpieczne uwaga od Mateusza Lufta, choć Niemcy to jest uwaga od Mateusza Lufta Bojanowski zobaczyłem tekst taki na prąd też, że nie jest wcale przekonany czy to ma nerw naciskał bym tak, bo mu go wygenerował sygnał, że studia, ale właśnie jest to tym bardziej to jest dziwna w takim razie, jaki błąd być może wygenerował coś takiego, ale uwaga absolutnie Apropos no bo ostatecznie już właściwie w tej chwili mamy, bo te, które z powodzeniem test Turinga przeszły 3 dni mówiąc w skrócie to są takie generatory tekstów czy takie urządzenia rozmawiające czy imitujące rozmowę, jakkolwiek to zwać się co, do których nie jesteśmy w stanie stwierdzić czy to są obawy czy nie, bo czy to znaczy nie mamy takiej możliwości rozmowy między nie uda się ich od honorowych gestów, ale wysyła dysydenta Liu dali High tech no bo w trybie, bo to jest nowa wersja tego dylematu to jest taka wersja właśnie, która jest nieraz walnęła w Mielcu, ale mnie noga mnie z Realem to dokładnie absolutnie w 2 w hotelach z koła jest już dzisiaj nie rozstrzygana na tym polega test Turinga właśnie to tak, że na tym Bojar piękny rynek uważany właściwie tak wolno wzruszyłem się na etat bez przesady bada czy może to jest za wcześnie w każdym razie Otóż uwaga jest taka, że skoro mamy już dzisiaj te boty które, z którymi nie jest nie jesteśmy w stanie, o których nie jesteśmy w stanie stwierdzić czy sobotami czy nie są to kto nam zagwarantuje że, korzystając z naszego prawa dlatego, żeby rozmawiać z człowiekiem nie jest, bo te nie będziemy rozmawiali z LOT -em, bo przecież w ten sposób rozróżniać mamy do czynienia z Bondem czy człowiek jak ten, kto im prawnicy stojący na straży praw człowieka, a no tak walczą o nich ani genomu Ano właśnie tak jak oni też będą, bo tak to nie, ale wiesz to jest kwestia, bo ja mówię o kwestie praktyczne narzędzie teoretycznie na papierze po no tak, by dziś mamy takie prawa te prawa powinny być egzekwowane możemy je zachować na no ale ostatecznie jak przychodzi co do czego to profity dla każdorazowo w latach w lokalnych Chalidowa nie odpali werbowała chętnych jest to łapię się rynkiem chłopak tylko z NFZ ma być, więc takie kontrole n p . takie są kontrole sanepidu to kontrole w tym czym w odcieniach od rzeczywistych więzi z 10 zlote to tylko z 4 właśnie na to niestety nie wiem natomiast, ale są na zimno nie można powiedzieć, że przez to, że to prawo będzie trudna do wyegzekwowania należnych instalowane na naszych stronach Tomasz Gollob po tak można, by skreślić w zasadzie dobra większość takich w bardziej z trudniejszych wyzwań tak jak z energią wymiany walut nałożą 1 sprawiedliwego działającego na transparentnym algorytmie być może one z kretesem spod głowy tak szybko zgłosić postulat, by też, że być może n p . tego typu algorytmy powinny mieć Miedź ujawniane kody źródłowe tak bo gdyby to co mnie jakoś niepokoi co w gruncie rzeczy rozumiem też nie ma pojęcia, o co chodzi o zgromadzeniach źródłową może nie przyznano je rozumiem, że być może się mylę tak być może to ktoś, kto ma izba ma większe eksperyment się w kwestiach informatycznych Totus tu się trasy i bawić słuchaczy, ale ja rozumiem, że ta algorytm jednakowoż mają są oprogramowaniem niż rodzajem programu komputerowego tak każdy program komputerowy jest oparty na kodzie źródłowym, który stanowi taką te giną z dna tak on doskonale dna dna tegoż organizmu informatycznego no i tyle tak i teraz w momencie, kiedy on byłby ujawniane publicznie tak czy był tzw. naczynie jedynie w domenie publicznej co w nocy był to po prostu ujawnione nie byłby nie byłby skryty mielibyśmy dużo większą transparentność w tym zakresie również w zakresie n p . tego, jakie kryteria tylko 100 starych akt tak to jest to beton część ich postulatów, które tam ponad plaż z Lubania, że są właśnie formułowane programy takie, że właśnie w grę wchodzą te sekrety przedsiębiorst w na atak na tajemnicę przedsiębiorstwa natomiast zdecydowanie gorzej jeśli wiemy co jest w tej z czarnej skrzynce na temat jest ocenić czy rzeczy wynik będzie sprawiedliwy czy nie sprawił właśnie bo, choć jeszcze sąd co po prostu czy też tam czegoś nie dosypał, że tak ten w pozwie ten brak transparentności dla mnie jest niepokojący 1 jest kolejny argument, dla którego poza tym, że nie ma tej reguły uznania w momencie kiedy, kiedy w sądzie mnie komputer, jakkolwiek brzmi infantylnie co mówię to drugi argument przeciwko temu nikt temu, żeby komputer też sądził czy też ten boks sądził jest taki oto, że on się posługuje językiem, a czernią i trasy języku naturalnym, którym itp, w których którym wydrukuje wyrok, w którym w 2 wyrok tylko językiem tym rozumuje tak nie rozumuje w języku tak jak my rozumujemy w odnośnym języku naturalnym tylko on rozumuje w swoim języku algorytmu i tak naprawdę ja nie bardzo wiem na czym miało polegać w głębszym sensie filozoficznym prawo do obrony w tym momencie, bo przecież jeśli obrońca musiałby niestety chyba być kim, bo ten chyba, żeby należycie bronić swego klienta no bo jak on ma przekonywać sędziego w, a przecież sędzia, który posługuje się algorytmem Orlik przekonywali go 1 sposób poprzez zmianę algorytmu tak, których niezmienny, więc dla mnie dobre pomysły na to są to na bazie tam sieci neuronalnych jest, więc ono tam przyswajają one rozwijają one działają w oczywisty oczywiście związane uczących się w tym sensie na wieś ma na to, żeby także wtedy jako ten adwokat tak stojące w tej sali rozpraw musieli wiedzieć, jakie mam podać informacje, żeby on się, że tak powiem nauczył na podstawie tej mojej formacji jest do nich bardzo trudno jest okazja nauczyć się nowy zesta w danych tak np. kasjerki, że ten robot się posługuje danymi przestarzałymi czy zostaną uczczone nauczyć go nauczyć go o nowych nowych rzeczy czy to znaczy to zdaniem adwokata uczyć sędziego na sali nowy przepis nie bylibyśmy narażeni są inne regiony przekażemy przekaz bardzo zyska także euro dane jak najbardziej Aleksy znakomicie wśród 12 gniewnych ludzi prawda tam nie są gadam tango grał główną rolę, ale jakiś amant fantastyczne amerykański Kostrzyna działa wstecz liczone razem tyle razy w działalności przekonywał tą datą to łatwe przysięgłych i o ile mnie pamięć mnie nie z faktami, bo tam nikt nie wiedział czy tam NRF Women on dołączyć miasta jest Henryk czeka przekonywał pozostałych 11 tak z tej z tej listy w tych tych no z tych osób, które miał wydać werdykt i ochraniały silni starostwo miały z wspaniały i teraz ja nie wiem czy gdyby to był 11 botów kondycję poradzi 12 gniewnych, bo w bolidzie oto one jednak nie przekonywał w oparciu o nowe fakty, które wyjmował z kieszeni, bo ich nie miał ani dane tylko wskazywał ich jak pan Bóg wzbudzał wątpliwości czy ktoś z nową wydaje mi zastaje ukrywaną winnym porządku w 1 strukturze wzrok będąc już tam jako zostało poukładane, że w takim odbiorze przestawiał klocki ogólnym ogólnym społeczeństwa, a w cudzysłowie cokolwiek miałoby oznaczać RM z twierdzeniem, że ta Ława przysięgłych czy ten sędzia posługuje się emocjami jakimiś opiniami byłaby wywiało wywołałaby duży sprzeciw władz raczej argumentem przemawiającym za tym, że powiesimy swój los lobotomii skoro skoro ci skoro ci ludzie będą decydować na podstawie jakichś swoich emocji dziwnym, bo to zimnem, bo to żart zimne, bo z wam powierzamy swój los tak, choć nie jest tak pomyślane model Ferrari ze strony Tomasz Strug bomba z dość nerwy nie ja jeszcze się z żadnym z boksu czy nie, bo w po to jest pytanie w bardzo dziękuję Zuzanna Warso dziękuję bardzo dziękuje i Łukasz Kowalczyk bardzo dziękuję dziękuję i prawnicy byli państwo gośćmi no i kończymy też swój wieczór Radia TOK FM Mateusz Luft wydawało ten wieczór Karol Kowalewicz realizowały się nazwą Tomasz Stawiszyński dobrej nocy życia niech wyborcy będą z państwa w Zwiń «

PODCASTY AUDYCJI: WIECZÓR - TOMASZ STAWISZYŃSKI

Więcej podcastów tej audycji

REKLAMA

POPULARNE

REKLAMA

DOSTĘP PREMIUM

Z Dostępem Premium TOK FM odsłuchasz każdy podcast - bez reklam. Słuchaj wygodniej w naszej aplikacji mobilnej z pakietem "Aplikacja i WWW"

KUP TERAZ

SERWIS INFORMACYJNY

REKLAMA
REKLAMA
REKLAMA