REKLAMA

Sztuczna inteligencja nie wymyśli nam szczepionki na koronawirusa, ale AI w medycynie ma coraz więcej zastosowań

Panoptykon 4.0
Data emisji:
02-07-2020 19:00 (Powtórka: 05-07-2020)
Audycja:
Prowadzący:
Czas trwania:
01h 05:33 min.
Udostępnij:

Sztuczna inteligencja, także w medycynie, może być ogromnym wsparciem dla działań człowieka. Nie wolno jej nie doceniać, nie należy też przeceniać. Ta rozmowa to przede wszystkim odkłamywanie rzeczywistości: bo obok, a nawet zamiast popkulturowego wyobrażenia o AI powinniśmy potraktować ten temat bardzo poważnie - przede wszystkim dlatego, że już dziś ma on całe mnóstwo bardzo poważnych zastosowań.

AUTOMATYCZNA TRANSKRYPCJA PODCASTU

Transkrypcja podcastu
Witajcie w podcaście Panoptykon 40 mówi wdowa Katarzyna Szymielewicz jestem prawniczką i prezeską fundacji Panoptykon, która reaguje na zagrożenia związane z rozwojem nowych technologii to co dzieje się na styku tej technologii człowieka ponadto konie 40 mam ten komfort, że nie wykonał do ustaw nie gadam z politykami, ale mogę zrobić coś ciekawszego mogę zajrzeć na zapleczu tych technologii przemyśleć to, skąd się wzięły co tak naprawdę zmienia w naszym życiu jak Rozwiń » działają i rozmawiam o tym z ludźmi, którzy wiedzą wiedzą, bo badają wiedzą są praktykami i to wiedzą potrafią się dzielić technologie i człowiek człowiek i technologie, gdzie na tym styku czekają nas zagrożenia jak korzystać z technologii, by na nich skorzystać jak kontrolować, kto gromadzi nas informacje do czego używa z ekspertami praktykami rozmawia Katarzyna Szymielewicz Panoptykon 40 podcast tokfm PL fundacji Panoptykon dzień dobry mówi Katarzyna Szymielewicz jesteśmy w podcaście Panoptykon 40 cały czas w wydaniu zdalnym, więc ukrywanym w warunkach chłodniczych poza SW radiowym, więc tradycyjnie przepraszam was za jakość cie, które nie będzie tak doskonała UE i za wszelkie usterki, ale staramy się nadrabiać merytorycznie i dzisiaj wrócimy nie uciekł nie ma pandemii, ponieważ pandemia jest dookoła nas i podrzuca aż podrzuca ciągle kolejne ważne tematy, ale będzie jednocześnie nawiązanie do tego, o czym wielokrotnie w podcaście wcześniej rozmawialiśmy nie obiecywałam że, że będziemy wracać, bo temat jest ważne rozwojowej trudny mianowicie sztucznej agencję dzisiaj właśnie na przecięciu UE tego co społecznie ważne, czyli zastosowań społecznych z wielkich nadziei, jakie na pewno media najważniejsi politycy nie wiem jak ludzie z tymi najmniej o przyjemność na co rozmawiać, ale na pewno media politycy z dużą nadzieję zdają w Spodku układać w tym czym mogą nam pomóc służyć agencje jeśli chodzi o zagrożenia epidemiologiczne CE pojawiają się pojawiają się kolejne teksty mówiące o tym, że właśnie jaj wymyślono szczepionkę przyspieszy proces testowania oczywiście wykryje wcześnie nowe ogniska itd. tak dalej dzisiaj chciałabym zająć się trochę właśnie rozbrajanie różnych mitów, bo jest sporo wokół wokół tej technologii i tak naprawdę porozmawiać o tym, czym ona rzeczywiście jest czym nie jest co powiemy o nich jako ludzi użytkownicy czasami eksperci z innych dziedzin wiedzieć, żeby nie zgubić się, żeby móc kontrolować, by móc odsiecz co jest sferą science-fiction czy wyobraźni i z tego co rzeczywiście nam zagraża jeśli zagraża od tego co rzeczywiście szansę jeśli szansą, więc sporo będzie rozpakowywanie mitów nie tylko w kontekście medycznym, ale na pewno na pewno o tym, powiemy i pewnego porządkowania mogę to zrobić będę mogła zrobić, ponieważ jest ze mną i idealna do tego osoba Agata fory czasz doktorantka na wydziale informatyki Uniwersytetu Stanforda, gdzie bada właśnie algorytmy uczenia maszynowego, które są wykorzystywane w naukach medycznych, a więc wspierają decyzje lekarzy w diagnostyce i nie tylko jednocześnie Agata od paru lat wspiera współpracuje w nas z nami fundacji Panoptykon właśnie, kiedy tworzymy materiały edukacyjne czy staramy się sami zrozumieć jak tzw. jaj lub mówiąc konkretniej algorytmy i nie można tego działają, więc z nami nie wczoraj i tym bardziej wiem, że to będzie ciekawa rozmowa witam serdecznie czas często dla dziękuję dziękuję nie zgodziła się na nogi proste, ponieważ nie jest zadaniem po myślę, że praktyka, a ty miała do czynienia w przyszłości projektowaniem algorytmów pracowała z, a przy tym już w zasadzie zawodowo jednocześnie badać tę tematykę niełatwo przejść na język ludzki na na tłumaczenie żyć od postawa to będziemy próbowały dzisiaj zrobić jednoczą się 0 przepraszam słuchaczy tych słuchających nas, którzy mają wiedzę w temacie mogą w trakcie podcast poczuć się urażeni nasze są puste na pewno będziemy tworzyć nowe słowa na pewno nie ma terminu uda nam się zgrabnie na Polski przyłożyć, bo jednak okazało się przy tym wyłącznie po angielsku ja dopiero się uciec i terminów, ale myślę, że dzisiaj sens będziemy bardzo bliskie prawdy i tylko prawda jest dobre to 1 Agata pytań, które muszą zadać można go dla siebie jest ono na pograniczu na pograniczu obraźliwą ości jak to jest z tą EIA pandemią czy inteligencja pomoże na walce z anteną świata wciąż kryty mogą nam pomóc jest temat rzeka na stan fordzie zorganizowana została konferencja na samym początku pandemii koronę wielu plus jaj bardzo duża była ona wokół niej słomą marketingu w sieciach społecznościowych bardzo dużo się nie mówiło przez nas konferencji tak naprawdę praktycznie nie było mowy jak nowe była bardzo dokładna merytoryczna dyskusja o tym jak szpitale dostosowują do pandemii co naukowcy robiąc, żeby lekarze, więc wygląda że, że obsadzenie tego wtedy było trikiem marketingowym na szczęście i nie są liderem i już nie tylko oni robią jeszcze tak wrócić dzisiaj nieraz, ale pokazuje, że tak naprawdę, jakby samo jak nie było ważne w tym kontekście ważne było też przyciągnąć ludzi, żeby porozmawiać Korona wyrusza, ale ja nie miało tam za dużo do dodania Andy gdzie, gdzie ma wobec swego świadczenia medycyny, gdzie jak rzeczywiście przydaje w kontekście zdrowia w kontakcie nawet onego koronę wirusa moja grupa badawcza nie sama grupa badawcza zajmowała się właśnie reakcją na ekonomia wyrosła wewnątrz szpitala stan twardą i to co oni robili to było np. obliczanie statystyk jak często występują ze sobą różne objawy albo jaki procent, jaki procent pacjentów ma jednocześnie jakieś inne diagnozy nie było tych jaj nie było jakieś Albert przewidujące cokolwiek to była czysta statystyka używanie danych do wyciągnięcia jakieś informacje to były te informacje, które okazały się najbardziej przydatne i tam szefowie różnych wydział zdrowia publicznego winnych Stanach też interesować tymi statystykami, które ci ludzie zajmujący się na co dzień uczenie maszynowe mi rozwijanie różnych algorytmów walnąć teraz na twardą w tym przypadku skupili się głównie na wyciąganie tych liczb to one były najważniejsza ciekawe jak spędzam sama próba zbadać to gdzie już w kontekście walki wtedy pojawiło się inteligencja to najciekawszy przykład dla mnie to banalny uspokajający jeśli chodzi o to, czego możemy spodziewać to kanadyjska Blue dot, czyli są przez ligę wybrać przedstawił języka, a z różnych źródeł, która po prostu analizuje to co ludzie i tylko ludzie już instytucji rozmaite publikują w sieci i zauważa nowe tematy rozmów nowe doniesienia jest dziś konfrontować się, że na jego stronie graficznej wizualizacji więcej osób niż zwykle narzeka np. na pewno objawy tak w przypadku pasz czy duszności i może rzeczywiście podobne są też szybko wykryła nieprawidłowości czy też nowe wzory z tym jak dziś komunikują była w stanie dać sygnał, że prawdopodobnie mamy do czynienia z nową robotnik chorobą zakaźną z tego typu użyczenie ani nie stosuje nie dziwi czy sądzi, że również prace szczepionką w jaki sposób algorytmy uczenia maszynowego mogą przyspieszyć z pomocy to jest po prostu Hart, który media podbijają, bo po prostu bardzo chcieliśmy się szczepionki nie na pewno na ponowną bardzo jest nie zajmuje się akurat biologią molekularną czy trzeba mogę tak na poziomie opieki, ale wiem, że różne algorytmy uczenia maszynowego są wykorzystywane np. do modelowania Białek do sprawdzania, które białka, które leki, które szczepionki już wcześniej działały dobrze razem do robienia eksperymentów zamiast robić na już sam laboratorium robienia część eksperymentów po prostu modelowaniu komputerowym na pewno przyspieszają bardzo pracę, ale tych jaj samo w sobie nie nie znajdzie szczepionki jak to jak tego będzie można spodziewać po główkach my musimy być metodę, a ewentualnie w trakcie procesu testowania pewnym coś i eksperyment Mars wieziony uproszczone, że w ogóle taniej, dlatego że np. dzielimy go mówiąc bardzo panie w komputerze, a nie nasza CR laboratoryjne myszki mogły być modelowane komputerowe dokładnie tak samo jak kalkulator na pewno przyspieszy badań nad szczepionką tak samo jak komputer przyspiesza badane będą tak samo kolejne metody statystyczne przyspieszają, ale są narzędziem bardziej niż niż jakąś taką skrzynką dzieciom, które sama sobie robi mu z narzędzi, które z wzbudzi flag już dużo wcześniej nie sposób nie wspomnieć tylko w tekście o dzieło co nie firmy IBM, który dostał bardzo mi zadanie, ponieważ pamiętam moment, kiedy mówiło się władzą to może i w diagnostyce leczeniu raka i innych schorzeń, a więc zarówno wykrywają tego typu jest chory, jaki w dobieraniu odpowiednich nowoczesnych terapii i z tego co czytałam niestety EPU duży zawód ponieważ, o ile diagnostyka w jego dobrze wydzielone pole dla dowódcom zaczęło nie leży tam, gdzie głos był w stanie wesprzeć ich analiza obrazu np. ze skarbu jego ciała to robi dobrze natomiast w diagnostyce, czyli tam, gdzie dziś już w ścianie analizy kontekstu zrozumie w przypadku wiedza o tym jakie są terapie dostępne tam na pewno pojawiały się niebezpieczne wręcz błędy, więc firma wycofała się mimo protestów system diagnostyki i raczej skupia się na ENA na samej analizie właśnie wyniki badań ludzi czy potwierdza, że rzeczywiście młot tak była bardzo głośna historia, gdzie święta w Teksasie podpisał umowę na 62 000 000USD złocone, że było co ma się wprowadził narzędzia analityczne mające diagnoza onkologiczną, czyli przypadkach i wycieku wewnętrzne dokumenty co na, z których wynikało, że ten system działa i że często sugeruje terapie, które mogły być bardzo szkodliwa, które lekarze, widząc te sugestie bardzo szybko zorientowali że, że tego typu rzeczy nie mogą się też np. tam sugerowali leki, które wzmocniłyby krwawienia u pacjentów, którzy już mieli problemy z krzepnięciem krwi to zadanie, którego podjął się ulicą to znaczy ta cała diagnostyka jest straszliwie trudne zadanie i nie ma co dziwić, że woleli, że polegli, dlatego że poza tym, że trzeba zdobyć dane, które bardzo trudno zdobyć przy poszanowaniu prywatności pacjentów poza tym trzeba zrozumieć cały ten proces diagnostyki, który jest bardzo złożone, bo właśnie zbiera lekarza, ucząc ja procesu diagnozowania zbierają bardzo różne typy informacji i mogą też zasięgnąć swojego własnego doświadczenia doświadczeń innych lekarze poza tym wszystkim, tworząc jakiekolwiek na rzecz diagnostyki zawsze patrzymy na jakiś ograniczony scenariuszu zakładamy bardzo bardzo dużo rzeczy co do tego będą wyglądać dane, gdzie tego typu choroby będą występować nie tworzymy nigdy diagnostyki takiej ogólnej na wszystkie choroby zawsze to jest narzędzie bardzo bardzo zawężona w porównaniu z formą lekarza, bo takie są możliwe, że technologiczna i w takim przypadku bardzo łatwo jest pominąć różnego typu scenariusze i w prawdziwym życiu te narzędzia bardzo często polega niestety w liczbie nie to co, mówi że zdanie było za trudne wręcz dziwi mnie o wiele bardziej mnie jak dużo nadziei pokładanych w tego typu systemach właśnie tam, gdzie człowiek ma problem wymaga nie bez powodu czy możemy jakoś to podsumować i jest spełnić projekt służy państwu klasyfikację rodzajów zadań, w których swoje doświadczenia z tego czy też studiujesz wynika że, a i już jest całkiem dobra użyteczne możemy polegać i typu zadań, które o, których inni no nie mówić miejscowość, bo gruz, więc ryzyko problemów niż korzyści tak zarówno są trzeba trochę rozdzielić na to czy technologia daje dobre odpowiedzi drugie jakie, jakim skutkiem powinna być wykorzystywana, więc będę w tym momencie skupić tylko na tym czy ona rzeczywiście działa nowe są odrębną dyskusją jest to czy czy posiada prawa człowieka, żeby wprowadzać tak dalej w kontekście tego działania pan działa algorytm uczenia maszynowego działania Super rozpoznawania obrazu działają bardzo dobrze do właśnie wspomagania diagnozy na podstawie czy prześwietleń czy jakichś zdjęć takich historycznych, chociaż tam też zdarzają się problemy do przepisywania np. języka mówionego na tekst do nie wiem tworzenia tych wszystkich takich zdjęć przekuł w akcie, gdzie pewnie będzie tali przeczytał o tym, że w tym wszędzie tam istnieć obiektywny wzór obić prawidłowość, którą da się opisać w języku matematyki statystyki można tak powiedzieć, chociaż też nie zawsze jest to jasne, jaki na czym ten wzór polega zatem w górnie nie jest podany w żadnym momencie tworzenia tego algorytmu bardziej powiedziałabym, że rzeczy związane z obrazem i nic większość zadań związanych z obrazem jest na bardzo wysokim poziomie zaawansowania, dlatego że ta działka informatyki uczenia maszynowego wciągu ostatnich 10 lat bardzo bardzo szybko się rozminęła częściowo przez to, że dane potrzebne do tego zostały opublikowane przez grupę na stan fordzie i został służąca konkurs wokół tego ten miecz net częściowo przez to, że te ludzie publikują prawda dużo więcej zdjęć na pewno w tej dekadzie całości sieci taka, że należałoby też też ten algorytm czy teraz cała klasa algorytmów sieci neuronowe, która została tam była rozwijana odpowiedzmy tam 5 lat sześćdziesiątych później było duże zainteresowanie nimi w latach osiemdziesiątych później doznał wygasło na wróciły do do mody w tym momencie jest więcej danych jak jak te możliwości obliczeniowe komputerów są lepsze no i odkrycie na nowo tej klasy algorytmów i rozwijania niech dalej okazało się, że one są bardzo bardzo dobrze przystosowane to właśnie rozpoznawania obrazu, a więc jak mamy kłopoty w takim razie, jakiego typu zasad wielu wsi, więc ryzyko korzyści wielu obszarach związanych z językiem rzeczy są coraz lepsze to znaczy te narzędzia są coraz lepsze natomiast nie działają jeszcze idealnie w rekomendacjach na nie mam rozliczyć czy Facebooku czy nocnik sieć jest TVN te rekomendacje poprawiają się co są teraz przecież bywają stopy natomiast obszary, gdzie absolutnie wykorzystanie jest problematyczne powinniśmy tego unikać te są w kodeksie wydawania zachowań ludzkich szczególnie, jeżeli te przewidywania, które nalegali, by stworzył wpływałyby później na życie tych ludzi także np. wszelakie algorytmy do przewidywania tego czy ktoś popełni jakieś wykroczenie w przyszłości, jakim będzie prowadzony jest ryzyko niespłacenia kredytu tak tak na czy np. Agory do przewidywania, gdzie się wydarzą przestępstwa czy kto będzie terrorystą czy, które dzieci są z jakim prawdopodobieństwem zapylone, jaką będą takie przecieki z problemami tak albo np. jest zagrożenie zostaną przestępcami tylko takie wróżenie z fusów niż na przyszłość, które to znaczy możemy wrócić, jeżeli naszym celem jest danie większej ilości wsparcia tym, że tak się może troszkę spodziewam się, że będzie problem przyszłości, więc tutaj jest program, który pomoże ci przygotować na to też edukować w jakim zakresie, który pomoże ci przejść te te możliwe jakieś jakiś pan chce w przyszłym życiu, a to jest bardzo często te algorytmy są wykorzystywane, żeby ukarać ludzi albo odcinać ich od jakich świadczeń albo jakiś taki sposób sortować ludzi, żeby systemowi większą było łatwiej natomiast dużą dużą szkodą dla dla samych zainteresowanych oczywiście poza tym, że są szkodliwe po prostu też nie działają rozliczne dotykamy problemu statystyka versus konkretny przypadek dobrego człowieka, o ile myślę, że kryminologii psychologii społecznej taka teza o tym, że uda się przebić zjawisko jest ugruntowana na pewno na pewno miało być już trzeci, gdybyśmy jeździły tylko nie twierdzimy, że nie da się przewidzieć wzrost przestępczości, aby występowanie pewnym obszarze pod te rzeczy jak pokazuje właśnie statystyka są przewidywalne, ale czymś zupełnie innym jest powiedzenie ten konkretny człowiek zrobi albo konkretna osoba zachowa się pewien sposób tutaj już opieramy się o właśnie, że nie sposób i i próbę przyporządkowania konkretnego człowieka, który może być bardzo typowym przypadkiem do jakiejś jakiegoś wzorca już obrażenia i wszędzie tam, gdzie rozmawiano o zjawiskach społecznych jest Emmę chętni psychologicznych albo wielu czynnikom przestępczość nieuchronnie o tym, mówią badacze badacze materii ocieramy się straty po prostu boimy się właśnie nim posługują niestety sędziowie policjanci i inni praktycy, którzy na co dzień mają do czynienia z tego typu decyzjami prosta co zrobić z człowiekiem, który ma cechy, a my musimy odstawić musimy odstawić będzie wiarygodny czy niewiarygodne czy będzie niebezpieczny czy zachowa się zgodnie z normami, więc ludzie w tej sytuacji posługują się bardzo ze stereotypami i wychodzi na to, że owa mityczna magister jaj nie robi nic innego po prostu kupił je na sposób myślenia tak to znaczy, że bardzo ciekawe, bo cała rozmowa teraz wokół tych uprzedzeń algorytmicznych część część tego dyskursu kręci się wokół tego, że ludzie są uprzedzani algorytmy mogą być obiektywne, ale niestety okazuje się, że są uprzedzone, bo są trenowane na danych tworzonych przez ludzi jest teraz górę zabierają zalety uprzedzenia tak natomiast algorytmy same w sobie nie pamiętam to była katują milczy czy 1 z autorek innych tych książek opisujących ograniczenia algorytmów wydają się do Bogatyni powiedział, że to są algorytmy uczenia maszynowego są maszyny do tworzenia stereotypu, bo jedyne co potrafi robić to wyciągnąć jakieś, jakie średnie jakieś wzorce, które możemy zaobserwować w danych na średnią i na ich podstawie podejmować później przyszła decyzja, czyli one zawsze zawsze będą popełniać błędy, bo zawsze będą wyjątki od reguły jedyne co są w stanie zrobić to są w stanie właśnie wyciągnąć jakieś jakieś takie szersze wzorca i w sposób, który jest zbyt brutalne czy krzywdzący czy robić dokładnie to, czego staramy się uniknąć często w tych sytuacjach np. w sądownictwie czy niem w przyznawaniu jakich świadczeń socjalnych podbita uważa się, cytując czerwieni, recytując inną rewelacyjną córkę, którą bardzo polecam dzisiaj nieraz będę ją zdecydować Hana kraj zyska matematyczka świetna książka wydana po polsku hamując drugi wskazuje, ale jest po polsku mówi takie są podobne zdanie, że wykorzystywanie algorytmów do opisywania świata rzeczywistego nie zawsze pomaga, zwłaszcza jeśli ten świat rzeczywisty ukształtowały stulecia uprzedzeń i takie nasze myślenie, że będziemy dane dzięki temu będziemy bardzo zaczynają postępować, bo tak brzmi prawda kasa jest oparty na dowodach świetne założenie, gdyż dziś dane nie nie opisują nic innego niż nasze własne uprzedzenia uproszczenia, bo nie ma ostatecznych informacji nie mamy tak naprawdę być wydane w tryby w dni pozwalało budować ludzkie zachowanie wobec tylko zapis tej decyzji ludzkich na temat innych ludzi no to jesteśmy w pewnej pułapce tak jeszcze bardzo dużą różnicą pomiędzy wykorzystaniem algorytmów to np. miałem opisywania obrazów czy analizy nie wiem czy czegoś co mniejsze można ludzi jest też to, że społeczeństwo jest bardzo dynamicznym systemem znaczy to jest system, który stale się zmienia w momencie go malujemy i kiedy zbieramy jakiekolwiek dane innych potrzeb próbujemy wyciągać wnioski ten dane już są w pewien sposób nieaktualne to widzimy bardzo naukach medycznych gdzie, używając zdigitalizowanych kartotek pacjentów do utworzenia jakiś modeli, które tam przewidział np. czy z jakim ryzykiem ktoś zachoruje na raka na chorobę wieńcową, używając danych np. przed 10 lat już wiemy, że tak naprawdę nie odpowiadają one być obecnemu stanowi to jest to jest coś co się powtarza jakichkolwiek kontekstach społecznych nie możemy tak naprawdę przewidzieć w sumie wcześniejsze wg tam tory socjologicznych terminologiczne możemy przewidzieć np. gdzie mnie więcej zarząd zbrodnię niż siedzę w tym temacie tak bardzo, ale z tego co co rozumie i z tego jak wygląda w innych dziedzinach jesteśmy w stanie może przewidzieć średnio 3 dzień prawdopodobnie są co się stanie, ale nigdy nie jesteśmy w stanie przewidzieć co się stanie na 100% i rzeczywiście tak jak mówiłaś, o ile na poziomie jakiś tam grupy czy poziom jakiś ich do obszaru geograficznego jeszcze powiedzą jesteśmy w stanie w miarę oka oszacować prawdopodobnie z jakiego zdarzenia to jak zejdziemy do takiego poziomu indywidualnych ludzi no to już zupełnie zupełnie trudno jest jest powiedzieć cokolwiek na temat tego człowieka bo, bo też tyle tyle co wpływa na jego zachowanie, więc rozumiem z tego co odpowiada rozumiem że, że nigdy sesyjne obiecujące całkiem całkiem korzystna skorzysta może być użycie jak wszędzie tam, gdzie PE rzeczywistości statyczna jest jest jest zamknięta mamy lepsze zdjęcia zwierząt uczymy rozpoznawać kot pies, choć to nie jest proste, bo dopiero niedawno bowiem bardzo dobre wyniki jest naturalne to jest zapewne kolejny poziom właśnie trudności, a już zachowań ludzi, których wyjaśniła podlega bardzo wielu zmiennym firm, bo chcą w tym również taki system, jeżeli wprowadzamy staje się 1 z tych co modyfikuje zachowanie ludzi poddanych no ma potężny potencjał dyskryminacji rozmaitych skrzywień, ale też po prostu ryzyko nieskuteczności warto odpowiedzieć, kiedy właśnie wyobrażamy sobie używanie obu technologii do kryzysowych zastosowań jak choćby teraz walce jest pan nie myślę, że model panie Białek to jest bezpieczne i obiecujący front, ale przewidywanie oczekiwań erupcji jest może obserwowanie erupcji zachorowań taki klub to lud od dosyć prosta sprawa ani przewidzieć, kto zachoruje albo jak potoczy się choroba ukryty osoby raczej kobiety karkołomne i wskazać to jest w ogóle oka, którą zajmują się te pieniądze to jest bardzo ciekawe obserwować jak dużo osób zajmujących się uczeniem maszynowym jak tylko zarzut skoro nawet życie proponować swoje własne modele i zaczęły jest bardzo dużą pewnością siebie opowiadać co się stanie podczas gdy sam środowisko epidemiologicznym po pierwsze nie ma zgody co do tego, którego narzędzie, którego modelu powinniśmy używać, a po drugie, bardzo bardzo dużo decyzji w trakcie samej analizę tych danych i różnych założeń co do modelu jest obiektem bardzo zagorzała dyskusja w tym środowisku i z tej dyskusji w ogóle nie biorą udział o osoby zajmujące się, że nie ma nawet większości to jest biegłaby dominuje bardzo wyspecjalizowaną działką i tylko włącznie znając się na jakimś tam ogólne modelowanie statystyczne na ten czym zajmują np. ja nie nie jesteśmy w stanie tworzyć, bo dali żaden sposób zbliżonych do tej dokładności zakładające epidemiolodzy choćby, dlatego że pominiemy bardzo duża ważnych rzeczy bardzo dużo ważnych czynników, które rozumieją tylko ludzie zajmujący się bardzo konkretnie tą działką bardzo ciekawie było oglądać z jak dużą pewnością siebie osoby zupełnie nieznający się epidemie Logi zaczęły proponować swoje rozwiązania podczas gdy sam ten problem jest bardzo złożony nawet dla osób, które bardzo dobrze znają tak brzmi jak polityka jak będzie bardzo wyszliśmy i od ich od ich nadzieje cóż jako prawniczka obserwująca co dzieje się w technologii i w sferze na styku technologii człowiek od lat bardzo chciałbym, żebyśmy mieli jakiś jak jakość większy dystans do do tego typu, a ryzyko zastosować więcej teraz właśnie w Europejskiej toczy się dyskusja o tym jak regulować sposób ewidencji kąpielisk właśnie zakończył konsultacje w temacie i zapewne w ciągu pół roku jak systemy prawne 11 w dyskusji jest to czy zakazywać akty po projekcie zakaz twardy zakazy eksperymentowania z taką technologią w tych obszarach, gdzie ryzyko o 3 wyższe koszty już wiele, bo od paru dekad ekstradycji to ja sympatyzuję z tym podejściem wolałabym oczywiście, żebyśmy nie musieli się na własnej skórze przekonywać, że coś boleśnie nie działa ten cykl wchodzi ludzkie zdrowie życie czy polityka społeczna, ale co, mówi że jeśli nie uda, jeżeli nie dotyczy jak wygląda nasza polityka dzisiaj jak wygląda parcie na rozwiązywać problemy społeczne nawet nie umiemy i również nie umie tego jaj no mam mam mamy sama się nad dziennikami myślę, że będziemy się mierzyć z takimi ryzyko instrumentami i tu chciałbym otworzyć nowe wody na rozmowy wątek kontroli od nadzoru nad tymi systemami wątek ich rozliczania się już trochę dzięki temu co powiedziała, że wiemy, gdzie on skutecznie nadają się wspomniała o tym, że 1 rzecz to skuteczny druga rzecz koszty czy szerszy kontekst ich działania co możesz pójść nie tak jak człowiek może stać skrzywdzeni takim systemem nie na słowo rozliczalności pewnie bardzo niezgrabny po polsku, a tam byli ci przychodzi tutaj z pomocą, jeżeli bowiem wyobrazić takie systemy działają ściśle pokazują człowieka i człowiek te ryzyka ryzykami zarządza mówi się czuć bezpiecznie pytanie czy z perspektywy naukowej taki pomysł że, owszem, aplikujemy jaj w różnych kontekstach, ale ściśle nadzorujemy jest wykonalny czy uważa że, że takie oczekiwanie jest gra bardzo zależy od tego co mamy namyśli przez jak to jest takie słowa, które zawiera w sobie bardzo duże znaczenie bardzo różnych zastosowań, o czym mówić to będzie bardzo zależało od samej dziedziny, które wykorzystujemy algorytmy czy nawet samej dziedzinie medycyny tak bardzo już dużym stopniu są już na pewno silnie regulowane niższa niż innych działkach dlatego, że to jest dziedzina, która bardzo silne regulacje dotyczące prywatności dotyczące eksperymentów na ludziach jest wysoki pewnego nie trzeba kończyć dzień lepiej popełni błędu, ale jedno stawki są wysokie drogie, że istnieją bardzo poważne konsekwencje prawne też i i takie też osobiste dotyczące prestiżu szpitala czy lekarza popełnienie jakichś błędów czy zaufanie, jakie można będzie bez sprawdzenia czy rzeczywiście działa, jeżeli chodzi o zastosowania tego np. w jakich kontekstach, gdzie rząd próbuje nie wiem usprawnić czy czy zmienić działanie, w jakich systemów naprawczych dzielących świadczenia socjalne czy próbuje, jakim już sposób pomóc nie działanie policji, używając tego typu algorytmów no tam na pewno po pierwsze, tak możemy Boże bardzo możemy na pewno o wiele lepiej niż my w tym momencie upewnić się, że te systemy są przejrzysta, że ludzie wiedzą, jakie systemy są wykorzystywane i że toczy się jakaś debata, zanim one w ogóle zostaną wprowadzone w tym momencie nie do końca tak dzieje to znaczy organizacje pozarządowe dowiadują się często o tym, że rząd czy lokalne czy czy federalny próbuje wprowadzić jakieś rozwiązanie dopiero wtedy ewentualnie wprowadza też protesty wokół tego tuż za wychodzi kwestia oczywiście tajności i nasze działania służb czy czy tego, że państwo zastrzega sobie tajemnice różnych obszarach, ale myślę, że pomoc będzie dla nas rozróżnienie powodów politycznych prawnych, których coś jest nieprzejrzysta, ponieważ na ludzi, bo wycofanie z debaty i technologicznych z perspektywy samej technologii system inteligencji tego, jakie akty swoją wiedzą że, zakładając że, że ktoś daje dokument także, że otwarty jest dostęp do do wiedzy o tym, systemie każdy system się prześwietlić nominację, aby wiedzieć co do czego robić np. napotykamy w tym momencie bariera tzw. czarnej skrzynki jest jak najbardziej wstanie prześwietlić czarna skrzynka jest dużym stopniu mitem to znaczy czarna skrzynka jest określenie, które wewnątrz środowiska informatycznego oznacza po prostu trochę bardziej złożone algorytmy, gdzie tych kroków, które algorytm podejmuje do do podania ostatecznego wyniku jest na tyle dużo, że prześledzenie ich po prostu nie do dużej formacji jest jest Kraków tak duże żony nam co zbyt skomplikowane zmiany dokładne natomiast takiej przestrzeni publicznej czy komunikacji firmy czy komunikacji rządowej bardzo często czarna skrzynka jest takim mitem ten system jest skomplikowane nie możemy nic się na jego temat powiedzieć on jest tak naprawdę prawie autonomiczny podejmuje własne decyzje, ale ufamy mu w pełni nie powinniśmy pytać o o więcej informacji między najbardziej jesteśmy w stanie zrozumieć te procesy, które dzieją się wewnątrz tak, ale czarne skrzynki przede wszystkim, dokumentując bardzo dokładnie sam proces budowania algorytmów decyzji, które chodzą do do tego proteza decyzji dotyczących tego, dlaczego w ogóle ten godny stworzone jak definiujemy sukces czy jak definiujemy to rząd dobrze działa, jakiego typu dane zostały wykorzystane danego, jakiego typu błędy zostały zaobserwowane w trakcie samego tworzenia algorytmu i jakiego typu błędy zostały uznane za akceptowalne, a i, jakie te zostały wykonane już samym kontekście, w którym zostanie wykorzystanego w 1 rzeczą jest stworzenie go czytam jak gdyby badawczy w firmie i testowanie na tych danych, które mamy dostęp, a dbanie o drugą kwestią jest przetestowanie go naprawdę będą działać w tym kontekście chcemy złożyć czy dziś słyszę z tego co, mówi że bardzo za udzielenie algorytm udzieli możnym tego szczególnie Agro mogą być bardzo proste takie jak za matematyczne jak dodawanie mnożenie może być bardzo skomplikowane i zrozumienie mechaniki uczenia maszynowego może być bliska możliwemu, ale nie musimy ten wchodzić na ten poziom nie musi się tym zajmować, żeby zrozumieć cel sens działania systemu i rozliczyć go z umownie mówiąc decyzję podejmuje, bo oczywiście nie on podejmuje on VPN ewentualnych rozstrzygnięć klubu rekomendacje, których na koniec jednak koszty ludzie i powiedzieć zawsze ludzie i systemy projektują Emu i ja już na zwolnieniu uczestniczyć tylko wejście prawidłowo kalibru ją dostosowują systemy swoich oczekiwań tutaj chciałabym poproście, żeby te kroki, których wspomniałeś słowa pokazać na jakich przykładzie może swojej własnej z doświadczenia zawodowego, kiedy pracowała w systemach medycznych nie tylko czy próbować opowiedzieć o takim ludzkim językiem jak to robić czegoś zaczyna, jakie są kluczowe również punkty zwrotne tworzenie takiego systemu, w którym człowiek podejmuje ważne decyzje pewnie mogę powiedzieć o systemie, na którym pracuje teraz to jest taki model, który już istnieje czy wykorzystywane bardzo wielu szpitalach prawie 10 lat do przewidywania właśnie ryzyko zachorowania na choroby warto, więc 5 wątek śledztwa tak wydaje i ten algorytm wykorzystywany do tego, żeby lekarze mogli podjąć decyzję czy należy przepisy statyny jako leku profilaktyczne dla danego pacjenta, czyli decyzja, której podejmowana taka wizja, że ten organ daje jakąś liczba od 1 od zera do 100, jaki jest ryzyko, że osoba zachoruje na nad Chorwacją 80 lat i jeżeli to ryzyko jest powyżej 7% rekomendacje są takie, żeby lekarze przepisywali statyny, żeby zapobiec rozwoju szacowało również każdemu z nas nie daje, bo to jest nagle jakiś ubocznych tak lepiej jest zachować dla ludzi, którzy go rzeczywiście potrzebujemy tutaj jakby stawka pomylenie się też korzystamy jak zabrane akurat w tym przypadku te skutki uboczne są stosunkowo niskie natomiast wiadomo też zresztą tak jakby kosztuje trochę im więcej, jeżeli osoby są na więcej niż tam 35 lekach to to one zawsze ma jakieś atrakcje ze sobą, więc warto ograniczać przepisywania leków, jeżeli nie jest nie jest to potrzebne, więc w kontekście tego tego algorytmu bardzo dużo badań, które pokazywały, że nie działa tak dobrze dla różnych chorób naczyń średnio działa stosunkowo dobrze Alex popatrzył np. na ciemnoskórych mężczyzn to działa gorzej jak się patrzy na kobiety pochodzenia celtyckiego to działa gorzej przez inne sposoby to znaczy dla kobiet on zaniża ryzyko dla mężczyzn zauważa ryzyko różne badania pokazują różne tendencja działania tego algorytmu na jest bardzo dużo zainteresowania w środowisku tym statystycznym medycznym, żeby stworzyć pole przesada, żeby stworzyć jakieś jakieś ulepszenia, które sprawiłyby rząd lepiej działa dla tych wielu grup nie będę chodzić same szczegóły tego co co co ja sobie matematycznie ale, ale powiem może w tym procesie jak, jakie decyzje są podejmowane w ogóle przy przy podchodzę do tego tematu my po pierwsze, opierał się zdefiniować problem, który na szczęście już w tym przypadku mamy dobrze zdefiniowane, czyli chcemy przewidzieć ryzyko, że ktoś zachoruje na czy będzie miał właśnie udar zawał jeszcze przed choroba, która nie pamiętam teraz w ciągu następnych 10 lat jest bardzo dobrze zdefiniowane jest określenie czy enigmatyczny oceni poziom ubezpieczeń nie mnie ryzyko, że zupełnie zbrodni tak w ogóle, ale albo albo, że zachować niezgodnie ze społecznymi ale, ale umiecie nawet konkretne kryteria, które nas interesują, a więc określony czas już nasz symptom muszą takie osoby stąd tak tak w ogóle, bo moglibyśmy powiedzieć chcemy się dowiedzieć czy osoba będzie miała chorobę wieńcową to jest bardzo ogólne zdefiniowanie problemu i to jest definicja, który od kraju rodziło się zaczęli chcemy wiedzieć, kto ja chcę wiedzieć, jakiego jego wymiary ciała, ale musimy sprecyzować mówić w ciągu iluś tam lat i musimy definiuje na czym polega ta choroba to znaczy, jakiego typu wydarzeniem czy czy jakieś tam wyniki laboratoryjne musimy trzymać, żeby stwierdzić, jaka ta osoba ma temu do mamy, że macie cel społeczny taki jest ktoś zrozumie algorytm tak tak, które musi być bardzo precyzyjnie zdefiniowane teraz wolnym krokiem jest wybór danych na jakiej podstawie będziemy tworzyć Agory na jej w przypadku takich zastosowań medycznych bardzo często są albo właśnie kartoteki pacjentów albo jakieś zbiory danych pochodzące ze badań klinicznych w tym momencie ten algorytm, którym wydałam jest stworzony na podstawie właśnie wyników badań klinicznych, gdzie w ciągu 10 lat czy nawet burę od 2030 lat osoby miały właśnie zbierane pomiary czy badań laboratoryjnych wagi BMI wszelkich pomiarów, które mogłyby nam powiedzieć jak rozwijać to choroba, ale nawet mając już dostęp do tych danych bardzo dobrze zdefiniowanych, bo one są wewnątrz badań klinicznych już posegregowane wszystkie tabelki i mamy informacje na temat ludzi to już jest bardzo dobry to jest bardzo rzadkie, że dane, które zbieramy już tak tak ładnie poukładane sposób, ale nawet mając dane już tak tak jest sposób musimy nadal podjąć decyzję kogo nie bierzemy pod uwagę czy, jeżeli np. ktoś nie ma, których pomiarów zebranych czy czy usuwamy osobę czy próbujemy zgadnąć, kiedy jest pomiar, bo nie możemy wrócić pustych miejsc, więc to jest to jest cały cały ciąg decyzyjny kogo włączyć go wyłączyć ruch musimy też pojawić zagrożenia, że np. dlatego że nie upraszcza teraz brutalizuje osoby nie wiemy kolorowe w stanie oznaczonych mają z słabszy dostęp opieki medycznej mają mniej badań, jeżeli wielu ludzi ludzi, którzy zabili mniej badań np. zburzymy sobie reprezentacje różnych ras w naszym zbiorze tak to jest ta jest ogromny problem mi większość badań medycznych jest prowadzone w ogóle, by mężczyzna między naszym mają wiele rekomendacji co do tak właśnie leki przepisywać, jakie ryzyko wiąże się z jakimiś pomiarami tak naprawdę nie toczy się za bardzo osób, które były mężczyznami Che czy należy to z pewną szczyptą takiej krytyki przyjmować no, więc więcej np. te dane którymi którymi zajmują one konkretnie były zebrane po to, żeby sprzeciwić problemowi, żeby te właśnie one mają dane dotyczące osób z różnych grup etnicznych z różnych obszarów geograficznych różne propozycje ekonomicznych, więc starali się już ta już to zapewni zbierane dane, czyli mamy dane bardzo dokładnie w przypadku nauk medycznych musimy opisać, jakie decyzje podjęliśmy wykluczający, włączając ludzi czy mamy dane mamy do dialogu rytmu teraz musimy postanowić, jakiego typu modelu żyjemy i tu ta te decyzje częściowo to są decyzje dotyczące tego, jaki model statystyczny jest odpowiedni do wykorzystania w tym kontekście, a częściowo jest to decyzja OKE mamy kilka modeli statystycznych, które możemy rozważyć te spróbujmy spróbujmy wykorzystać, żeby stworzyć ten ten model przewidujący zagrożenie wybierzmy ten, który będzie najlepsza czy po prostu do prób błędów sprawdzimy które, które daje lepsze wyniki i na tym poprzestaniemy niekonieczne rozumiejąc, dlaczego tak się stało, dlaczego on nam wypluł na koniec lepszy rezultat z tak to też zależy od tego czy twórcy modelce utworzą statystycy informatycy informatycy najczęściej robią także wybiorą kilka modeli, które nie więcej tam pasują i biorą te, które będzie dawało najlepsze liczby na końcu tak pracują teraz ze statystykami uświadomią sobie jak bardzo informatycy jednak nie przejmują się matematyką bardzo często jak duża dodatkowych rzeczy trzeba wziąć pod uwagę, wybierając dany model i np. 11 publikacja mojego pracownika, który trwa skończy doktoratu na grupie polega na tym, że on zaproponował użycie innego modelu takiego bardzo bardzo często też wykorzystywanego, które lepiej pasuje do tego wydanej do tego typu danych nabyć oto co co wykorzystują lekarze całych Stanach ten model on nie powinien być wykorzystywane w przypadku tych danych, bo są różne zależności, które tutaj zachodzą matematycznie i po prostu to nie jest odpowiednia to informator dziś się rzadko, jeżeli informatycy proponuje algorytm do zastosowania najczęściej to, dlatego że próbowali kilka 1 z nich to najwyższą liczbę dni na etapie dostosowanie modelu już wybranego takiej informatyki system może podjąć jeszcze kilka decyzji, które na wszelki rodzaj błędu zminimalizują jeździła jeszcze od decyzji ze mną tylko powiedzieć, bo wnętrze to jest szalenie ważne zrozumienia władzy człowieka algorytmem pewnie, więc mając już stworzone powiedzmy, że mam kilka modeli, które rozważamy kolejnym etapem jest ewaluacja czy sprawdzenie jak obrona rzeczywiście działają i to zrobimy na dane, których nie doczekaliśmy tego do tej pory tzw. danych testowych chodzi o to że, żeby organ nie widział wcześniej tych danych, na których będziemy testować i używanie pytań testowych możemy przetestować go na różne sposoby to znaczy możemy sprawdzić po prostu na Ilony dokładne, ale możemy też skupić na różnych typach błędów to znaczy jak często wynik, który podaje Agory zakwalifikował, by osoby, która nigdy nie rozwinę choroby wieńcowej zakwalifikował ją do właśnie brania na ten jak często ten algorytm ominął, by osoby, które powinny brać Schetynę, ale przestępny algorytmu, by ich nie wzięła ta osoba 2 bardzo różne typy błędów, mimo że tej takim metryce jednocześnie wykorzystywania dokładności ona są traktowane tak naprawdę z tego co na to co czytałam używa się w żargonie czułości swoistości dla opisywania tej cechy algorytm jest albo bardzo czuły pomyli się 1 sposób, więc raczej wykryją wszystkich pasujących do pewnego modelu, ale jednocześnie takie sito, które zagarnia też osoby, której które, które nie spełniają kryterium będzie zbyt łagodny w ocenie, a z kolei bardzo swoisty Al Gore zrobił odwrotnego, czyli gram tylko tych stojących, ale przez to pomyli się w taki sposób zapewne publicznym osoby, które by pasowały, ale były dziś na nas na pograniczu ograniczą błędu i dywany rozumiem wypróbuje zważyć między czułością i swoistością, jaki złoty środek znaleźć, żeby i zbyt wielu osób nie skrzywdzić, pomijając potrzebujących jednocześnie nie rzucić i nie przepuści wszyscy się do zbrodni powinny przejść przez nie, bo po, których nie spełniają np. nie powinni bać tego leku albo nie powinny skłaniać media publiczne pieniądze prawda tak tak tak nawet każde każdej nagrody, które trenujemy on na, wybierając ten poziom powiedzmy 7% ten ten moment, w którym podajemy to podejmiemy decyzję wydawać leki czy nie już nawet pan podejmujemy decyzje na ile ważnych dla nas swoistą najlepszą dla nas to czułość nawet w ramach 1 algorytmu nadal możemy, zmieniając ten ten pułap decyzyjne podejmować decyzję czy czułość swoistość ważniejsza za każdym razem nie będzie decyzji samego adresu to nie jest system sam się znajduje i dopasuje to po dostał zadanie właśnie to jest zadanie młodym udaje, a zadanie gdzieś na początku, opisując proces już bardzo precyzyjnie wskazane, aby ogród od człowieka dostaje instrukcje jak ten parametr swoistości czułość, czego tam jeszcze ma osiągnąć, a nie zgaduje to obca układy i to są szczególnie w medycynie, ale nie tylko oczywiście decyzję o bardzo gorących dyskusjach czy władze już na kraj swoich celów władzy bardzo ładnie opisuje dylemat czy płaczesz zbliżone do swojego przypadku, czyli gimnastyki medycznej kobiety z podejrzeniem raka i też tłumaczy, że co z tego, że wyreguluje Al Gore takiej służby wygrywał wszystkie potencjalnie chore, jeżeli np. przez to kobiety, które mogłyby spokojnie żyć mogą wyniknąć zbudowane chemii będą to nie dotyczy programu będą wżycie zostanie być może, ale skomplikowane kontrakty, ale nie powinno być, bo ryzyko realnych problemach było bardzo niskie lub z drugiej strony, jeżeli oprzemy się, że chcemy chronić system przed wydatkami np. na terapię kobiet, które jak ryzyko jest niskie, jeżeli pominiemy kilka nawet jedno po prostu umrze no konsekwencje są oczywiste, więc to są takie decyzje, które ważą szczególnie w sferze publicznej ważą i opiekuna pojazd byłoby świetnie, gdyby mówią oni po prostu dyskutować jego spłata tak, bo te decyzje zawsze muszą być podejmowane czy to jest to jest okres, że te algorytmy są idealne to Mot mimo tego, że nie są idealne możliwe jest strona się do czegoś przydadzą tylko musimy tak jak mówić bardzo otwarty sposób but rozmawiać o tym, jakiego typu będą one popełniają i na co jesteśmy w stanie zgodzić się społeczeństwa bardzo otwarcie komunikować to zamiast pakować taką otoczkę prawie magii i mówić o tym, że to jest nowy tak tak, że to jest algorytm, który tutaj ma taką dokładność tak świetnie działa bardzo rzadko w kontekście algorytmów rozmawiamy tak samo szczerze co ogranicza jak nawet w przypadku innych technologii medycznych zbyt ciekawie odkąd, odkąd przy pana z tej tematyce od końca czytam i słuchamy takich ludzi, jakie w tej czy Grecja liczy na kraj nie mogę przestać dziwić jak niewiele w dyskusji publicznej jest właśnie rozmowy o tych kosztach opiekę Nowak z głównych rajdowcy jak kompromis w zasadzie nie wiem jak należy tłumaczyć o wypowiedź ograniczenia można różnie nazywać, ale jedno jest pewne te systemy projektanci systemu zawsze mierzą się ze bardzo sztywnymi ograniczeniem narzuca im matematyka statystyka budowanie tych decyzji nie ma i po prostu niebezpieczne na choćby przywołał też emocje niż, która zawodowo zajmuje się doradzaniem firmom i zawodowo zajmuje się jak mówi tłumaczeniem priorytetów z języka biznesu na język danych i mówi wprost czy pojawiają się tutaj nie tylko praktyczne jak pani o to co jest priorytetem tak nie da się mówi jest nie jednocześnie zminimalizować wskazań fałszywie pozytywnych zmaksymalizować trafności i zminimalizować wskazań fałszywie negatywny to są różne typy błędów, które opisywała wcześniej co poświęcić właśnie decyzję co poświęcić zawsze gdzieś tam zapada i byłoby bardzo dobrze, gdy mają nie tylko może w izolacji swojego komputera swoim powie jakiś pojedynczy badacz statystyczne informatyk ale gdyby była dyskusja czy masz poczucie pracują w tej samej decyzji czy często jest dyskusja o tym, dyskutuje wewnętrzny przynajmniej czy nie bardzo czy to jest trochę rzut monetą albo przypadek, która decyzja zapadnie to bardzo zależy jak po co pracują na dany algorytm, bo jeżeli pracownik algorytmem na moim wydziale na wydziale informatyki to najczęściej robi to po to, żeby opublikować moje wyniki, jakie konferencji naukowej i tam najbardziej liczą się toczy moja liczba mój wynik będzie wyższy od poprzedniego wyniku, który został opublikowany na ten temat i tak wtedy rozmawia się ograniczenia, ale pokazuje się w taki sposób, żeby one nadal wypadły korzystnie w porównaniu z poprzednimi badaniami jest to bardzo zależy od i od tego gdzie ktoś próbuje publikować też od samej kultury grupy badawczej i promotora czy czy ktoś bardzo skupia się na takiej szczerości i pokazanie wszelkich ograniczeń 3 jest to jestem, żeby pokazać w bardzo dobrym świetle swoje badania, bo jest to stosunkowo łatwo zrobić w mojej grupy badawczej, która jest na wydziale informatyki medycznej najczęściej tworzymy algorytmy po to, żeby one jednak zostały wykorzystane w naszym szpitalu na Stamford no i tam już chodzą innego to znaczy musimy pokazać tę szpitalowi, że ten algorytm działa, jakie korzyści z niego wyciągnie sam szpital i wobec pacjentów i finansowe jak wpłynie na działanie w ogóle lekarzy pielęgniarek współpracujących z algorytmem, więc już tam musimy być trochę bardziej otwarty co do ograniczeń i lepiej dokumentować nie ma miejsca na na tzw. ściemy podjęto, ponieważ jak z uśmiechem co do tego co mówisz nawet swojej pracy, bo obie wiemy, że ze środy pojętym biznesie szczególnie konsumenckim czytam dzień klientem jest szpitali klinicznych Stanford, które wobec naszego laboratorium jest partnerem i zaufanym partnerem, ale klientem jest jakiś człowiek, który sobie postuluje Facebooka albo kupi ligę lodówkę w cudzysłowie oczywiście czy czy inną zabawkę lub będzie wciągnięty w niebezpieczną zabawę typu ostrzą sobie twarz sprawcy 17 temat szkodliwy zrzuca z systemu uczącego się np. zdjęcie po to, aby trenować algorytmy do rozpoznawania twarzy w takich kontekstach ludzie niestety są mili ten chcą co nazywacie jest ze złości pani ustnej kończyli też ściema marketingowa, której ja rozumiem Kozieja jest jest jest ich bardzo dużo wręcz mam poczucie, że im głośniej o tzw. jak w środku, tym bardziej wątpliwe jest 4 maluje rzeczywiście czytamy tam jest twoje świadczenia spoza właśnie z czworga czy potwierdzają rzeczy dużo jest ściemy o bardzo mam ważny to wynika z 2 rzeczy jednak jest to co powiedziała znacie to, że dużo firm zajmuje się teraz wykorzysta wprowadzeniu tych algorytmów, więc w naturalny sposób ten język dotyczący technologii i język marketingowy zaczyna się zbijać, jakby 11 sposób komunikacji na nie ma tak naprawdę powodu, żeby firma mówił otwarcie szczerze ograniczeniach mam nadzieję, że się zmieni w ciągu następnych lat jak technologa przestanie być taka nowa jak no niestety kolejne historie dotyczące ograniczeń będą publikowane nowej stolicy ma z tym, że to, że chce po prostu się szczepu z kolei dało się jakiegoś celu osiągnąć, bo godzi się brutalnie pomylił kogoś do klubu czasami jak to sąd ogranicza i myśląc o ten z 1 strony cieszy się, bo bowiem, że wiem, że tę historię wejdą wiem, że to już się dzieje i wiem, że to jest kwestia czasu, żeby one zostały nagłośnione z drugiej strony bardzo niepokoi mnie to, że musi kolejne osoby muszą być poddane właśnie działaniom nie nie otwartych systemów dokładnie eksperymentów zanim, zanim zaczniemy rozmowę na ten temat chociażby to, że systemy rozpoznawania twarzy wykorzystywane przez policję w Ameryce i prywatne firmy od od lat już aktywiści działają w organizacjach które, które starają się zapobiec używaniu tej technologii 1 z argumentów jest to, że nie działa tak dobrze dla osób o ciemniejszym kolorze skóry często to wg mnie nie jest aż tak dużą rolę niektórzy po prostu te systemy służą do nadzorowania ludzi w sposób, który łamie prawa człowieka teraz IBM Amazon kilkanaście firm wycofało się albo albo chwilę zawiesiło prace nad tą technologią i jest to bezpośredni sposób reakcja na morderstwo o Floyda w Ameryce wokół, których toczą się teraz protesty jak najbardziej marketingowe natomiast to jest 1 z tych przypadków także doszło do czegoś dramatycznego w reakcji na to firma rzeczywiście czy podejmą decyzję czy nasze jakaś szersza dyskusja na temat roli technologii w policji w wojsku amerykańskim mimo tego, że od wielu lat już dyskusja przeciągnęła mam wrażenie, że w przypadku wielu innych technologii po prostu musi coś dużego się stać, żeby zaczął być szersza dyskusja na ten temat i dopiero wtedy będziemy jako jako społeczeństwo podejmą decyzję, żeby się wycofywać też bardzo przykładów dramatów ludzkich tego co poszło nie tak mamy już tak duża, że nie trzeba kolejnych tu też bardzo pomocna dla wszystkich zainteresowanych jest książka Hanny kraj Helu, która po prostu pęka hasło tych przykładów emisji co, więc nawet osoby, których my, by nie przybyło, ale akurat szykowała pasuje mi, że nawet Elon Musk i optymiści technologiczni, którzy natychmiast łatwo zbyć z drugiej strony, czyli jak zarobić jak zoptymalizować jak makiem i dobrze grać przestrzegają właśnie przed eksperymentami już na tym polu nie możemy pozwolić sobie na wejście w GM pełną prędkością zakres i wypadnięcie z niego egzotyczne inżyniera cywilizacji np. testując samochody podobnie to się Elon Musk przywoływał te dane trudno o 15 lat zajęło przyjęcie, że pasy bezpieczeństwa jednak są potrzebne, więc moment, w którym były badania potwierdzające, że tak oczywiście jest, a moment, gdy rynek leku od pani mamy 15 lat liczba jaj musimy troszeczkę wyprzedzić im eksperymenty rynkowe, jeżeli nie chcemy płacić zbyt wysokie ceny i dlatego że komis Europejska próbuje regulować kończąc wątek w regulacyjne i co możemy zrobić jako obserwatorzy życia czy sądzi, że walka o konsumencką przejrzyste walka o to, żeby ludzie wiedzieli czy będą opakowań mówi dość umownie czasu niż produkt tylko usługa najczęściej online czy składek kodu, ale czy na styku człowieka występuje pojawić jakaś informacja ludzkim językiem co w zasadzie etykiety na batonik, który przestrzegać czasu poseł Wandy albo ulotki do leku skoro ruszamy się też dzisiaj, że odejście medycznym, który mówi Oskar ubocznych i o tym, że jeśli wiesz ile pamięć uczci albo jeśli jesteś kobietą i nie wiemy określeni w warunkach i psychofizycznym uważaj czy coś takiego w UE jaj uważa, że jest ciekawym rozwiązaniem kompletnie jednak nie realistycznym usuwania w tej skomplikowanej na pewno jest możliwe na pewno przyda też będzie zależało od tego jakie konkretne zastosowania tak w przypadku jakiś tam algorytmy, które sprzedajemy właśnie nie wiem firm, które później wykorzystają je do tłumaczenia dokumentów albo albo chociażby szpitalom to jak najbardziej takie dokładne opisy tego co działa co nie działa będą bardzo bardzo potrzebna w przypadku, kiedy te systemy są wykorzystywane, jakby do nadzoru czy czy producencie ponad ludźmi, którzy nie mają na to dokładnego wpływu poza podaniem samej informacji musi się też odbywać użyć też były konsultacje społeczne tych informacji takich poza etykietą takiej informacji publicystyczny niż rzetelną wiedzą bez podkręcania podekscytowania, a taką bardziej rozmową merytoryczną muszą się też odbywać tak to były dużo lepszy świat, gdybyśmy rozmawiali jak sama racjonalnie właśnie bez ich zrealizowania bez bicia piany bez nadziei lub obejrzeć, tym bardziej ze filmów bez większego Zachodu cenili naprawdę ich obecnie jest publikowanie, ale też wagę decyzji, jakie muszą wobec ludzi pracujących tutaj jest o czym rozmawiać choćby przykład na dzisiejsze pokazujących, że wybieramy zawsze pomiędzy dochody łącznie z PiS lub innej premierami, że to przekłada się wprost sposób na to kto wypadnie systemu wpadnie i czy na koniec dnia ktoś będzie leczony będzie ani ukarany przez sprawiedliwości są po prostu konkretnego sekwencja ludzi dokładnie no i teściowej, że mimo tego, że rozumiem tych systemach o różnych groźnych roślin zwierząt jest bardzo ciekawa dziedzina to jest dziedzina, którą mogą się wiązać z bardzo bardzo obiecujące technologie tylko musimy oczywiście nie rozumie pytanie jak się patrzy na taką polską przez publiczne zresztą bardzo często mimo tego, że część tych tych informacji takich bardziej, że ten jest przemyślane to najczęściej tytuły mówią o tym jak to na legendy odkryła ostatnio ostatni albo nas zabije jedno tak tak nawet nawet to tylko polskiej w Polskiej przestrzeni medialnej, ale m.in. polskiej informacji na temat budowy takiej tego, że informacje o koronę wielość zostały przez ten system, jakby wyłapane też tak ustawione, że ja wykryło Korona wirusa przed ludźmi co najmniej jak dodała spedycję i pobiera próbki śliny tak tak zamiast powiedzieć system, który został dokładnie po to, stworzony, żeby wynajdywać informacje co do nowych ognisk chorób raczej, który został co dokładnie w tym celu znalazł informacje, które ludzi już podali na ten temat tak tak właśnie dziękuję bardzo, że wprowadziła nas na na na ziemie i myślę, że dała dużo przykładów pokazujących szczyt w lesie mierzymy jak bardzo chce chodzić na PiS po prostu zrezygnować statystyka, gdyż może to po prostu jest jednak ja nie chcę bagatelizować to jest po prostu Toni to jest skomplikowana jest tego doświadczam, ale jednocześnie zachęca wszystkich do tego, żeby część lądowa z tej ziemi i częściej rozpakowywać, czyli systemem w istocie są nawet dziś skupię państwa rzeczywiście są po prostu statystyką, która się bardzo rozwija pewnie dobrze dla nas ani nie są ani magią ani nie są niezależne decyzje od nas ani też nie są polityką nie da to, o czym się już wielokrotnie i co pływał między wierszami może na koniec trzeba podkreślić decyzje etyczne polityczne w tych systemach zawsze podejmują ludzie zawsze muszą podejmować już nie mogą się od nich uchylić i próbują robić, mówiąc że jakaś dziewczynka zdecydowała o tym czy człowiek zostanie, który człowiek będzie poświęcone faktury, które skorzystają system nie to jest po prostu bzdura nieprawda od zawsze jest decyzja grupy ludzi czy konkretnego człowieka i my zawsze prawo żądać, żeby była ona ujawniona to ładnie, nawet jeżeli decyzja jest taką decyzję o braku decyzji to znaczy zrobimy po prostu to co co algorytm takim w takiej formie najbardziej podstawowej już sugeruje to to takie za zachowanie tak jakby na transze też jest decyzją polityczną decyzję o sprawdzeniu typu błędu też jest decyzją polityczną, czyli to musi być decyzja na podstawie o wybieram ten błędu zamiast tego wybieram tych ludzi zamiast lampek, które decyzją polityczną niesprawdzenie nieudokumentowanie zaniechanie też jest decyzją polityczną bardzo ważny dzięki krytyczne oczywiście poruszamy się na czubku góry lodowej tematyki, która jest ciekawa złożona i trochę niekończące się też cała dziedzina wiedzy o kilka splecionych hasła bez fordem jaj inteligencja, ale tak naprawdę rozmawiamy tutaj o kilku dziedzin nauki wreszcie będą rozwijać Fundacja Panoptykon stara się odpowiedzieć na zapotrzebowanie na więcej w tym obszarze, więc na naszej stronie internetowej wykona Eko org niedługo pojawi się przewodnik po świecie w ewidencji bez fikcji do zwiększonych, przy którym żeby tworzyć pomaga nam właśnie Agata fory cieszy, więc zachęca do zajrzenia i zagłębienia się to na spokojnie w swoim rytmie ten wynik pojawi się też pod pod miastem, kiedy będzie dla nas gotowe tymczasem dziękuje serdecznie mówi Agata i dziękuję wam, że otrzymaliście przejażdżkę po nie prostej materii to był podcast Panoptykon 40 rozmawiałyśmy o inteligencji dzisiaj bez fikcji dzięki serdeczne dzięki technologii i człowiek człowiek i technologii, gdzie na tym styku czekają nas zagrożenia jak korzystać z technologii, by na nich skorzystać jak kontrolować, kto gromadzi nas informacje do czego używa z ekspertami praktykami rozmawia Katarzyna Szymielewicz Panoptykon 40 podcast tokfm PL fundacji Panoptykon Zwiń «

PODCASTY AUDYCJI: PANOPTYKON 4.0

Więcej podcastów tej audycji

REKLAMA

POPULARNE

REKLAMA

DOSTĘP PREMIUM

Słuchaj podcastów TOK FM bez reklam. Wybierz pakiet "Aplikacja i WWW" teraz 45% taniej!

KUP TERAZ

SERWIS INFORMACYJNY

REKLAMA
REKLAMA
REKLAMA