REKLAMA

Czemu ufamy sztucznej inteligencji?

Godzina Filozofów
Data emisji:
04-07-2020 12:00 (Powtórka: 14-07-2020)
Prowadzący:
Czas trwania:
41:53 min.
Udostępnij:

Profesor Aleksandra Przegalińska próbowała odpowiedzieć na pytanie dlaczego rezygnujemy z własnych ocen i oddajemy odpowiedzialność algorytmom (nawet, gdy podpowiadają irracjonalne rozwiązania).

AUTOMATYCZNA TRANSKRYPCJA PODCASTU

Transkrypcja podcastu
, a zła jest procesor Aleksandra Przegalińska halo halo dzień dobry dzień dobre IKE Tomku filozofka Akademia imienia Leona Koźmińskiego jak wakacyjną pandemii czas ci upływa właśnie bardzo ciekawie, że zlała te 2 terminy ze sobą, bo mam wrażenie są oczywiście jest najbardziej adekwatne i bieżącej sytuacji wakacyjną pan demoniczne czasy z elementami politycznymi tak określiła bywa ciekawie niewątpliwie bardzo dobrze się też bardzo ciekawych kwestiach będziemy rozmawiać i Rozwiń » z filozofii z dzieł starożytnych już i nowoczesnej zupełnie psychologii antropologii wiemy, że 1 z najbardziej charakterystycznych ludzkich cech jest skłonność do imitacji do mety mu wiemy też, zwłaszcza z historii i z psychologii społecznej dwudziestowiecznej w szczególności z drugiej połowy dwudziestego wieku, że człowiek ma tendencję do ulegania presji autorytetów i czasami robienia rzeczy zupełnie absurdalnych właśnie, dlatego że ktoś, kto nosi jakieś uniformy albo kto wydaje się być niezmiernie poważną i wpływową osobą nakłania go do tego, żeby coś takiego zrobił i trochę w tym duchu duchu tych badań bardzo klasycznych z zakresu psychologii społecznej są chyba też badania, których w naszą rozmowę zaczął badania przeprowadzone w Instytucie psychologii na Uniwersytecie Adama Mickiewicza w Poznaniu prof. Michał Kilichowski jest osobą zatem badania odpowiedzialną, które dotyczyły sposobu zachowywania ludzi, którzy mają kontakt ze sztuczną inteligencją to były badania, w których to powiedziano oczywiście uczestniczką uczestnikom, że zupełnie w tym inne będą brali udział chodziło o to, że mają rzekomo testować aplikację facebookową, która na podstawie widoku twarzy zdjęcia twarzy jakiejś osoby wyświetla obraz informacji ile ta osoba ma znajomych na Facebooku ile ma jak i kiedy opublikowała ostatni post po tym, jak już zaznajomić się z tą aplikacją zostali poproszeni o dokonanie takiego małego eksperymentu Otóż powiedziałem, że w jakimś pokoju jest ileś tam osób różnią i te osoby parametry rozpoznawane przez aplikacje 1 osoba mało znajomych, a postój bardzo wiele inna osoba znowu prostuje troszeczkę znają też ma troszeczkę inna ma bardzo dużo postów bardzo dużo znajomych cechy się ze sobą mieszały chodziło o to, żeby wskazać osobę, która potencjalnie jest terrorystą no i wskazania dokonywała wskazań dokonywała także sztuczna inteligencja okazało się, że znakomita część osób, która brała udział w badaniu kierowała się wskazaniami sztucznej inteligencji, mimo że te wskazania dotyczyły właśnie najmniej prawdopodobnych przypadków, ale i to jest wniosek z tych badań płynący mamy tendencję do imitowania także sztucznej inteligencji nie tylko innych ludzi, ale również i robotów ja bym nawet powiedziała, że nie także mamy tendencję tylko, zwłaszcza wre, zwłaszcza akcje do imitowania sztucznej inteligencji to zresztą tutaj te badania są ciekawe zresztą mam bardzo zadowolona szczęśliwa czytając je nie ze względu na wyniki tych badań skądinąd wpadają tylko dlatego też pożyczkę powołuje na naszą pracę badawczą, która w podobnym obszarze zresztą się plasuje no właśnie tej bardzo skomplikowanej relacji, w której my też sztuczną inteligencję przypisujemy rozmaite atrybuty niezależnie od tego czy ona je macie ich nie ma rzeczywiście to jest proces, który toczy się już naprawdę bardzo długo to znaczy, a tutaj można toczyć takie akademickie debaty czy np. system ekspertowi z lat siedemdziesiątych osiemdziesiątych to była sztuczna inteligencja dzisiaj puryści twierdzą, że nie, bo to za mało rozwinięte były te systemy, ale system eksportowe np. w takich projektach prowadzonych przez Rand Corporation prawda finansowanych przez wojska amerykańskie miały różnych krytycznych sytuacjach wskazywać decyzje i człowieka wprowadzić, jakby do takiego lepszego rozwiązania problemu już wtedy już wtedy odnotowywano taką skłonność do tego, żeby rzeczywiście się z tymi wskazaniami autorytetu, jakim jest sztuczna inteligencja czy wtedy system ekspertowi zgadzać no i to było widać już wtedy to się wtedy gdzieś tam się ujawnił jako tendencję, która na pewno przybrała w ostatnim czasie nasila, ponieważ w sztuczną inteligencję po prostu bardzo wielu naszych obszarach jest więcej ona sugeruje co kupić tak mamy masę systemów rekomendacji innych, o których pewnie nie myślimy jako o systemach wspomagania decyzji w jakiś kluczowych sprawach w naszym życiu albo w sprawach, w których mielibyśmy decydować czy życiu, ale jak dzień dzień mamy sytuację, w której mamy system rekomendacji, które mówią nam co jeszcze coś kupić albo co jeszcze chcesz obejrzeć albo czego jeszcze możesz chcieć posłuchać prawda mamy też systemy w zasadzie w pewnym sensie rekomendacji, które nam podpowiadają partnerów stroju moglibyśmy się związać można spędzić, czas więc pracę ta przestrzeń tak tłem albo rytmiki w podejmowaniu decyzji codziennych też decyzji czasami takich istotnych ostatnio bardzo się poszerzyła nastąpiło takie poszerzenie pola działania myślę, że to badanie świetnie się w to wpisuje napraw i tutaj dzięki ich łączy z tą inteligencją jest tutaj mówić o takich rzeczach, które w zasadzie są przewagi na tym etapie jak sądzę, chociaż nie chcę też jakoś zaprezentować jako człowiek nie dostrzegających licznych zagrożeń, które z tym wiążą, ale to są takie sprawy to niewinne natomiast sztuczna inteligencja bywa też używana przecież dość powszechnie przez rozmaite służby w tym przez policję, ale bywa także używana w instytucjach sądowych do tego np. trzeba typować osoby, które mogą uzyskać warunkowe zwolnienie często właśnie sędzia oczywiście nie ma obowiązku ani się kierować tym wskazaniem ani też nie jest to wskazanie definitywne w tym sensie, że rekomendacja jest taka, żeby autom ewentualnie wziął pod uwagę ale, ale absolutnie pod podjął decyzję w oparciu o swoją wiedzę kompetencje no ale często formuje się zarzuty w odniesieniu do tych do tych algorytmów, które przed tego typu decyzje mogące ważyć na losach różnych ludzi nie tylko tych, których przed wypuszczać z więzienia, ale też tych, którzy mogą się zetknąć z opuszczaną błędnie osobą i ponieść jakiś uszczerbek na zdrowiu albo śmierć często się w każdym razie wskazuje na to, że to jest obciążone wieloma różnymi uprzedzeniami i by sami programy, które dokonują takich analiz to są najczęściej programy produkowane przez firmy prywatne, które w ogóle nie ujawniają tego w jaki sposób algorytmy podejmują decyzje, więc jest ciekawy niezwykle złożony krajobraz bardzo złożony krajobraz oczywiście mówiąc naprawa takich prostych systemach rekomendacji, które dotyczą względnie po zmianie innych decyzji, chociaż parku wyboru partnera powiedziała może jakoś tam nowocześniejszych na brak mi roli świetny odcinek na ten temat ostatecznie, jakby sieć zawsze wie, kto będzie dla nas najlepszy w zasadzie nie ma możliwości, żeby cokolwiek ustalić poza poza siecią to odnosi do tego odcinka, bo oni też, dlatego że zrobił na mnie ogromne wrażenie, ale faktycznie można widzieć tych prostych systemów rekomendacji innych przechodzimy coraz dalej w tym sensie, że właśnie Rand Corporation w latach siedemdziesiątych miała takie można powiedzieć pewnego rodzaju marzenia czy zainteresowania związane z tym, że może w organizacjach kluczowych decyzjach czy np. zalać ściekami jakieś miejsce, ale za to ocalić miejsca pracy sztuczna inteligencja czekać nawet nie był wtedy prostszego rytmika powinna człowiekowi pomóc w decyzji, ponieważ jest obiektywna prawda decyzja, więc już wtedy się zaczęło potem jakoś powiedz można powiedzieć to ostrzeże też złagodziło, bo te zastosowania sztucznej inteligencji stały się takie bardziej komercyjne zorientowane po prostu na kupowanie kolejnych produktów i usług rozmaitych konsumpcję, zwłaszcza w sieci, ale właśnie w ostatnim czasie to co wypowiedział się ciekawe, czyli faktycznie myślę, że dziś opinii publicznej może troszeczkę umykać ten fakt, że np. w USA wspomaganie decyzji w przypadku wydawania w ogóle wyroków prawda dla sędziów jest no bardzo częstym procederem można powiedzieć oraz były ich badania podejrzeć nawet 2 lata temu, które były bardzo interesujące, chociaż moim zdaniem niedostatecznie komentowane, które dotyczyły tego, że właśnie wskazania sędziów porównane ze wskazaniami jaj były po prostu niemalże 100% zbieżne, czyli mamy do czynienia z sytuacją, w której ta zgoda była całkowita możemy teraz domniemywać, skąd się zgoda bierze prawda czy ona jest czy rzeczywiście to jest także to są jakieś 2 niezależne odizolowane systemy, które po prostu potem się ze sobą zderzają rzeczywiście wskazań było takie same czy raczej jest wspomaganie decyzji człowieka, czyli dostaje informację tak, by było najlepiej zrobić tego nie kwestionuje kolejnym obszarem bardzo podobnym, gdzie również artykuły artykuły z tej dziedziny się pojawiły była medycyna diagnostyka medyczna, gdzie również mieliśmy do czynienia z sytuacją, gdzie ta pierwsza faza diagnostyka diagnostyki wykonywana przez sztuczną inteligencję co, do której powiedzmy sobie szczerze bardzo wiele osób teraz zaczyna mieć więcej zaufania zaufania dziwne pojęcie tutaj prawda zaufanie na wójta już taką relacją 2 stron prawda aktywną kogoś kim się pokłada zaufanie kogoś szkoły ktoś, kto ufa tutaj mamy takie jak nie wiem czy zaufanie pasuje jako kategoria, ale możemy powiedzieć na pewno, że w tej diagnostyki medycznej wiele osób uważa się wtedy sztuczna inteligencja czy specyficznie widzenie maszynowe, czyli przetwarzanie obrazów lepiej może zdiagnozować czy rzeczywiście jest głos powiedz, czego nie ma to poza ich brak przez innych, żeby zbudować napięcie przed kolejną częścią naszej rozmowy to informacje za moment po informacjach wracamy prezes Aleksandra Przegalińska jest państwa gość jesteśmy ponownie prof. Aleksandra Przegalińska wciąż z nami jeszcze raz dzień dobry Ola i dobry dzień dobry powiedz trochę więcej, bo to jest bardzo interesujące, zanim jeszcze się zagłębimy w te kwestie dotyczące zaufania jakoś tak bardziej poważnie tych różnych problemów z algorytmami takimi czy innymi co czy mogłabyś trochę opowiedzieć o tym, zastosowaniu sztucznej inteligencji sprawach medyczną zdrowotnych, bo to jest niezwykle ciekawa nota mamy przynajmniej kilka interesujących obszarów 1 jest diagnostyka obrazowa i tutaj wiemy dosyć jasno, że sztuczna inteligencja faktycznie co zostało potwierdzone szeregiem różnych badań może dokonywać wskazań powiedzmy jakiegoś obrazu jako w nim potencjalnego Maćka groźnie groźnego nowotworu, a lepiej niż profesjonalny diagnosta no tutaj cała dyskusja prawdę wywiady z radiologami, chociaż prawda, że to jest ta profesja, która jeśli w ogóle, które zostanie wyparta jeśli chodzi o wszystkie medyczne to gdzieś tam jako pierwsza pozdrawia radiologów w ogóle uważam, że wykonują również dla zdrowia prace jeśli słuchają natomiast oczywiście też sztuczna inteligencja może stanowić dla nich bardzo potężne wsparcie, ale nie jest to nie jedyny obszar, bo teraz przy okazji przecież Korona wirusa mieliśmy szereg różnych inicjatyw takich konsorcjów można pić międzynarodowych, gdzie sztuczna inteligencja również poszukuje leków prawda albo poszukuje szczepionek tutaj znowu to poleganie na wskazaniach jest bardzo daleko idące, czyli zasadzili w terapii i diagnostyce i prewencji no i w ogóle innowacjach dotyczących medycyny gdzieś tam algorytm Mika dosyć zaawansowana jest no i nie oszukujmy się też, bo to chyba trzeba też powiedzieć ME to, o czym tutaj mówimy to prawdopodobnie są najnowsze zastosowania sztucznej inteligencji i w tej dotknie odrobinkę tego co zaparkowała przed przerwą, czyli tego, że są to bardzo skomplikowane algorytmy wielowarstwowe sieci neuronowe, które działają w sposób dla człowieka zakryty i one tak właśnie one są znacznie lepsze w diagnostyce czy w terapii niż powiedzmy te starsze rozwiązania rytmiczne, które znamy z przeszłości, które są bardziej dla nas kontrolowane no ale nie dają czasach tak satysfakcjonujących rezultatów nie mogą np. też konkurować z ludźmi jeśli chodzi o ekspertyzę, a tutaj konkurencja jest rzeczywiście myślą tak od konkurencji bardzo poważna, bo tutaj chyba 2 kwestie to znaczy 1 kwestią jest to, że od pewnego momentu już nie jesteśmy w stanie żaden sposób odtwarzaczy rozumieć tych procesów podejmowania decyzji przez sztuczną inteligencję, bo są to układy tak zaawansowane, żeby po prostu nie rozumiemy jako działają nie wiemy jak na to robią co samo w sobie jest w ogóle dość osobliwe Daniel dano temu sporo miejsca swojej ostatniej książce poświęcił mówią, że wkraczamy w jakimś sensie taką epokę analogiczną do epoki przed kulturowej historii Homo sapiens, że w momencie, kiedy zaczęliśmy rozwijać kulturę cywilizację, jakby zbliża się do rozumienia rzeczywistości daleko rozwinęliśmy za pośrednictwem nowoczesnej nauki w szczególności możliwość rozumienia tego co dzieje się w świecie co nas się dzieje, choć oczywiście nie w sposób niedoskonały, a wcześniej żyliśmy w takim momencie, w którym świat był dla nas wielką tajemnicą i w jakim sensie wracamy do tego etapu właśnie, tworząc układy, których działanie jest dla nas niezrozumiałe, więc decyzję to jest 1 kwestia drugą kwestią jest tajemnica handlowa różnych sił firm dostarczających czy korporacji dostarczających tego typu narzędzia np. policji czy sądom, bo to są firmy, które w ogóle całą kuchnię produkcji tego rodzaju narzędzi trzymają za zasłoną nie ujawniają tego właściwie jak skonstruowane wedle jakich kryteriów np. dokonywane są te są te pomiary no to już jesteś bardziej problematyczna od zgoła innej strony niż lista pierwszy wariat no bo tutaj mamy podwójną transparentność można powiedzieć planowała, że mamy taką nietransparentność o charakterze fundamentalnym dosyć bym powiedziała, czyli właśnie taką, że to sobie hodujemy tutaj nazwijmy to z grubsza mamy, jeżeli się obrazi, ale mikro mózg, który mikrobus zaczyna pracować uczyć się robi coraz ciekawsze rzeczy w coraz większej, jakby im jak w liczbie zadań naprawdę całkiem nieźle sobie radzi, ale trochę nie wiemy jak zapytać o to, jaką właściwie się uczy tak jak nie potrafimy o to zapytać samych siebie prawda nasz mózg też dla nas tutaj bardzo zagadkowe tutaj oczywiście pojawiają jakieś inicjatywy rozmaite, które mówią zwiększymy tę wyjaśniali noś to znaczy, żeby w ogóle procedować dalej jeszcze ze skanowaniem sztuczna inteligencja sektorach tak wrażliwych jak medycyna czy właśnie sądownictwo chociażby i no pan pójść na kolejny etap, gdzie wspomagania decyzji miałoby następować jeśli byśmy tego chcieli to musimy zwiększyć tę wyjaśnia no no i ten obrazek jest interesujący, bo są takie sieci, które ułatwia się wyjaśni się troszeczkę łatwiej np. te, które przetwarzają obraz takie, które przetwarzają tekst np. już dużo gorzej, ale bardzo wielu badaczy mówi taki pełnej wyjaśnia gości tak czy jak nie osiągniemy nawet jeśli zainwestujemy Thomasa środków publicznych prywatnych wszelkich tylko, że będzie musiał się pocieszyć tym, że będziemy dostawać tzw. ekspremiera, czyli dodatkową sztuczną inteligencję, która nam prawda tutaj ludowi, który nic nie rozumie będzie wyjaśniać cóż to sztuczna inteligencja, dlaczego wyjaśniła to będzie zbyt skomplikowane, żeby przełożyć sobie takie uproszczenie nawet takim wprost jakimś schemacie strzałkowe co się właściwie stało, skąd sztuczna inteligencja taką unijną, dlaczego taką inną decyzję podjęła, więc to jest samo w sobie bardzo za trudną kwestią dla mnie z tym pogodzić się z tym tak czy takim stanowiskiem, że OKE nie uda się uzyskać tej wyjaśniał gości, ale my cóż idziemy dalej nie przejmujmy się specjalnie zrobimy taki prosty interfejs, żebyśmy tam trochę rozumieli, o co chodzi i to nam wystarczy nie przejmujmy się nie patrzmy na to w ogóle, więc to jest nauczka dla mnie osobiście chyba najbardziej największe wyzwanie w tej chwili w ogóle w tej dziedzinie no i ja jak ja czekam na takie głosy, które będą wskazywały, że ta wyjaśnia gość może być radykalnie zwiększona niby są takie postulatach na razie specjalnie widać na horyzoncie bardzo dużo się działo z drugiej strony mówi o tej nie wyjaśnia gości, która wynika właśnie z całego tego skomplikowanego łańcucha zależności to znaczy np. może być też także policja czy wojsko w związku z tym, że nie mają u siebie wewnętrznie tego typu ekspertyzy korzystają jeszcze jakiś innych firm prawda albo co psują tą usługę powiedzmy zbudowanie takiego systemu, więc one same zdają się na coś, czego nie nie rozumieją do końca prawda i to nawet nie kwestia tajemnicy handlowej czy jakiś tajemnicy, która wynika Niewiem tego, że mecz do tego są zobowiązane regulacjami dane instytucje oprócz tego, że oni sami, jakby zdają się jeszcze kogoś innego, kto im coś proponuje mówi uchyliła rąbka tajemnicy, ale wszystkiego nie pokażemy też musimy sprzedawać potem innym klientom np. prawda nie chcemy to była kopiowane, więc myślę, że mamy tutaj bardzo taki za wykłady obrazek zresztą często o tym, myślą w kontekście tego chińskiego systemu, który teraz trochę przeciw o pani słusznie ich związku rynku prawda to jest coś takiego, że władza chińska postanawia obserwować obywateli, ale można zadać pytanie, więc zasadne co to właściwie kogo obserwuje i czy ktoś wie co się dzieje, bo władza chińska zdaje się tutaj w tej przyznawanej punktacji w zasadzie na rytmy i algorytmy decydują, kto jest dobrym obywatelem a kto nie władza chińska podporządkowuje algorytm mówi no, jakby gdzieś tam adekwatnie tych ludzi, każąc lub ich nagradzają za ich aktywność, więc czy rozumiem, że oni wprowadzają przechodzi wprowadzają pewne kryteria to znaczy, że te algorytmy są oparte o pewne kryteria i oni uznają, że statystycznie tak właśnie nawet przy pewnym margines błędu bezwładności jak i jakie tutaj z pewnością występują no to jak się właśnie statystycznie takie kryteria zastosuje to to będzie okazja dla tegoż kryteria naszego świata są bardzo równa forma jest tym, jakie są kryteria z punktu widzenia takiego systemu czy modelu prawda uczenia maszynowego czy co dla nas wydaje się bardzo szczegółowo dopracowane z punktu widzenia algorytmu jest po prostu cały czas jakąś ogromną abstrakcją, która musi być do czegoś prowadzona jest w jaki sposób policzalne i tutaj kryje się cały sekret można powiedzieć sprawę, bo to jest być może być może poziom wyjaśnia gości, którego nie da się osiągnąć, ponieważ nie da się go za pomocą języka naturalnego w ogóle wyrazić albo wypowiedzieć tutaj być może docieramy naprawdę jakiś fundamentalnych granic prawda to jest system, który podejmuje decyzję o naszym świecie, ale zupełnie, jakby racjonalności naszego świata i można powiedzieć sposobu w ogóle przetwarzania informacji i podejmowania decyzji nie replikuje, bo po prostu inaczej działa zupełnie, ale to właściwie dotyczy wszystkich tutaj to właśnie, ale chyba dotyczy zastosować we wszystkich obszarach bo, bo także przed w obszarze medycyny dotyczących jakiś Niewiem zasadności pewnego rodzaju interwencji np. w przypadku ratowania życia różnych innych ocen nie tylko w tym wymiarze system chińskiego, ale także tych właśnie algorytmów którymi posługują się jakieś służby porządkowe sędziowie Cetera wszędzie tutaj mamy jakiś system, który przetwarza informacje w określony sposób robi to w sposób oczywiście niezwykle sprawne i zdecydowanie bardziej zapewne taki no rozległy aniżeli jednostka jest w stanie to jest w stanie to zrobić nawet dysponując takim pełny dostęp do tych samych danych, do których dostęp ma system, ale no jeszcze w procesie podejmowania decyzji przez podmiot ludzkie bierze udział wiele rozmaitych innych czynników i i ten świat tak jak powiedziałaś jest zbudowane zaprojektowany właśnie z uwagi na te ludzkiej podmiotowości i pracuje w oparciu o ten sposób przetwarzania informacji jego architektura też jest wynikiem właśnie tego rodzaju tego rodzaju specyfiki no, więc rzeczywiście wprowadzania tak nie jest właśnie prawda znaczy, bo to jest ktoś taki właśnie przedziwny stek, że no no chcieliśmy gdzieś tam wspomagania decyzji no przypominam, jakie są przesłanki za tym stojąca na czele, by myślę, że spotkasz bardzo wielu prawników, którzy będą się zżymać na sztuczną inteligencję, ale spotkać też drugą grupę potężnych entuzjastów, którzy pojazd no wreszcie sprawiedliwe sądownictwo rejony szeroki kontekst wzięte pod uwagę wreszcie, jakby optymalizacja wyroku tak jakby nareszcie nie osoba z jej prywatnymi poglądami, które trudno oddzielić od sfery publicznej czy piastowanego urzędu wreszcie osoba, która ma jakieś uprzedzenia będzie mnie to osądzać tylko system, który absolutnie chłodno wyznaczy karę, jaka się należy, ale to właśnie rozpowiada czy to odpowiada pojęciu sprawiedliwości, na którym zbudowane są systemy prawda dla niej wtedy szczerze Jan nową jakość wnętrza absolutnie jest kompletny rozchodzenie sytuacji i zresztą już pierwszy przedsmak tego co nas czeka przy dalszym skalowanie tego typu systemu jak tutaj to nieludzkie z tym ludzkim będzie zdarzać widzieliśmy na przykładzie testu moralności pamiętasz zapewne prawda test na autonomiczny samochód, który podejmuje decyzje dotyczące ludzkiego życia notes sam sobie nie miał jak byliby na celu budowanie żadnej uniwersalnej normy etyki dla maszyn, ale był bardzo interesującym jakimś takim eksperymentem ze wszech miar Fronda, gdzie ludzie wskazywali jak oni się hipotetycznie zachowali to hipotetycznie zresztą było bardzo ciekawe prawda, bo w realnym życiu ludzie prawdopodobnie działają bardzo dużej mierze pod kołem swojego instynktu np. przygotowania się wielu bliskich Compensy to są po prostu nie światowe reakcje to znaczy często właściwie rośnie nawet nie dokonuje żadnej kalkulacji tylko coś dla siebie w tej kalkulacji dokonuje raz nie jest przedmiotem twojej świadomości, więc to, a w momencie, kiedy się tak nagle jakby uczyni taką tak refleksją czy kalkulacją opartą określone kryteria no to wtedy się zmienia zupełnie krajobraz morał tej sytuacji może ja myślę, że sytuację dodajmy tylko, że ten test chodziło w nim o to kogo zabić w sytuacji dylematu wagonika, kiedy jest samochód bez kierowcy i ma zdecydować czy zjechać na drugi pas zostać na tym pasie w zależności od tego, że na 1 pasie spec 2 osoby młode na drugim 3 starsze powiedz dzieci życie, jakby trochę więcej warte samo sobie pytanie w ogóle nie mieści się w konwencji genewskich np. prawa w ogóle już samo zadanie tego pytania jest jak bardzo bardzo problematyczne to jest oczywiście jeśli te samochody będą jeździć to one raz na jakiś bardzo rzadki czas prawda będą się będą się zdarzały taką sytuacją, że decyzja będzie musiała być podjęta to pytanie co wtedy tak jak i to jak taki system Marek ważna była 1 odpowiedź prosta niech naśladuje swojego kierowcę nie po prostu będzie repliką kierowcy nie robi tak jak kierowca zrobił czy pani kierowca druga wersja była taka nie trzeba zbudować jakiś system w oparciu na pewne wartości one mogą być bardziej popularne czynie typowe dla danej kultury mniejszych czy większej społeczności albo w ogóle spróbujmy zbudować uniwersalny jakiś taki system tylko, że właśnie w tym całym systemie nie było 1 z założenia, które tutaj wprowadziła mówimy powiedział Paul, jakby nieświadomy, jakby tak o jakich od ruchowych jest sytuacja, gdzie właśnie w trakcie jest też odruchowa, a sztuczna inteligencja nie ma odruchów żadnych nie wynika, że nasze myśli, żeby mogła mieć, więc ten element jest objęty dla sztucznej inteligencji sekunda na podjęcie decyzji też multum czasu multum po prostu więcej w tym sensie mamy tutaj naprawdę jakoś tak bardzo potężna interwencja systemu, który po prostu inaczej przetwarza informacje bardzo dużo zależy tak jak wcześniej nim ustawi rozmaite wagi i tutaj nie będzie żadnych czynników, które będą tam z wnętrza nagle płynęły twoje impulsu dziś zachował się heroicznie albo dziś nie wiem postaram się chronić bliskich prawda, bo tego wymaga sytuacja tylko będzie po prostu zupełnie inaczej zbudowane i rzeczywiście zauważ, że autonomiczny samochód jako ta pełna wersja autonomii, czyli piąte piąta generacja tzw. autonomicznego auta, gdzie jest pełna autonomie ten samochód faktycznie sam został po prostu jako projekt zawieszony na kołku, ponieważ nie znaleźliśmy odpowiedzi na to pytanie i może pan chwili na wypadki wypadki śmiertelne zdarzały rzeczywiście no ale Dalajlamą znowu niż ludziom to prawda prawda prawda zabawek wracamy do tej rozmowy cały czas z nami prof. Aleksandra Przegalińska raz jeszcze dzień dobry dzień dobry, a spróbujmy teraz przyjrzeć się temu wszystkiemu, o czym mówiła to znaczy tej kwestii o po pierwsze, naszego niezrozumienia w jaki sposób sztuczna inteligencja podejmuje swoje decyzje po drugie w każdym razie wiedzy, że podejmuje ona decyzję w oparciu o zupełnie sposób analizy danych aniżeli robi to człowiek przyjrzyjmy się tej kwestii, od której zaczęliśmy to znaczy tej naszej skłonności do zawężania sztucznej inteligencji tam osiąga to w tych badaniach poziom 85% badań, więc bardzo wysoko bardzo wiele wiele osób no właśnie zdecydowało się wskazać na to co wskazywała sztuczna inteligencja, pomimo że ona wskazywała na intuicyjne najmniej prawdopodobne postaci jako potencjalna źródło zagrożenia no właśnie jak w tym sensie jak jak jak możemy popatrzeć na na na cały ten krajobraz, w którym ludzie kooperują ze sztuczną inteligencją i i jakoś się wykorzystują właśnie do pomocy w podejmowaniu różnych decyzji albo właśnie do analiz bardzo skomplikowanych niekiedy danych która, żeby były analizowane przez czeka to wymagają wieloletnich wieloletnich studiów i treningu myślę, że tutaj wieś to jest bardzo skomplikowana jakaś kwestia, którą się składa podejrzewam dużo rzeczy i spróbuje przynajmniej kilka takich jak swoich intuicji przedstawić nam pierwsza jest taka, że oczywiście o zawiezienie autorytetowi, jakkolwiek pojmowanej mu pewnie zawsze sprzyja temu, żeby się z tym autorytetem zgadzać, bo w przeciwnym razie naszych dyskusjach nie odwoływali byśmy się nieustająco do autorytetów prawda oczywiście politycznym to też bardzo bardzo mocno widać i myślę sobie, że sztuczna inteligencja, która jednak ma opinię potężnego narzędzia może uchodzić za jakąś formę autorytetu tak jeszcze bardzo właśnie taką tak jak w tym systemie sądowniczym być może właśnie odczłowiecza ono na plus w tym sensie, że taką, by zbyto emocji chłodną zauważaliśmy profesji sędziowskiej też nie zaangażowanie w żadną ze stron jakieś takie obiektywizm prawda brak skrzywił się bardzo docenia, jaką postawę powiedzmy również nawet na sali sądowej i wydaje mi się, że tutaj sztuczna inteligencja tak obrażana przez ludzi ona może taką rolę pełni w tym sensie, że na pewno ona przetwarza dane o nasze okazała już bardzo dobra w tym wielu różnych sytuacjach przypomnijmy sobie, że sztuczna inteligencja to lepszy szachista niż człowiek sztuczna inteligencja lepiej gra chińską strategiczną ego niż człowiek sztuczna inteligencja wiele innych gier gra lepiej niż człowiek sztuczna inteligencja to sobie radzi tam sobie radzi i co więcej no tych co są bardziej za zamach zaawansowani zainteresowani tematem jeszcze dodatkowo jest taki element tego, że oni doskonale wiedzą, że na sobie radzi z tym wszystkim lepiej, ponieważ właśnie jest inna niż człowiek tutaj właśnie ta inność niekoniecznie musi być na minus prawda, bo firma mamy bardzo często nie przedstawił już sztuczna inteligencja chłodna nie potrafiłem fatygować człowiekiem no jakaś niedobra dla tego człowieka prostego krzywdzi, ale w strefach czy sferach, gdzie spodziewamy się pełnej racjonalności to sztuczna inteligencja nawet całkiem pasuje prawa i wreszcie nawigacja statkiem itd. takie można odpowiedzialne zadania, ale pożyczka też trudno też tworzyć takie, do których nasz mózg nie jest specjalnie dobrze przystosowany prawda my jesteśmy jednak chodzącymi kalkulatora ami to jest ten wymiar inteligencji ten obliczeniowe, które nie jest no nam dany takiej wielkiej płyty skali prawda inny społeczny wymiar inteligencji ucieleśnione inteligencja to nas mocno obecne, ale ta obliczeniowa te powiedzmy ta najmłodsza można wejść inteligencja no to jest coś czym sztucznej sztuczna inteligencja właśnie nas przegania, więc wydaje się, że po prostu łatwo ją relatywnie obsadzić w tej roli takiego autorytetu, ale też innym przyszło do głowy tutaj takie dosyć ciekawe porównanie z sytuacją bardzo starą, ale często nie opowiadam swoim studentom, czyli pierwszy czas, bo pierwszy program do konwersacji z człowiekiem kiedykolwiek powstał ile za to był czas, bo 3 ósmego roku, który został obsadzony w roli psychoterapeuty ty będziesz tutaj nawet wiedział znacznie lepiej niż jak psychoterapeuta Roger Jański, czyli z tego co wiem taki, który podąża za pacjentem tak się Radia zorientowana tak nie jest to się do dokładna kard Rogera za lata też anegdotę olaboga wszystko króciutko powiedzieć, bo jak Azja chiński terapeuta to niemożna nie powiedzieć jak to tutaj kiedyś przyjść przyjechał do Polski Carl Rogers w latach siedemdziesiątych i wierchuszka środowiska psychologiczno terapeutycznego, który wtedy siły nieporównywalnie mniejsze niż jest dzisiaj stawiła się na spotkanie z Karlem Roger sam, a od przyjmował słuchaj na golasa w wannie trzeba też było być na golasa i wszyscy chodzili na golasa takie były czasy bardzo, ale to on w takim razie z lądową mocno tych swoich czytaj osoby, które chciałbym im w kontakcie z pojazdu miała raczej, że to jest także raczej jak klient przychodzi na golasa wtedy dla agencji jest, ale nie byli na to państwo to nie byli klienci, bo to byli tacy potencjalni terapeuci, więc tutaj już wyraz biedny jak zostaje Emerald meta nadjeżdża publicznego razami lub usługi stosowany jest inny wymiar gęstości Absolut świetne świetny czas wspaniały z tego co słyszeli co mi się opisuje natomiast rośnie, a propos tego psychoterapeuty reńskiego okazał się dosyć łatwo jest właśnie stworzyć bota co myślę, że panu Robertowi też powinno było dać domyślenia, który będzie działał taki psychoterapeuta, bo po prostu ten, bo powtarzał to co ludzie mówią tylko, że ze znakiem zapytania najczęściej albo jakiś takiej prostej tam inwersji raz dokonywał ja mówiłam nie jest źle, a on opowiadał Kubot jest źle z jakim zapytają o miano tak jest nieźle, bo co 3 tysiące no zobaczymy bal, czyli twórca tego bota zasadzie napisał po to, żeby udowodnić, że w przestrzeniach tak wrażliwych takich istotnych z punktu widzenia naszego życia właśnie emocjonalnego społecznego jak terapiami nie będziemy chcieli ufać sztucznej inteligencji to moja hipoteza badawcza potu napisał tego, bo tak się nami zarzekał później no jak pewnie się domyślać, czego zmierzam okazało się odwrotnie ją depresji z tego powodu zresztą dostał ten twórca tego, bo ta naprawdę kompletnie załamał, ponieważ okazało się, że masa pacjentów pacjentek przede wszystkim tamtej grupy było, bo bardzo dużo kobiet, bo z nim współpracowały ale, ale pacjentów również po prostu nie tylko w wersji, kiedy nie wiedziała, że rozmawiać, bo bardzo chętnie z nim rozmawiała, jaką tam płacimy imitował ten rodzaj skutera pie, ale potem jak się dowiedziała się tylko maszyna tu powiedzieć nic nie przeszkadza świetnie działa świetnie działa, a magami itd. jeszcze dodatkowo powiem, że w tym wszystkim okazało się też potem taki jakiś tam byłem różne badania jakościowe przeprowadzone z tymi pacjentami pacjentkami, zwłaszcza tego, bo ta i właśnie o te osoby wskazywały, że to jest jak ojciec to znaczy taki sprawiedliwy takie pytania zadawał takie trochę inne wybijające z rytmu czasami albo podkreślał to co się samemu powiedziało, ale tak, jakby to też trochę kwestionował, jakby trochę lepiej wiedział, że fenomenalnie się czuli tej terapii powiedz jestem takim troszeczkę chłodna razem, ale jednocześnie zainteresowanym zawsze ojcem i w tej miło było ile zaczęli tam, bo tak jest niestety się już bardzo bardzo jeszcze czeka dodatkowo przesunięcie no to jest w zasadzie takie pierwsze duże studium, w którym okazuje się, że ta ekspertyza tej sztucznej inteligencji to znikoma mówi pani ekspertyzę, bo tylko symulacja powiedzmy jakaś zdań prawda czy składanie zdań symulacja tego, że coś potrafi tam nie było nawet w środku żadnego ciekawego przetwarzania danych, że tutaj okazało się też inteligencja nawet w sferze tak nam bliskie jak właśnie oni nasz dobrostan emocjonalne może ocalić człowieka w sześćdziesiątym ósmym roku, więc no właśnie właściwy chyba nie ma trochę trochę takiej twarzy skrajni chcielibyśmy być może gdzieś tam komuś czasami oddać tego steru jeśli ta sztuczna inteligencja jest w stanie dźwignąć się do tego nadaje nie irytuje nas swoją głupotą być może jest kolejnym kandydatem kandydatką do tego, żeby to właśnie, żeby wasze dane zrobić, by odciążać po prostu ma nawet w sprawach, które są bardzo ważna, a może, zwłaszcza wręcz w sprawach, które są po prostu dla nas bardzo ważne ciekawy ten wątek związany z, który się też pojawił w tej naszej rozmowie jakoś wcześniej wątek związane z kontrolą tego co sztuczna inteligencja robi czy jak jak jak jakąś potrzebą być może istnienia jakiejś instancji, która będzie weryfikowała tego rodzaju wskazania jeśli chodzi o tych radiologów czymś takim pomyślałem, bo to mamy do czynienia rzeczywiście z bardzo specyficzną dziedziną, która z ogromnym stopniu właśnie polega na umiejętności rozpoznawania obrazów na la ekranach albo na wydrukach chodzi o to, żeby zobaczyć pewne nieprawidłowości, które tam mogą być świadczyć jakiś rodzajach patologii sztuczna inteligencja oczywiście wydaje się wymarzona do tego rodzaju analizy, bo to jest tak ma się do czynienia z pewnym statycznym bytem w postaci zdjęcia, które coś tam przedstawia i należy dokonać bardzo drobiazgowej analizy tych elementów, które te, które na tym zdjęciu występują natomiast o akurat w takiej dziedzinie jak medycyna we mnie może desek rodzaj przesądu, ale mnie przed budzi jakiś rodzaj oporu taka świadomość, że mielibyśmy to wyłącznie scedować na tego typu algorytmy i że nie stał za tym nikt żaden człowiek, który później sprawdzać, dokąd pewnej elementarnej weryfikacji chociażby w przypadku problematycznych problematycznych z punktu widzenia etycznego sytuacji ja się z nową muszę powiedzieć 100% zgadzam, ale w tej pasmem bliższej przyszłości to najbardziej boję się scenariusza, w którym ludzie staną się tzw. słupami to znaczy, że będzie szedł do lekarza i ten lekarz będzie od tego, żeby mieć z tobą kontakt powiedzmy potrzebuje ludzkiego interfejsu białkowego do interakcji, żeby się tu dobrze, ale tak naprawdę decyzji po stronie tego lekarza nie będzie żadnych choćby dla mnie taka sytuacja, bo często słyszę wiele różnych konferencjach panelach różnych dyskusyjnych słyszę właśnie takie stanowisko to znaczy, że do kontaktu z ludźmi to niech będzie oddelegowany inny człowiek całą resztę załatwi sztuczna inteligencja to jest dla mnie wizja też szalenie martwiąc to znaczy, bo mnie to nie wystarcza to znaczy ja też to do końca nie wierzę w to ekspertyzę ja wierzę, w jaką rzeczywiście być może współdzielone ekspertyzy jeśli nam się udało znaleźć jakiś środek tej drogi toby było fenomenalnie natomiast na takie działanie bez Super wizję wierzę też dlatego ostatnie 23 lata przyniosły nam bardzo dużo niepokojących też wieści powiedzmy sobie szczerze ja naprawdę bardzo lubię dziedziny, jaką jest sztuczna inteligencja jestem bezkrytyczna jak słyszę o tym co dopiero wczoraj przedwczoraj zostały opublikowane jakiś projekt inteligencji MIP uczył się lewarowania, czyli oznaczania zdjęć zostało, że tak powiem tak skonstruowany, że zaczął obrzydliwym szowinistyczne mi stwierdzeniami, lecz balować zdjęcia kobiet np. używają jakiś nie wiadomo, skąd w tym kaset się z tak, że znalazłem prostu nie internet po odejściu z internetu no właśnie to jest troszeczkę także ja nie wiem czy my dzisiaj mamy taką możliwość dbałości o jakość danych, które tam pojawia i czy mamy na tyle wyobraźni właśnie taki humanistycznej etycznej, żeby te systemy jak na początku ich tworzenia już jako takie powiedzmy rzeczywiście no stabilne i zgodne z przyjętymi wartościami projektować myślę, że nie, że mamy wiele sytuacji co się okazało, że inaczej system rekrutacyjny dyskryminujące ludzi prawda nie z założenia po prostu tak zamiast systemy rozmaite właśnie zbilansowane czy to, o czym zaczęła mówić tego jest w tej chwili bardzo bardzo dużo jest dosyć poważny problem teraz mówienie, że okres ustaw umysłu lub w postaci człowieka, żeby ten inny człowiek się dobrze, ale tak naprawdę całą resztę zrobi sztuczna inteligencja, czyli wybierze mieszkanie zrobi diagnostykę medyczną zadecyduje czy dostanie kredyt czy nie dostanie zadecyduje, jakiej szkoły pójdzie zadecyduje kogo pozna kolejnego dnia, jaki film obejrzy to jest na pewno taka no i przyszłość trochę nieciekawa ja uważam, że jesteśmy skazani przeciwnicy do Harry ego, który tutaj Tetro weźmie od paru lat, że już innej przyszłości nie ma o nich wie jak będzie to będzie dokładnie tak prawda, że jesteśmy będziemy zarządzania go rytmicznie i w zasadzie nie będzie żadnego żadnego centymetra przestrzeni, gdzie się tak nie będzie działo ja uważam, że taki jest tylko spece właśnie dzisiaj projektowania tych systemów inaczej to znaczy właśnie bardzo dużą karierę był też teraz terminy tak jak z młodej, czyli budowanie na małych zestawach danych budowanie tzw. minimalistycznych systemów technologicznych, gdzie ta interwencja czujkę wymagana człowieka zmusza się do tego, żeby on był tym superwizora ażeby ta relacja nie była zwrócona można tak o tym, myśleć tylko ona tutaj są na razie izolowane bardzo projekt niestety ani tak ważnej oczywiście otwiera zupełnie nowy obszar moglibyśmy długo długo rozmawiać, ale niestety musimy zakończyć tę rozmowę prof. Aleksandra Przegalińska bardzo dziękuję ja również ogromnie dziękuję jak zawsze było mi bardzo bardzo miło mnie również cała przyjemność moje i państwa stronie jestem przekonany, że wszystkim słuchaczka słychać też bardzo miło stopą dzięki, a teraz będą informacje, a po informacjach Jakub Majmurek i porozmawiamy o kampanii wyborczej Zwiń «

PODCASTY AUDYCJI: GODZINA FILOZOFÓW

Więcej podcastów tej audycji

REKLAMA

POPULARNE

REKLAMA
REKLAMA