REKLAMA

Sztuczna inteligencja w rękach państwowych urzędów: co dzieje się z Twoimi danymi w publicznych zasobach?

Panoptykon 4.0
Data emisji:
2022-09-08 20:00
Audycja:
Prowadzący:
Czas trwania:
49:29 min.
Udostępnij:

Automatyzacja państw i korzystanie z coraz większych baz danych, także na potrzeby administracji publicznej, staje się codziennością. Także w Polsce rząd tworzy wspólny system administrowania takimi bazami - Zintegrowaną Platformę Analityczną. Kto czuwa nad tym, jak nowoczesna administracja korzysta z danych o ludziach? Jak wygląda praca przy projektowaniu algorytmów sztucznej inteligencji? Kto te systemy nadzoruje? To pytania do naszej ekspertki. Rozwiń »

Na pytania o możliwe błędy i nadużycia, ale też po prostu - jak to działa, jak działać powinno, jak powinniśmy regulować używanie AI w administracji odpowiada mi Natalia Domagała - ekspertka, która jeszcze do niedawna kierowała zespołem zajmującym się polityką danych i sztucznej inteligencji w Centralnym Urzędzie do spraw Cyfryzacji i Danych, w brytyjskiej administracji. Jej zespół stworzył pierwszy oficjalny standard przejrzystości algorytmów. Teraz Natalia pracuje w Ministerstwie Spraw Zagranicznych w Wielkiej Brytanii. Zwiń «

AUTOMATYCZNA TRANSKRYPCJA PODCASTU

Transkrypcja podcastu
Panoptykon 40 ta historia wydarzyła się naprawdę pewnego dnia siódmy odebrała list z urzędu skarbowego, w którym żądano od niej zwrotu zasiłków chodziło o pieniądze, które państwo wypłacało jej opiekę nad dziećmi przez ostatni 4 lata kwota była niebagatelna 100 000EUR sza my im wówczas matka trójki małych dzieci jeszcze studentka pomyślała to płot, ale to nie był błąd to był początek maratonu, który przypomniał proces Kafki skandal zasiłkowe, którego ofiarą Rozwiń » padła młoda kobieta rozegrał się w Holandii w 2012 roku dopiero 7 lat później wyszło na jaw, że holenderski fiskus określa ryzyko nadużyć w systemie przy pomocy algorytmu, który sam się uczył dziesiątki tysięcy rodzin w tym większość niezamożnych i należących do mniejszości etnicznych z dnia na dzień zostało bez środków do życia z ogromnymi długami i to nie, dlatego że faktycznie wyłudzić zasiłek system wytypował jako podejrzanych, którzy mogliby dopuścić się czegoś takiego przypadku Siemens skończyło się tylko mówi to w cudzysłowie na rozstaniu z mężem depresji wypaleniu, ale wiele osób dotkniętych tym kryzysem popełniło samobójstwo ponad 1000 dzieci zostało odebrane i trafiło do rodzin zastępczych to pierwszy tak głośny przypadek Mylnej sztuczną inteligencję w Europie tym razem chodziło skazanych, o których losach w USA zdecydował również omylny jak nagłośniły media dyskryminujący system o nazwie kompas w Holandii błędne posunięcia ród inteligencji zaważyły na losach praworządnych ludzi krzywdząc całe rodziny najbardziej ich dzieci ten dramat odbił się mocno europejskich mediach mam nadzieję, że usłyszeli oni również urzędnicy tworzący podobne systemy w innych krajach i że wyciągnęli swoje wnioski, bo holenderski system to modelowy przykład tego co może pójść nie tak, kiedy sztucznej agencja ocenia i profilu ludzi nie wiem ile podobnych systemów działa w Europie, a chciałabym wiedzieć chciałabym, żeby każdy taki system przechodził ocenę ryzyka i żeby wnioski z niej były publicznie dostępne, bo jako ludzie mamy prawo kontrolować systemy, które decydują o naszym życiu Panoptykon 40 podcast tokfm PL fundacji Panoptykon nazywa się Katarzyna Szymielewicz witam was podcaście Panoptykon 40 w dzisiejszym odcinku moim gościem będzie Natalia domagała ekspertka, która jeszcze do niedawna kierowała zespołem tworzącym politykę danych i sztucznej agencji centralnym urzędzie do spraw cyfryzacji danych w brytyjskiej administracji i jej zespół stworzył pierwszy oficjalny standard przejrzystości algorytmów teraz Natalia pracuje minister spraw zagranicznych również Wielkiej Brytanii, a więc zna się na rzeczy porozmawiamy nic innymi o tym jak nowoczesna minister korzysta znanych ludziach i czy w ogóle robi kogo zatrudnia do projektowania algorytmów sztucznej inteligencji, kto system nadzoruje i czy da się nadzorować działanie tzw. czarnych skrzynek, a więc sieci neuronowych, które uczą się same posłuchać dziedzicami bardzo dziękuję za zaproszenie jest dla mnie ogromny zaszczyt i jest również pierwsze rozmowy o pracę po polsku pracuje tylko wyłącznie po angielsku, więc CE bardzo będę wdzięczna o pomoc, jeżeli nie będę wiedziała jak jakość terminologię przetłumaczyć czy powiem coś co brzmi troszeczkę za bardzo z angielska także z góry dziękuję i jeszcze na wstępie muszę zaznaczyć, że MO, że poglądy opinie, które będę w tym podcaście wyrażać są moje osobiste i nie reprezentują oficjalnych poglądów instytucje lub organizacji, z którymi jestem związana zawodowo, czyli w tym przypadku rządu brytyjskiego, ale bardzo dziękuję zaproszenie jest naprawdę zaszczycona, że mogę tutaj stoi wobec dzięki dziękuję za to, że przyjęła, że podjęła się niełatwego wyzwania tłumaczenia tych rzeczy, które zajmują zawodowo na nasz język również uwagę, że ten żargon jest międzynarodowe i tworzony po angielsku Polski słowa my musimy dopiero znaleźć ale zanim o polityce, zanim o tej technologii to jeszcze jakby chciał zapytać Natalia twoją ścieżkę zawodową Bona jest ciekawa niebanalna my spotkaliśmy przy okazji takie imprezę w Mn INEA sami takiego szczytu, który nowość akurat w Warszawie, gdzie zostać nagrodzona za swoją pracę i dowiedziałam się, że twoja ścieżka prowadziła przez studia ekonomiczne antropologię badanie społeczne proszę ten aspekt technologii i właśnie nimi zainteresowanie do właśnie swoją pracę w brytyjskim rządzie, gdzie zajmuje się już bardziej regulacyjnymi politycznymi aspektami technologii jak to było to było dać sobie dość oczywiste przejście jak wpadła na trop, żeby zajmować właśnie taką dziedziną polityki w tym miejscu to znaczy nie było co na pewno nie było to oczywiste, ponieważ generalnie zawsze mnie interesowała pozycja człowieka świecie tzw. kondycja ludzka, jeżeli mogę tak poetycko wypowiedzieć i właśnie dlatego studiowała antropologię, czyli dziedziny, która zajmuje się badaniem człowieka jako jednostki w społeczeństwie w kontekście historycznym mi socjalne ekonomicznym kulturowym i tego typu rozważania zawsze było mi bliskie i właśnie w trakcie swoich studiów składałam różne kwestie, które były związane z technologią np. społeczny ekonomiczny wpływ technologii na świat w technologię człowieka i to zainteresowanie towarzyszyło mi też na dalszej drodze później studiowałam robiłam studia magisterskie rozwoju ekonomicznego właśnie wtedy miał przedmiot, który był o innowacjach i różnych rozwiązań technologicznych w krajach rozwijających się i to było coś czym postanowiłam się wtedy wyspecjalizować i swoją pracę magisterską pisałam o tym jak zdobywanie umiejętności związanych z technologią i umiejętności typu programowanie używanie otwartych danych w praktyce jak może się przyczynić do poprawy życia i wzmocnienia pozycji kobiet w Kosowie właśnie wtedy pojechałem do Kosowa rozmawiałam z tymi kobietami, które organizowały prowadziły programy dla innych kobiet nie nabywały zawezwano inność informatyczne i ja w swojej pracy analizowała wpływ tych programów na na życie tych kobiet naprawdę na wzmacnianie ich pozycji w różnych sferach w sferze technologicznej społecznej psychologicznej politycznej i pamiętam, że właśnie jednym z wywiadów wtedy jedna z tych kobiet, z którymi rozmawiałam powiedziała mi, że technologia jest jedyna deska ratunku dla nich są jedyne drzwi, które są w tym momencie dla nich otwarte właśnie to było bardzo mocne doświadczenie mówił życie, które utwierdziło mnie w postanowieniu, że o swojej ścieżce zawodowej chciałabym jednak skupić się na tym jak szeroko pojęta technologia zmienia świat i jak zmienia życie ludzkie i przyczynić się również do tego, żeby zmiany były pozytywne właśnie wtedy doszłam do wniosku, że najlepszym punktem wyjścia będzie sektor publiczny i najpierw pracowałam transparentności danych niż politycy otwartego rządu, jakie pytanie dodam jeszcze studiowałam takie pytanie, więc poznamy dosyć naturalne zacząć pracę również tam i później już będąc w rządzie zaczął budować tak naprawdę od początku tę funkcję etyki danych sztucznej inteligencji, czyli tego wcześniej nie było było do mego stopnia, ale akurat w tym ministerstwie, którym ja pracowałem nie było to tak dobrze zdefiniowane to było na zasadzie, że była 12 osoby, które gdzieś tam tym zajmowały tak na uboczu, a jednak ja w pewnym momencie podjęłam się takiego zadania, żeby troszeczkę sformalizować zastanowić jak możemy zrobić, żeby miało wpływ na NATO co wszyscy w naszym ministerstwie robią z danymi ze sztuczną inteligencją i grania można lepiej zorganizować i i to właśnie było oczywiście zajęłam FM w swojej pracy w rządzie na początku swojej ścieżki tylko pytania z naszej sprawy wygląda na takim miejsce, w którym tworzący polityki publiczne nie obawiają się testowania te technologii takich jak jak jaj rzeczywiście, jeżeli w Polsce dyskutuje się o praktycznym użyciu programów produkcyjnych np. policji w sądownictwie w projektowaniu polityk społecznych to ten świat anglosaski jest właśnie rezerwuarem konkretnych przypadków jestem ciekawa jak twoja praca w praktyce wygląda czy to jest także ty tworzysz standardy procedury dla wszystkich, którzy takie rzeczy, jakie pytanie robią z tej centralnej komórki rządowej czy ona jest ograniczony bardzo tego sektora, jeżeli tak to, jakiego sektora tej polityki publicznej brytyjskiej wraca jest skupiona na sektorze publicznym czy na rządzie centralnym na ministerstwach centralnych na samorządach do pewnego stopnia, chociaż samorządów mamy celny ministerstwo czy miast nie zajmuje od razu powiem to jest regulacja sektora prywatnego, czyli np. jeżeli chodzi o jak regulujemy firmy technologiczne albo firmy, które tworzą sztuczną inteligencję to tym się zajmuje inny ministerstwo moje moim zadaniem jest głównie skupieni na tym jak my jako rząd możemy dawać dobry przykład jak możemy się samo regulować w tych kwestiach, jeżeli chodzi o takie bardziej praktyczne czynności, które się zajmuje co powiedziałabym, że praca ma 3 główne elementy pierwszy to jest etyka danych drugi to jest czas Ferenc dość sztucznej inteligencji, a trzeci jest współpraca międzynarodowa w tych dziedzinach, więc ten pierwszy aspekt, czyli etyka danych jest głównie czas zespołami analityków z różnymi zespołami w rządzie, które pracują z danymi, które pracują ze sztuczną inteligencją, które zajmują się algorytmami i to polega na tym, że generalnie doradzam pomagam różnych wyzwaniach i problemach, które oni mają pomagamy im odpowiedzieć na pytania typu jak zapobiec dyskryminacji jak zapobiec Screen strony kości ich analizy albo wręcz narzędzia, których oni budują a jakie mogą być narzędzia, jeżeli mogę powiedzieć, bo to myślę pozwoli szukającym zrozumieć, o czym tak rozmawiamy, jakie to są polityki czy jakie to są projekty, w których występują dane o ludziach, jakie mogą być dane to mówił przed o policji albo o nie rekrutacji do pracy ludzi którzy, który zatrudnia administracja, a może mówimy o tak newralgicznym obszarze jak nadzór nad granicami albo ocena ludzi na lotniskach, którzy mają dostać wizę co mogą być za projekt społeczne nie są one aż tak aż z tak kontrowersyjne powiedzą albo tak zaawansowane jak te przykłady, które podała, ponieważ dla mnie jedno z największych niespodzianek, kiedy zaczęłam pracę było to, że tak naprawdę rząd tych automatyzacji nie używa aż tak dużo jak może się wydawać z zewnątrz i jest za dużo media także np. ale jest również się w sytuacjach dosyć prozaicznych, czyli np. używanie algorytmów do tego, jakie i w jaki rekomendacje na stronie rządowej jako osoba, która szuka czegoś na tej stronie rządowej np. zobaczyć, czyli to są niedawno opracowaliśmy w moim zespole z takim właśnie przykładem następny przykład też dosyć świeży to jest Ministerstwo Zdrowia, które zbudowało zbudowała taki system, który pomaga lekarzom ustalić ryzyko poziom ryzyka i pacjentów, które związane z koronawirusem to bierze pod uwagę różne współczynniki tego np. jak oni mają istniejące problemy zdrowotne i później lekarze tego używają do określenia ryzyka i stosunkach zachorowania ryzyka już jest chora osoba jak będzie przebieg choroby i ryzyka zachorowania głównie i właśnie to są tego typu przykłady które, które tak naprawdę są dosyć c mało skomplikowane tak bierzcie przykład, że Ministerstwo Transportu używało algorytmu do tego, żeby pomóc w o ustanowieniu, kto kto, kiedy ma biec inspekcje swoich pojazdów, więc c i generalnie powiem tak jest dużo dużo więcej tych przykładów, ale te, które trafiają na pierwsze strony gazet czy są zazwyczaj wyjątki tak generalnie są dosyć proste jest to po prostu automatyzacja pracy, żeby troszeczkę usprawnić bardziej niż rządzenie poprzez to się tylko nóż, bo powiedziała o tym wydarzeniu medycznym to jest zawsze takie sektory, które ludzi słusznie interesuje i budzi emocje pamiętam w nim rozmowy, który powiedział w podcaście AK konferencja pojawił się przykład takiego systemu z wy z USA, gdzie wykorzystywano ja do tego, żeby w w w służbie zdrowia ocenić, który pacjent ma prawo czy powinny być kwalifikowane takiego programu zapobiegania chorobom, czyli mamy taki pomysł chcemy pomóc ludziom wylicza przed przed przed przed naprzeciw ich potrzebą i powiedzieć o pani ma np. gen, który może wywołać ostrego raka, a więc panią zaprosimy na taki program prewencyjny, a innej pani, więc wszystko ma ma oczywiście swoją logikę i wydaje się słusznym podejściem, bo budżet nie jest gumy nie możemy wszystkiego każdego programu zapraszać co więcej czasami ludzie w takim programie będący mogliby wręcz no czuć nadużyć mogliby się tutaj króliki doświadczalne bez ważnego powodu czy tego typu projekty pojawią się również w wielkiej Brytanii i nie słyszałam, żeby się pojawiały nie znaczy, że nie wpływają też nie wiem wszystkiego myślę, że jeżeli chodzi o trochę bardziej o używanie właśnie sztucznej inteligencji różnych skomplikowanych algorytmów w takich sytuacjach, które dotyczą zdrowia to jednak jest to coś czemu wyższe warto się przyjrzeć dużo bardziej szczegółowy sposób taki, zanim coś takiego zostanie wprowadzone do użycia jednak jest dużo więcej pytań, na które powinniśmy sobie odpowiedzieć niż np. w sytuacji, kiedy automatyzuje Emmy nie wiem chociażby to kto kiedy ma pojechać swoim samochodem na przegląd taki chce jednak nie ma co z tego konsekwencji chociaż, gdyby Niewiem czy tutaj o tym czy może być taki przypadek, ale też pamiętam przykłady z znowu z USA, bo tam dopiero jest kopalnia kopalnia kontrowersji debaty wokół tych technologii i Alp, aby przemyć te kontrole trwają napis ze strony gazet okazywało się, że jeżeli ludzie, którzy mieli samochody w leasingu albo wynajęty narusza reguły tego leasingu czy wynajmu to samochody były im po prostu odcinany był blokowany mogą sobie wyobrazić, że takie zgłoszenie za inspekcję powoduje np. automatyczne zawieszenie polisy ubezpieczeniowe, aby już dokumentu, który sprawdza policja wtedy to już nie jest takie leki w konsekwencjach dla dla jeżdżącego prawda, więc też nie zależy od tego jak dalece system w ogóle policja itd. będą korzystały ze z owego wykrywania nieprawidłowości albo tego, że człowiek nie zjawił na aspekt, kiedy powinien, kiedy na konsekwencje takiego ustalenia przez, a jak tak jak najbardziej właśnie dlatego dlatego myślę bardzo jest istotne komunikowanie tego także jeżeli, jeżeli jest właśnie w takich miejscach w takich celach używane to myślę, że zadaniem ludzi, którzy te systemy wprowadzają duży co jest również poinformowania ludzi na ten temat taki sposób, żeby dać możliwość odwołania od tego im to jest standard w wielkiej Brytanii w waszym myśleniu ludzi związanych z rządem decyzja zarządu, którzy takie systemy tak temu konsultują albo tworzą to jest niekontrowersyjne założenie tak powinno być tak zdecydowanie i to mnie też prowadzi do drugiego właśnie aspekt o tym czy miast zajmuje, czyli właśnie transparentnością i przejrzystością algorytmów i grali w wielkiej Brytanii i ty jako osoba też związana od wielu lat z tym środowiskiem na pewno wiesz mamy duże dużo powiedzmy długą historię tej otwartości otwartości danych transparentności i tutaj ta idea właśnie otwartego rządu tego, że rząd publikuje bardzo dużo informacji na różne tematy i nie jest niczym nowym tak odpowiedzmy 10 lat mamy dosyć c i silne są organizacje pozarządowe które, które zawsze przypominają nam o tym, że powinniśmy robić nic bardzo słusznie są też specjalne zespoły w rządzie, który się zajmują się przed publikacją tych informacji i generalnie nie dziwi nikogo że, że teraz zajmujemy się też transparentnością przejrzystość sztucznej inteligencji tak to jest powiem szczerze dosyć naturalne następny krok tak i i generalnie, jeżeli chodzi o moją pracę co ja prowadziłem zespół, który opracował i wprowadził tę prawdę z pierwszych na świecie standardów przejrzystości algorytmiczny i to polega na tym, że jak wiemy te systemy sztucznej inteligencji wspierają decyzję o rządach i nasz standard pomaga ludziom to zrozumieć w jaki sposób decyzje podejmowane, jaką rolę w tym procesie odkrywa sztuczna inteligencja albo skomplikowane algorytmy i właśnie my też pomagamy różnym innym ministerstwom i różnym organizacjom w obrębie sektora publicznego Wielkiej Brytanii spójny sposób informować opinię publiczną i wykorzystywanie sztucznej retencji też właśnie chcemy, żeby na podstawie tych informacji, które rząd publikuje ta opinia publiczna ludzie, którzy czytają mogli się dowiedzieć jak najwięcej mówi się od tego odwołać wiedzieli np. na jaki adres mailowy mogą napisać kim się skontaktować, kto jest osobą odpowiedzialną za dany zadany system i przez ostatni rok moja praca była skupiona głównie na tym czy najpierw na badaniach i poszukiwanych jak coś takiego może wyglądać w praktyce, a od listopada zeszłego roku, kiedy opublikowaliśmy pierwszą wersję tego jak to może wyglądać co zajmujemy się testowaniem tego z różnymi organizacjami, ale wszystko było zbudowane na tej podstawie na tej idei tak transparentności, że rząd jest dla ludzi jesteśmy finansowani przez pieniądze podatników i dlatego musimy im pokazać wszystko wszystko tutaj robimy ze sztuczną inteligencję czy bez pie piękna idea nie mogę zgodzić bardziej chciałbym jednak zachęcić do próby opisania tego wiem, że to jest szalenie trudny rozmawiamy o sondaż technicznym i o czym co najlepiej pewnie byłoby sobie obejrzeć na stronie internetowej, której oczywiście, która chce je publicznie dostępna i wszystkich siedzących w tym temacie zachęcamy do przyjrzenia się temu narodowi etyki, ponieważ to jest publicznie dostępnej zachęcać innych do czerpania z waszych pomysłów czy mogą przewidzieć jak to w praktyce może zadziać przede wszystkim, kto jest odbiorcą takiej informacji czy to jest może tak, że widzicie różne grupy odbiorców dla różnych grup macie różne informacje, a jeżeli tak to co dostaje ta publiczność taka dotknięte działaniem jaj, aby taki zwykły człowiek, który ten system, który z tym ocenia co zostaje np. ekspert zainteresowane tym tematem taka organizacja pozarządowa, która wspomniała postaram się wytłumaczyć w sposób prosty zrozumiały także generalnie geneza tej pracy i tego założenia, że musimy być też bardziej transparentni polega na tym, że na końcu każdej decyzji politycznej, jaką podejmuje rząd jest człowiek i jak wiemy wiele wiele tych decyzji zautomatyzowanych i często często to jest, dlatego że zaoszczędza to setki tysięcy funtów albo poprawia wydajność, więc ona jest dobry powód, żeby decyzje aktualizować, ale jak wiemy mogą mieć one ogromny wpływ na ludzi mogą zmienić życie i osoba, której wniosek np. wsparcie finansowe został odrzucony może się ze Stalą myślę jednak pomocy społecznej tak a tak np. i taki człowiek się później zastanawiać się stało, dlaczego jak rząd podjął decyzję, jeżeli były w tym procesie użytek algorytmy to to w jaki sposób taki właśnie ta cała praca nasz standard przy przejrzystości Al Gore algorytmów standard przejrzystości algorytmów tak możemy go nazwać niema polskiej nazwy jeszcze także właśnie stworzyłyśmy zalegają z ofert polega na tym, że komunikujemy jasny otwarty sposób w jaki PiS jak podejmowane są takie decyzję, jaką rolę w tym procesie odgrywają algorytmy albo sztuczna inteligencja i kiedy mówi na ten temat to często jako kontrargument słyszę, że sztuczna inteligencja czarna skrzynka, że nigdy tak naprawdę nie dowiemy co tam się dzieje i zawsze odpowiadam wtedy, że to, że może tak jest, ale właśnie z tego powodu powinniśmy podać informacje na temat wszystkiego co dzieje się dookoła czarnej skrzynki tak, czyli np. jakich decyzji jest używany ten algorytm, jakiego stopnia jest taka decyzja zautomatyzowana jak jest celem jest powód chce za to odpowiedzialny i właśnie to jest to co w praktyce robimy, więc właśnie stworzyliśmy standard, żeby dać społeczeństwu prawo to, żeby dać płycie pokazać społeczeństwu decyzję dać im wyjaśnienia na temat tego jak te decyzje podejmujemy no i również w ten sposób zacząć dialog tak na temat użycia sztucznej inteligencji np. dany cel się broni, bo czy logika danego systemu nie jest kontrowersyjna albo dane, które on za całą są dobrze dobrane wyobrażam sobie, że może być zarówno pomoc społeczna jest coś co może być bliskie naszym polskim słuchaczom, ponieważ w Polsce też byśmy system nie oparcie osób z agencji to był bardzo proste algorytmy taka tabelka w excelu, ale dotyczy on właśnie profilowania osób pomocy dla osób bezrobotnych znowu ciekawe założenie punkt wyjścia całkiem mądry zgodnie, z którym każde potrzeby takiej samej pomocy ludzie różnią różne potrzeby dobrze zdiagnozować dobrze jest wpuszczać ludzi taką procedurę, która im służy ani, która będzie do nich bez sensu 1 potrzebuje wyłącznie ubezpieczenia zdrowotnego inny potrzebuje treningu zawodowego, a inny potrzebuje opieki nad dzieckiem albo wyleczenia poważnej choroby, zanim będzie mógł wrócić do pracy i zrozumienie potrzeb w polityce publicznej misji wydaje podstawowe teraz rozmawia się w Polsce o stworzeniu systemu, który będzie łączył potrzeby osób na rynku pracy uchodźców z Ukrainy na razie, ale docelowo być może też innych osób łącznie z pracodawcami to będzie sama opowieść o tym jakie miał potrzeby, jakie mają zdolności jak to połączyć ze z akurat tutaj z pracodawcami, czyli czy sektorem prywatnym, ale taki system może być i dobrze zaprojektowane przejrzysty oparty o dane, które są reprezentatywne, w których niema skrzywień i potencjał dyskryminacyjnego i może być karykaturą samego siebie tak jak ten dotyczący bezrobotnych, który był bardzo krzywdzący i prowadzi do absurdalnych rozstrzygnięć, które krytykowali sami urzędnicy z sali, gdy chcieli go stąd pozbyć, ale ta batalia trwała dobrych kilka lat rozumiem, że twoja praca jest właśnie po to, żeby dochodziło do takich nieefektywności, żeby system od początku było tworzone w oparciu o dobre założenia, ale też, żeby było tak powiedziałaś przykładem debaty publicznej czyli, żeby ludzie, którzy zajmują zawodowo społecznie tak jak organizacje pozarządowe mogły wkroczyć powiedzieć halo czy tutaj rząd nie optymalizuje czegoś co np. nie wymaga obecności jaj, bo mówimy o brakach w finansach publicznych oraz taki jest prawda, jaki system powstaje po to, żeby załatać inny problem np. brak pieniędzy na jakiś cel przedszkola żłobki i pomoc społeczna usługi medyczne i zamiast docenić, że to jest właśnie nasz problem brak pieniędzy albo brak zasobów i nie musimy zająć powstaje system, który optymalizuje, który obcina, który nie dopuszcza części ludzi rozumiem, że tego typu debatę wy właśnie de facto uruchamiać tak tak jak najbardziej i czyta jeszcze dodam tak jak wspomniała o organizacjach pozarządowych to akurat w tym przypadku były one niezmiernie ważną częścią stworzenia tego tego standardu dlatego żem generalnie jeden z powodów, którym dzięki, którym się tym zajęliśmy był właśnie różne raporty różne badania prowadzone przez organizacje pozarządowe, które pracujące w etyce technologii i generalnie w technologii na temat tego, że w tej chwili nie ma nie ma odpowiednią ilość informacji, żeby przeciętny człowiek mógł coś z tym zrobić właśnie na samym początku ponad rok temu, kiedy zaczynałem się tym zajmować to rozpoczęłam cały ten projekt OC serii warsztatów właśnie z organizacjami pozarządowymi ekspertami uniwersyteckimi i różnymi osobami które, w jakich pytań nie tylko pamiętam, że mieliśmy też organizacja np. z USA i zaprosiłam tych wszystkich ekspertów to takiego wirtualnego okrągłego stołu wtedy to było jeszcze w czasach pandemii wszystko było wirtualnie po prostu ich zapytałam, jakie informacje dotyczące stosowania algorytmów powinny znaleźć w tym standardzie, którym którym, które chcemy stworzyć jak należy prezentować informacje, czyli np. czy to winniśmy mieć na stronie czy powinna być jakaś baza danych czy może powinniśmy zastanowić się nad innymi możliwościami prezentację np. jak dotrzeć do ludzi, którzy nie mają internetu nie mają komputera też będą przez to dotknięć EFTA i zaś w stanie City jest też ciekawe czy poziom życia pogania co do odpowiedział to jest bardzo ciekawe może lekarz nie są proces, jakie były wasze konkluzje to znaczy z tego pierwszego z tego pierwszego warsztatu z ekspertami konkluzje były takie, że ten dobrze jest wiec strony jako taką bazę danych w internecie mimo wszystko, ale że nie powinno to być jedyna rzecz, którą zrobimy w tej dziedzinie właśnie też się później jako następny krok przeprowadziliśmy badania i de Ribera pewne z ludźmi po prostu mieliśmy 34 osoby z całej Wielkiej Brytanii, czyli też ze zwalił Szkocji Irlandii północnej i Anglii były to osoby w różnym wieku osoby z różnych ścieżek życiowych mieliśmy też kilka osób, które np. kurs odniesienia interesują technologią ani nie znają się technologii też osoby, które nie ufają rządowi bardzo zależało właśnie miejskie osoby, które najtrudniej będzie nam dotrzeć w tych badaniach i właśnie wtedy też się umawialiśmy się fikcyjne scenariusze użycia sztuczną inteligencję w rządzie i akurat ciekawe jest to, że wspomniała SN w swoim wstępie i wcześniej pytaniach i właśnie takich użycia, które też testowali, czyli we rekrutacji rekrutacji do pracy w sektorze publicznym właśnie używanie algorytmu i również w policji, jeżeli chodzi o to gdzie, w jakich regionach jakich rejonach policja powinna się znajdować, więc były fikcyjne ja tylko życie dopowiem do tego przykładu, bo to nie wybrzmiało wcześniej mówimy o o całe dziedzinach rozwoju różnych agencji predykcji policing, czyli próba czy wykorzystania danych o o tym jak rozkłada się przestępczość i co dzieje się w konkretnych regionach kraju czy dzielnicach miasta analiza danych po to, żeby przewidzieć, gdzie na optymalizację sensownie jest wysłać patrole policji te systemy są bardzo ciekawe popierają się o stare sprawdzone teorie kryminologii inne, a więc nie jest wyssane z palca z tego co wiadomo z tego zatem czytałam rzeczywiście jest pod tym twarda taka wiedza socjologiczna technologia wchodzi już na na nią buduje na niej 1, ale jednocześnie pewien czy kontrowersje dotyczące no o ilości takich produkcji i tego szerzej np. w dzielnicy, którzy notorycznie wydarza się coś niepokojącego tam policja bez przerwy jeździ to może mieć to efekt dyskryminujące efekt mrożący na społeczność może powodować utrwalanie takich schematów, że to jest zła dzielnica i złą pozostanie po prostu, a nawet dyskryminacji np. w oczach banków czy sklepów, a jednocześnie no to są twarde dane, jeżeli gdzieś dzieje się przestępczość rzeczywiście trudno zaprzeczyć, że lepiej byłoby, żeby było regulowane, a więc to takie same, które nie neguje się przeciw dziedzinie, które się Prusia nie ma negacji tego są sensowne, ale jednocześnie budzą poważne kontrowersje społeczne tak jak najbardziej myślę, że ogromnym pytaniem tutaj dla osób, które pracują konkretnie NACE takimi systemami jest to w jaki sposób możemy zmniejszyć ich potencjał na długotrwałym gmina społeczną i z Wielkiej Brytanii też bardzo widzimy po bo istnieją dosyć szczegółowy baz danych na temat tego jak się jak się żyje i jaki jest poziom bezpieczeństwa w różnych dzielnicach i naprawdę przez kody pocztowe są tutaj skonstruowany można to można naprawdę bardzo szczegółowe informacje na ten temat zobaczyć myślę, że jest to ogromne wyzwanie jest dosyć kontrowersyjny przykład to tak jak powiedziała jest to może tylko powielać te negatywne opinie, a później od tego właśnie co jak dzień mieszka zależy też do jakiej pójdzie szkoły zależy to czy dostanie kredyt więc, więc jest to naprawdę bardzo poważne przykład właśnie dlatego wybraliśmy jako jeden z naszych przykłada do testowania z ludźmi i co jest wiedzieli ludzie szczególnie nieufni, czego oni chcieliby się dowiedzieć tych systemach to znaczy generalnie zauważyliśmy, że ich ciekawość na temat tego jak systemy są używane i i co te systemy, jakie decyzje te systemy wspierają zależy od tego zależy od tematu tak czy np. w rekrutacji i policji to przez to, że ryzyko użycia sztucznej inteligencji w takich przypadkach było postrzegane jako dosyć wysokie to ludzie chcieli znać wiele szczegółów chcieli chcieli wiedzieć np. UE po co co jest używane, jaki konkretnie to jest system jak działa, w jakich używa, jakie ma parametry jak i danych używam i co ciekawe mieliśmy wiele odpowiedzi od ludzi, którzy powiedzieli oni osobiście tego nie sprawdzili, dlatego że w sumie ich to aż tak bardzo interesuje to jest dosyć skomplikowane, ale oni chcieli, żeby np. dziennikarz sprawdził ich imieniu napisał artykuł, który oni będą mogli sobie spokojnie przeczytać zrozumieć albo, żeby organizacje pozarządowe sprawdziły w imieniu i może wtedy skontaktowały się z rządem powiedziała, że coś jest nie tak właśnie, a czy oczekiwaliby takiej ogólnej informacji uwaga tutaj działa system, który ocenia przewiduje używać tego algorytmu albo chcieliby mieć wyjaśnione w konkretnej swojej sytuacji, dlaczego coś ich spotkało czy oczu takie mówili tak jak najbardziej mówi, że jeżeli ich co dotyczy osobiście to jak najbardziej chcieliby mieć to wyjaśnienie właśnie na podstawie tych badań tych dyskusji, które prowadziliśmy sem z ludźmi na ten temat też zdecydowaliśmy, że w naszym standardzie za sugerujemy tutaj wrócę trochę do wcześniejszego pytania, które zadała jak to działa dla różnych dla różnych odbiorców, tak więc zdecydowaliśmy, że podzielimy te informacje, które chcemy przekazać 2 części i będą 2 warstwy warstwa podstawowa my nazywamy Kielan, ponieważ ku nazwijmy to nie poziom pierwszy warstwa pierwsza, który jest skierowany do ogółu społeczeństwa jest to napisane bardzo prosty sposób jest to bardzo krótkie wyjaśnienie o tym jak jak działa ten algorytm jak działa też się inteligencja w danej sytuacji, jakie to włączone w proces podejmowania decyzji i dlaczego tak czy dlaczego, jaki problem rząd zamierza rozwiązać za pomocą tego algorytmu i dlaczego jeszcze jak ludzie mogą się dowiedzieć więcej i to powinien być bardzo krótki akapit 2300 Ania naprawdę jest ono bardzo prostym językiem, czyli np. używamy sztucznej inteligencji, żeby zdecydować ile patroli powinno być w danej dzielnicy dany koszt tak i robiły to dlatego, że kiedy ktoś musiał na ten temat decydować teraz trochę zmysł anteny za ten przykład także, a także nie będzie zdecydować publicznie tych znaczeń, chociaż też oczywiście na grę w Tate i generalnie chodzi o to, żeby to było bardzo proste krótkie wyjaśnienie, które każdy zrozumie nawet jak tak do końca niewieście jest sztuczna inteligencja to jest w stanie zrozumieć jak i chodziło nam tutaj o to żeby, żeby trochę ludzi zachęcić do tego, żeby się dowiedzieli, więc bez przytaczania ich ogromem informacji bowiem, że to też problem, jeżeli chodzi o transparentność tak ogólnie, że często rządy publikują wszystko i zostawiają to później tak jak jest, żeby ludzie się zastanowili jak w tym wszystkim znaleźć sens właśnie to jest coś, czego bardzo chcieliśmy robić je, tak więc przyjrzeć się para na tym, że wypływamy wszystko co mamy do ujawnienia wtedy człowiek wręcz sposób na ukrywanie prawda w świecie ludzi i który zabezpieczenia informacji to jest jedna z taktyk zarządza informacjami wtedy ukryje się w nich najważniejsze dokładnie, więc my bardzo tego nie chcieliśmy robić stwierdziliśmy, że będziemy mieć te te 2 w tym 2 poziomy, że ten pierwszy to będzie naprawdę bardzo prosty, że nawet dziecko, które ma 10 lat zrozumiał co tam chodzi o ten drugi poziom i dodam tutaj od razu, że publikujemy owa, więc jest także to wszystko jest to wszystko jest opublikowane tylko ten pierwszy poziom jest na górze strony to przeczyta każdy jako pierwsza rzecz, a później ten drugi poziom bardziej szczegółowy to jest dla dla tych, których to naprawdę interesuje czy np. dla organizacji pozarządowych dla różnych badaczy dla osób, które mogły zostać dotknięte przez c przez taki system tam właśnie mamy 5 różnych kategorii pytamy o takie rzeczy np. kto jakie ministerstwo, jaki zespół odpowiada za sam za te za to narzędzia są też uczą i inteligencję no tam pytam konkretnie tak jak jest organizacja kto, kto jest osobą odpowiedzialną w tej organizacji czy zostało to zbudowane lokalnie w rządzie czy jest coś co zostało kupione np. od firmy technologiczne, jeżeli tak jak była firma, jakie są warunki dostępu do różnych danych, które rząd też małe jest rola tego dostawcy, więc pytam o to wszystko później w drugiej kategorii pytamy dokładnie, czego służę ten algorytm tak do czego służy to narzędzia tak używam trochę algorytm narzędzie sztuczną inteligencję zamiennie, ale mam nadzieję, że Rze, że to będzie wszystkich jasne, że mam na myśli konkretnie co użycza własny sztuczną inteligencję albo skomplikowanych algorytmów i właśnie też pytamy o bardzo szczegółowe uzasadnienie, czyli do, czego zostało to narzędzie zaprojektowane i dlaczego nie zostało zaprojektowane np. co ktoś, kto się nie zna na tym może sobie pomyśleć, jaki no nie wiem chcemy, żeby zespoły, które używają też inteligencji konkretnie napisały, że np. nie jest to system, który będzie decydował o tym czy dostaniesz pracy czy nie, ale jest to system, który pomaga rekrutujące Emu, ale z zapisaną notatkę z rozmowy kwalifikacyjnej czy coś takiego generalnie chcemy, żeby ludzie, a konkretnie wiedzieli, że do tego system nie zostanie użyty też pytamy o listę korzyści dosyć szczegółowych pytamy o alternatywy manualne, czyli czy była inna możliwość niż automatyzacja tego procesu, jeżeli tak to dlaczego tam możliwość została zastosowana pytamy też techniczne szczegóły, czyli rodzaj modelu jak statystyki na temat użycia SA z harmonogram konserwacji harmonogram przeglądu jak człowiek sprawdza czy zatem od szefa decyzje, gdzie jest, gdzie jest człowiek w tym w tym całym procesem też pytamy dosyć szczegółowo tak jak wcześniej wspomniałam to wszystko co jest dookoła tego Eddy czarnej skrzynki, czyli np. jak ME ten algorytm wpływa na podejmowanie decyzji, czyli ile informacji dostarcza osoby, która nadzoruje tę decyzję, jakie są informacje czy są jakieś specjalne szkolenia, które osoby muszą odbyć jakiś proces odwoływania się jak osoba, która mogła zostać dotknięta tą decyzją może się odwołać później mamy całą sekcję na temat danych, jakie dane zostały użyte do trenowania tego modelu, jakie dane są teraz używane w tym modelu i też prosimy, żeby prosimy o dołączenie rynku właśnie do tych zbiorów danych, jeżeli są otwarte, jeżeli nie to jak najbardziej jak jak najwięcej szczegółów prosimy no i ostatnia ostatnia sekcja, która jest prawdopodobnie najciekawsze dla wielu osób to są skutki zagrożenia i kroki, które zostały podjęte, żeby te zagrożenia załagodzić, czyli prosimy myślę, że to jest dosyć odważne i tak jak ocena ryzyka po prostu ma ocena ryzyka, ale prosimy o konkrety tak, czyli o zamiarze już nie tak w tym systemie dokładnie i właśnie bardzo dużą przeszkodę zauważyła jest to, że wiele osób, które nad tym pracuje po prostu boi się o tym otwarcie mówić i myślę, że to jest problem, którym może wszyscy mówią wszyscy na myśli tutaj nie tylko sektor publiczny, ale równocześnie organizacji pozarządowej ludzi może też musimy troszeczkę normalizować taką debatę publiczną na ten temat także im więcej tych zagrożeń będziemy omawiać bardziej sobie z nich będziemy zdawać sprawę myślę bardziej otwarcie zespoły, które zajmują się w 1000 agencje będą mogły mówić będą mogły znajdować rozwiązania właśnie też chcemy osiągnąć chcemy chcemy, żeby w zawsze zagrożenia istnieją wiemy o tym wszyscy o tym wiemy, więc nam nie chodzi o to, żeby te zespoły nam wydobywać to tylko, żeby ratować się zmierzyć, choć z i powiedzieć, że np. psy to zagrożenie zmniejszyliśmy w takiej taki sposób dostawy na podstawie tego inne zespoły, które będą miały ten sam problem mogą się uczyć mogą wziąć tę metodę, która się sprawdziła w tym pierwszym zespole coś z tego zbudować jeszcze więcej mogą dodać od siebie i dlatego właśnie też myślę, że jest to bardzo ważne żeby, żeby dostać szczegółowo się tymi zagrożeniami Zając i rozwiąże mogą być również natury mogą wynikać z danych np. tego, że w przykładzie z opieką medyczną rząd ma do dyspozycji tylko takie dane, jakie ma np. tylko ludzie, którzy chorowali ani tych zdrowych w związku z tym możemy takie skrzywienie system, który ocenia ktoś kwalifikuje to nie albo przed policji ona jeździ tam, gdzie była przestępczość, bo to wynika z założeń przewidywanie przestępczości, która wystąpi ponownie w oparciu o dane o tym, że wystąpiła wcześniej tego się nie da uzdrowić w takim sensie, że nie nie zmieni w przyszłości prawda nie fałszem przyszłości, ale jeżeli widzimy ryzyko utrwalania stereotypów albo dyskryminacji ludzi, którzy tam, że możemy to adresować rozwiązywać inaczej nie wiem programami społecznymi prawda czy czegoś nam to, więc to jest chyba mogą być bardzo różne ryzyka i odpowiedzi mogą tkwić innych polskich publiczne nie tylko w tym, że inaczej ten system programu jemy czy czy dobrze myślę o całej tak myślę, że po obu stronach, że też po pierwsze, że inaczej system zaproponuje wiedząc np. że dane, na których ten system się uczył były w jakiś sposób niekompletne tak to już daje możliwość interwencji, ale również tak jak mówi od odpowiedzi większe interwencję nie tylko technologiczne, jakie możemy użyć tego problemu, więc jak najbardziej generalnie myślę, że im więcej, bo dlatego też pytamy pytamy zespoły które, które używają naszego standardu oto jak i w jaki sposób ryzyko załagodził zmniejszyły, więc właśnie do tego, żeby później wiedzieć, jakie są różne możliwości którymi możemy tej sieci a jakie masz poczucie w tych rozmowach w tym dialogu UE z drugiej strony wdzięczności irytacji zmęczenia, bo z tego co mówi z stworzyć wyczerpującą wspaniałą perspektywę wymarzoną Check listy od takich systemów włącznie z ryzykami żądacie wielu informacji wszystkie one ważone są cenne jak reagują, tworząc je generalnie są bardzo wdzięczni przynajmniej 3 zespoły, z którymi pracowaliśmy, ponieważ my teraz w listopadzie zeszłego roku opublikowaliśmy pierwszą wersję tego standardu od tamtej pory testowaliśmy z różnymi zespołami i też można wszystko zobaczyć na naszej stronie jak i czy wpisał mi się z państw standard na na stronie go krótka i UK to tam można to wszystko zobaczyć i też robiliśmy dosyć szczegółową ewaluację tego procesu właśnie pytaliśmy wczoraj to pomogło czy zrobiliście jeszcze raz czy jest coś w tym co polecić innym czy chcielibyście wziąć udział i mieliśmy takie opinie, że właśnie w tym przykładzie medycznym, który wcześniej podała ten zespół, który pracował na tym przejściu stwierdził, że ten proces dokumentacji tych informacji może bardzo im bardzo wewnętrznie pomóc może pomóc wyjaśnić pacjentów w jaki sposób, dlaczego pewne zalecenia mniejsze są np. formowane, więc generalnie dużo słyszeliśmy dobrego na temat tego, że pomagamy tym zespołom poinformować osoby, które są zainteresowanych pracą w sposób bardziej spójny i też może mniej skomplikowany i też mówili że, że bardzo może to pomoc w różnych wyzwaniach, które dzieją się wewnętrznie organizacji tak, czyli pytania, które zespołom, które zajmują tworzeniem takiej technologii zadają np. ich przełożeni i a więc generalnie też było bardzo dużo chętnych tym żeby, żeby z nami testować myślę, że jest na pewno duża chęć zwiększenia przejrzystości jest duża chęć eksperymentowania z tym jak możemy zrobić także generalnie ja do tej pory miałam bardzo pozytywne reakcje i też mieliśmy kilka różnych spotkań z firmami, które budują technologie dostarczają technologie dla rządu i również z tej strony było dużo entuzjazmu oni mówili, że to im też jako firmom prywatnym pomoże pewnymi rzeczami się trochę bardziej zainteresować, więc generalnie powiedziałabym, że dużo entuzjazmu jest zdecydowanie myślę, że nie rozumiem, że to jest coś co wszyscy musimy zrobić także tutaj nie ma od tego ucieczki i wszyscy chcą być w początkowej fazie tego żeby, żeby też tę przejrzystość nam pomóc stworzyć dzięki hali opowiadasz o świecie, które nie jest znany nie znam takiego świata, ale cieszę się, że coś takiego może działać w Europie w wielkiej Brytanii tylko po drugiej stronie kanału może kiedyś dojdzie również na naszą stronę boją się, że musimy kończyć, bo to trudne tematy potrzebujemy dać oddech słuchających nas, chociaż miałbym być jeszcze wiele pytań np. o to jak po co w ogóle jest też inteligencja twoim zdaniem administracji publicznej czy trochę nie za dużo tam stykamy, ale to może jest dobry dobry wątek do grosza wrócił do rozmowy o nieco szerszych wątkach wychodzących poza swoją pracę i ten standard, w którym opada dla mnie to było szalenie ciekawej budujące słuchać o tym jak to może dać w praktyce szczególnie o tym, że twoi partnerzy w rządzie ludzi, którzy tworzą takie rozwiązania przymus wdzięcznością chcą przejrzystości samej widowni wartość jest oby ta twoja opowieść była inspirująca też dla innych miejsc świata w tym Polski naszych urzędników tego sobie życie, a tobie dziękuję bardzo, za to, że nam opowiedziała o swojej pracy i powodzenia niech to rośnie dalej tym bardzo dziękuję i jeszcze chciałabym tak na koniec dodać, że wydaje się, że ta kwestia sztucznej inteligencji właśnie w rządzie, ale nie tylko w rządzie również we naszym codziennym życiu firmach technologicznych i kwestia etyki tej technologii i może jest to temat, który powinniśmy poruszyć jako osoby temat następnym razem, ale myślę, że kwestia sprowadza się do bardzo fundamentalnego pytania, jaki cel technologie, jaki cel postępu technologicznego czy robimy wszystko, żeby wzbogacać świat żeby, żeby sprawdzać co jest możliwe w jaki sposób technologia może pomóc osiągnąć, żeby właśnie wspomagać ludzi, którzy pracują uwolnić czas, żeby oni mogli się zajmować czymś innym np. jak i administracji publicznej tego się używa i i myślę, że musimy zawsze nieważne w jaki nieważne, gdzie nieważne w tej technologii używamy, żebyśmy zawsze od tego pytania zacząć tak, dlaczego my robimy, ponieważ potencjał nadużywania tych technologii jest ogromny i zazwyczaj zaczyna się tam chcem, gdzie zysk albo żądza władzy staje się siłą napędową, a nie wyższe wartości i pozytywne aspekty użycia technologii i właśnie też myślę, że dlatego istnieje ogromna potrzeba, aby ludzie ludzik ludzie, którzy się tym zajmują mieli na uwadze to, że potrzebujemy etycznych standardów potrzebujemy większej przejrzystości większej transparentności potrzebujemy też pracować z ludźmi żeby, żeby więcej się na ten temat, żeby więcej na ten temat rozumieli, żeby później taka osoba, która jest na drugiej po drugiej stronie tej decyzji mogła zwrócić się czy to rządu czy to do firmy i mogę zapytać, dlaczego ta decyzja została podjęta w takiej ani inny sposób jako została zautomatyzowana tego ja myślę, że zdecydowanie musimy tę rozmowę kontynuować i musimy do nich zapraszać jak największe grono osób z różnych sektorów z różnych ścieżek życiowych z różnym wykształceniem, a także jeszcze raz bardzo dziękuję za to, że dziś aktywnie do tej rozmowy zaprosiła i mam nadzieję, że będziemy to kontynuować faktycznie tak jest cen garść, ale w planie ten temat na pewno nie zniknie z agendy tego podcastu dziękuję ci raz dziękuję tym, którzy słuchają nas do końca kończymy ten odcinek podcastu Panoptykon 40, w którym gościła Natalia domagała kobieta w świecie ja odpowiedzialna za stworzenie standardu przejrzystości algorytmów w brytyjskim Cabinet Office do usłyszenia żegna się z wami Katarzyna Szymielewicz podcast tokfm PL fundacji Panoptykon Zwiń «

PODCASTY AUDYCJI: PANOPTYKON 4.0

Więcej podcastów tej audycji

REKLAMA

POPULARNE

REKLAMA

DOSTĘP PREMIUM

Posłuchaj o tym, co ważne w TOK FM Premium. Teraz podcastowe produkcje oryginalne, podcasty z audycji TOK FM oraz Radio TOK FM bez reklam 40% taniej! Bądź na bieżąco.

KUP TERAZ

SERWIS INFORMACYJNY

REKLAMA
REKLAMA
REKLAMA