REKLAMA

Algorytmy, deepfake, boty - KE zaproponowała pierwsze na świecie regulacji sztucznej inteligencji

Światopodgląd
Data emisji:
2021-04-22 15:40
Audycja:
Prowadzący:
Czas trwania:
14:39 min.
Udostępnij:

AUTOMATYCZNA TRANSKRYPCJA PODCASTU

Transkrypcja podcastu
, a świat podgląd Agnieszka Lichnerowicz tak jak państwu mówiłam komisja europejska przedstawiła propozycję konkretny projekt ponad 100 stronicowej regulacji dotyczących tego jak będziemy w przyszłości korzystać ze sztucznej inteligencji z 1 strony komisja europejska zapewnia, że chce wspierać innowacje i Unia to wiąże swoją przyszłość innowacjami, ale z drugiej strony ma coś dziać z poszanowaniem praw i bezpieczeństwa obywateli wydaje się, że to jest niezwykle ciekawe i Rozwiń » ważne i wyczekiwane, bo przecież dużo mówimy o tym jak algorytmy poza naszą świadomością coraz bardziej wpływają na nasze życie coraz bardziej nami kierują komisja europejska chwali się, że to pierwsze takie przepisy nie tylko właśnie Unii, ale na całym świecie były wyczekiwane prace trwały ponad 3 lata co komisja europejska proponuje oto chciałabym zapytać Martę Makowską ekspertka Polskiego Instytutu Spraw Międzynarodowych dzień dobry dzień dobry rysę i rzeczywiście to są takie przełomowe propozycje jak pani ocenia to i myślę, że można powiedzieć, że to są przełomowe propozycje, że Unia europejska już od samego początku pracy nadzór nad tematem w ogóle sztucznej inteligencji podkreślała, że chce brać taką swoją drogę tzw. trzecią drogę trochę opozycji przede wszystkim do Chin, gdzie inwigilują inwigiluje społeczeństwo na potęgę, gdzie mamy obecnie ten system suszą scoringu czy tryb przyznawania punktów obywatele na podstawie różnych działań do czego jest używana sztuczna inteligencja m.in. ten system Social scoringu znalazł w tym dzisiejszym wczorajszym dokumencie unijnym jako całkowicie zakazany i w opozycji też trochę do Stanów zjednoczonych, gdzie leżą wejdę w złoża tylko, ale nie Times zatytułował artykuł poświęcony tym regulacjom Europa proponuje bardzo restrykcyjne reguły są tak daleko idące, że mogą mieć konsekwencje dla Amazona Google Facebooka czy Microsoft ta na pewno będą miały, chociaż zdaniem części na pewno europosłów środowisk organizacji obywatelskich one są jeszcze za mało idą w tak naprawdę są środowiska tutaj trochę, przechodząc trochę roztopi, które chciały ich całkowitego zakazu używania i breaków czy identyfikacji biometrycznej, a Unia europejska pozostawia szereg Furtek rozwiązań, ale wracając w tym, że tego chciał powiedzieć tak globalnie to też Unia europejska stara się tutaj stawiać troszkę obok niezależnie od Stanów zjednoczonych, gdzie ten takie przyzwolenie na NATO, że prywatne firmy mają nasze dane i wykorzystują je na 1 000 000 sposobów, o których nawet nie mamy pojęcia właśnie, wykorzystując skomplikowane algorytmy to europejska mówi wyraźnie i rzeczywiście uderzy to w tych największych graczy te Platformy internetowe firmy z obszaru BiT dechu osławione gafa, bo po pierwsze, Unia europejska stworzyła taki katalog tych systemów sztucznej inteligencji stopniowane to znaczy określiła 4 takie stopnie oceny ryzyka tych rozwiązań oraz sztucznej inteligencji i one są wszystkie tak jak pani mówiła we wstępie skoncentrowane mają być skoncentrowane przede wszystkim na człowieku na ostateczny użytkowniku obywatelu Unii Europejskiej i one i one są właśnie ocenione pod kątem ryzyka dla dla dobrostanu psychicznego fizycznego szeroko pojętego obywatele i tak np. zakazuje się całkowicie tego systemu, słysząc scoringu właśnie, abyśmy mogły przejść tak krótko przez te kategorie ja tylko go słuchaczom pokaże, bo czasami to jest trudno skojarzyć, ale chodzi o rzeczy od takich jak te filtry systemy wyłapując c z pan w poczcie chodzi o deepfake, czyli takie już technologie pozwalające we właśnie fałszować nagrania wideo, w których ktoś mówi coś, czego nie powiedział po prostu już są takie możliwości manipulacji obrazem chodzi o też np. algorytmy, które są stosowane w przydzielaniu spraw sądowych, które oceniają prawo do socjalu z kredytu kredytu czy prawo do jakich Poli pomocnik społecznej czy oceniają ktoś ma dostać na studia albo nie ma, choć też kamery na mieście teraz identyfikują te kategorie wyglądają mniej więcej no, więc właśnie całkowicie zakazane to są takie takie takie rzeczy, które Unia uznała za godzące w interesy i prawa podstawowe i tutaj też znajdują na razie trochę bardzo szeroko zakrojone i mało wyraźnie przedstawione zastosowania naruszające prawa podstawowe czy szkodzące szczególnie osobom nieletnim powodujące jakąś krzywdę psychiczną czy fizyczną rozwiązania i oczywiście będzie Przemo przedmiot dalszej dalszej dalszych prac w parlamencie radzie, gdzie te, gdzie ten ostateczny kształt tych tych regulacji będzie do określony jest czwarta kategoria zakazana tak jak całkowicie zakazane potem są takie, które są w leasingu to tam boję się tam taki opis nie wiem na ile potrafi pan już dziś często są świeże regulacji podatku jest propozycja zniesiony też, że zakazane mają być systemy wykorzystujące informacje użytkowników, żeby przewidywać go za chowanie określa słabe strony wiemy z przecieków siana, bo na świat opowiada, że po swój dług ma takie już możliwości technologiczne algorytmy, które potrafią ocenić nastrój w jakiej grupie na podstawie tych informacji rozbierają czy to potencjalnie mogłoby uderzyć Facebooka np. również to uderzy w Facebooka, aczkolwiek tutaj jest kwestia rozpoznawania emocji to zostało u umieszczony w kategorię zakazanej takiej kategorii wysokiego ryzyka szansa to jest ta trzecia taka czeka taka najmocniejsza co można to jest to bardzo szalenie interesujący temat, bo to rozpoznawanie emocji jest teraz takim topowym mam wrażenie tematem jeśli chodzi o rozwój algorytmów nawet Spotify opatentował niedawno system rozpozna na podstawie rozpoznawania głosu użytkowników ich nastroju płci rasy i na tej podstawie teoretycznie może przydzielać się sugestie muzyczne jaki, którą chcielibyśmy słuchać list brzmi to wszystko deszcze niesamowicie abstrakcyjne też przerażająco, więc wszystko to co się znajduje w tej takiej kategorii wysokiego ryzyka tu też są pewne rozwiązania dotyczące samochodów autonomicznych, dlatego że uznaje się, że samochody autonomiczne są no szalenie ważne z punktu widzenia bezpieczeństwa chociażby człowieka użytkownika tego statecznego też takie rzeczy jakoś identyfikacja biometryczna i te zastosowania sztucznej inteligencji z wysokiego ryzyka one są obwarowane szeregiem nakazów i zasad to znaczy one przede wszystkim muszą być transparentne Unia europejska podkreśla transparentność to znaczy, że przede wszystkim dane, na podstawie których budowane są te te różne algorytmy muszą być dobrze opisane muszą musi być wyjaśnione, skąd się dane wzięły co zawierają w jaki sposób obrobione w jaki sposób je przetwarza, jakie oznakowano, więc tutaj tutaj rozwiąże to też ważne są te algorytmy, które decydują o ważnych sprawach naszym losie tak właśnie zdolność kredytowa jak Bytowa medycyny tak to są to są tematy, które coraz bardzo się przebijają też świadomości społecznej coraz więcej książek na ten temat tak jak pani przywoływał tutaj panią zup prof. Zubow czy też są takie książki jak chociażby z punktu widzenia kobiet niewidzialne kobiety takie jak wspaniali są algorytmy po prostu poleca swoją drogą nie są w Teksasie organizuje szkolenie dla kobiet ważna, ale zachęcamy mężczyzn sięgnęli wszystkich oczywiście o tym jak jak stronnicza algorytmy projektowane przez mężczyzn też dyskryminują kobiety pomimo tego, że ci, którzy tworzą nie mają złych intencji do mówiła pani czwartą trzecią kategorię rzeczą targany jest kategoria, który jest już jako taka przy obszar średniego ryzyka i co ciekawe zakwalifikowano np. boty czy deepfake to tutaj na pewno na forum parlamentu europejskiego chociażby, ale w ogóle w przestrzeni publicznej będzie ostra debata, zwłaszcza tę kategorię deepfake w, ponieważ Unia europejska tak zdaje się, że troszkę rozwodni złagodziła złagodziła ten ten przepis regulację względem wycieków, które krążyły w internecie w ostatnich tygodniach i mianowicie Unia europejska chodzi z założenia, że w bajki, czyli takiej, gdy np. nagrania wideo, w których zmanipulowano obraz także ostatnio oglądałam jak Mao Zedong śpiewa, a już trwa np. np. że jeżeli twórca takiego grajka poinformuje da dotację, że to jest projekt to wystarczy, żeby po prostu to ten to wideo umieścić oczywiście tutaj przeciwnicy podnoszą kwestię tego, że to będzie tak jak tak jak zwrot nawet gorzej, że dziś malutkimi literami na dole strony pojawi się napis to jest apteki po prostu z dziesiątki setki tysięcy ludzi padną ofiarą takiego efektu ta informacja się rozprzestrzeni niesamowicie szybkim czasie może mieć przypuszczalnie nie wiem decydujący wpływ o to kto wygra jakieś wybory polityczne w danym kraju tak to może być to może być tego rozwiązania, które po to, można było jak podkładać politykom słowa, które na dzień mogą wypowiadać jakiś słowa jest pierwsza kategoria rozumiem, że to właśnie choćby te te systemy, które ostrzegają nas albo same segregują pan w naszej poczcie teraz są takie które, które są uznane za takie, które są ryzyk minimalnie ryzykowne i one w zasadzie mogą się rozwijać nieskrępowany sposób bez syna zbędnych regulacji bez zbędnego obciążenia też dla twórców, bo też pamiętajmy o tym, że Unia europejska jest też organizacją, która skupia też podmiot podmioty integracji gospodarczej, więc też tutaj bardzo dużo głosów w dyskusji, żebyśmy nie nie przesadzili z regulacjami, żeby też nie stłamsić innowacji Unii Europejskiej, żeby nie nałoży zbyt dużo zbyt dużego ciężaru na przedsiębiorstwa, zwłaszcza te małe start-upy które, które po prostu walczą o przetrwanie, dla których każda nowa regulacja oznacza koszty to powiedzmy właśnie co jeszcze w jakie można pić co się teraz będzie działo komisja przedstawiła propozycje przypomnę czwarta kategoria zakazana trzecia kategoria myśmy specjalne zgody druga kategoria musi poinformować użytkownika na pierwszą kategorię dowolna i coś teraz będzie działo z tymi propozycjami komisji europejskiej nie chodzi nawet mogłaby opis tej procedury, które nie jest proste, ale jak też perspektywa czasowa co to oznacza dla nas użytkowników, kiedy może coś zmienić no z mojego punktu widzenia jedno jestem analityczka do spraw Unii Europejskiej będzie trwale nieciekawe dyskusje, które pewnie na forum na różnych forach instytucjonalnych też nie tylko potrwa pewnie no może rok może 2 lata oby i skończy się rzeczywiście przepisami które, które zostaną zaakceptowane przynajmniej przez większość państw członkowskich też oczywiście większość parlamentarną, a w parlamencie europejskim mamy różne frakcje od takich, które są bardzo liberalną po skończywszy na takich, które są bardzo bardzo zachowawczy, jeżeli chodzi o poziom prywatności użytkowników poziom manipulacji i ja mam być, bo nie wiem czym sobie zdajemy sprawę, że właśnie taki algorytm, którego nie do końca rozumiemy może zdecydować o tym czy dostaniemy na studia albo jakie dostaniemy ubezpieczenie medyczne albo do nagród ważne decyzje podejmuje bardzo ważne szalenie ważne które, które mogą zostać czasami przez zwykły błąd ludzki czasami przez nie jakieś niedopatrzenia mogą wpłynąć na nasze nasze życie tak kluczowy sposób prawda no więc, więc nie mówi, że to będzie dla pani ciekawe, dlatego że właśnie w politycy ich na poziomie krajowym parlamencie europejskim organizację społeczne to wielkie mniejsze firmy oni wszyscy będą teraz prezes walczyć walczyć walczyć przedstawiać różne racje właśnie tak jak trochę prób staram się już nakreślić troszkę takim oś problemu na pewno będzie, żeby nie nadmierne Góra regulacja będzie versus wciąż za dużo swobody dla firm i tego w jaki sposób wykorzystują nasze bardzo wrażliwe dane tak czasami dotyczące naszej płci naszych preferencji seksualnych czy, chociaż czy też preferencji politycznych co ma też potem paradoksalny wpływ na manipulacje polityczne tak, a z drugiej strony Unia chce tutaj wykorzystać przewagę pierwszego wchodzącego na rynek tego pierwszego regulatora i sprawić, że te przepisy trochę jak w przypadku RODO rozleją się na na resztę świata przynajmniej tego świata takiego islam, choć nie doceniamy, że będą dosyć to zostało tak prowadzą też, że RODO wywołuje negatywne skojarzenia dwóje, bo też pamiętajmy właśnie zarówno przy okazji rody, jaki teraz przy przy okazji tych regulacji bardzo dużą rolę odgrywa lobbing tych największych firm, które będą starały się wskazać jak najwięcej strasznych stron, zwłaszcza jeśli chodzi o koszty finansowe tego tego co oznaczają tego typu regulacji, a światu odnajdzie zapewne będziemy śledzić trzeba myśleć to niezwykle ciekawa, że zgadzam ważna dyskusja tak bardzo dziękuję za przeciekał analizy i opowieści mamy nadzieję na oczywiście więcej Marta Makowska ekspertka Polskiego Instytutu Spraw Międzynarodowych opowiada państwo zaproponowanych przez wczoraj przez komisję europejską regulacji dotyczących sztucznej inteligencji pierwsza taka propozycja regulacji ambitnych na świecie teraz informacja Zwiń «

PODCASTY AUDYCJI: ŚWIATOPODGLĄD

Więcej podcastów tej audycji

REKLAMA

POPULARNE

REKLAMA

DOSTĘP PREMIUM

Słuchaj wszystkich audycji Radia TOK FM kiedy chcesz i jak chcesz - na stronie internetowej i w aplikacji mobilnej!!

Dostęp Premium

SERWIS INFORMACYJNY

REKLAMA
REKLAMA
REKLAMA