REKLAMA

Facebook będzie walczył z deep fake'ami. Czy to pozorowana walka z nieprawdą w Internecie?

Połączenie
Data emisji:
2020-01-08 13:00
Audycja:
Prowadzący:
Czas trwania:
23:36 min.
Udostępnij:

AUTOMATYCZNA TRANSKRYPCJA PODCASTU

Transkrypcja podcastu
łączenie trzynasta 6 Jakub Janiszewski przy mikrofonie ze mną w studiu dr Dominik Batorski adiunkt w interdyscyplinarnym centrum modelowania matematycznego komputerowego Uniwersytetu Warszawskiego dzień dobry dzień dobry będziemy mówili o Facebooku Facebook, który zapowiedział, że będzie walczył z efekt newsami czy też jak to zostało nazwane bitwę x za chwilę możemy się zastanowić nad tym, dlaczego to dziś zostało tutaj dodanej co to oznacza już widać jak ta walka może Rozwiń » przebiegać na Facebooku pojawił się film stancji aluzji zmanipulowany film, gdzie zmontowano ją tak jakby miała problem zmówieniem to znaczy zresztą zaczynała miał problem ekspresją generalnie werbalną wyglądało to nieciekawie ten film nie został usunięty i Facebook tłumaczył ten gest tym, że chodzi mu manipulację przy użyciu sztucznej inteligencji, że tylko takie firmy, która by generują zjawiska, których dane osoby nie brały udziału będą podpadały pod tą kategorie jak rozumiem Litwę x czy to, czego Facebook chce się pozbywać oczywiście była reakcja ze strony sztabu ze strony przedstawiciela samej pensji los, który powiedział, że to jest właśnie umywanie rąk jest to ruch pozorny czy faktycznie można tak powiedzieć, że Facebook serwuje ruch pozorny przy okazji dra, skręcając się kampanii wyborczej w stanach moim zdaniem można tak powiedzieć, bo rzeczywiście no tam film z szansy Llosy został dosyć mocno zmanipulowane, chociaż bardzo takimi tradycyjnymi metodami to przede wszystkim po prostu to nagranie zwolniono odpowiednio też rolnicy straszy tnie dokładnie więc, więc tam no takiej manipulacji byśmy opartej o uczenie maszynowe nie było natomiast samo wideo zostało ewidentnie zmanipulowane ja takie poczucie, że rzeczywiście w tej chwili polityka Facebooka względem treści, które są zmanipulowane bądź nieprawdziwe jest po prostu niespójna to znaczy z 1 strony mamy teraz ten komunikat z przetrwać dni o tym, sza właśnie będzie walczył z fajkami i tego typu materiały usuwał z drugiej strony cały czas mamy politykę względem reklam politycznych, które wprost dopuszczają to, że by politycy kłamali Facebook niejako umywa ręce od kontrolowania prawdziwości treści takich politycznych i nawet umywa ręce od tego kiedy wiadomo, że są to treści nie nieprawdziwe no to to nie chce tutaj takiej roli z 1 strony może cenzora, ale z drugiej strony takiego kontrolera treści jednak podmiotu dbającego o o prawdziwość treści, która na tej Platformie są rozprzestrzenione no trochę takiej roli Facebook nie chce nie chce pełnić także goście pełnią względem użytkowników natomiast względem polityków i reklam politycznych już w ten sposób nie nie kontroluje także moim zdaniem nie jest to spójna podejścia, ale użyłem takiego sformułowania walka z Litwy kami używano tego pojęcia wcześniej czy to jest jakiś wynalazek właśnie na okoliczne no właśnie oni robiliśmy wyjaśnić, o co chodzi, gdy frankami, bo generalnie pojęcie lipca leków bierze się pojęcia Wipler ringu, czyli uczenia głębokiego jest to 1 z technik uczenia maszynowego oparta o tzw. sieci czy głębokie sieci neuronalnych można powiedzieć, że no video zmanipulowane przy pomocy tych też technik to jest też są pewnego rodzaju algorytmy natomiast te algorytmy powstają po prostu trochę inny sposób niż tradycyjne oprogramowania, więc czy są raczej uczone przez programistów niż pisane tak jak kiedyś programy komputerowe były pisane wszystko w nich było w Polsce musiało być przewidziane przez osoby, która taki program pisała i no to jest także w tej chwili technologie Wipler ringowe rzeczywiście pozwalają na daleko idąca manipulacja tak to znaczy z 1 strony można np. dat nadać jakiś osobie mimikę innej osoby tak to znaczy ktoś może nagrać własne wideo własną wypowiedzią to wideo może być właśnie taki komputerowy sposób nałożone na wypowiedź innej osoby także wygląda, jakby tamta osoba mówiła zachowała się w sieci za wypadek, gdyby to było, gdyby to było wideo zrobione właśnie tą metodą to nas los mogłaby mówić, że Donald Tramp jest Super seksownym mężczyzną, który odrzucił jej żal za lot lata temu dlatego panie tak jest i myślę, że część z państwa mogła już tego typu wideo widzieć, bo demonstracje też technologii się co najmniej kilkakrotnie dosyć szeroko w mediach społecznościowych krążyły, gdzie po to, właśnie aktor czy czy badaczy nagrywał tekst widzimy wideo, które przedstawia tę osobę mówiącą no obok na sąsiednim ekranie widzimy polityka rząd Putina Obama czy czy czy kogoś innego, który mówi właściwie dokładnie to samo co tamta osoba dodatkowo mamy do czynienia nie tylko technologiami, które pozwalają na manipulacje wideo, ale również na manipulacje plików audio tak to znaczy dowolny nawet niedługi fragment nagrania głosu 1 osoby może posłużyć do tego, żeby dowolny tekst głosem tej osoby odtworzyć tak no i w przypadku osób publicznych rzeczywiście tych próbek głosu mamy bardzo dużo w związku, z czym no nagranie przy pomocy tych technik wideo, w którym ta osoba wypowie konkretny tekst i i będzie jeszcze dodatkowo nagranie, na którym będziemy widzieć to osoby mówiącą to ten konkretny tekst jest możliwe do zrobienia póki co nie mieliśmy myślę tego typu manipulacji na dużą skalę natomiast zagrożenie jest poważna to myślę, że ze względu na znaczenie właśnie mediów społecznościowych w tym obiegu informacyjnym to jak szybko te informacje z mogą się właśnie w mediach społecznościowych rozchodzić no to myślę, że jest niezwykle istotne, żeby z tym świetnie sami walczyć natomiast no to jest tylko 1 z typów nieprawdziwych informacji, które w mediach społecznościowych się pojawia, a 4 takie proste rozpoznać taki materiał, który został przez sztuczną inteligencję tworzony, dlaczego z 1 strony rozumiem tak póki co tak, bo to jest kiedyś mówiło o tym, ślady swej nie mrugają tak to znaczy nie ma efektu mrugania oczami, bo po prostu jeszcze się algorytmy tego nie nauczyły także z drugiej strony no ten proces uczenia też wygląda taki sposób, że z 1 strony powstaje taki jest manipulowane wideo, ale z drugiej strony później są algorytmy, które starają się sprawdzić czy to wideo jest zmanipulowane czy nie tak dopiero w momencie, kiedy te algorytmy przestają rozróżniać takie wideo no to można powiedzieć, że mamy dobre dobre dobre filmy tak czy tak jak w samym procesie trenowania tych metod jest też zaszczyty taki element weryfikacji i takie będą sprawdzania też takiż no oczywistych można powiedzieć niespójności dzięki czemu ten algorytm po prostu uczy się uczy się lepiej i myślę, że no zbiegiem czasu nota te metody będą coraz lepsze i coraz trudniej będzie taki film odróżnić od rzeczywistego nagrania natomiast natomiast no też no nie jestem w stanie wyobrazić, że same rozwiązania, które Facebook zrobił mogą być używane do tego, żeby testować właśnie różne filmy jak algorytmy działają i taki, by wykorzystać to, że Facebook jest stanie to wykrywać do tego, żeby poprawiać właśnie algorytmy do tworzenia takich filmów 1317 za chwilę wrócimy do rozmowy połączenie 1323 Jakub Janiszewski przy mikrofonie ze mną studio dr Dominik Batorski rozmawiamy o decyzji Facebooka, który zapowiedział, że będzie usuwał materiały, które można nazwać aptekami wyjaśniliśmy przed informacjami na czym polega czy materiały, które są właśnie wytworzone z użyciem Wipler ringu, które po prostu bazują na wypowiedziach na zachowaniach na materiałach z udziałem realnych osób celebrytów znanych polityków, ale treść, którą im się składa usta jeśli można tak powiedzieć jest już zupełnie wirtualna niewiele ma z nimi samymi wspólnego to nie jest pierwsza tego rodzaju decyzja to warto podkreślić, ale w ogóle się zastanowić nad tym jak to się ma do usuwania rozmaitych materiałów przez Facebooka, bo to jest pewien problem i to niejeden, ale warto przede wszystkim pamiętać, że właściwie Facebook jest totalnie nieprzejrzysty jeśli chodzi o decyzje podejmowane odnośnie kontentu, jaki wprowadzają użytkownicy prawda to jest może też poniekąd zrozumiałe, bo nad z tego kontentu żyją, więc wszystko co my tam ładujemy na dobrą sprawę buduje siłę moc tej korporacji i Platformy to zrozumiałe, że sama Platforma nie będzie już bardzo chętne do tego, żeby cokolwiek usuwać, ale jeżeli już robi to można zadać miliardy pytań, dlaczego to nie coś innego właściwe okoliczność zaczyna do pewnego stopnia jest to określone, bo są reguły społeczności prawda, które są publikowane i w miarę jest to napisane w jakiego typu treści nie są nie są dopuszczalne natomiast no myślę, że mimo wszystko jest bardzo dużo sytuacji, która są takimi sytuacjami granicznymi czy, które nie dają się aż tak łatwo zaklasyfikować to wtedy dochodzi do różnego rodzaju nieporozumień czy właśnie sytuacji, w których jakaś treść jest z Facebooka usuwana są blokowane konta, a no tak, by nie wiadomo co można dalej zrobić prawda nie ma jakiegoś jakieś możliwości odwołania się co prawda w Polsce można się odwołać do ministerstwa cyfryzacji, które może wtedy w imieniu użytkownika napisać do Facebooka jest jakaś specjalna ścieżka na to przewidziana, ale to wszystko to wszystko trwa także no myślę, że szczególnie takich treściach, które są gdzieś tam na myśl w obrębie sztuki czy ktoś część materiałów historycznych to są rzeczy, która potencjalnie mogą być z Facebooka usuwane zupełnie niesłusznie takim życiu się tego typu historii było dotąd już sporo, ale warto tutaj powiedzieć, że wiele razy zdarzyło się także coś znikało z danego konta czy nawet blokowane było całe konta nie było dokładnie dokładnie jasne, dlaczego tak się stało, dlaczego akurat taka decyzja została podjęta oczywiście wtedy zawsze jest przywołanie tak, że dana dany materiał narusza reguły społeczności reguły są na tyle ogólnie sformułowane, że często trudno zrozumieć właśnie co za tym stoi, jakiego rodzaju decyzje ktoś bądź coś podjęło w to prawda nie jest nie jest to dokładnie wyjaśnione możemy tylko domyślać taką z grudnia mieliśmy przypadek 1 z dziennikarzy, którego konto strona Facebook została zablokowana ze względu na opublikowane przez niego plakat, który wygrał w ogóle konkursu w województwie dolnośląskim, ale przedstawią swastykę taką zamazane na czerwono czy momentami taki znak taki był ładowania się tak czy takie marzenia tak działania rządu, że z osią podpisem lobbing także takie, by był taki okręg lub datą jeśli jakaś część już się załadował zresztą się jeszcze ładuje i no możemy domniemywać, że ta treść została uznana prawda za promującą faszyzm no z podczas kiedy myślę, że większość dla większości osób jest absolutnie jasne Jusia jest dokładnie odwrotnie tak i więc i teraz też zupełnie nie wiadomo jak to się dzieje woła taka treść jest blokowana w tym wypadku nie tylko blokowana, bo tak naprawdę blokowane całe konto użytkownika czy traci możliwość publikowania czegokolwiek nie wiadomo jak długo taka decyzja jest podejmowana to tymczasowe czy jest długotrwała no tak naprawdę trudno powiedzieć jestem co z tym dalej można zrobić tak też nie wiadomo czy to jest także właśnie jakiś algorytm po prostu się pomylił może jacyś ludzie którzy pracują nad właśnie oceną też treści czy może duża grupa użytkowników się skrzyknęła postanowiła zrobić tam dziennikarzowi psikusy i zgłaszała tą treścią trudno powiedzieć jak jak dla do tego właśnie tak czy owak można powiedzieć, że to jest jednak decyzja trochę użyje takiego stwierdzenia głupia to znaczy, jeżeli ktoś zamieszcza plakat, który wygrał konkurs, owszem, tam potem były rozmaite historie z tym konkursem, bo staje się wojewoda, który patronował temu konkursowi nie chciał tak też nagrodę przyznać, że podjął inną decyzję, bo jakaś był uraz ręki było pewne pewnego rodzaju zapięć afera wokół tego plakatu no ale jednak zamieszczenie tego rodzaju treści na Facebooku w żaden sposób nie wydaje się kogokolwiek obrażać tylko można być przywołuje cały ten temat, więc jeżeli ktoś podjął taką decyzję albo nie rozumie kontekstu albo kompletnie nie wie, jakiego rodzaju znaczeniowych cytuje, więc życie algorytm często bardzo prymitywne algorytm, który źle to robi to jest człowiek to jest bardzo ograniczone osoba no coś być może jest także jest osoba, która w ogóle jest z czymś zupełnie innej kultury pracuje na drugiej półkuli w ogóle nie rozumie Europejskiego kontekst tak myślę, że naprawdę nie mamy wystarczającej wiedzy, żeby tutaj ten przypadek dobrze ocenia dla waszych to jest odchodzi nie mamy wystarczającej wiedzy, żeby cokolwiek co robi Facebook dobrze dobrze będzie oceniać nie wiemy, jakie algorytmy tam działają nie wiemy, jakie są już decyzje podejmowane, jaką są podejmowane wszystko tak nieprzejrzyste, że w gruncie rzeczy rozmawiamy tylko o jakimś przejawie nie wiemy i w jaki sposób decyzja, jakie może tak małe drzewko decyzję doprowadziło do takiego finału co prawda po części myślę, że to wynika z tego więcej byłoby o tym, wiadomo o tym, też łatwiej byłoby te mechanizmy obchodzić, aczkolwiek to jest też efekt tego żona są po prostu bardzo niedoskonały tak znaczy tych osób, które w tej chwili pracują nad właśnie oceną treści dla Facebooka jest pewnie tak kilka razy więcej niż było jeszcze kilka lat temu Facebook w ostatnich latach bardzo dużo takich osób zatrudniał właśnie posiada ogółu skandaliczne czy też po zmianie przepisów w Niemczech po właśnie kryzysie ludności Rohingja w Mjanmie było kilka takich sytuacji, które rzeczywiście sprawiło, że też edytorów jest teraz znacznie więcej natomiast no no historycznie RODO w internecie no obowiązywały takie reguły można chodzić wyłącznie Ania odpowiedzialności Platforma tak to znaczy w przypadku tych treści generowanych przez użytkowników zakładało się, że serwis, który umożliwia publikowanie takich treści przez użytkowników na nie odpowiada za to co oni tam publikują, ale powinien usuwać takie treści w momencie, kiedy ona jakieś przepisy łamią tak no i teraz wiele tych serwisów w tym Facebook rozwinęło się dzięki temu, że prawda miało tylu w tym wypadku miliardy osób, które bezpłatnie tworzą treści i takie sprawiają, że inni ludzie w ogóle na tę Platformę wchodzą no, a firma może zarabiać gigantyczne pieniądze, bo tak naprawdę nie zatrudnia jakoś bardzo wiele osób tak łączy tych tych osób do do pilnowania tych treści też nie jest aż tak dużo, więc w tej chwili myślę też po części problem właśnie bierze się też takich historycznych uwarunkowań i metody do tej pory używane takim trwaniu treści po prostu średnie nie sprawdzają właśnie teraz zobaczymy, bo tak można powiedzieć, że fajnie, że to jest coś takiego zadeklarowała już widać jak to będzie działało to znaczy widać, że to jest znowu narzędzie czy znowu taka decyzja trochę podjęta pewnie pan wejść pod publiczkę niespełniająca ostatecznie wymagań oczekiwań także Maria ja bym ja bym może aż tak daleko nie siadł, dlatego że myślę, że jednak tego typu narzędzia są niezwykle potrzebne to co czy sam ten ruch, które Facebook oraz wykonuje uważam jest jest rzeczą bardzo dobrą bardzo potrzebną, bo rzeczywiście zagrożenie tego typu treściami mogą być no bardzo duże bagno wyobraźmy sobie, że ktoś wypuszcza wideo z Donaldem Trumpem ram wypowiadającym wojnę tak naprawdę tak, ale coś takiego rozeszło się bardzo szybko, więc ono automatyczne blokowanie tego typu treści jest niezwykle potrzebne, ale równocześnie musimy pamiętać o tym, że na dobrą sprawę manipulacja z użyciem sztucznej inteligencji tylko kwestia narzędzie nie różni się bardzo od tego co zrobił np. hiszpańskie vox, które z sobotniej debaty poprzedzającej głosowanie nad poparciem dla rządu Pedra Sáncheza wyciął takie fragmenty, w których partia socjalistyczna miała oklaskiwać przedstawicielkę ugrupowania baskijskiego właśnie można powiedzieć to ugrupowanie jest w pewnym sensie spadkobiercą bata Sony, która była politycznym skrzydłem ETA, więc jeżeli socjaliści klaszczą komuś, kto teoretycznie jest spadkobiercą ruchu terrorystycznego tak można w dużym uproszczeniu powiedzieć na to mamy do czynienia z siedzeń politycznym skandalem potem oczywiście się okazało, że wcale nie oklaskiwali jej oklasków oklaski oklaskiwali tak na dobrą sprawę prowadzącą obrady za to, że próbowała uciszać salę w trakcie tego wystąpienia zdane na dobrą sprawę dokładnie taka sama manipulacja prawda tutaj Facebook nie widzi problemu zresztą w momencie, kiedy tylko wchodzi nowe narzędzie problem jest takie ja się absolutnie zgadzam się tutaj no to polityka w tej chwili dotyczy problemu, który jest głośne tak, bo w fajkach jest dużo mowy, bo to działa na wyobraźnię tak też szczególnie cały ten nurt takiego wręcz Pork, czyli wykorzystywania właśnie Litwa ku do generowania filmów pornograficznych, jakimi osobami znajomymi np. no to jest to jest to jest coś co działa na wyobraźnie i i rzeczywiście łatwo jest wobec tego działać to ludzie chętnie o tym, słuchają natomiast to jest tylko pierwsze kroki tych innych treści, które należałoby pilnować zdecydowanie dużo więcej dziękuję bardzo dr Dominik Batorski był państwa moim gościem 1337 za chwilę Zwiń «

PODCASTY AUDYCJI: POŁĄCZENIE

Więcej podcastów tej audycji

REKLAMA

POPULARNE

REKLAMA

DOSTĘP PREMIUM

Z Dostępem Premium TOK FM odsłuchasz każdy podcast - bez reklam. Słuchaj wygodniej w naszej aplikacji mobilnej z pakietem "Aplikacja i WWW"

KUP TERAZ

SERWIS INFORMACYJNY

REKLAMA
REKLAMA
REKLAMA