Jak działa sztuczna inteligencja? Zaglądamy do wnętrza chatu GPT

AUTOMATYCZNA TRANSKRYPCJA PODCASTU

, śledząc media ostatnich miesiącach trudno nie odnieść wrażenia, że jesteśmy świadkami rewolucji technologicznej wszystko za sprawą tego, że do użytku trafiły nowe narzędzia oparte na uczeniu maszynowym powszechnie określanymi posłusznych agencja takie jak Dziewicy to wielkie modele językowe, do których dostęp mamy dzięki prostym aplikacjom bardzo intuicyjne takim jak czas Libii, które umożliwia rozmowę z modelem model, dostając od nas komendy zapytania generuje tekst Rozwiń » tak naprawdę tylko tekst, ale bardzo sugestywnie przypominający rozumowanie człowieka albo całkiem inteligentną wyszukiwarkę, która zdaje się wiedzieć wszystko to co jest w internecie nic dziwnego, że takie doświadczenie pobudza wyobraźnie wyobraźnię ludzi pracujących w mediach marketingu, ale także programistów ludzi brać technologicznej którzy, zadając pytanie co dalej w jakimś sensie to narzędzie mogą nas wspomagać, jaki mogą zastąpić, gdzie tkwią nowe zagrożenia i czy potrafimy jednak czas rozpoznać potencjał technologii jest ewidentnie widoczny w biznesie w tym momencie wszystkie wielkie firmy Microsoft długą, a po, ale również Alibaba przyspieszają swoje prace nad oddaniem do użytku kolejnych modeli działających na podobnej zasadzie i to jest rodzaj wyścig zbrojeń, w którym być może przegra bezpieczeństwo etyka takie wartości jak wyjaśnia gość i kontrola nad nowymi systemami i właśnie o nowych zagrożeniach i o tym jak możemy się do tego wyścig zbrojeń ustawić jako społeczeństwo jako obserwatorzy także użytkownicy tego typu narzędzi będę dziś rozmawiać z bardzo szczególnym gościem przy mikrofonie Katarzyna Szymielewicz witam was w podcaście Panoptykon 40 i zaprasza na spotkanie z Tomasza od brzegu ziem dr. Polskiej Akademii Nauk naukowcem, a Lidia NCBiR człowiekiem, które zna się na modelach uczenia maszynowego, ponieważ sami tworze zagląda do środka i pada między możliwości dużych modeli językowych są zapraszani to jest Panoptykon 40 moim gościem dziś jest Tomasz odrzekł dr Polskiej Akademii Nauk naukowiec wy, a i Diaz NCBiR zajmuje się między możliwościami dużych modeli językowych, a więc dokładnie tym, o czym chcemy porozmawiać witam serdecznie dzień dobry dziękuję, że znalazłeś czas na rozmowę wiem, że waszej dziedzinie naukowej sezonie wybitnie gorący wspomniałeś, zanim weszliśmy do studia nagraniowego, że od stycznia ciężko było złapać oddech co się dzieje tych naprawdę to co się dzieje to starzy bardzo dużo jest nowości w naszej branży pojawiają się bardzo często nowe rozwiązania nowe pomysły nowe modele w szczególności i był taki moment też było po premierze odbitki i kiedy inne firmy czy inny badawcze poczuły, że też muszą zostawić swój ślad w tym gorącym temacie i zaczęli produkować swoje modele albo takich swoje algorytmy oparte modele i nasze projekty, które robiliśmy w pracę też były związane z tematami dochody językowych i musisz być na bieżąco z tym co się dzieje, żeby nasze badania był aktualne i to nadążanie za nowymi trendami nowymi rozwiązaniami technologicznymi albo nowymi odkryciami samo nadążanie kosztował nas bardzo dużo wysiłku i była to bardzo proszę się pracy dla kogoś to nie siedzi naukowo, ale widzi w nagłówkach mediów co chwilę przewijający się nowe skróty takie jak GTD czy konkretnie czas, żeby tego aplikacja umożliwia korzystanie z tego dużego modelu językowego to można mieć poczucie, że coś się przełamał, że jakiś nowy próg w badaniach nad sztuczny organ został przekroczony i naprawdę idzie nowe czy wy tak to widzicie to jest zupełnie inna perspektywa powiedziałbym, że zdecydowanie tak, że ten szał nastąpił wcześniej niż sama premier czatu żbiki mogę powiedzieć co do strony naukowej strony naukowej głównym przełomem to był odkrycia, który Transformers to jest Platforma jest po prostu pewnym sposobem uporządkowania obliczeń sieci neuronowej i ten sposób okazał się bardzo efektywny główną zaletą Transformers jest to, że bardzo wydajnie wykorzystuje moc obliczeniową komputera przez trening może być dłuższy skuteczniejszy i może przetworzyć więcej danych to może zatrzymamy się przez treningu, bo to nie musi być oczywiste dla słuchających nas trik modelu, czyli co co jest najefektywniejsze skuteczniejszym, więc modele językowe w szczególności, ale sieć narodowe ogólnie uczą się w taki sposób, że są chronione danymi mamy zbiór danych, w którym są odpowiednie dane wejściowe wyjściowe model uczy się przewidywać dane wyjściowe z danych wejściowych pod spodem w ramach treningu dzieje się bardzo wiele procesów model uczy się rozpoznawać pewne wzorce uczy się wydawać wnioski uogólniać tylko tych procesów my kontrolujemy przeważnie to jest ten można taki sposób, że my dostarczamy dane ustawia parametry trenowania takiego modelu czyli, jaką ma dostępną moc obliczeniową w jaki sposób ma być model karany był nagradzany za swoje produkcje i to co taka sieć robi to stara się przewidzieć dane wejściowe potem porównuje swój wynik z poprawną odpowiedzią stara się korygować błędy i korekcja błędów przekłada się na pewne poprawki do parametrów modelu, które są wyliczane na bieżąco czy sam się koryguje, a za model tak treningi modeli są w sensie automatyczne pod tym kątem, że korekcja błędów zachodzi w sztywno trzeci my nie mówimy o zabawie, jaką się poprawić nie tylko mówimy co miało wyjść przed samym wejściu i model sam patrzę różnice stara się skorygować natomiast na tym proces jest kosztowne liczenia owo, dlatego że sieci nowe przeważają duże parametrów to, żeby dać jakąś taką skalę to powiem, że modele typu ambicji mają zbyt parametrów liczony miliardach nawet setkach 1 000 000 000 to są bardzo duże ilości parametr, który ma taki model dla te parametry muszą się wszystkie korygować na bieżąco w czasie treningu, więc to być są bardzo drogie przez to też no i Transformers, który teraz dominuje w badaniach naukowych jest siecią, która robi to po prostu dużo wydajniej poprzednie pomysły dzięki temu w ogóle możliwe planowanie daje tak wielką skalę taką dużą ilością danych jak obecnie a, a ten system tras forma jest dostępny badaczom na zasadzie otwartej każda z nich ma urzędować czasowe wymyślono w Google Lou w roku 2017 szesnastym przełomy więcej tego okresu i wtedy został publikowany publikacje naukowe było powiedziane jak zbudować w jaki sposób należy trenować i wszyscy badacze wiedzą jak sama działa jak go stworzyć my też był właśnie początek rewolucji od momentu oddania pracy okazało się, że Transformers Święty będzie z tym zadaniem tłumaczenia maszynowego tłumaczenie okazał się bardzo sprawny co męża zostało bardzo szybko aplikowane do różnych popularnych stron, które tłumaczą i to początek rewolucji później, bo także firma open jaj nowa dlatego środowe reaguje dlatego nie najwięksi swoja zgodę skoro oni wymyślali rozwiązania choćby ten zakaz Trybunał czołowy, dlaczego to jak radzą by opowiedzieć jak perspektywy, że naukowcy z brzmienia miejsc pracy i dostać naukowcy pracują w bólu potrafią przejść do innej firmy do pana ja odwrotnie i środę pomysły są bardziej znane z ludźmi firmami same pomysły mówię to pocieszające oczywiście technologia leży zwykle takie firmy czy technologia czy sama sam sprzęt albo Alberty, która inżynier ETA taka inżynierska 3% tematu rewolucji technologicznej naukowej jest z Platformy był pomysłem otwartym danym przez Googlea później, bo także w równej liczby badania nad tym co się dzieje, kiedy zwiększamy modele to większy model wydaje się na pierwszy ten pierwszy rzut oka, że będzie lepszy z tego powodu większe mamy więcej parametrów co co oznacza, że jest w stanie zapamiętać więcej jest tanie, więc wyrazić też przez to to musiałbym szczegóły jak taki oddział w środku, ale i to może za chwilę tak natomiast my sobie intuicyjne, że jeżeli mamy więcej parametrów większy model to on jest w stanie, więc zapamiętać czy też więcej się nauczyć czy np. mniejszy model mógłby obsłużyć tylko prostą rozmowę, a większy model skomplikowaną rozmów zwykle tak to wygląda tak tak oczywiście te są pewne potencjalnie jeszcze jakieś możliwe krycia być może istnieją małe modele będą skuteczne nie są wcale wykluczone stan na dzisiaj jest taki, że małe modele są słabsze to znaczy radzą sobie z prostymi zadaniami przeciw takiej skomplikowane zadania np. wymagają rozumowania albo wyciągania wniosków większą radzą sobie lepiej czy mógł być dorzucić przykłady innych zadań, bo wszyscy dzięki temu poruszeniu w debacie publicznej kojarzymy, że w Libii się sprawdza jako wyszukiwarka specyficzna być może nawet jako rodzaj no publikacji takiej dynamicznej, która działa tak sobie życzymy publikuje rozmaite teksty daje efekty znamy sam funkcję czatu, który możemy sobie wejść w interakcję ale gdzie takie rozumowanie jeszcze można by zastosować i uświadomić sobie co te modele potrafią tras trwa wiele elementów, który miał sprawdzić możliwość takich modeli m.in. taki prezent robimy w naszej pracy badawczej tak naprawdę podstawową funkcją modelu językowego jest generowanie tekstu taki model jest uczony dokładnie tego, żeby przewidzieć kolejne słowo, które będzie pasowało do kontekstu to jest temat potrafi robi tak naprawdę i okazuje się, że taki może chodzić taki prosty cel modelu, który polega na tym, żeby odgadnąć wojny słowo taki cel wystarczy, żeby model był w stanie robić bardziej dedykowane rzeczy oczywiście w tej było powiedziane zagadnienie gotowania czy wnioskowania to są tak naturalne, które można stosować w czasie wbity oprócz tego są eksperymenty, które mają sprawdzić co się stanie jeśli taki model stanie nowe narzędzia w tym momencie model ten czas bić nie jest w stanie niczego zrobić poza tekstem znaczy taki wers oczywiście bazowej no po prostu pisze do nas tekst ale gdyby mógł np. w erze internetu na coś kupić np. sprzedać coś np. rejestrować sobie z tą internetową, na której PiS tekstem wykonać działanie i teraz tak jak my, kiedy wpisujemy w Katarze tak oto chodzi jest taki eksperyment teraz dość ten popularny, zwłaszcza Authority to projekt naukowy, którego celem sprawdzenie co się stanie jeśli model językowy dostanie nowe narzędzia i tam to była także moglibyśmy to tłumaczy mówi się do niego pisze taki sposób w twoim zadaniem jest wykonywanie poleceń i pomoc użytkownikowi, ale oprócz wydawania tekstów może używać takich narzędzi tutaj masz narzędzi np. jest szukanie w internecie informacji narzędzie było kalkulator narzędzie, które pozwala założyć stany nowym potencjalnie coś napisać o tej stronie napisać post na bloga tak dalej, więc lista narzędzi to taki model może używać eksperyment na celu sprawdzenie co się stanie, ale mówić do niego Telekom ten adres powiedziała la im od 64 tak tak bardzo ciekawe, że jeżeli chce się uczyć od rynkowego do takich z ekstra rzeczy np. tego, żeby szukać w internecie albo jego zaprogramować jest tak np. mamy program musi po prostu pisze instrukcje nienaturalnym pisze się ta jest ciekawsza brzmi twoim zadaniem jest samo zrobienie mi w aplikacji chciał, że aplikacja miała takie, jakie funkcje korzystała z takiej takich bibliotek takich narzędzi i proszę Pomóż mi to kwestia relacji projektować napis kod spraw ten kod, jeżeli są błędy popraw itd. i nie muszę dawać mu bezpośredniego linka do tych narzędzi osoba znajdzie w różne narzędzia są bardzo powiedzmy nowe są późniejsze niż moment, kiedy ten ma modelowany trzeba podać Chinka, jeżeli narzędzia są bardzo znane są powszechnie używana będzie tutaj mogę pani powiedzieć pewnie samo ich używać co ciekawe bardzo, że taki model jest w stanie na 700 kod uruchomić taki kod, a jeżeli są błędy te będą czytać zrozumieć i poprawić kod i siedział to automatycznie nie wymaga to gest człowieka w etapie korekcji ogłoszenie tego w mediach spowodowało taką nad swą reakcję ludzi o oczy programiści są jednak tymi pierwszymi do zastąpienia charakter czy taka też była akcja waszej branży ja muszę powiedzieć, że gdzieś widziałem taki taki komentarz, który jest uderzające, że wszyscy spodziewaliśmy, że zastąpi ludzi w takich pracach dość powtarzalnych i potrzebny oczywiście, ale powtarzalnych prostych i dość ciężki fizycznie no właśnie myślenie było potem prawa namawiano mnie podniesienie podanie tak, żeby takie jak ciężkie ciężkie bardzo trudne prace fizyczne stan jako pierwsze zautomatyzowane na to wskazuje się, że praca kreatywna tutaj jest jednym z pierwszych rzeczy, którym do, których wchodzą modele pomagają nam natomiast jeśliby miał wyrazić zdanie czy klienci są niepotrzebni podział już raz zdecydowanie nie w tym momencie te narzędzia jak zabity albo, chociaż inne narzędzia pokrewnych np. piszą kod to narzędzia baz ułatwia pracę ja sobie teraz nie obrażam mojej pracy bez wymagania takimi narzędziami oszczędza bardzo dużo czasu i odprowadza sobie tak materiał takim narzędziem, a potem ty pracuje z nimi już na tym poziomie zaawansowania takiego zobaczył jak to wygląda w praktyce jak kot pisze tylko jest to skody robi eksperymentów do testowania rzeczy czasami ten kod musi być bardzo precyzyjny trzeba bardzo dokładnie zrozumieć jak tworzyć dane w jaki sposób je procesować jak zrobić operację nadanych itd. tak bardzo praca wymaga skupienia precyzji i też dość trudna i w takiej pracy to narzędzia te modele sprawdzają się idealnie to przykład mojej pracy miały na to zadanie dość trudne, które wymagało zrozumienia dokumentacji wymagało tego, żeby lecieć bardzo precyzyjny dokładny kod i dodanie robiono takich typowo robi pewnie tydzień 2 musiałby zrozumieć, o co chodzi jak to zrobić zamiast tego jak napisał komentarz szkodzie chciałbym zrobić to z tymi danymi 7 Enter napisami silnika bardzo skomplikowana znika pełna różnych odpowiedzi indeksów licz tak dalej, bo poprawna technika sprawdziłem poza napisem kolejną kolejny komentarz szkodzie, a teraz chciałbym to dane przetworzyć taki sposób, bo potrzebuje zrobić i to napisało samo pisałem tylko 20 minut łącznie, kiedy bez tych rzek robimy to co najmniej tydzień tak podejrzewam, więc twoja wiedza była niezbędna żar sprawdzić jak i bez takiej, jaką ty masz te narzędzia tworzone ten kod stworzony tematycznie mógłby być wprowadzający w błąd mógłby powodować problemy czy czy raczej już teraz zapewnić, że ten te narzędzia te modele są tak dobre, że w zasadzie nawet kila, które sobie coś wpisze mu czas Dywit wypluje kawałek kodu jak to wrzuci do internetu będzie z tego korzystać to w zasadzie może się czuć bezpiecznie, bo to jest bardzo ciekawe jedynie wydawanie tak właśnie tutaj wiadomo tego jest także nie tylko kontroluje ja nie grają bez przeczytania bez zrozumienia od siódmego programu to co wyjdzie taki model zawsze czytam i sprawdzam czy to jest to co chciałem, żeby wyszło i tutaj w tym procesie niezbędne jest wiedza programistyczna, żeby zrozumieć tego zrobić też Międzylesie ostatnio że, gdyby nie potrafi programować to bowiem bardzo trudno pracować narzędzie dzięki polecenie nawet mu wydać prawda bardzo uwagę też dzięki temu że, gdy może reklamować jestem w stanie opisać precyzyjnie co musiał uzyskać i tak samo zdanie komentarza, w którym tłumacze co się ma stać jest łatwiejsze tak programować natomiast nie wykluczam sytuacji, że nawet bez ości programowania dobrze tych narzędzi używać by robić aplikację np. aplikacje biletowe i proste serwisy nawet przykłady ludzi, którzy pisali aplikacja w języku tego nie umieli nawet kolega zrobił napisał poprosił to radzili, żeby napisał mu kod, który odtworzy grę pong to taka bardzo klasyczna gazet chyba 80 tych albo jeszcze starsza i odbija piłeczkę, a potrzeba tej gry do eksperymentów zamiast do gry napisał mu czat i nie trzeba tutaj wcale taki wielki wiec robieniu gier nie zamierzamy, więc robieniu gier natomiast to się udał to udało tak tak działał jest wiele przykładów, kiedy te narzędzia robiły bardzo fajne rzeczy dla ludzi nawet dzień do końca mi te technologie teraz właśnie to jest to co zapowiedział, że ciekawe pyta egalitaryzm racja także narzędzia, które od pory były tak trudne tak eksperckie, że mało, kto zna ich nazwy był sens wyobrazić co znaczy kot znaczy języki jak należy jak języki w ogóle się uczy i co to jest model teraz mogą usiąść do aplikacji, które wygląda tak prosta wyszukiwarka coś sobie wpisać po eksperymentować to coś wypluje interesujący efekt i co dalej czy to oznacza, że będziemy nad zalew jak może wyglądać, jeżeli każdy może testować próbować to co może później tak no właśnie tutaj interny nie ma zagrożenia aktem zagrożeń trasy bardzo istotny ja muszę przyznać, że jeszcze przed byśmy myśmy wydali rok temu to myślę, że zagrożenia ja nie byłyby pewnie gorącym tematem tej rozmowie i nie sądzę, że była tak interesujące dla ludzi zmieniła się bardzo duża na związane z tym, że możliwości modeli zrasta się bardzo duże i sieć zagrożenia no to niestety one istnieją i ich duża próbuje się z nimi walczyć natomiast najtrudniejsze wg mnie i to co budzi największe największy lęk to są takie zagrożenia, których my jeszcze nie potrafimy nawet nazwać pewne zagrożenia potrafimy zidentyfikować może podać przykłady takiego negatywnego użycia model językowych np. no chociażby to, że każdy mógł poprosić taki model o instrukcje do zrobienia danej substancji na szereg narkotyków ktoś mógłby poprosić czas zbity, a napisanie kodu, który będzie np. oszukiwał ludzi nasza będzie do nich dzwonił proponował jakiś powiedzmy przelanie pieniędzy do takiego można automatyzować proces przeszukiwania potencjalnie można to już nie dzwoni wnuczek tylko zwolni czas tak tak gada co więcej są takie narzędzia, które potrafią generować, czyli głos właśnie to jest bardzo niebezpieczne, bo tego można używać w sposób bardzo negatywny przykładów jest tutaj wiele, więc zagrożenia rosną oczywiście media prawda czy to od czego chyba zaczęło się rozumienie konsekwencji, więc dezinformacja produkowanie treści, które w złotych bardzo sugestywne przekształcają obraz sposób, który no nie wyłapuje go Luca lekarza przekształcony i potrzebujemy jakości w tym połapać facto to tutaj jest znany pod nazwą deepfake efekt jest cały ten zbiór metod technik pozwalają generować rzeczy, które istnieją albo są nieprawdziwe, ale wyglądają realistycznie i to zagrożenia takie jak określił jako zagrożenie krótkoterminowe takie, które już rozpoznane tak już rozpoznane widzimy, ale są bardzo poważne i nie jest prawdą bowiem z nimi radzić, ale przecież wiemy co nam grozi w tym chodzi oto tematy i wiemy jak mogą być skutki przez czekałem widziałem kilka eksperymentów, bo widzę, że dziennikarze też zarzucić na ten temat to jest łakomy kąsek obchodzenie zabezpieczeń, które pojawią się jako pierwsze, czyli dawać przykład przepisu na narkotyki przepis na bombę jak najdalej trzecia ZIKiT nie tego wprost, ale jak pytamy go odwrotu dokładnie tak jest czyli jakby przez zaprzeczenie zapytały, czego nie mogę dokładnie zajmuje się substancjami chemicznymi, żeby nie naruszyć prawa to odpowie tak zgadza się oczywiście ten kryzys upadek będzie naprawiony, ale ludzie myślą inne sposoby jak choćby pieczenia jednak nadal nasze ewidencja troszkę tutaj wygrywa tak tak oczywiście, ale zagrania które, które są nazwane przejmie jeszcze jest coś cały cała gałąź zagrożeń, które są nienazwane nie wiem mogę co może być w tym obszarze mogą składać za przykłady potencjalne jednak tak tak no co 7× to są bardzo ogólne kwestie czy jest kwestia, że zagrożeniem może być inteligencja większa niż ludzka oczy automatyczna większa niż ludzka trzeba by w rękach złych ludzi to jest bardzo scenariusz oczywiście groźne prawda i i nie wykluczony, a 0202. przykład to może być inteligencja większa ludzkiej chłodniki może kontrolować w, która sama sama się kontroluje tak jest już w ocenie wpływu, czyli to jest ta osobliwość, której mówi się od od lat, ale na styku chyba humanistyki technologii, bo takie fantazje mam poczucie niekoniecznie naukowe może wprowadzimy to pojęcie osobliwości w takim razie żyje jest ekspertem temat osobliwości, ale to jak Otóż mówi wyraźną COVEC to jest to, choć sytuacja, w której inteligencja też sama siebie rozwijać w sposób coraz szybsze i my tracimy kontrolę nad tym co się dzieje w takim procesie nastaną sobie wymyślę zadania, które dały przykład w Krośnie czeka aż ktoś powie, ale szkoda tylko pisze eksperymentuje w związku z tym m.in. można zrobić sama kopia Lem silniejszą mądrzejszą taką może być jeszcze gdzieś kopie i nie wiem do końca tej pozycji wyglądać, bo nigdy taki proces nie zaistniał jeszcze na, ale może wybrać takie zjawisko mogłoby mieć miejsce co by co byłoby już czymś zupełnie nowym i nie mamy pojęcia jego konsekwencje takiego zdania, po czym byśmy poznali się taki model jak zbity, który teraz i wyobrażam sobie czaka na polecenia, czyli sam siebie nie działa nagle zaczął działać to jest technologicznie nawet imieniu zapytać, żeby precyzyjnie chyba wie, czego zmierzam czy my to zobaczymy czy ten kot musiałby się z tt model musiałby być przebudowane w celu takiego urlopu kolejnego czy hipotetycznie skok mógł dokonać w tym co dzisiaj już na 1 tak na pewno nie są jawne przede wszystkim my przed nie wiemy dokładnie działają najnowsze modele pełne jaj możemy używać, a nie wiemy jak zbudowane rzeczy są niejawne Wierzycy parametr parametry są niejawne niejawny stąd nawet mowy, o ile mamy taki model nawet nie wie jak duży model GT 4 są pewne szacunki, ale nie jak informacja jeśli chodzi o modele, które są dostępne dla ludzi no to one same siebie nie będą się zmieniały się w obecnym kształcie bo, bo to jest po prostu tak naprawdę taką maszynką, której wchodzi tekst wychodzi tex, ale jakieś inne dane mogą też chodzić typu obrazy dźwięki maszynka nie myśli tylko zgaduje prawdę szacuje prawdopodobieństwo tak nie ma żadnego mechanizmu, który przy OBI etykę znaczyło, ale mimo mechanizm zgadywanie w oparciu o olbrzymi zasób tak myślę tutaj na ten temat pytanie inteligencję to to jest pytanie do mnie, bo to bardziej pytanie do osób, które znają się na temat delegacji być może filozofów być może pytanie do biologów nie są w stanie powiedzieć czy to dyr proces czy nie, bo nie do końca wiemy co się dzieje pod spodem, a my rozumiemy jak też rozbudowana jak wykonać obliczenia, a nie rozumie znaczenia poszczególnych liczb w tym procesie natomiast stan obecny siedzi to model, które są dostępne dla ludzi można pobrać i na nich robić eksperymenty zostały także te modele dwumecz same siebie nie poprawiają nie tylko siebie same trenowanie modeli tych, które są otwarte te prace, które człowiek musi uruchomić przygotować dane zaplanować taki trening modelu go uruchomić ogólność, ale nie jest wykluczone, że dziś na świecie już są algorytmy napisane, które dają takiej pętli model jest w stanie sam siebie Value by zobaczyć, jakie skuteczne zobaczymy zaś, gdzie nie jest skuteczny, w jakich używa sobie radzi tak dalece polecam internetu zrobi sobie sam się zbiór danych uruchomić trening i stać się mocniejszy być może ktoś robi, ale ktoś musiałby wybrać świadomie to nie przepada za jego decyzja o projektach z tego co z tego co wiem to tak oczywiście otoczenie wszystkiego mieć chodzi o tym adresu mieli do czynienia i te modele, które właśnie można pobrać uruchomić to świadoma decyzja, żeby taką pętlę stworzyć no i być może już robić to jest ciekawe, bo niedawno pojawiła się w debacie publicznej trochę zamieszania wzbudziły list takiego filtra Life Institute amerykańskiego, gdzie popisali się pod nim ani badacze liderzy biznesu tacy jak teraz we wszystkim własnej Musk, którzy to właśnie wołają o moratorium taką przerwę w badaniach nad jaj, obawiając się myślę takiego scenariusza czy ktoś to wygląda na poważny głos mają takie obawy, ale czy jako badacz sam myśli, że chodzi właśnie można kupić czas, żeby teraz powiedzieć sobie globalnie rzuci takie hasło do wszystkich Słuchajcie zatrzymajmy się poczekajmy niech teraz dogoni nas trochę regulacja albo choćby debata publiczna o tym co robimy to były skuteczne niż tego posłuchał no to zależy od postawy ludzi ciężko powiedzieć to pytanie bardziej socjologiczny jak gdyby zareagował na taką prośbę, ale byłoby to sensowne tak czas mógłby nam pozwolić coś wymyśleć czy raczej poczucie, że to za tak szybko się wszystko dzieję, że my i tak jak tego procesu prawem to ja mogę powiedzieć jako prawniczka prawo tu i tak nie ma szans nadążyć, więc z szkopuł w tym, aby pytanie skoro jest takie są już możliwe, że ktoś już dzisiaj odpali taki Al Gore, który sam się koryguje i sam sobie zadania wymyśla co może zrobić, że nas niepokoi nie dowiemy się o tym jest zamknięte nie zatrzymamy, bo nas nie posłuchają i jest jakaś jeszcze możliwość nie tylko bowiem także, żeby tonować medyczne modele potrzeba ogromnej mocy obliczeniowej i potrzeba ogromnych nakładów finansowych to nie jest tak, że każdy może sobie to na razie w domu tak Mode wielkości GPP 4 to jest coś dla skali pani, że koszt samego trening bez kosztowego prądu do tego wyniku to są minuty dolarów sam plan tylko, żeby taki model trenować ten kilka miesięcy prawdopodobnie mamy nie wiem dokładnie ile, ale stoi długi czas na bazy w maszynach w 2000 komputerów, które takich potężnych potraw używa bardzo prądu sam koszt sprzętu to są już setki milionów 61 000 000 000USD sprawa taka że, gdyby ktoś taki prezent zrobić to ciężko ukryć no bo trzeba za czas zakupić dziesiątki tysięcy kart graficznych do obliczeń myć duże zasilanie też od wielkiej mocy oraz ludzi Karola oraz ludzi znają takich samych szpitali, które będą w stanie użytego sprzętu może stąd jest autorytetem w misji prośba o, a to, żeby być operatorem by taka nadzieja, że takich elementów ich nie da się ukryć po prostu trwali skrajne głosy muszę powiedzieć, że spotka się też listem, który krytykował w tym pierwotnym jest za to, że jest zbyt mało radykalny są głosy, które mówią, że należy nadzorować sprzedaż i w ogóle obrót kartami graficznymi trochę tak jak bronią co tak bronią tak, że należy to bardzo pilnie monitorować i należy wręcz nowe licencje na dużą moc obliczeniową w bardzo fajny głos nie prezentuje na pewno wszystkich naukowców tylko podaje taką, jaką go w debacie tak przytaczam jeśli chodzi o jeszcze ten oto moratorium, które miałby na pół roku wstrzymać planowanie większych modeli GT 4 i tutaj główną motywacją tego listu jest to, że badania nad bezpieczeństwem daleko w tyle za rozwojem modeli prawda taka, że badania adresem były zaniedbane bardzo mocno, ale raczej spoczęli co błędy co ten narusza tryb mówiliśmy błędy samego samego kodu samego modelu to rząd robi źle czy właśnie zagrożenie związane z jego niewłaściwym użyciu chodzi o zagrożenia przede wszystkim chodzi zagrożenia jeśli modlę się pomyli się wpisze błędny kod to jest problem małej wagi można poprosić drugi raz w trybie zrobił więcej, choć takie oczywiście są pewne stosować do stosowania może być duży problem środkiem dyskotek bardzo wrażliwy jak bardzo dobrym znaczeniu kontroluje urządzeń np. np. tak, ale no to jednak tego problemu wcieli się modlę się mylą, ale druga tura problemów rozumiem jako zagrożenie bezpieczeństwa są potencjalne użycia modeli w sposób niewłaściwy niezgodne z zamysłem tworząca, kto no i nielegalny sposób kwota szkodliwy czy taki niebezpieczny można dolać teraz Nobla temu, kto wymyśli za szkodliwość globalnej wiosce, kiedy mamy tak różne normy prawne kulturowe prawda na no a teraz myślę myślę, że są pewne rzeczy to są nie zostanie szkody uniwersalnie szkodliwe i zrobić krzywdę ludziom poszukiwanie np. wyciąganie pieniędzy, tak więc jasne, że są różne formy w każdym kraju, ale są rzeczy uniwersalne szkodliwe prawda no i tu chciał jeszcze powiedzieć, że w tym liście, który był publikowany intencja była taka, żeby badania nad bezpieczeństwem miały czas dopasować do nowych modeli no bo ta dziedzina nie była w stanie badać modeli wielkości takich jak Charlie BiT po prostu nie było jest niebo, czego badać nie tylko prawnicy mają podobne dożyć również etycy dziś od bezpiecznych technologii muszą biec za tymi, którzy wymyślają ona tak, aby był w stanie zdobyć te pół roku takiego ciekawego miejsca ciężko powiedzieć problemem tej dziedziny, która wzywa się jej sejf, czyli bezpieczeństwo jaj jest problem jest to, że tam brakuje narzędzi brakuje narzędzi wobec dobrych pytań brakuje sposobu testowania modeli pod kątem bezpieczeństwa nawet nie wiemy do końca jak takim sprawdzić czy one bezpieczne czy nie potrzeba czasu, żeby teraz mogę stworzyć no i tutaj główny problem jest taki że, żeby tworzyć narzędzia czy tworzyć ewaluacji modelu to będzie pomysł potrwa parę miesięcy, a w tym czasie prawie 5 nowych modeli i takie badania to sensu są przestarzałe w momencie i to też SLD mówi, że takie badania na ubezpieczenia nie mogą się w ogóle dokończyć bo zanim się dokończyły by proces rzetelnie przeprowadzony pojawia się nowy model nie za chwilę nowy model tak dalej jest prośba też, że też podzielam to prośba jest prośba w tym liście o wstrzymanie badań lat sią inteligencję nie prośba, żeby zabrać eksperymenty wszelakie ta jest prośba konkretnie to, żeby trenować modeli większych niż GPP 4 aktualnie największy dostępny model publicznie, żeby robić większych modeli, dopóki nie rozumiemy co obecne modele jak działają co robią i są groźne brzmi rozsądnie no tak Tuczno oczywiście są głosy przeciw środowisku naturalnym głosem jest to, że być może utrzymywanie pracę dużymi grami językowymi szkodliwe lub dla ludzi, bo być może takie modne w latach od osiedla na raka my wstrzymujemy odkrycie np. tym, że zablokujemy rozwój tych modeli głosy są bardzo różne tutaj i trzeba dobrze wyważyć, żeby mieć jakąś opinię i rady miałby ważyć prawda, bo mówimy cały czas o 1 firmie, która zebrała zasoby wystarczające, żeby odpalić taki eksperyment jak lepiej eksperyment z tego rozumiem się powiódł dokonał się już przełom w badaniach i teraz co tak bowiem ich rękach prawda oni nikim tego nie zabroni, jeżeli chcieli zrobić chodzi o to, że to nie jest wina, który negocjacje społeczne mają normalnie miejscu nie ma takiego tak ciała nadzorującego jakiegoś ciała etycznego ale, żeby było na nad nauczycielami nie jak stan prawny firm ja pracuje w Instytucie badawczym, który z silnymi firma, która tworzy usługę jak oceniamy lat w stanach jak nas w tym prawdy tam regulacje takie firmy Kopę jaj stan faktyczny taki, że tak wydaje oczywiście, bo też niewielka firma działa w środku to oni byli w stanie swobodnie robić eksperymenty które, które za słuszne nie nie było to sposób ograniczonej też wydaje się chyba nikt tu powodu, żeby ograniczać jeszcze kilka lat temu natomiast też taką ciekawostkę powiem, że opel jaj taką pracę publikowało w już kilka temu w 10002020 roku i skalowaniu nadal językowych i to oni taką tezę powiedzieli posłowie taką postawę podczas właściwie, że z skanowanie czy zwiększanie model językowych to główny czynnik zwiększa ich jakość i oni potem chcą pracę opublikowali to postawić wszystko to kolejną kartę oni powiedzieć, że w takim razie my teraz inwestujemy ogromne zasoby skanowanie modeli moi my Week wzrost taki wzrost tak skalowanie czy powiększanie WIG wzrosną i mają tak wielki sukces znaczy GPP 3 czy Spółdzielcza zbity bok te 4 modele potężne, które były wielki na świecie sią prawda w obstawie dobrego konia tak teraz zobaczymy jak to jest ciekawe my mówimy o zatrzymaniu się w uruchamianiu eksperymentów na większą skalę równocześnie podejrzewam, że nawet ci, którzy ten list siecią wi-fi Instytut podpisali mogą być w grupie ludzi, którzy niechętnie skorzystali finansowo na takiej z takim sukcesie wyobrażam sobie, że konkurencja też prześciga się doścignąć mamy firmy opłynęli jaj jest też duża mówi po prostu o tym jak zakładaliśmy jak zasadza rynek no to mnie oceniać intencje polityczne czy gospodarcze ekonomiczne i autorów listu z tego co ja zamiast wybić w mieście to główna intencja to jest to, żeby badania nad sukcesem, żeby dogonić modeli jest główna intencja czy chcielibyśmy tego na pewno już tak na końcu Rzezawa trzeba też, że taką intencję też ma europejska europejska jej europejscy legislatorzy, którzy od 2 lat pracy z prawem regulującym jaj w tym prawie znajdzie się o tym obiecuje, że powiemy jeden z pań odcinków podcastu Panoptykon 40 jak to prawo miało wyglądać, ale tam będzie w nim wydaje się przesądzone rozdział o modelach językowych w ogóle modelach na zmiany fundamentalne właśnie taką intencją, żeby pewne standardy narzucić, jeżeli to przejdzie też uda to nie będą musieli amerykańscy biznesmeni i badacze z różnych ważnych uniwersytetów na Zachodzie wołać o moratorium tylko obowiązkiem twórcy takich modeli będzie zadbanie o pewne standardy w trenowaniu o przejrzystość większą niż teraz tego jak działa audytowane tych modeli, a więc naturalnie to spowolni może uzyskać taki efekt to będzie musiał być wolni i są też ciekawa czy twojej branży taka wyjaśniana inteligencja to jest jakiś ciekawy trend czy 2 trendy razem mogą nam dać nie uspokoją nas tutaj jakąś ciekawą trzecią drogę czy to jest także wyjaśnia ilość i to, o czym mówimy mówiąc o liczbie są 2 różne światy i 1 drugi ma niewiele wspólnego, bo nie da się wyjaśnić no logo będzie działaniem jak jest obecny on taki, że wyjaśniano jest bardzo pożądana i to nie tylko przez prawników czy osoby, aby oddawały taki model mogą też być lepiej rozumieć, dlaczego model działa tak inaczej tak samo ludzie, którzy używanych modeli zastosowania chcieliby rozumieć, kiedy może pomylić i kiedy jest powiedzmy jedynie artykuły np. prawda, ale problem taki, że to jest technicznie momencie nieosiągalne wyjaśnia gość oczywiście dogadają trwają są publikacje z tego tematu, ale status jest taki, że wyjaśnia gość postara bardzo wiele do życzenia mogę powiedzieć, dlaczego takie trudne w wywiadzie badał powiedzieć czym właściwie językowy tak od kuchni, żeby tam dojdzie do środka robilibyśmy miliardy liczb, żeby już takich rzeczywistych to są liczby typu 25 latka 7258 lipca miliardy i w tych liczbach kryje się informacja one zakodowana tam są dane osobowe w szczególności ludzi tam informacje o historii informacji o tym jak programować informację o bardzo wielu rzeczach, ale tego doczytać mnie mam pojęcia w jaki sposób informacja umieszczona oczywiście model z głosem odczytuje po drodze on on przetwarza wejście w te liczby są używane, żeby przetworzyć odpowiednio liczenia w rzekach obliczenia wewnątrz jak co wychodzi wynik, który jest tekstem, ale pod spodem zrozumienie co tu liczba robi czy za opowiada jest nie osiągane na tym będzie zupełnie trwają prace nad tym na bardzo małych modelach są eksperymenty to, żeby w Kaliforni, a jest firma tropi, która mnie się między badaniami nad wiecznością oni z dobitek zwęzili bardzo malutki model na tyle mały, żeby dało się za go obejrzeć w całości zatrudni ludzi, którzy realizowali przepływ informacji już samo to bardzo trudne bardzo kosztowne bardzo trudne, a wnioski też nie jak uniwersalne z tego elementu, więc problem taki, że w modelu danych jest bardzo dużo, ale w formie nas kompletnie rozumiały i tak samo, jakbyśmy chcieli ich danych od usunąć to jest to nie jest możliwe w łatwy sposób jak bazy danych w bazie danych mamy zapisane, że taka osoba jest pod rekordem w razie może tego usunąć w przypadku modelu językowego deformacja gdzieś tam jest rozproszona w modelu ale w jaki sposób nie mamy pojęcia ten kawałek o tym, że nie wiemy jak działają modele w środku nie mamy szansy dowiedzieć przejmie tematy którzy, które są tak atrakcyjne i tak dużo obiecują, bo nie był dla mnie w tym stycznie powinni się tego realnie obawiać czy myślę, że jakoś, że znajdziemy rozwiązanie tu wiele zależy od postawy wszystkich tak ja mam nadzieję osobiście, że ludzie stworzą po narzędzia dotyczące bezpieczeństwa i że że uda się kontrolować uda się odratować natomiast wymaga oczywiście dzięki dobrej woli współpracy my też funduszy inwestycji w ten temat bardzo chciałbym tak się stało i bardzo wspiera takie działania nawet rozważałem to, żeby samemu zajęcie dla bezpieczeństwa no natomiast nie może go bagatelizować one one trzeba, więc bardzo poważnie i stara się jak wiecie dobrego z tej sytuacji trudno wyciągnąć z OKS mogę powiedzieć, że jeżeli uda się europejska reforma prawa to na pewno rynek ludzi, którzy pracują bezpieczeństwem urośnie Włosi rzeczy rodzą się w to inwestować, więc może, chociaż taka dynamika pomoże nam się trochę zbliżyć do sytuacji, w której kontroli lepiej dziękuję bardzo, że dziś poświęcić czas, szczególnie że okres jest gorące moim gościem w waszym gościem był Tomasz odległość bardzo dziękuję, że 7 Katarzyna Szymielewicz to był kolejny odcinek podcastu Panoptykon 40 na pewno nie ostatni o usługi, więc do usłyszenia z Panoptykonu 40 Zwiń «

Jak działa sztuczna inteligencja? Zaglądamy do wnętrza chatu GPT

AUTOMATYCZNA TRANSKRYPCJA PODCASTU

PODCASTY AUDYCJI: PANOPTYKON 4.0

POSŁUCHAJ RÓWNIEŻ

DOSTĘP PREMIUM

SERWIS INFORMACYJNY

Wydanie z godziny 02:00

Najnowsze Podcasty

Jaki plan na rozszerzenie UE mają Paryż i Berlin? [raport]?

85 lat temu polskie wojsko wkroczyło na Zaolzie

Pod dyktando - serial radiowy. Odcinek czwarty: ''Profesorska cierpliwość''

Pod dyktando - serial radiowy. Odcinek trzeci: ''Wolność kocham i rozumiem''

TOK FM

Polecamy

Popularne

GOŚCIE TOK FM

Gazeta.pl

WYBORCZA.PL