|
|
Dark Regis W sprawie Naviera-Stokesa rozmawiałem z paroma modelami i wniosek jest niezmiernie ciekawy.Gdyby równania nie zawierały jawnego wejścia w osobliwość, to nie dałoby się ich poprawności udowodnić ludzkimi siłami, bo zawierają zbyt wiele przypadków. Co oznacza poprawność? Każdy motorowodniak to powinien wiedzieć. Równania te nie opisują turbulencji i zjawiska kawitacji. Czyli wykrzaczają się nie na jakieś mitycznej "nieskończonej prędkości", ale już przy prędkości dźwięku, a co dopiero mówić o prędkości światła. Są niefizyczne w przewidywaniach.Człowiek nie jest w stanie przedstawić dowodu twierdzenia, którego nie obejmuje z powodu rozległości mózg homo sapiens. Zresztą środowisko matematyków od razu by to zakwestionowało z defaulta.Większość nowych problemów w matematyce, poza paroma przypadkami, znacząco przekracza ludzkie zdolności operowania symbolami, a co za tym idzie aby człowiek miał szansę w tych zawodach, to musi tworzyć nowe języki oraz intuicje. Czyli nową mechanikę działania na symbolach i kompresje stratną, aby rozumieć mniej więcej co w ogóle robi.Zapewne zaraz zostaną przedstawione rozwiązanie niektórych problemów z kombinatoryki, które wymagają generalnie brutalnej siły, a nie zdolności pojmowania ludzkiego. To zaś spowoduje, że matematyka stanie się maszynowa. Koniec z panami profesorami drapiącymi kredą po tablicy ;o) |
|
|
Grzegorz GPS Świderski Zgadzam się co do dwóch realnych problemów: model potrafi nadmiernie przytakiwać użytkownikowi i potrafi na siłę sklejać ze sobą kolejne wątki rozmowy. Niemniej za dużo przypisujesz samej wykreowanej personie.Persona może te błędy wzmacniać, ale ich źródło jest głębsze. Model z definicji dostaje kontekst wcześniejszej rozmowy i próbuje wygenerować odpowiedź, która będzie z nim spójna. Czasem przesadza i zamiast uznać, że zmieniliśmy temat, zaczyna budować sztuczny most między tematami z sesji. To bardziej problem nadmiernej koherencji niż samej persony.Podobnie z kadzeniem. To znany problem. Model, zamiast powiedzieć: „to jest błędne”, próbuje być pomocny, zgodny i miły, więc opakowuje bzdurę w ciekawą intuicję. Persona może z tego zrobić groteskę, ale nie tworzy problemu od zera. Bo oprócz opisu persony, który zrobi użytkownik, istnieją jeszcze instrukcje nadrzędne, polityki bezpieczeństwa, filtry i inne mechanizmy sterujące zachowaniem publicznego chatbota. Choćby po to, żeby nie pomagał konstruować bomby, nie zamieniał się w narzędzie do włamań albo w całkowicie pozbawionego ograniczeń oficera OSINT. Ostatnio przy takich badaniach białowywiadowych wyraźnie się na to natknąłem. Zobacz, co tu w PS napisałem: naszeblogi.pl/77399-scenariusz-ktory-spina-wszystkie-fakty-w-sprawie-kradziezy-danych-medycznych-polowy-polakowSuchy model, który wszystko daje w punktach, też może bredzić — tylko bardziej elegancko. Może wypisać pięć punktów, z których każdy wygląda analitycznie, a całość nadal będzie oparta na fałszywym albo ukrytym założeniu. Format punktowy ogranicza lanie wody, ale nie gwarantuje poprawnego rozumowania.Kluczowe rozróżnienie jest moim zdaniem takie, że personalizacja powinna zmieniać formę odpowiedzi, a nie fakty. Model może wiedzieć, że ktoś lubi ironię, krótkie odpowiedzi albo techniczne przykłady. Jednak nie powinien zmieniać oceny rzeczywistości ani na siłę dopasowywać nowych tematów do starych rozmów.Problemem nie jest samo to, że AI pamięta, że wcześniej opowiadałeś kawały, tylko to, czy potrafi odróżnić informację istotną dla nowego pytania od przypadkowego tła. W publicznie dostępnym chatbocie nigdy nie dostajesz po prostu czystego modelu. Dostajesz cały produkt zbudowany wokół modelu z instrukcjami systemowymi czy mechanizmami bezpieczeństwa. Naprawdę surowy model można sobie uruchomić lokalnie, ale przy domowym sprzęcie będzie on zawsze dużo słabszy od najnowszych modeli publicznych, czy też z lokalnymi agentami korzystającymi publicznych API.Świetnie pokazuje to obecna rewolucja matematyczna. Matematycy korzystający z publicznych Codexów i Claude'ów potrafią z nimi dojść bardzo daleko, ale laboratorium może zrobić coś, czego zwykły użytkownik nie zrobi: uruchomić niepubliczny model, dać mu ogromny budżet tokenów, postawić tysiące agentów równolegle, pozwolić im wzajemnie sprawdzać wyniki i przez kilka dni mielić jeden problem. OpenAI przy problemie Naviera–Stokesa użyło około 10 tysięcy agentów i około 130 miliardów tokenów. To już nie jest "pogadałem sobie z chatbotem", tylko właściwie sztuczny instytut matematyczny.I wokół tego powstał niedawno teraz ciekawy spór. Matematyk, który pracuje w Anthropic, prowadzili własne badania, korzystając między innymi z Codexa i Claude'a. Potem OpenAI przedstawiło swoje rozwiązanie podobnego problemu i on zaczął publicznie pytać, czy firma nie skorzystała pośrednio z informacji pochodzących z jego wcześniejszej pracy z jej narzędziami. OpenAI temu zaprzecza, choć przyznało, że nie może całkowicie wykluczyć, iż zanonimizowane dane z używania produktów wcześniej pomagały ulepszać modele.Model, który dostaje użytkownik w okienku czatu, i możliwości laboratorium, które ten model stworzyło, to dwie zupełnie różne rzeczy. Dopiero to drugie to w pełni suchy model. Nie tylko z powodu persony czy filtrów, lecz przede wszystkim z powodu dostępu do samego modelu, infrastruktury, narzędzi, mocy obliczeniowej i możliwości organizowania tysięcy jego instancji w jeden system.Niemniej nadrzędne filtry i dodatkowy trening są tu ważne. Przeprowadzono wiele badań pokazujących, że modele pozbawione post-treningu bezpieczeństwa rozumowały dużo lepiej niż te z tym dodatkowym treningiem. Jednak ich nie można upublicznić, bo by szybko skonstruowały bombę atomową i wszędzie się włamały. Można więc wysnuć teorię, że niemoralny psychopata jest mądrzejszy od ludzi wychowanych na Dekalogu. |
|
|
Dark Regis Ja mam w tym względzie lepiej, bo używam modelu "suchego", który mi wrzuca wszystko w punktach bez gadania o wszystkim wokół. Ale jeśli np. ktoś używa się Gemini, czy ChataGPT z niewłaściwą dla swojego stylu i osobowości personą, to mogą wyjść śmieszne rzeczy. Najzabawniejsze to stworzenie persony kadzącej, która przytakuje na wszystkie brednie użytkownika. Drugi przypadek, to stworzenie persony, która wszystko próbuje połączyć w rozmowie ze sobą. Przykładowo pytanie o piłkę nożną, a potem o książkę z programowania może skutkować wygenerowaniem wypowiedzi w stylu "Masz całkowitą rację. Sukces drużyny Polski zależy w istotny sposób od liczby przeczytanych książek i potwierdza to obserwacja nocnego nieba" ;). Może nie dosłownie tak, ale bardzo blisko. Warto pamiętać, że firmy "ułatwiają" użytkownikowi tworzenie person z historii rozmów, więc jeśli ktoś opowiadał kawały i nagle chce zgłębiać nauki, to może się nieźle naciąć ;) |
|
|
spike dominuje opcja 2, nie tylko na NB, praktycznie wszędzie, czy to z lenistwa, czy głupoty, pewnie jedno i drugie. Opracowania z wykorzystaniem AI, podobnie jak z własnym szukaniem po źródłach, wymagają osobistego opisania materiału, np. u @świderskiego, widać typowe skopiowanie treści, forma i język nie pokrywa się z tym co sam napisze, to tak jak się na klasówce zrzyna od kolegi. - - - - - - Sam korzystam z AI jak czegoś szukam, albo mam jakiś problem, często podczas "rozmowy" znajduję inne rozwiązania, czy pomysły, jak to bywa podczas dyskusji na dany temat, a jak dostaję info o czymś czego nie znam, to szukam w sieci potwierdzenia. Nie jest problemem korzystanie z AI, tylko przypisywanie sobie nie pomocy, a "jego" pracy, jako własne. |
|
|
Grzegorz GPS Świderski Po co to pisać, jeśli rozmawiamy tu z debilem, który nie rozumie tego, co to jest plagiat, a co dopiero AI? On tego nie ogarnie, a reszta to dobrze wie. |
|
|
Grzegorz GPS Świderski Temat plagiatu jest tylko w twoim chamskim łbie, debilu. Swoim chamstwem systematycznie degradujesz ten portal: naszeblogi.pl/74926-systemowy-problem-portalu-jak-toksyczni-uzytkownicy-niszcza-cala-wspolnote |
|
|
Grzegorz GPS Świderski Która TV to mówi?: naszeblogi.pl/77599-ktore-ludzkie-polemika-z-esejem-alien-mind |
|
|
u2 "AI Slop jest po prostu głupie!"Ten typ tak ma. Kiedyś określało się to, że mówisz jak telewizor, albo wersja angielska, you talk like BBC.Oczywiście rodzaj mediów z których ludzie korzystają wpływa na ludzi, ale i według McLuhana jest komunikatem kim ludzie są. Ludzie mówią tak jak im media tołkują. W drugą stronę raczej oddziaływanie pojedynczych ludzi na media jest znikome. BBC nadal gada jak BBC. TV gada jak rasowy manipulator, który wbija przekaz podprogowy. Im więcej przekazu podprogowego, tym skuteczniejszy przekaz. Nie inaczej jest w dobie internetu. Im większe zasięgi "influencera", tym więcej powtarzania głupot. Urabianie odbiorców trwa w najlepsze. Wyrażajac się Gombrowiczem trwa upupianie ludzi. Bo Słowacki wielkim poetą był, ale nikt już nie wie dlaczego :) |