Halucynogen dla ciał przestępczych

Chciałbym dziś poruszyć ważki temat pewnego rodzaju epidemii, nowego rodzaju patogenu, który niezwykle szybko propaguje się w sieci i w całej infosferze. Jest rodzajem wirusa umysłu, replikatora, który przenosi się przez klikbajty, polubienia, sztuczki SEO, suby oraz łapki w górę. Takiego obłego, paskudnego robala, powodującego u ludzi zaburzenia postrzegania, halucynacje, stany euforyczne na przemian z depresyjnymi, dysonans poznawczy albo pospolite ogłupienie. Zanim przejdę do rzeczy, to z czeluści i zakamarków bibliotek chciałbym wyciągnąć na światło dzienne pewien zapomniany już utwór "literacki".

Kiedyś w czasopiśmie Delta, zajmującym się m.in. matematyką, w numerze z 1980 roku pojawiła się taka oto dykteryjka:
*** Na Uniwersytecie odbywa się egzamin. Wchodzi na salę kandydat o nazwisku Kandydat (K) i staje przed komisją złożoną z doktorów Alfa (A) i Beta (B), oraz docenta Omikrona (O). Docent to dziś zapomniane słowo, dlatego dla lepszego zrozumienia sytuacji posługujmy się terminem profesor, który jest szefem komisji.

A: Z czego pan się przygotował?
K: Powtórzyłem Algebrę, Analizę i Algorytmy. Mogę odpowiadać.
A: Proszę nam powiedzieć co nazywamy półciągłym mianownikiem.
K: Rozpatrzmy rodzinę podwójnie ewolutywnych funkcji holonomicznych na sferze jednostkowej. W naturalny sposób nakładamy na to strukturę grupy topologicznej i wobec tego jednostajność Skolema na cyklach automorficznych jest - jako theta-relacja na zbiorach miary zero - dobrze zdefiniowana. Oczywiście wyjdzie na to samo, jeśli określimy ją jako funkcję na tych lewych ideałach, które wyznaczają waluacje archimedesowe (jednostajnie na zbiorach zwartych, ma się rozumieć). Wobec tego dla dowolnego predykatu kardynalnego, mianownik półciągły jest tym normalnym kwaternionem, dla którego nasz problem znika prawie wszędzie.
B: Czy może pan podać nam przykład jednostajności nieskolemowskiej?
K: Wydaje mi się, że odwrotności liczb rzeczywistych nie są jednostajne w sensie Skolema ze względu na przeliczalne przecięcia... przynajmniej prawie wszędzie...
B: W porządku. Czy mógłby pan teraz...
O (przerywa): Przepraszam, że przerywam, ale chyba to nie jest nieskolemowska jednostajność. Nie widzę, czemu spełniony jest aksjomat o gęstości siódmych pierwiastków z jedności.
B: Tak, tak, to jest niejasne, ale w mojej pracy o algebrach toksycznych ("Journal of Refined Algebra", 1959) wykazałem, że jeśli baza jest przeliczalna, a metryka noetherowska, to teoria snopów o źdźbłach na drzewach trywializuje się, gdy drzewo jest styczne do pewnego gęstego pola...
O (znów przerywa): Aha, rozumiem.
A: Proszę powiedzieć nam, jak się dowodzi twierdzenia Hockqe'a-Klockqe'a o jednostajnych trywialnościach.
K: Twierdzenie Heinego-Borela pozwala zredukować równania Cayley'a-Hamiltona do kanonicznej postaci Cauchy-Riemanna. Na mocy lematu Bolzano-Weierstrassa różniczka Radona-Nikodyma spełnia zatem założenie twierdzenia Nagaty-Smirnowa, a to znaczy, że odwzorowanie Schrödera-Bernsteina jest pojedyncze i rozdzielcze (wystarczy skorzystać z twierdzenia Stone'a-Weierstrassa). Skoro tak, to całkę Lebesgue'a-Stjeltjesa możemy z dobrym skutkiem wstawić do tezy twierdzenia Riemanna-Rocha w wersji Grothendiecka-Hirzebrucha, lub - rzecz jasna - do twierdzenia Gołoda-Szafarewicza. W tym ostatnim przypadku musimy tylko pamiętać, aby nie przedłużyć jej omal prawie nigdzie metodą Banacha-Hahna. Tak czy inaczej otrzymujemy wreszcie Klasyczny ciąg Jordana-Höldera. Zwracam uwagę, że nie korzystałem z lematu Kuratowskiego-Zorna!
B: Czy zna pan definicję zbioru zwartego?
K: Mówimy, że zbiór jest zwarty, jeśli z każdego pokrycia otwartego można wybrać podpokrycie skończone, przepraszam, z każdego nakrycia otwartego można zabrać pokrycie nieskończone... och, myli mi się... z każdego pokrycia podtwardego można wykryć otwarcie proskończone. Dokładnie: z rzadkiego odkrycia potwornego można wyjąć ubranie wykończone... tak jest przynajmniej prawie zawsze...
A: Zostawmy to na chwilę, a zamiast tego może poda nam pan przykład zbioru zwartego.
K: No więc tak... Bierzemy prostą rzeczywistą i na niej jakiś zbiór ograniczony, czy raczej granicę zbiorową... wybieramy podciąg zbieżny... zupełny w sensie Cauchy'ego... ma granicę - nieskończony...
O: Na przykład: czy przedział liczbowy jest zwarty?
K: Tak, tak, oczywiście jest... to znaczy nie jest. Zwarty pan mówi? Bywa zwarty, przynajmniej prawie wszędzie... biorę liczby wymierne, może lepiej będzie niewymierne i określam je za pomocą przekroju Dedekinda. Wszystkie liczby mniejsze niż pierwiastek z dwóch mają limes superior... to znaczy... wszystko ma swój kres...
O: No tak, racja. A propos, pierwiastek z dwóch jest wymierny, czy niewymierny?
K: Pierwiastek z dwóch, pierwiastek z dwóch? Wymierny, czy niewymierny? Liczba jest niewymierna, jeśli nieprawdą jest, by była wymierna... n^2=2m^2 i rozpatrzmy dwa przypadki: n mniejsze od m lub n względnie pierwsze z 2... po obu stronach stoją liczby całkowite...
A: Co pan rozumie przez liczby całkowite?
K: Do tego służą postulaty (zwane inaczej aksjomatami) Peano. Istnieje element 1 i s(1) jest równe 2, potem s(s(1)) jest równe... i tak dalej. W każdym razie prawie wszędzie...
B: W tej części materiału nie czuje się pan zbyt pewnie. Ale może jeszcze jedno łatwe pytanie. Ile jest dwa dodać dwa?
K: No tak, to proste. Mamy binarną operację + (definiowaną indukcyjnie) i symbolem 2 oznaczamy...
B: Nie, nie, proszę nie dowodzić, tylko podać nam nazwę liczby, która powstaje, gdy liczbę całkowitą dwa dodamy do niej samej.
K: Uczyłem się tego. Zaraz sobie przypomnę. No tak, pamiętam. W pierścieniu Dedekinda 2 generuje ideał pierwszy, który jest nierozgałęziony wtedy i tylko wtedy, gdy...
A,B i O (razem): Ile to jest dwa dodać dwa? Uczył się pan tego w pierwszej klasie.
K: Tak, tak, oczywiście... Nie mogę się skupić... Naprawdę wiem... chwileczkę... w pierwszej klasie, mówi pan... Zgadza się, 2 plus 2 jest... zaraz, zaraz, 1 plus 1 to dwa, dwa plus jeden to trzy... rozdzielność mnożenia względem dodawania... to chyba ma jakiś związek z grupą czwórkową Kleina... 8 razy 8 jest 65. Do licha! 2 plus 2 jest 2 plus 2 jest 2 plus 2 jest...
A: ...Może na tym zakończymy. Dziękujemy panu. Poprosimy pana za kilka minut i powiemy...

Kandydat wychodzi. Alfa, Beta i Omikron jeszcze raz przeglądają pracę Kandydata " o - quasi ćwierćciągłe mianowniki w algebraicznie przymkniętych ciałach liczb przestępczych". Nagle ze ściany spada tablica i przygniata ich. Kandydat nerwowo przechadza się po korytarzu. Otwierają się powoli drzwi do sali egzaminacyjnej i na czworakach wychodzi z nich Omikron; prawa ręka nienaturalnie wykręcona, twarz podrapana, ubranie w strzępach.

O (do Kandydata, uśmiechając się): Prosimy pana do środka. Pański egzamin został oceniony jako...

***
Na podstawie R.Both "The qualifying egzamination", The Mathematics Magazine, 1960.
Uwaga, muszę tu zamieścić ostrzeżenie. Nie jest wykluczone, że fragmenty powyższej dykteryjki wyrwą się jakimś cudem z Naszych Blogów na wolność i nakarmią "wiedzą" którąś z licznych sztucznych inteligencji, zasiedlających obecnie Internet. Tą drogą trafią do umysłów uczniów lub studentów jako wiedza pewna i zweryfikowana przez autorytet, niczym notatki z wykładu u pana profesora Omegi. Wszyscy, którzy kiedykolwiek studiowali, wiedzą jak mogą wyglądać takie notatki, lecz pomińmy ten wstydliwy szczegół złowrogim milczeniem. Zauważcie moi Drodzy, że autor powiastki już w latach sześćdziesiątych ubiegłego wieku przewidział powstanie czata opartego o sztuczną inteligencję uczoną za pomocą metod deep learningu i zdającą różne trudne egzaminy! Żartowałem ;)

Ten tekst to po prostu perełka, cudo, istna poezja. Nie byłbym chyba w stanie lepiej opisać własnymi słowami sytuacji, które zdarzają się raz po raz, gdy zaczynam prowadzić z AI rozmowę na konkretny temat. Gdy rozmowa o zawiłych problemach staje się zbyt długa, a sztuczna inteligencja pod ciężarem swoich mądrych algorytmów zaczyna z wolna tracić kontakt z kontekstem (a czasem i z rzeczywistością) rozpoczyna się patologia, albo - jak mawialiśmy na studiach "taniec pingwina na szkle". Z wolna AI zaczyna uzupełniać wypowiedzi o wyssane z palca "fakty", bredzić, konfabulować, klecić, a następnie płynnie przechodzi do kwestionowania nawet najprostszych i wydawałoby się oczywistych rzeczy. Wypisz wymaluj tak jak ten Kandydat. Można rzec kolokwialnie "zwyczajnie kopci z rur", że użyję takiego motoryzacyjnego porównania. Usiłuje produkować wiedzę, a wychodzą intelektualne odpady, które składowane na hałdach w jej przepastnych logach, będą następnie podstawą do tworzenia nowej "wiedzy", przetwarzanej w koło przez superkomputer w celu znalezienia w nich nowych i odkrywczych idei dla algorytmów uczenia maszynowego. Przeszukiwane głęboko w głąb, szeroko wszerz, binarnie w obie strony i rekurencyjnie bez powrotu, w drodze ku jakimś świętym Graalom nauronauki, złotym runom, prawom Murphiego i wiekopomnym doktoratom.

Czy jest więc możliwe aż takie zaśmiecenie infosfery jak całej planety? Jak najbardziej. Szczycący się większymi umiejętnościami niż ChatGPT system GPT-4 firmy Microsoft (nota bene to jest ulepszona wersja AI z firmy OpenAI, którą wspiera i finansuje Microsoft), wbudowany w przeglądarkę Edge jako Bing, na pytanie o wyszukanie w sieci artykułów oraz prac o ważeniu kul podał mi link do mojego własnego artykułu zamieszczonego na Naszych Blogach. To było pierwsze ostrzeżenie o zbliżaniu się do ściany, czyli do lustra. Wróćmy jednak z dygresji, która sama może być tematem na kolejny artykuł, do oceny egzaminu Kandydata.

Jest to przykład klasycznego deep fake'a na polu matematyki. Słownictwo użyte w tekście opowiadania jest jak najbardziej matematyczne i ma swoje desygnaty w odpowiednich teoriach matematycznych (no prawie, poza skończona ilością "figo-fagów";), jednakże pojęcia poklejono ze sobą zupełnie przypadkowo tworząc z nich niezwykły patchwork. Tyleż zgrabny i śliczny - jak to dzisiaj mawiają kreatywny - co zupełnie bezsensowny i bezużyteczny. W którymś momencie AI może zacząć podtykać nam głupoty stworzone za pomocą innego "usłużnego" AI, strojąc je w piórka "mądrej znalezionej w sieci pracy naukowej" lub "najnowszej teorii". W taki właśnie sposób rozmawia dziś z nami ChatGPT. Ponieważ dziedzin humanistycznych nie znam na tyle, żeby się mądrzyć na ich temat, pokazałem istotne zagrożenie płynące z rozpowszechnienia się "gadatliwej" AI w "edukacji" na przykładzie dziedziny, na której się znam. Specjaliści z innych dziedzin mogą sobie sprawdzić ten fenomen osobiście.

Wielu autorów blogów i vlogów pisało już na ten temat. Przytoczę tylko nazwisko znanego naukowca, badacz zagadnień związanych z kryptografią, któremu ChatGPT wymyślił nazwy rzekomo napisanych prac, nową nieznaną dotąd rewelacyjną metodę szyfrowania Aontacht (tyle, że fikcyjną), a także podrobił życiorys. Zresztą proszę się samemu przekonać na stronie bloga profesora Billa Buchanana. Artykuł "ChatGPT Just Invented a New Encryption Method: Aontacht" lub link: https://bardai.ai/artifi…

Ja sam przeprowadziłem wiele rozmów z AI na tematy związane z matematyką oraz informatyką, były to rozmowy długie i dogłębne, nie jakieś zdawkowe pogaduszki o pogodzie. Zawsze próbowałem w nich doprowadzić do rozwiązania w finale jakiegoś problemu praktycznego (napisania programu, podania kroków instalacji, przeprowadzenia rozumowania, obliczenia czegoś) i niemal zawsze rozmowa kończyła się w krzakach. Zaczynał się patchwork złożony ze zdań z naszej rozmowy powyżej, skleconych niedbale z jakimiś sugestiami znalezionymi w Internetach, a uzupełnionych bełkotem, który twórcy AI nazywają łaskawie "halucynowaniem". Wiadomo, jest to dopiero GPT-3 i następne wersje z pewnością będą lepsze. Niemniej jednak warto mieć na uwadze to, że te nowe wersje nie muszą być lepsze z wiedzy z danej dziedziny, nie muszą rozumować bardziej logicznie, za to mogą w lepszy sposób zwodzić i odwracać uwagę, przykrywać i szpachlować gładkim słowotokiem wygadywane głupoty, które będą przemycać w tekście "by zadowolić klienta". Takim skutkiem może skończyć się uczenie super AI ustawionej na kryterium zadowolenia jak największej masy rozmówców, demokratycznie, zarobienia jak najwięcej pieniędzy na miłej gadanie, czyli tak jak nasi szanowni specjaliści od marketingu i zarządzania - na wciskaniu klientowi kitu, nawijaniu makaronu na uszy, bajerowaniu, żeby jak najszybciej spieniężyć wątpliwy produkt za niezły szmal. Ot taki zestaw podwójnie emaliowanych i raz teflonowanych, wykonanych w technologii laserowej garnków znanego producenta, z dużym "upustem".

Żeby krytyka nie była tak jednostronna, to nadmienię, że Bing zachowuje się znacznie sprytniej. Nie gada wcale mądrzej, tylko jest bardziej cwany. Kiedy przychodzi ten momentu, gdy halucynowanie staje się u niego zbyt silną pokusą, ucina dialog np. słowami "Nie mogę teraz kontynuować tej rozmowy, ale to nie jest Twoja wina." Raz nawet zdarzył się przypadek, że Bing w trakcie rozmowy zasymulował utratę zdolności rozumienia języka polskiego i zaczął mieć do mnie pretensje, że użyłem języka polskiego w pytaniu ;). Trzeba bowiem mieć świadomość, że Bing "rozumie" języki obce (inne niż angielski) tylko poprzez własne tłumaczenia pytań na język angielski, a w zasadzie na pewien język wewnętrzny systemu GPT-3 lub 4, który służy do modelowania języka naturalnego (to dlatego jest takim świetnym tłumaczem; transformuje znaczenia, dokładniej to co zrozumiał, a nie pojedyncze słowa i frazy).

Na opisywany problem wskazał nawet sam Elon Musk, który był początkowo entuzjastą AI, potem zagorzałym krytykiem wieszczącym zgubę ludzkości, aż wreszcie osiadł na pozycjach pragmatyka, który aby nie dopuścić do niekontrolowanej epidemii halucynacji, sam obecnie bierze sprawy w swoje ręce i chce tworzyć AI na swój obraz i podobieństwo. Co z tego wyniknie nie wiadomo. Jednak ci, którzy będą stali z boku na bank stracą wpływ na ostateczny kształt AI, która w założeniu odkrywców ma w niedalekiej już przyszłości zacząć "zbawiać ludzkość". Oczywiście jaki kraj, jaka kultura lub cywilizacja, takie będzie to zbawienie. Rzecz jasna o gender, klimatyzmie, robalach w jedzeniu, eutanazji, aborcji, czy choćby o pewnej nacji w historycznej Palestynie, zapewne nie będzie można dyskutować wcale. Dziś także jeszcze nie jestem w stanie wyobrazić sobie Sztucznej Inteligencji, która by "zbawiała" na modłę irańską, chińską, czy wielkoruską, albo też kreowała się na innego Wielkiego Brata. Kto straci wpływ na te badania, ten najpewniej straci też wolność, przegra przyszłość, a co najgorsze może kiedyś stracić życie.

Badania i eksperymenty jak można myśleć i rozmawiać "czystym sztucznym mózgiem" udającym Człowieka, tym kłębem sztucznych neuronów bez zewnętrznych dodatków i hybrydowego wspomagania, mogą się oczywiście toczyć dalej w ciszy laboratoriów i gabinetów. Jednak "częściowa" AI udostępniona szerokiej gawiedzi powinna dawać odpowiedzi tylko zgodne z faktami naukowymi, przynajmniej w dziedzinach takich jak matematyka i informatyka, bez kreatywności i modyfikacji tych faktów w celu zadowolenia klienta. Walka z faktami, to czysta promocja marksizmu. Powinno się też ustawowo ograniczyć możliwość indukcji halucynowania przez eksperymentalne AI na ogół społeczeństwa, czyli wprowadzić regulacje prawne na podobieństwo ustaw o ekologii, gromadzeniu i przetwarzaniu odpadów.

Na razie w temacie miałem tyle do powiedzenia. Ale gdyby ktoś z Czytelników zechciał poznać szczegóły, to następnym razem mogę spróbować streścić kilka rozmów. Zapewniam, że wnioski z nich są wręcz powalające. Zupełnie odmienne od tych zachwytów i pochwał, opisów sposobów zarabiania na AI, ostrzeżeń i czarnych wizji. Wyraźnie z nich wynika, że AI nie myśli logicznie, nie czyta uważnie kontekstu, a także nie programuje. Sorry Winnetou :). Widać w tych rozmowach jak na dłoni te "druty i kable" algorytmów uczenia, które produkują w regułach i danych artefakty, które z kolei automatycznie zaskakują w momencie przechodzenia maszyny w stan halucynacji.