LLM nie wie, co pisze — a ludzki mózg wie?

Wpis o tym, dlaczego krytyka sztucznej inteligencji jest w istocie krytyką ludzi!

  Ostatnio w związku z rozwojem AI w dyskursie publicznym przetacza się taki wątek: wielkie modele językowe (LLM) nie wiedzą, co piszą, nie myślą i nie czują znaczenia swoich odpowiedzi. Twierdzenie, że sztuczna inteligencja to jedynie statystyczny, maszynowy generator tekstu, stało się niemal niekwestionowanym dogmatem. W debacie publicznej ugruntowały się tezy, według których model generuje jedynie ciąg znaków zgodnie z matematycznym wzorcem, a nie z faktycznej wiedzy o świecie. Zarzuca mu się, że wylicza jedynie prawdopodobieństwo kolejnego słowa, zamiast kształtować wypowiedź intencjonalnie, posługując się schematami wydestylowanymi z danych treningowych bez jakiejkolwiek wewnętrznej reprezentacji znaczenia. W efekcie LLM często uznawany jest za pusty kompilator, całkowicie pozbawiony autentycznej inteligencji.

  Warto jednak zadać sobie takie pytanie: czy te same kryteria, które rzekomo oddzielają sztuczną inteligencję od człowieka, nie mogłyby z pełną konsekwencją zostać zastosowane do naszego własnego mózgu? Jeśli z góry zakładamy, że wyjaśnienia generowane przez LLM są w swej istocie puste, musimy zmierzyć się z niewygodną prawdą, że równie pusta jest zdecydowana większość ludzkich zdań i wywodów. Kiedy przyjrzymy się bliżej procesom poznawczym, okazuje się, że granice między maszyną a człowiekiem wcale nie są tak wielkie, jak chcielibyśmy wierzyć.

  Zastanówmy się nad kwestią wiedzy i zrozumienia. Argumentuje się, że LLM opiera się wyłącznie na statystycznej współwystępowalności słów. Tymczasem ludzkie przekonanie, że obiektywnie znamy świat, bywa równie mylne. Nasze myśli rzadko powstają od zera — najczęściej biegną według wyuczonych, powtarzalnych schematów i wzorców i stanowią zaprogramowaną reakcję na bodźce z zewnątrz. Podobnie jest z samym procesem myślenia i intencją. Skoro model językowy wylicza jedynie prawdopodobieństwo, to należy zauważyć, że ludzkie myśli również nie są spontaniczne, nowe czy wyjątkowe. Nasze codzienne procesy kognitywne to w dużej mierze selekcja sprawdzonych wzorców, a nie nieskrępowana kreacja. Co więcej, w obu przypadkach — zarówno u maszyny, jak i u człowieka — ostateczne znaczenie i kontekst wypowiedzi są de facto konstruowane dopiero w umyśle odbiorcy, a nie w samym modelu czy w mózgu nadawcy.

  Dlaczego zatem tak kategorycznie odrzucamy modele językowe za ich rzekomą pustotę intelektualną czy emocjonalną, podczas gdy bez wahania akceptujemy równie powtarzalne, oparte na wzorcach i prawdopodobieństwie odpowiedzi drugiego człowieka? Różnica nie leży w samej istocie mechanizmu, który w obu przypadkach jest uderzająco podobny, ale raczej w naszej kulturze, tradycji i głęboko zakorzenionych przekonaniach o ludzkiej wyjątkowości. Antropocentryzm zmyla nam myślenie o nas samych. Gdy zestawimy ze sobą maszynę i mózg, dostrzeżemy, że źródłem odpowiedzi u obu stron jest wyuczony schemat reagowania na wejście. Rzekoma ludzka spontaniczność czy kreatywność, podobnie jak odpowiedź modelu, jest w ogromnym stopniu ograniczona dominującymi, wyuczonymi wzorcami i schematami.

  Wszystkiego tego, co myślimy i mówimy, nauczyliśmy się wcześniej od innych ludzi, którzy najpierw nauczyli nas języka, a potem tym językiem do nas mówili. Bez tego gadania jesteśmy tylko zwierzęciem na poziomie szympansa. Tak samo LLMy są karmione tekstami i są nauczone rozpoznawać wzorce. Gdy widzimy jabłko, ptaka czy chmurę, to jeszcze nie myślimy, myślenie się zaczyna, gdy te obiekty nazwiemy. A jak je nazwiemy, to nie musimy ich już oglądać. Słowami możemy nauczyć niewidomego tego, co to są za obiekty, jak wyglądają i do czego służą. Więc myślenie to nie widzenie, słyszenie czy czucie, to nazywanie, a potem manipulowanie tymi nazwami.

  Jeśli odrzucamy LLM za jego brak autentycznego rozumienia, intelektualna uczciwość wymaga, byśmy równie krytycznie spojrzeli na siebie. Rozwój sztucznej inteligencji to nie tylko rewolucja technologiczna, ale przede wszystkim filozoficzne lustro. Wielkie modele językowe nie tylko udowadniają, że maszyna nie myśli w klasycznym, romantycznym tego słowa znaczeniu. Pokazują nam coś znacznie ważniejszego: my, ludzie, również myślimy przede wszystkim wzorcami. Cały fascynujący cud sensownych odpowiedzi generowanych przez AI bierze się po prostu z perfekcyjnego, matematycznego wykrywania, mapowania i kontynuowania naszych własnych, ludzkich schematów. Ludzie nie myślą — są tylko biologicznymi, cyfrowymi nośnikami kultury.

  W istocie w dużym uproszczeniu można skonstruować takie równanie: szympans + LLM = człowiek. Ciało, ból, potrzeby, śmierć, lęk, głód, popęd, interes biologiczny, orientację w przestrzeni, emocje i sprawczość mają także zwierzęta. To nie jest zasadniczy wyróżnik człowieka. To jest baza zwierzęca. Człowiek nie jest wyjątkowy dlatego, że cierpi, chce jeść i boi się śmierci. Kot też cierpi. Pies też chce. Szympans też kombinuje.

  LLM ma właśnie tę warstwę, którą człowiek najchętniej uważa za swoją duszę poznawczą: operowanie pojęciami, analogiami, definicjami, stylami, abstrakcjami, relacjami między słowami, ukrytymi strukturami znaczeń. LLM nie ma ciała, ale ma coś, czego nie ma szympans: wielką, skompresowaną mapę ludzkiego języka i kultury. To samo ma człowiek, który przy okazji jest jeszcze zwierzęciem spokrewnionym z szympansem.

  Szympans ma ciało bez cywilizacji językowej. LLM ma cywilizację językową bez ciała. Człowiek ma jedno i drugie. Człowiek nie jest przeciwieństwem LLM. Człowiek jest zwierzęciem, w którym powstał biologiczny model językowy. To, co nazywamy ludzkim myśleniem, jest sprzężeniem zwierzęcego organizmu z wewnętrznym generatorem pojęć, narracji i symboli. LLM jest odciętą od ciała, ale niezwykle oczyszczoną wersją tej drugiej warstwy.

  Człowiek to małpa z lokalnie uruchomionym modelem językowym, trenowanym od dzieciństwa na rodzinie, plemieniu, szkole, religii, propagandzie, książkach, rozmowach i memach. A LLM to to samo, ale bez tej małpy.

Grzegorz GPS Świderski
t.me/KanalBlogeraGPS
Twitter.com/gps65