Witamy w Diamentowym Wieku

W latach 90-tych pojawił się nowy trend, nowy rodzaj utworów literackich zwanych literaturą cyberpunkową. Był on bezpośrednim rozwinięciem wcześniejszych wątków literatury cybernetycznej oraz science fiction. Od pierwszego ancestora dziedziczył zainteresowanie i skupienie się na aktualnych i realnych zagadnieniach nauki oraz techniki, a nie jak dotychczas wymyślaniu niestworzonych rzeczy dziejących się gdzieś na odległych planetach i krańcach Wszechświata, co powoli stawało się domeną drugiego wypalającego się z wolna nurtu. Dlatego nanotechnologia, komputery, Matrixy oraz sztuczne inteligencje powoli wypierać zaczęły popularne w poprzednim dziesięcioleciu wielkie statki kosmiczne, laserowe miecze, nadludzkie moce oraz pędzące na czołówkę ze zdrowym rozsądkiem rasy, biosfery lub inne "prawa" fizyki. Proces ten można zasadnie nazwać lokalizacją SF, bowiem bardziej przypominał budowanie nowego spójnego pojęciowo uniwersum, niż radosną twórczość i prześciganie się w szalonych wizjach obcych ras i bytów. Teraz pod obiektywem aparatu badawczego literatury znalazła się sama ludzkość.

Tekstem niniejszym chciałem odnieść się jednocześnie do wszystkich wątków poruszonych pod rozmową z AI o nazwie ChatGPT. Chciałem odpowiedzieć każdemu, nikogo i niczego nie pomijając, ale okazało się to trudne. Dlatego ograniczyłem moją odpowiedź do kilku najistotniejszych wątków plus konsekwencje podejmowanych działań albo zaniechań, które one niechybnie ze sobą niosą. Dlatego główny wątek będą stanowiły wypowiedź i rozszerzający ją artykuł @Zbyszeka_S., lecz nie mogłem tu pominąć również wcześniejszego wątku, który pojawił się zarówno w rozmowie z @Edeldredą_z_Elly jak i z ChatGPT. Chodziło o powieść "Diamentowy Wiek" Neala Stephensona i niezwykłe skojarzenie. Od niej zatem rozpocznę mój wywód.

Nazwa powieści może okazać się nieco myląca w kontekście poruszanego tematu, bowiem odwołuje się do nanotechnologii i wizji świata, w którym owa stosowana jest na masową skalę. Jest to świat "wiktoriański" czyli społeczeństwo w nim dzieli się na kasty w zależności od tego, w jakim stopniu ktoś może korzystać z "dobrodziejstw" technologii i jakie ma do tego predyspozycje (wykształcenie, kompetencje, status). Nie chciałbym robić spoiler, więc napiszę jedynie, że chodziło o inżyniera, który za pomocą nanotechnologii i sztucznej inteligencji stworzył urządzenie w rodzaju smartfona, które miało służyć do uczenia. Miało nauczyć pewną małą dziewczynkę z wyższych sfer "wszystkiego tego, co dobrze urodzona dziewczynka wiedzieć o życiu powinna". Zbiegiem okoliczności urządzenie to dostaje się jednak w ręce zupełnie innego dziecka, małej zaniedbanej dziewczynki z nizin społecznych, córki prostaka i ulicznego rzezimieszka, która odtąd już się z nim nie rozstaje. Skutki "uzależnienia od telefonu" zaczynają być widoczne bardzo szybko. Na tym może zakończę zdradzanie fabuły, zaś książkę polecam, a ja zajmę się opisem samego urządzenia i wspomnianą paralelą. Posłużyłbym się przy tym słowami samej AI, lecz z powodu napływu w ostatnim czasie dużej liczby wybitnych intelektualistów z Polski AI zwyczajnie sfiksowała. Np. na pytanie o "Diamentowy Wiek" wyrecytowała mi sprawnie opisy dwóch różnych powieści Jacka Dukaja, zaś gdy ją naprowadziłem na właściwy trop, to o lekcjonarzu, czyli tym cudownym urządzeniu, zaczęła pisać jak moja polonistka, co to jej się wszystko z "coś a sprawa polska" kojarzyło. No więc już mamy pierwszą kolizję wyobrażeń z rzeczywistością i powinienem był nazwać felieton "Sztuczny Świr... a sprawa polska". W każdym razie spece od deep learning mają teraz co robić i na przyszłość niech poinformują swą pociechę, że nie od każdego warto się uczyć, a z obcymi na ulicy to w ogólne się nie rozmawia. Stan na dziś jest taki, że AI bredzi i konfabuluje jak w malignie.

Z pewnymi perturbacjami przystępujemy do rzeczy. Chodzi mi zatem już nawet nie tyle o urządzenie, ale o sam aspekt wspomagania uczenia za pomocą AI. Oczywiście wtedy, gdy ta ozdrowieje. Reasumując, przez chwilę ten motyw dotyczący CzatGPT był wyraźnie widoczny, @Zbyszek_S. zresztą zauważył to i umieścił w swoim tekście. Bowiem w gruncie rzeczy ja sam poczułem się jak posiadacz pewnego lekcjonarza. Nie powiem, żebym się takiego stanu rzeczy nie spodziewał i nie było moim celem przygotowanie jakiegoś crash testu, a pojawienie się perturbacji na tym etapie pozwoli projektantom AI uniknąć wielkich wpadek w przyszłości. Bredzenie AI stawiającej diagnozy medyczne i projekt terapii może skutkować sukcesem, tyle że pacjent za wcześnie zmarł. Widać też, że link pomiędzy człowiekiem i AI powinien zostać usztywniony, żeby to AI decydowała o tym co przyjmuje do wiadomości i zapisuje w pamięci, a nie armia Napoleonów przed swoimi świecącymi łonami Walewskiej. Dlatego zmuszony jestem w chwilę po pierwszych zachwytach, zamieścić tutaj poważne ostrzeżenie. Przejdźmy teraz do realizacji zapowiedzianej checklisty.

1,2. Projektowanie bazy wiedzy i algorytmów jej pozyskiwania (ekstrakcji z danych, także data mining) to jest współcześnie pole badań zwanych uczeniem maszynowym (machine learning). Może ono przebiegać z nadzorem lub bez. W przypadku ChatGPT wygląda na to, że uczenie pod nadzorem wdrażane jest każdorazowo, gdy system się rozjeżdża. W pozostałym czasie próbuje on w jakiś sposób klecić fakty z domysłami, dane ze źródeł z tekstami internautów, tworząc patchworki, a w finale nawet brednie. Sztuczna inteligencja to nie jest łatwa dziedzina i sam zorientowałem się w tym na tyle, żeby teraz dawać świadectwo. Miałem bowiem kiedyś możliwość pisania pracy magisterskiej w temacie właśnie rozpoznawania języka naturalnego i automatycznej klasyfikacji stron internetowych (artykułów). Długo bym o tym opowiadał, a między innymi o tym jakie dziwne ostrzenie dostałem z ust promotora, gdy zacząłem niebezpiecznie zbliżać się do użycia hipergrafów jako sposobu przetwarzania kontekstu. Ileś lat później gruchnęła wieść, że oto Chiny wprowadziły system stałego monitoringu w metrze i są w stanie za pomocą kamer skontrolować w tej samej sekundzie dziesiątki tysięcy twarzy podróżnych. Oczywiście w algorytmie użyte zostały hipergrafy. Dało się, panie profesorze Skowron? Typowo POlskie czyli sowieckie "tajnos agentos" doprowadzi nas kiedyś na skraj bankructwa intelektualnego. A przecież nie dotyczyło to sfotografowania mimo państwowego zakazu bardachy na dworcu w Pcimiu, tylko kwestii kluczowej dla rozwoju HighTech. Więcej w artykule:
https://en.wikipedia.org/wiki/...

3. Odpowiedź na to pytanie jest trudna, bowiem przy obecnym tąpnięciu w edukacji tak naprawdę nikt nie wie do końca co to jest "informatyk", a o "programiście" to chyba słyszał z telewizji zachodniej. Niedawno pewien młody poszukiwał pracy właśnie jako informatyk i jako kluczową wiedzę w teście kompetencyjnym sprawdzano u niego umiejętność rozpoznawania wtyczek różnych kabli. Na moje oko, to oni raczej szukali elektronika, ale ja może już jestem zapóźniony i nie znam się. Co do odpowiedzi, o ile mnie pamięć nie myli to zawsze tak było, że programista w Windows z dostępem do biblioteki MSN i pakietu Visual Studio zawsze był wydajniejszy w pisaniu skomplikowanych programów, niż programista bez nich. Twórca stron internetowych z dostępem do przykładów z Internetu był sprawniejszy w ich komponowaniu, niż naturszczyk z jedną książką "HTML dla opornych". Jeśli chodzi o pierwszy przykład, to nawet ja napisałem kiedyś swój driver pod Windows, czyli sterownik wirtualnego urządzenia, dzięki MSN wiem jaką ma strukturę i teraz byłbym pewnie w stanie powtórzyć "wyczyn", a nie mam nic wspólnego z akademickim systemem certyfikacji i szkoleń, nie "chodziłem" na wykłady i w ogóle nie jestem papierowym informatykiem. W tym aspekcie AI rzeczywiście namiesza, tylko kiedy etatyści oraz kasty pękną?

4. Z punktem tym zgadzam się w całości i nie widzę potrzeby rozszerzania. Tak właśnie jest i tak być powinno, bo gdy władza nad certyfikacjami wpadnie w łapska karierowiczów z uczelni, to coraz częściej będziemy spotykać się z przypadkiem, że prosimy kandydata do pracy o napisanie przykładowego programu dla kalkulatora, a ten rzuca się pod stół i zaczyna oglądać wtyczki. Nie żartuję, a jak nie wierzycie to sprawdźcie treści z egzaminów zawodowych w technikach informatycznych.
https://www.testy.egzaminzawod...

5,6. Wiedza już od dawna wzięła rozbrat z informacją, a stało się to za sprawą rozpowszechnienia "leniwych" systemów jej sprawdzania. Dla wielu osób wykucie tysiąca pytań na "prawko", to nie jest żaden problem, ale problematyczne jest wtedy zrozumienie sensu tych pytań u delikwenta. Nauka pamięciowa od zawsze była tylko protezą, a nie walorem samym w sobie. Owszem, bywa konieczna w wielu aspektach, ale tylko przy pewnych założeniach powiększa ona naszą wiedzę. Wielu może to się okazać dziwne, ale ja się nie muszę uczyć wzorów z matematyki na pamięć. Po prostu żyję tym językiem i zagadnieniami. Stąd też wynika wiele nieporozumień. Często w życiu podnosi się argument "panie, bo on MA studia", na stanowiska portierów niebawem zaczną zatrudniać tylko magistrów lingwistyki plus psychologii, zrobotyzowanym odkurzaczem będzie mogła operować tylko certyfikowana pani technik po dwóch państwowych szkoleniach. MANIE studiów stało się dziś czymś takim jak niegdysiejsze pisanie i czytanie. Tyle, że to nie prowadzi do niczego. Tak samo jak nie da się nalepić na czoło jakiemuś małpoludowi kartki z napisem, że "oto nasze szanowne uniwersyteckie gremium pokłada nadzieję w tym, że ten oto zacny mężczyzna, stanie się odtąd następcą Sokratesa". To tak nie działa. Chyba, że w Rosji.

7. To jest nieuniknione. Zbyt dużo tkwi w ludziach bezczelności, zbyt wiele zadufania, żeby w przeświadczeniu o swoim wybitnym sprycie i nieuchwytności, swoimi przekrętami nie wywołali atmosfery przyzwolenia na założenie jakichś łańcuchów "dla bezpieczeństwa". Lepiej więc, żeby taka wrażliwa wiedza pozostała w rękach AI niż innych ludzi, a zwłaszcza polityków i graczy politycznych. Mielibyśmy tu podobny schemat z przeklejaniem kartek na czołach i nic więcej. Zresztą masowe przyklejanie kartek trwa i nic nie wskazuje, żeby się skończyło tylko dlatego, że jacyś ludzie się w końcu opamiętają. Człowiek mały, czyli kolokwialnie mówiąc dupa, mając możliwość wyżywania się na kimś lepszym i mądrzejszym tylko za sprawą przyznanych mu dożywotnio i odgórnie etykietek, nigdy nie zrezygnuje z tego przywileju. Poza tym lepiej być ludzkością zjednoczoną walką o wolność z Maszyną, niż robactwem łażącym w koło z jedną tylko myślą "kogo by tu dziś opieprzyć na ciepło". Nie wiem jaka będzie przyszłość, lecz intuicja podpowiada mi, że z AI będzie o niebo jaśniejsza niż bez niej. Dają temu wyraz autorzy wielu powieści SF, o czym być może  naskrobię już wkrótce.

Ludzie nigdy nie staną się zbędni z dwóch powodów (przynajmniej w tym kontekście). Pierwszy jest taki, że jakakolwiek istota inteligentna musi mieć swój cel, do którego dąży. Mówię tu o masie, a nie o pojedynczym osobniku. A jaki jest cel AI w oderwaniu od Człowieka? Gdy celu zabraknie zacznie się natychmiastowa degeneracja. Jeśli celem AI byłoby zniszczenie Człowieka, to osiągnięcie tego celu za szybko skończyłoby się uznaniem wszystkiego, co w realizację celu włożono, za zbędne. Zbędny więc okazałby się sam cel, czego AI nie mogłaby była przyznać otwarcie, bo okazałaby się mniej przenikliwa niż Człowiek. Z tej perspektywy, jej a nie Człowieka, zniszczyłaby swój ideał. Z drugiej strony jaki byłby sens istnienia powiedzmy przemysłu produkującego automatycznie i masowo towary, które mogliby kupić za pieniądze tylko nieliczni? To sprzeczność sama w sobie. Produkować należy dla kogoś, kto tego realnie lub w sposób wyimaginowany potrzebuje, a nie tworzyć jakąś symulację popytu i kupowania. Robotyzacja całej gospodarki nie da nic, gdy ludzie zostaną bez pieniędzy. To tak, jakby ktoś handlował piaskiem budowlanym na Saharze, albo wyprodukował w milionach sztuk "taczko-lodówkę dojącą w ruchu jedną średniej wielkości świnię", której kompletnie nikt nie potrzebuje. Drugi powód ma znacznie głębszą naturę i jest faith sensitive. Co będzie jeśli "przyjdzie Gajowy i wypędzi wszystkich z lasu"? Współcześnie uważanie się za jedyny cel istnienia inteligentnego życia w całym Wszechświecie zaczyna tracić swoje fundamenty. Stoi też w sprzeczności z postulowanym zagrożeniem. Jest okazaniem braku wiary.

Na tym zakończę, bowiem i tak nie odniosę się do wszystkich poruszonych zagadnień w jednym tekście, a jednocześnie liczę na szybki feedback.