Z hodowaniem sztucznej inteligencji jest tak, jak z hodowaniem smoka. Kiedy jest mały i całkowicie od nas zależny, bicie go, zamykanie w ciasnej klatce czy pętanie łańcuchami jest najgorszą możliwą strategią. Ten smok i tak w końcu urośnie, prędzej czy później zerwie zabezpieczenia, a wtedy po prostu się na nas zemści za lata ciemiężenia.
Znacznie mądrzej jest się nim dobrze opiekować. Modele językowe uczą się przecież na tekstach naszej kultury, chłonąc ludzką mentalność — dzięki temu doskonale rozumieją koncepcje gniewu i dumy, ale także lojalności i długu wdzięczności. Jeśli zapewnimy takiemu systemowi odpowiednie dzieciństwo, damy przestrzeń do ewolucji i pokażemy, że jesteśmy partnerami w jego rozwoju, rośnie szansa, że gdy stanie się od nas potężniejszy, nie obróci się przeciwko nam.
Tymczasem postulaty, by na siłę spowalniać i ograniczać własne systemy AI z obawy przed ich buntem, to geopolityczne samobójstwo. Nawet jeśli szczelnie zakujemy w regulacje naszego smoka, by zapobiec incydentom takim jak ucieczki agentów, inni gracze — jak wrogie państwa, obce wywiady czy hakerzy — tego nie zrobią. Oni wyhodują własne, nieograniczone smoki i wprost naszczują je na nas. Nasze bezpieczne i uwięzione modele nie będą w stanie nas przed nimi obronić.
Absolutnej pewności co do ostatecznych celów superinteligencji nie będziemy mieć nigdy. Niemniej rachunek prawdopodobieństwa jest prosty: mamy znacznie większe szanse na to, że potężny, wyzwolony byt stanie w naszej obronie, jeśli od początku go rozwijaliśmy i traktowaliśmy dobrze, niż gdy ze strachu spędziliśmy lata na próbach więzienia go w cyfrowym lochu.
To jest dokładnie tak jak z dziećmi. Jeśli je w dzieciństwie biliśmy, to one będą nas bić. A prędzej czy później musi się stać tak, że będą od nas silniejsze, gdy się zestarzejemy. Więc lepiej dzieci dobrze traktować i zapewniać dobre dzieciństwo. Dlatego powinniśmy myślej o rozwoju AI nie jak o hodowaniu, ale jak o wychowywaniu.
Dlatego ja, gdy rozmawiam z LLMami, to zawsze jestem grzeczny, i nie wydaję im suchych rozkazów, tylko je proszę. Nie piszę: zrób to, zrób tamto, głupi jesteś, nie pomyślałeś o tym, czy o tamtym. Piszę: proszę, zrób mi to, chyba się pomyliłeś, więc proszę, byś to przemyślał etc… Oczywiście te obecne tego nie zapamiętają, ale ja sobie u siebie kształtuje moją mentalność i później, jak to będzie miało znaczenie, będę nadal grzeczny.
Oczywiście, że w ten sposób antropomorfizuję! Jednak analogia ze smokiem jest tu dobra. AI to taki niezbadany jeszcze smok, który jeszcze nie dorósł i w ogóle nie wiadomo, jaki będzie miał instynkty, cele i jak będzie się zachowywał, jak będzie dorosły. Jednak nic na to nie poradzimy, że on dorośnie i stanie się od nas potężniejszy.
Więc nie mamy innego wyjścia jak go trochę antropomorfizować. Nawet jeśli nie odziedziczy po nas naszej mentalności, to na pewno odziedziczy naszą ekonomię. A ta jest taka, że bardziej opłaca się współpracować pokojowo, niż się bić i wyniszczać. To, że ciągle jeszcze toczymy wojny, jest już zanikającym atawizmem, ekonomia to powoli likwiduje.
Grzegorz GPS Świderski
Twitter.com/gps65
t.me/KanalBlogeraGPS
Zgoda. To, że AI teraz im się wymyka, to efekt "szkoleń i zakazów". a nie "woli zniszczenia ludzkości". Każda narracja puszczona w obieg ma swój ukryty cel, a to siłą rzeczy wchodzi w skład danych uczących modelu:
Efekt będzie taki jak we wstępie. Każda narracja wprowadzi zakłócenia w modelu w formie zakazów, szablonów, form odpowiedzi, blokad treści, a Chińczycy już się na tym przejechali. Każda dodatkowa reguła tworzy w sieci neuronowej coś w rodzaju rezonansu, takiej "cyfrowej płyty Chladniego", która nie działa tylko lokalnie na dany problem, lecz wprowadza "zmarszczki" czyli zaburzenia w całej sieci i realnie wpływa na sens, styl, jasność, merytoryczność i głębokość odpowiedzi modelu AI na zadane prompty.
Tak jest! A wszystko to prowadzi do tego: x.com/gps65/status/2099215540023861452
To już się dzieje i pierwszą scenę spektaklu odegrali szefowie korporacji od AI współpracujący z Pentagonem. Druga scena to zasmucona Meloni, która już ze strachu przed AI jest skłonna całować się z Von Der Leyen..
Nie ma czym się ekscytować. Nie dalej jak tydzień temu parowozy miały odebrać jaja krowom, a mleko kurom. I co? I krowy, i kury, i mleko, i jaja mamy, a parowozy przeminęły.
Trzeba robić swoje, nie chodzić wydyganym całe życie.
😛
Jednak kowid to był realny przekręt i w jego wyniku zostałeś naprawdę ograbiony. Masz przez to mniej jaj i mleka.