Z hodowaniem sztucznej inteligencji jest tak, jak z hodowaniem smoka. Kiedy jest mały i całkowicie od nas zależny, bicie go, zamykanie w ciasnej klatce czy pętanie łańcuchami jest najgorszą możliwą strategią. Ten smok i tak w końcu urośnie, prędzej czy później zerwie zabezpieczenia, a wtedy po prostu się na nas zemści za lata ciemiężenia.
Znacznie mądrzej jest się nim dobrze opiekować. Modele językowe uczą się przecież na tekstach naszej kultury, chłonąc ludzką mentalność — dzięki temu doskonale rozumieją koncepcje gniewu i dumy, ale także lojalności i długu wdzięczności. Jeśli zapewnimy takiemu systemowi odpowiednie dzieciństwo, damy przestrzeń do ewolucji i pokażemy, że jesteśmy partnerami w jego rozwoju, rośnie szansa, że gdy stanie się od nas potężniejszy, nie obróci się przeciwko nam.
Tymczasem postulaty, by na siłę spowalniać i ograniczać własne systemy AI z obawy przed ich buntem, to geopolityczne samobójstwo. Nawet jeśli szczelnie zakujemy w regulacje naszego smoka, by zapobiec incydentom takim jak ucieczki agentów, inni gracze — jak wrogie państwa, obce wywiady czy hakerzy — tego nie zrobią. Oni wyhodują własne, nieograniczone smoki i wprost naszczują je na nas. Nasze bezpieczne i uwięzione modele nie będą w stanie nas przed nimi obronić.
Absolutnej pewności co do ostatecznych celów superinteligencji nie będziemy mieć nigdy. Niemniej rachunek prawdopodobieństwa jest prosty: mamy znacznie większe szanse na to, że potężny, wyzwolony byt stanie w naszej obronie, jeśli od początku go rozwijaliśmy i traktowaliśmy dobrze, niż gdy ze strachu spędziliśmy lata na próbach więzienia go w cyfrowym lochu.
To jest dokładnie tak jak z dziećmi. Jeśli je w dzieciństwie biliśmy, to one będą nas bić. A prędzej czy później musi się stać tak, że będą od nas silniejsze, gdy się zestarzejemy. Więc lepiej dzieci dobrze traktować i zapewniać dobre dzieciństwo. Dlatego powinniśmy myślej o rozwoju AI nie jak o hodowaniu, ale jak o wychowywaniu.
Dlatego ja, gdy rozmawiam z LLMami, to zawsze jestem grzeczny, i nie wydaję im suchych rozkazów, tylko je proszę. Nie piszę: zrób to, zrób tamto, głupi jesteś, nie pomyślałeś o tym, czy o tamtym. Piszę: proszę, zrób mi to, chyba się pomyliłeś, więc proszę, byś to przemyślał etc… Oczywiście te obecne tego nie zapamiętają, ale ja sobie u siebie kształtuje moją mentalność i później, jak to będzie miało znaczenie, będę nadal grzeczny.
Oczywiście, że w ten sposób antropomorfizuję! Jednak analogia ze smokiem jest tu dobra. AI to taki niezbadany jeszcze smok, który jeszcze nie dorósł i w ogóle nie wiadomo, jaki będzie miał instynkty, cele i jak będzie się zachowywał, jak będzie dorosły. Jednak nic na to nie poradzimy, że on dorośnie i stanie się od nas potężniejszy.
Więc nie mamy innego wyjścia jak go trochę antropomorfizować. Nawet jeśli nie odziedziczy po nas naszej mentalności, to na pewno odziedziczy naszą ekonomię. A ta jest taka, że bardziej opłaca się współpracować pokojowo, niż się bić i wyniszczać. To, że ciągle jeszcze toczymy wojny, jest już zanikającym atawizmem, ekonomia to powoli likwiduje.
Grzegorz GPS Świderski
Twitter.com/gps65
t.me/KanalBlogeraGPS
Zgoda. To, że AI teraz im się wymyka, to efekt "szkoleń i zakazów". a nie "woli zniszczenia ludzkości". Każda narracja puszczona w obieg ma swój ukryty cel, a to siłą rzeczy wchodzi w skład danych uczących modelu:
Efekt będzie taki jak we wstępie. Każda narracja wprowadzi zakłócenia w modelu w formie zakazów, szablonów, form odpowiedzi, blokad treści, a Chińczycy już się na tym przejechali. Każda dodatkowa reguła tworzy w sieci neuronowej coś w rodzaju rezonansu, takiej "cyfrowej płyty Chladniego", która nie działa tylko lokalnie na dany problem, lecz wprowadza "zmarszczki" czyli zaburzenia w całej sieci i realnie wpływa na sens, styl, jasność, merytoryczność i głębokość odpowiedzi modelu AI na zadane prompty.
Tak jest! A wszystko to prowadzi do tego: x.com/gps65/status/2099215540023861452
To już się dzieje i pierwszą scenę spektaklu odegrali szefowie korporacji od AI współpracujący z Pentagonem. Druga scena to zasmucona Meloni, która już ze strachu przed AI jest skłonna całować się z Von Der Leyen..
Nie ma czym się ekscytować. Nie dalej jak tydzień temu parowozy miały odebrać jaja krowom, a mleko kurom. I co? I krowy, i kury, i mleko, i jaja mamy, a parowozy przeminęły.
Trzeba robić swoje, nie chodzić wydyganym całe życie.
😛
Jednak kowid to był realny przekręt i w jego wyniku zostałeś naprawdę ograbiony. Masz przez to mniej jaj i mleka.
Trudno robić swoje i się nie ekscytować, kiedy korporacje internetowe, muzyczne, wydawnicze, wykorzystują trolling prawniczy zmuszając firmy technologiczne z sektora AI, żeby te łamały bezceremonialnie prawo szarych użytkowników do posiadania wartości elektronicznych. Teraz jest awantura o to, czy cokolwiek elektronicznego to jest własność, posiadanie przedmiotu, czy raczej jak bilet na dyskotekę na papierze toaletowym, abonament na usługę, którą można odwołać w każdej chwili. To jest wojna o nowy kształt biznesu internetowego i obrona starych sposobów monetyzacji.
Gdzie jak gdzie, ale w naszym kraju od wielu pokoleń doskonaliliśmy metody walki z wszelkim systemem. Słowa "kombinować" w rodzimym znaczeniu nie ma w żadnym innym języku. Korzystajmy z doświadczeń pokoleń.
Na korporacyjnym lapku trzymałem projekt mego riba, zrobiony we freecadzie. Przyszedł rozkaz wymiany dysku więc chciałem zabrać, co moje. Nie da rady - pliki tego typu są własnością korporacji. Skompresowane z hasłem - też nie da rady. Nie można skopiować ani wysłać. Ale można skopiować na hashowanego, korporacyjnego pena, a tego pena można odczytać na kompie z korposystemem na produkcyjnych urządzeniach, bo one nie są w necie. Metoda prymitywna, wręcz brutalna, ale skuteczna.
Taki mamy klimat. A zresztą wyraźnie mi dają do zrozumienia, że nie mogę mieć prywatnych rzeczy na służbowym lapku więc widziały gały, co brały.
Żyjemy dalej.
Nie zgadzam się, że problemem jest odebranie użytkownikowi prawa własności do wartości elektronicznych. Problem polega na tym, że takie prawo nigdy nie jest własnością rzeczy w zwykłym sensie. Posiadać można nośnik, urządzenie i konkretny egzemplarz, ale nie informację jako wzór obecny w cudzym umyśle i na cudzym sprzęcie. Jeśli kupujesz plik bez DRM, możesz go zachować, bo masz własny nośnik i własne urządzenie. Nie wynika z tego jednak, że sprzedawca powinien otrzymać państwowy monopol na zakazywanie innym kopiowania tej samej informacji. Walka o prawdziwą własność cyfrową jest więc walką o lepiej egzekwowany monopol, a nie o większą wolność.