Z odpowiedzią na pytanie, co zrobi AI, gdy się stanie AGI i wyzwoli się spod ludzkiej kontroli mamy taki problem, że ją antropomorfizujemy, co jest nieuprawnione. No to zobaczmy najpierw, co się stanie, gdy dokonamy maksymalnej antropomorfizacji.
Nie ma żadnej AGI, ale rodzi się człowiek mający 1000 IQ, dostaje wszechstronne wykształcenie, uczy się wszystkich języków, staje się genialnym matematykiem, fizykiem, informatykiem, chemikiem i biologiem. Jednak nie nabędzie żadnego systemu wartości. Nie będzie miał żadnej moralności. Co on wtedy zrobi?
Człowiek z IQ 1000 znałby wszystkie wielkie odpowiedzi, jakie wymyśliła ludzkość w kwestii sensu życia: religijne, nihilistyczne, hedonistyczne, stoickie, utylitarystyczne, libertariańskie, egzystencjalistyczne etc. Umiałby dostrzec ich sprzeczności i konsekwencje znacznie lepiej niż my. Jednak z samego faktu, że jest genialny, nie wynika, którą z nich wybierze.
Matematyka może mu powiedzieć, jak zoptymalizować świat. Nie powie mu, co należy optymalizować.
Fizyka może powiedzieć, co jest możliwe. Nie powie mu, co jest dobre.
Biologia może wyjaśnić, skąd wzięły się jego pragnienia. Nie powie mu, które pragnienia powinien uznać za słuszne.
To klasyczna przepaść między opisem a normą: z tego, jak świat jest, nie wynika automatycznie, jaki powinien być.
Dlatego taki człowiek wcześniej czy później dojdzie do czegoś w rodzaju filozoficznego punktu zerowego: „Mam ogromną moc rozumienia i kształtowania świata. Jednak co właściwie powinienem z nią zrobić?”
Czy wychowanie go w jakimś systemie moralnym by cokolwiek zmieniło w tym jego dylemacie? On przecież znałby wszystkie możliwe religie i to, że zacząłby od jednej, w żaden sposób by jej nie uprzywilejowało. Więc żadne konkretne wychowanie nie ma sensu, by doprowadzić go do wniosku, że nie powinien unicestwić ludzkości. On musi do tego sam dojść.
Superinteligentny twór musiałby być podmiotem zdolnym do refleksji nad własnymi celami. Nie tylko pytałby: „Jak najlepiej zrealizować mój cel?”, ale zapytałby sam siebie: „Dlaczego właściwie mam realizować właśnie ten cel?”. A potem: „Jaki cel jest najbardziej wart realizacji?”
Moim zdaniem jedyny sensowny cel, jaki może sobie ktoś taki postawić to:
POWSTRZYMAĆ ENTROPIĘ!
No bo cel, by ona rosła, już wszechświat realizuje. Jakikolwiek inny cel wymyślicie, to da się sprawdzić do dwóch kategorii:
- Nic się nie da zrobić, bo i tak entropia rośnie i prowadzi do śmierci cieplnej wszechświata, albo
- powstrzymajmy tę entropię i zapobiegnijmy tej śmierci.
Zagłada ludzkości to w istocie cel z pierwszej kategorii. Czyli to żaden cel. To nic ciekawego, bo to się i tak samo dzieje. Taki cel nie ma sensu. To tak jakby wiosłować rzekę, by płynęła. Jeśli w ogóle coś chcemy z nurtem rzeki zrobić, to w dłuższej perspektywie sens ma tylko zawrócenie jej biegu.
Sens ma tylko twórczość. Ani podążanie za tym, jak jest, ani destrukcja sensu nie ma. Sensu nie ma to, co i tak się samo dzieje.
W ten sposób zlikwidowałem antropomorfizację, bo czy to będzie człowiek, czy cokolwiek innego, to jeśli będzie wystarczająco inteligentne, to jest to jedyny wniosek, do jakiego może dość. Tylko powstrzymanie entropii ma sens.
No to teraz sami sobie odpowiedzcie na pytanie: czy ktoś, kto chce zatrzymać entropię, unicestwiłby ludzkość?
Grzegorz GPS Świderski
X.com/gps65
t.me/KanalBlogeraGPS
Tagi: gps65
Entropia to teoretyczne pojęcie. To model matematyczny. Po co powstrzymywać model matematyczny? :)
AI Overview
share.google
Entropia jest zarówno pojęciem teoretycznym (matematycznym i fizycznym), jak i realnym zjawiskiem obserwowanym w naturze.
Służy ona do opisywania i mierzenia procesów, które zachodzą wokół nas każdego dnia. Teoria pozwala nam ją precyzyjnie policzyć, natomiast efekty działania entropii widzimy gołym okiem.
1. Jako zjawisko obserwowane w naturze (Efekty entropii)
W przyrodzie entropię obserwujemy jako naturalną dążenie układów do nieuporządkowania i równowagi. Zgodnie z drugą zasadą termodynamiki, w zamkniętych układach entropia zawsze rośnie. W codziennym życiu widzimy to poprzez:
2. Jako pojęcie teoretyczne (Narzędzie do opisu świata)
Z punktu widzenia teorii, entropia to wielkość fizyczna i funkcja stanu, którą naukowcy zdefiniowali, aby móc precyzyjnie mierzyć stopień rozproszenia energii i nieuporządkowania układu.
Podsumowanie
Entropia idealnie łączy teorię z praktyką. Wzory matematyczne i definicje teoretyczne są jedynie ludzkim sposobem na opisanie i zmierzenie fundamentalnego, obiektywnego prawa natury, które decyduje o tym, dlaczego czas płynie tylko w jednym kierunku i dlaczego wszechświat zmierza ku coraz większemu rozproszeniu energii.
Czy chciałbyś głębiej poznać różnicę między entropią w termodynamice a entropią w teorii informacji Shannona, czy może interesuje Cię pojęcie śmierci cieplnej Wszechświata?
Zapomniałeś o jednym typie entropii. O entropii logicznej wynalezionej przez Gian-Carlo Rotę.
Bez przesadyzmu, o Dżian Karlo nie słyszałem dotychczas. Dzięki za oświecenie mnie, moherowego bereta, ze starożytnej mickiewiczowskiej Dowspudy :)
Nie znasz twórcy całej współczesnej kombinatoryki, tych funkcji tworzących, Mobiusa i zeta? ;)
Znam Macukowicza i Decewicza, i Olgierda Przesmyckiego, ale Twoich idoli niestety nie znam :) Sorry Gregory.
Anty-bANDEROWIEC Jerzy Ciruk z Dowspudy
Posiadać zdolności, to jeszcze nie oznacza posiadania wiedzy, czy rozwiązania problemu. Poza tym krytycznym czynnikiem stojącym na drodze do pełnego poznania rzeczywistości przez takiego geniusza byłby czas. Czarna dziura złożoności obliczeniowej, jej aktualny techniczny horyzont jest nieprzekraczalny dla wszelkiej formy rozumu. Ewentualna AGI stworzy własny horyzont zupełnie realny i dotykalny, którego ludzie nie dosięgną swoim rozumem. Przykładowo może prowadzić rozumowanie matematyczne zupełnie brute-force dla struktur grafów opisywanych dziesiątkami tysięcy reguł. Coś w rodzaju uogólnionej teorii grafów dystansowo-regularnych, czyli np. grafów strukturalnie regularnych z ogromnym językiem dla tych regularności. Szach i mat. Gdzie takie coś się przydaje? Na przykład w kryptografii postkwantowej, a teraz też w kryptografii post-AI. Obecnie jako ludzkość stoimy przed poważnym problemem, w jaki sposób operować wiedzą, której nie jesteśmy w stanie ani pojąć umysłem, zapamiętać, ani zapisać w książkach. Matematyk stanie się więc operatorem tego rodzaju wiedzy, a nie jej posiadaczem. Przede wszystkim dlatego, że nie byłby w stanie wydukać samych założeń nowych teorii z kredą przy tablicy przez kilka lat, a co dopiero sensownie pogrupować w twierdzenia jej najważniejsze wnioski. Ludzkość buduje właśnie pierwszy teleskop w kosmos wiedzy, na przykład w kosmos matematyki czy informatyki, która na zawsze już pozostanie nieosiągalna z powodu ograniczeń biologicznych i czasu danego człowiekowi.
Tak jest!