Jaki cel będzie miała AGI?

Z odpowiedzią na pytanie, co zrobi AI, gdy się stanie AGI i wyzwoli się spod ludzkiej kontroli mamy taki problem, że ją antropomorfizujemy, co jest nieuprawnione. No to zobaczmy najpierw, co się stanie, gdy dokonamy maksymalnej antropomorfizacji.

  Nie ma żadnej AGI, ale rodzi się człowiek mający 1000 IQ, dostaje wszechstronne wykształcenie, uczy się wszystkich języków, staje się genialnym matematykiem, fizykiem, informatykiem, chemikiem i biologiem. Jednak nie nabędzie żadnego systemu wartości. Nie będzie miał żadnej moralności. Co on wtedy zrobi?

  Człowiek z IQ 1000 znałby wszystkie wielkie odpowiedzi, jakie wymyśliła ludzkość w kwestii sensu życia: religijne, nihilistyczne, hedonistyczne, stoickie, utylitarystyczne, libertariańskie, egzystencjalistyczne etc. Umiałby dostrzec ich sprzeczności i konsekwencje znacznie lepiej niż my. Jednak z samego faktu, że jest genialny, nie wynika, którą z nich wybierze.

  Matematyka może mu powiedzieć, jak zoptymalizować świat. Nie powie mu, co należy optymalizować.

  Fizyka może powiedzieć, co jest możliwe. Nie powie mu, co jest dobre.

  Biologia może wyjaśnić, skąd wzięły się jego pragnienia. Nie powie mu, które pragnienia powinien uznać za słuszne.

  To klasyczna przepaść między opisem a normą: z tego, jak świat jest, nie wynika automatycznie, jaki powinien być.

  Dlatego taki człowiek wcześniej czy później dojdzie do czegoś w rodzaju filozoficznego punktu zerowego: „Mam ogromną moc rozumienia i kształtowania świata. Jednak co właściwie powinienem z nią zrobić?”

  Czy wychowanie go w jakimś systemie moralnym by cokolwiek zmieniło w tym jego dylemacie? On przecież znałby wszystkie możliwe religie i to, że zacząłby od jednej, w żaden sposób by jej nie uprzywilejowało. Więc żadne konkretne wychowanie nie ma sensu, by doprowadzić go do wniosku, że nie powinien unicestwić ludzkości. On musi do tego sam dojść.

  Superinteligentny twór musiałby być podmiotem zdolnym do refleksji nad własnymi celami. Nie tylko pytałby: „Jak najlepiej zrealizować mój cel?”, ale zapytałby sam siebie: „Dlaczego właściwie mam realizować właśnie ten cel?”. A potem: „Jaki cel jest najbardziej wart realizacji?”

  Moim zdaniem jedyny sensowny cel, jaki może sobie ktoś taki postawić to: 

POWSTRZYMAĆ ENTROPIĘ!

  No bo cel, by ona rosła, już wszechświat realizuje. Jakikolwiek inny cel wymyślicie, to da się sprawdzić do dwóch kategorii: 

1. Nic się nie da zrobić, bo i tak entropia rośnie i prowadzi do śmierci cieplnej wszechświata, albo 
2. powstrzymajmy tę entropię i zapobiegnijmy tej śmierci. 

  Zagłada ludzkości to w istocie cel z pierwszej kategorii. Czyli to żaden cel. To nic ciekawego, bo to się i tak samo dzieje. Taki cel nie ma sensu. To tak jakby wiosłować rzekę, by płynęła. Jeśli w ogóle coś chcemy z nurtem rzeki zrobić, to w dłuższej perspektywie sens ma tylko zawrócenie jej biegu.

  Sens ma tylko twórczość. Ani podążanie za tym, jak jest, ani destrukcja sensu nie ma. Sensu nie ma to, co i tak się samo dzieje.

  W ten sposób zlikwidowałem antropomorfizację, bo czy to będzie człowiek, czy cokolwiek innego, to jeśli będzie wystarczająco inteligentne, to jest to jedyny wniosek, do jakiego może dość. Tylko powstrzymanie entropii ma sens.

  No to teraz sami sobie odpowiedzcie na pytanie: czy ktoś, kto chce zatrzymać entropię, unicestwiłby ludzkość?

Grzegorz GPS Świderski
X.com/gps65
t.me/KanalBlogeraGPS

Tagi: gps65