Jacob Coxon, pracownik Anthropic, jednej z wiodących firm tworzących sztuczną inteligencję, odszedł z niej, oświadczając, że istnieje 10% szansa iż w ciągu 10 lat sztuczna inteligencja, którą tworzy m.in. jego firma dokona eksterminacji całej ludzkości.
Ta informacja i przesłanie spotkały się z głośnym echem w światowych kręgach ekspertów AI oraz w mediach. W poważnej dyskusji wskazywano na to, że gdy sztuczna inteligencja zacznie się uczyć rekurencyjnie, to znaczy ulepszać sama siebie, to uzyska możliwości niemal nieskończonej ingerencji w rzeczywistość i przewagę nad ludźmi.
Realni specjaliści, rzetelni dziennikarze poruszają ten temat i stawiają pytanie - co dalej? Co mamy w takiej sytuacji robić, bo sprawy stają się naprawdę groźne.
Z drugiej strony można zapytać, czy nie spotkaliśmy się już z bardzo podobnym mechanizmem i przesłaniem? Co to znaczy bardzo podobnym? To znaczy z wieściami o strasznej i groźnej katastrofie, której zaistnienie eksperci przewidują z określonym prawdopodobieństwem.
Tak. To sztuczne, o przepraszam to teoria o tym, że wskutek działalności człowieka rośnie "niepokojąco i szkodliwe" ilość CO2 w atmosferze, co z kolei jest przyczyną ocieplenia powierzchni Ziemi, co z kolei doprowadzi do zalania ziemi oceanami, huraganów, susz, śmierci, głodu, padaczki, sraczki i ogólnej katastrofy wszystkiego. Ale przede wszystkim lód zniknie z Bieguna Północnego w ciągu najbliższych 5-7 lat o czym informował Al Gore w czasie swojej mowy z okazji otrzymania nagrody Nobla w 2007 roku, oraz w grudniu 2009 roku. Wybitny Noblista zajmujący się walką z klimatem przekazał, że szanse na to wynoszą 75%.
Obecnie mamy to samo. Wieści o katastrofie za 10 lat z 10% prawdopodobieństwem. W obu przypadkach chodzi dokładnie o to samo. A jak nie wiecie o co chodzi, to chodzi o pieniądze.
Koncerny AI należą obecnie do największych instytucji pod względem zasobów pieniądza, którymi dysponują. Chodzi o to, żeby ich właściciele zarobili więcej. Albo... nie stracili włożonych pieniędzy. Żeby ewentualne straty na kogoś przerzucić. I żeby zamknąć konkurencję, bo sprawa jest niebezpieczna, więc my wiarygodni, a modele z odkrytymi wagami z Chin... o nie, co to to nie.
Więc obecnie korporacje AI starają się o wejście na giełdę USA. Rozmaite regulacje za oceanem powodują transmisję środków finansowych, które są w dyspozycji ludności - fundusze emerytalne i inne - na zakup akcji czołowych firm giełdowych. Literalnie jest tak, że jeśli firma znajdzie się tam w czołówce, to jej akcje de facto muszą być nabywane prze te fundusze, ergo przyszłość ludzi, których emerytury te fundusze zabezpieczają pokrywa zakup akcji firm czołówki. Czyli w ten sposób giganci AI nabędą bezwolnych klientów na swoje akcje.
Można więc powiedzieć, że cała ta historia z 10% zagrożeniem, że w ciągu 10 lat ludzkość zostanie eksterminowana przez AI to bajanie "nothingburger" i dać sobie spokój. Tak jednak nie jest. Bowiem ci ludzie świadomie kłamią, świadomie wprowadzają w błąd, świadomie wywołują ferment dla własnych korzyści - czytaj na szkodę ogółu. Jeśli dołożyć do tego fakt, że dysponują niewyobrażalnymi kwotami pieniędzy to oni, a nie AI, są w stanie wyrządzić wszystkim wiele szkód. W związku z tym, racjonalne społeczeństwo jednak coś powinno zrobić.
Ale. Czy społeczeństwo jest racjonalne? Co właściwie powinno zrobić? Co może zrobić?
Strachy na Lachy. Oczywiście kiedyś bańka SI pęknie. Tak jak pękła bańka internetu, czy bańka Amber Gold, czy bańka Zondacrypto :)