What Tech Oligarchs Gain From AI Doomerism

Polecam bardzo ciekawy film na YouTube. Całość jest na końcu. Poniżej publikuję skrót po polsku z najważniejszymi tezami.

Grzegorz GPS Świderski
Twitter.com/gps65
t.me/KanalBlogeraGPS

Najważniejsze tezy

1. Incydent z Hugging Face nie dowodzi, że AI „zbuntowała się”

Według Eda Zitrona opisywany incydent nie polegał na tym, że autonomiczna AI samodzielnie postanowiła kogoś zhakować. Modele działały w ramach zbudowanej przez ludzi infrastruktury, wykonywały zadania zadane przez harness i korzystały z udostępnionych im narzędzi. Problemem nie była więc „własna wola” AI, lecz to, że firmy prowadzą niebezpieczne eksperymenty z bardzo potężnym i nieprzewidywalnym oprogramowaniem.

2. Media antropomorfizują AI

Rozmówcy krytykują sposób, w jaki media opisują modele tak, jakby miały własne intencje, cele i wolę. Ich zdaniem zaciera to odpowiedzialność ludzi i firm, które projektują system, dają mu narzędzia i uruchamiają eksperyment. Zamiast pytać „kto zbudował niebezpieczny system i kto go uruchomił?”, debata przesuwa się w stronę pytania „co postanowiła AI?”.

3. Dzisiejsze zagrożenia AI są realne, ale zwykle nie są specyficzne dla AI

Matt Stoller wskazuje, że cyberataki, złośliwe oprogramowanie, bioterroryzm, oszustwa, dezinformacja czy niebezpieczne produkty istniały wcześniej. AI może je przyspieszać i skalować, ale nie tworzy zupełnie nowej kategorii ryzyka. Dlatego jego zdaniem należy traktować AI przede wszystkim jak produkt, a nie jak nową metafizyczną siłę.

4. Kluczową kategorią powinna być odpowiedzialność za produkt

Jedna z centralnych tez rozmowy brzmi: firmy AI powinny podlegać zwykłym zasadom odpowiedzialności cywilnej i karnej za szkody powodowane przez ich produkty. Rozmówcy uważają, że narracja o „superinteligencji” odciąga uwagę od znacznie prostszego pytania: kto odpowiada, jeśli produkt wyrządza szkodę?

5. Łatwiej wyobrazić sobie Terminatora niż Sama Altmana przed prokuratorem

To jeden z najmocniejszych motywów materiału. Rozmówcy twierdzą, że społeczeństwo i media łatwiej akceptują fantastyczny scenariusz zagłady przez AI niż zwykły scenariusz, w którym właściciele i szefowie firm technologicznych ponoszą odpowiedzialność prawną. Ich zdaniem pokazuje to głębszy problem kultury bezkarności elit.

6. Narracja o zagładzie może być częściowo szczera i jednocześnie ekonomicznie wygodna

Stoller nie twierdzi, że cała panika jest cynicznym spiskiem. Część ludzi związanych z efektywnym altruizmem i ruchem racjonalistycznym autentycznie wierzy, że superinteligencja może zabić ludzi. Ale ta wiara dobrze współgra z interesem ekonomicznym największych firm AI.

7. „Bezpieczeństwo” może stać się pretekstem do ograniczenia konkurencji

Jeżeli firmy przekonają regulatorów, że tylko największe laboratoria są w stanie bezpiecznie rozwijać AI, regulacje mogą stworzyć bariery wejścia dla mniejszych konkurentów i chińskich modeli. W takim układzie największe firmy zachowują wysokie ceny i pozycję rynkową, a jednocześnie ograniczają koszty dalszego wyścigu technologicznego.

8. Wyjątki od prawa antymonopolowego mogą prowadzić do kartelu

Matt Stoller szczególnie ostro krytykuje postulaty wyjątków od prawa antymonopolowego. Jego zdaniem firmy nie potrzebują wyjątku po to, aby nie wypuszczać szkodliwych produktów. Jeżeli proszą o możliwość koordynacji z konkurentami, może chodzić o ograniczanie konkurencji i stworzenie quasi-kartelu.

9. Firmy chcą specjalnych „regulacji AI”, zamiast podlegać zwykłemu prawu

Rozmówcy odróżniają regulowanie AI od egzekwowania już istniejących przepisów. Ich teza brzmi: zanim powstaną wielkie międzynarodowe systemy „bezpieczeństwa AI”, należy stosować istniejące prawo dotyczące włamań, szkód, odpowiedzialności produktu, oszustw i ochrony konsumentów.

10. Wielkie hasła o „kill switchach” i zakazie superinteligencji są ich zdaniem politycznie wygodne, ale mało konkretne

Stoller krytykuje regulacje formułowane na bardzo wysokim poziomie ogólności. Jeśli ustawodawca chce czegoś zakazać, musi precyzyjnie zdefiniować pojęcie i określić konkretną szkodę. Opowieść o „zatrzymaniu superinteligencji” może być łatwiejsza politycznie niż żmudne tworzenie szczegółowych przepisów.

11. Prawdziwa katastrofa może być finansowa, nie technologiczna

To druga wielka oś całego materiału. Firmy AI wymagają ogromnych nakładów na centra danych, układy GPU i trenowanie modeli. Rozmówcy twierdzą, że rynek wycenia je głównie na podstawie obietnic tego, co AI będzie kiedyś potrafiła, a nie dzisiejszych wyników ekonomicznych.

12. AI może być kolejną bańką w rodzaju dot-comów albo kryzysu 2008 roku

Ed Zitron porównuje sytuację do wielkich baniek finansowych: ogromny kapitał trafia do infrastruktury, której przyszły zwrot jest niepewny, a duża część klientów firm AI to inne nierentowne startupy AI. Jeśli oczekiwane przychody nie powstaną, może dojść do poważnego załamania finansowego.

13. Mit „najmądrzejszych ludzi świata” jest częścią problemu

Rozmówcy wielokrotnie podkreślają, że bogactwo, prestiż i wysoka wycena firmy nie dowodzą, że jej kierownictwo wie, co robi. Przypominają Enron, Lehman Brothers i wcześniejsze bańki finansowe. Mechanizm psychologiczny jest prosty: skoro ktoś zarządza miliardami, ludzie zakładają, że musi mieć rację.

14. Media wzmacniają zarówno panikę technologiczną, jak i bańkę finansową

W materiale media są jednym z głównych oskarżonych. Zdaniem Zitrona bezkrytycznie powtarzają zarówno twierdzenia o możliwościach modeli, jak i katastroficzne prognozy ich twórców. To z jednej strony buduje strach, a z drugiej uzasadnia gigantyczne inwestycje.

15. Zamiast abstrakcyjnego „bezpieczeństwa AI” rozmówcy proponują konkretne działania

Ed Zitron wymienia kilka praktycznych działań: pełną przejrzystość dotyczącą liczby używanych GPU, dokładniejsze ujawnianie finansów prywatnych firm AI, śledztwa w sprawie incydentów hakerskich, zakazy niektórych zastosowań oraz odpowiedzialność karną i cywilną. Krytykuje też prezentowanie annualized run rate jako substytutu rzeczywistych rocznych przychodów.

Sedno w jednym zdaniu

Ich argument brzmi: problem z AI nie polega dziś przede wszystkim na tym, że maszyny zdobywają własną wolę, lecz na tym, że ludzie budują niebezpieczne produkty, prowadzą ryzykowne eksperymenty, unikają odpowiedzialności, próbują kształtować regulacje pod własny interes, a jednocześnie pompują gigantyczną bańkę inwestycyjną — zaś opowieść o „Terminatorze” może zasłaniać wszystkie te znacznie bardziej przyziemne problemy.