Plan A: czy chcielibyście żyć w najlepszym z możliwych światów ze sztuczną superinteligencją?

Opinia Jakuba Growca (22.07.2026) na temat opublikowanego w lipcu 2026 r. raportu AI 2040: Plan A — kolejnego opracowania zespołu odpowiedzialnego za głośny raport AI 2027 (kwiecień 2025).

Kontekst

• Koordynatorem, głównym autorem i twarzą obu raportów jest Daniel Kokotajlo — znany m.in. z tego, że odchodząc z OpenAI odmówił podpisania klauzuli zakazującej publicznych wypowiedzi o firmie, co oznaczało przepadek pakietu akcji wartego ok. 2 mln USD (po publicznym oburzeniu OpenAI ostatecznie pozwoliło mu akcje zachować).
• AI 2027 miał charakter ostrzeżenia i prognozy: opisywał dwie najbardziej prawdopodobne zdaniem autorów trajektorie błyskawicznego, niekontrolowanego rozwoju AI — prowadzące do zagłady ludzkości lub (w najlepszym razie) skrajnej koncentracji władzy w rękach wąskiej grupy kształtującej cele najbardziej zaawansowanych modeli.
• AI 2040: Plan A ma natomiast charakter rekomendacji.

Struktura scenariuszy w raporcie

• Scenariusz D (domyślny) — wyścig w stronę sztucznej superinteligencji, o katastrofalnych konsekwencjach zarysowanych już w AI 2027.
• Scenariusze C i B — uwzględniają rozmaite działania polityczne, ale są zbyt cząstkowe i niedoskonałe; pozwalają jedynie nieznacznie odwlec spodziewaną zagładę.
• Plan A (rekomendowany przez autorów) — bardziej proaktywny; sekwencja pauz i etapów rozwoju:
  • 2029–32 — chwilowa pauza w rozwoju największych modeli,
  • 2032–35 — etap dynamicznego rozwoju,
  • 2035–40 — kolejna pauza,
  • po 2040 — dalszy rozwój AI, stanowiący symboliczne oddanie kontroli nad światem, przekazanie AI „kluczy do sterowania całą cywilizacją”.
  • Założenie: dzięki mądrym działaniom w okresach pauzy uda się rozwiązać problem zgodności celów AI, więc po 2040 r. spotka nas nie zagłada, lecz utopia.
• Plan S — całkowite, globalnie skoordynowane i umocowane w traktatach zatrzymanie rozwoju modeli AI: zakaz trenowania coraz większych i bardziej kompetentnych modeli ogólnego zastosowania (rozwój wąskiej AI i jej specyficznych aplikacji pozostaje dopuszczony).

Co autor ocenia pozytywnie

• Jedna z bardzo niewielu wnikliwych analiz konsekwencji dynamicznego rozwoju ogólnej AI — i prawdopodobnie najbardziej szczegółowa z nich.
• Poważnie traktuje jednocześnie: ryzyko egzystencjalne dla ludzkości, perspektywę pełnej automatyzacji pracy przez AI i roboty oraz ryzyko wzrostu nierówności społecznych.
• Nie boi się podnosić kwestii kontrowersyjnych i obarczonych dużą niepewnością.
• Bardzo wartościowe szczegółowe rekomendacje polityk — przydatne niezależnie od tego, w którym scenariuszu ostatecznie się znajdziemy:
  • transparentność prac nad rozwojem AI,
  • kontrola eksportu chipów AI,
  • śledzenie chipów AI,
  • rozwój infrastruktury weryfikacyjnej,
  • ograniczenie budżetu badawczego w branży AI.

Główna teza polemiczna: plan A to za mało

• Plan A jest oczywiście lepszy niż cząstkowe plany B i C, a zwłaszcza niż zerowy plan D prowadzący prostą drogą do zagłady.
• Mimo to plan A wiąże się z nieakceptowalnie wysokim ryzykiem — zdaniem autora opinii najlepszy jest plan S.
• Co ciekawe, sami autorzy raportu wskazują warunki, w których plan S byłby właściwy: gdy umowa USA–Chiny (lub ogólnoświatowa) o pauzie jest możliwa do utrzymania przez dłuższy czas, problemy kontroli i zgodności celów AI są bardzo trudne, a skalowanie kompetencji AI nie pomaga istotnie w ich rozwiązaniu. Growiec uważa, że właśnie tak jest.
  • Cytat z raportu: „So whether you prefer Plan A or Plan S might come down to how optimistic you are about the future of a US-China deal, and your assessment of technical alignment and control difficulty…”
• Centralny kontrargument autorów raportu — że gdy światowy traktat o niewrozwijaniu AI się w końcu załamie, ponowny wyścig technologiczny może ruszyć w gorszych okolicznościach niż obecne — nie jest wystarczająco przekonujący, by uzasadniać dobrowolne podejmowanie ryzyka egzystencjalnego.

Trzy reakcje nieantycypowane przez autorów raportu

1. Amerykocentryczność i brak refleksji międzynarodowej

• Załóżmy, że zgodnie z planem A ludzkość unika zagłady, ale AI i roboty stopniowo automatyzują wszystkie miejsca pracy, a software AI, centra danych i roboty są w przeważającej części amerykańskie lub chińskie.
• Konsekwencja jest jasna: coraz większa część światowego PKB powstaje w USA i Chinach, a reszta świata relatywnie traci.
• Raport proponuje (od 2033 r.) Dywidendę Obywatelską dzieloną po równo między Amerykanów, z niesprecyzowaną częścią przekazywaną za granicę w formie „pomocy”.
  • Podejście patronizujące i kolonialne — „ochłapy z pańskiego stołu” dla spokoju mieszkańców innych krajów.
  • Omija też ważne zarzewie głębszych konfliktów: obecny porządek polityczny odzwierciedla realia gospodarcze XX wieku. Czy gdy transformatywna AI całkowicie zmieni te realia, nie pójdą za tym zmiany polityczne?
  • Jeśli USA i Chiny podzielą świat na strefy wpływów dzięki przewagom w AI i robotyce — czy nie powinny wziąć za nie pełnej odpowiedzialności?

2. Naiwność polityczna — wartość ludzkiego głosu

• Autorzy raportu sądzą, że w dobie pełnej automatyzacji pracy największym zasobem człowieka będzie jego głos. Growiec się z tym nie zgadza.
• Argument pierwszy — podatność na algorytmy: już dziś widać polaryzację, manipulacje, propagandę, fejki, bańki informacyjne i komory echa. Algorytmy ułatwiają też inwigilację i kontrolę społeczną (przodują Chiny, ale i USA z Palantirem nie są bez winy). Przy silniejszej AI zjawiska te mogą się nasilać — choć wiele zależy od regulacji.
• Argument drugi — utrata karty przetargowej: gdy przeciętny człowiek straci wkład swojej pracy w wartość dodaną, może stracić też realny udział w podejmowaniu kolektywnych decyzji.
  • Bardziej niż głos w wyborach liczyć się może baza podatkowa — a tę będą stanowić nie obywatele, lecz roboty i AI oraz ich (nieliczni) właściciele.
  • Ryzyko świata, w którym z punktu widzenia decydenta życie ludzkie traci wartość. Raport tego zagrożenia nie porusza.

3. Rozczarowująca wizja utopii

• Nawet jeśli w 2040 r. powstanie superinteligencja służąca długofalowemu dobru ludzkości (brakuje zresztą w raporcie doprecyzowania pojęcia superintelligence alignment) — co konkretnie z tego będziemy mieli?
• Na plus: autorzy oparli się pokusie zakończenia w stylu „i żyli długo i szczęśliwie”.
• Na minus: wizja skupiona na szybkim postępie technologicznym, podboju kosmosu i wypłacanych z tego tytułu dywidendach rozczarowuje.
  • Każdy człowiek ma otrzymać proporcjonalny udział we własności Wszechświata poza Układem Słonecznym — jedną dziesięciomiliardową osiągalnego z Ziemi stożka świetlnego — którym będzie mógł swobodnie rozporządzać.
  • Wątpliwość: co komu po prawie własności do ułamka wszechświata poza Układem Słonecznym? Brzmi jak groteskowo przerysowane „dzielenie skóry na niedźwiedziu” lub „obiecywanie Niderlandów”.
  • Prawa fizyki — zwłaszcza absolutny charakter prędkości światła — nie pozwolą odnieść z tej własności korzyści w perspektywie ludzkiego życia. Chyba że w świecie ze superinteligencją będziemy żyli wiecznie, przynajmniej jako cyfrowe uploady umysłów.

Uwaga końcowa: „Bal na koniec świata”

• Autorzy raportu wyobrażają sobie przełomowy moment 2040 r. — ostateczną utratę kontroli nad własną przyszłością na rzecz AI — jako huczne „End Of The World Party”, podczas których będziemy desperacko trzymać kciuki, że AI nas jednak nie zabije.
• Growiec zauważa zbieżność z własnym katastroficznym opowiadaniem o tym samym tytule z września 2025 r. i pyta: czy sami autorzy podskórnie czują, że w obliczu superinteligencji nawet plan A może nie wystarczyć?

Tl;dr

Moim zdaniem plan A to za mało. Tylko plan S.