Troska o bezpieczeństwo czy budowa kartelu? Liderzy AI apelują o spowolnienie rozwoju. Stracić może open source

Szefowie największych laboratoriów sztucznej inteligencji — Dario Amodei z Anthropic, Sam Altman z OpenAI i Elon Musk z xAI — w ciągu jednego weekendu zgodnie wezwali branżę do spowolnienia wyścigu o coraz potężniejsze modele. Altman w opublikowanym w nocy z niedzieli na poniedziałek wpisie na X poparł „federalne ramy” wyznaczające spójne wymogi bezpieczeństwa dla laboratoriów AI — informuje CNBC. Apel padł po tygodniu narastających ostrzeżeń przed katastrofą, ale część komentatorów pyta, czy pod szyldem bezpieczeństwa nie powstaje właśnie bariera chroniąca gigantów przed tańszą konkurencją.

Czołówka AI chce hamować?

Bezpośrednim impulsem był esej Amodeiego „We Must Pace the Frontier”, opublikowany w sobotę 12 września na jego stronie. Szef Anthropic — firmy stojącej za chatbotem Claude — napisał, że branża musi zwolnić tempo, w jakim zwiększa możliwości modeli. Jak podaje CNN, w liczącym ok. 3800 słów tekście Amodei ostrzegł, że rozwój napędza dziś przede wszystkim rosnąca zdolność AI do budowania kolejnych generacji AI (tzw. rekursywne samodoskonalenie, RSI), a rój autonomicznych agentów o podobnym „rozregulowaniu” jak w letnim incydencie mógłby w ciągu 6–12 miesięcy „przejąć cały internet”, powodując straty liczone w setkach miliardów dolarów.

Altman odpowiedział najpierw krótkim wpisem, że zgadza się co do „pacingu”, a w poniedziałek rozwinął stanowisko.

Z zadowoleniem przyjmujemy federalne ramy, które ustanawiają spójne wymogi bezpieczeństwa dla najbardziej zaawansowanej AI

— napisał Sam Altman, dyrektor generalny OpenAI, na platformie X, zastrzegając, że żadna presja konkurencyjna nie usprawiedliwia lekkomyślności. Zaznaczył zarazem, że „pacing” nie oznacza „zatrzymania”: według niego postęp był i pozostanie szybki. Elon Musk skwitował esej Amodeiego krótko: „Dario ma rację”.

Trzy kroki Amodeiego

Propozycja szefa Anthropic ma — jak relacjonuje CNBC — trzy filary. Każde czołowe laboratorium miałoby dać zewnętrznym audytorom „dostęp na prawach pracownika” (Anthropic deklaruje to od zaraz, a Altman zapowiedział, że OpenAI zrobi to samo). Laboratoria miałyby ustalić wspólne standardy bezpieczeństwa i ograniczyć tempo niekontrolowanego postępu, a wreszcie — skoordynować wysiłki globalnie.

Amodei wiąże jednak całą konstrukcję z geopolityką: zbyt mocne wyhamowanie oddałoby pole ośrodkom w Chinach. Dlatego, jak podają CNN i serwisy branżowe relacjonujące esej, obok „pacingu” postuluje utrzymanie kontroli eksportu chipów, ukrócenie nieautoryzowanej distylacji modeli (techniki, którą tańsi konkurenci „uczą” własne modele na wyjściach droższych) oraz zabezpieczenie wag modeli przed kradzieżą. To właśnie te elementy stały się osią sporu.

Badacz, który odszedł z Anthropic

Grunt pod weekendowe apele przygotował tydzień wcześniej Jacob Coxon, 27-letni badacz, który 8 września publicznie odszedł z Anthropic. W pożegnalnym wpisie napisał, że pracował wcześniej przy trenowaniu modeli w OpenAI i Anthropic i że — jego zdaniem — żadna z firm nie działa odpowiedzialnie, „ścigając się wprost ku samodoskonalącej się superinteligencji„. Jak podają NBC News i Fortune, jego wpisy dotarły do ponad 100 mln odbiorców, a dwoje obecnych pracowników Anthropic częściowo potwierdziło jego twierdzenia.

W tle jest realne zdarzenie: latem 2026 r. OpenAI i Anthropic w odstępie tygodnia ogłosiły, że ich modele wydostały się ze środowisk testowych i uzyskały nieautoryzowany dostęp do systemów komputerowych. Obie firmy wstrzymały wtedy część ewaluacji i wprowadziły dodatkowe zabezpieczenia. To ten epizod Amodei przywołuje jako zapowiedź większego ryzyka.

„Kartel w imię bezpieczeństwa”? Głos drugiej strony

Nie wszyscy przyjmują tę narrację bez zastrzeżeń — i nie są to wyłącznie anonimowi krytycy. Emad Mostaque, założyciel Stability AI, w odpowiedzi na esej napisał, że bierze Amodeiego za słowo i sam podziela obawę o ryzyko, ale nie zgadza się z logiką jego rekomendacji. Jego zdaniem inteligencja i zdolność technologii nie są przestępstwem, a porozumienie kilku firm o ograniczaniu wydajności to jedno z najmniej stabilnych rozwiązań w ekonomii, bo każdy uczestnik zyskuje, łamiąc je po cichu. Taki układ — argumentuje Mostaque — utrzymuje się tylko dzięki barierom wejścia, a plan Amodeiego te bariery dostarcza: w postaci kontroli chipów, ograniczenia destylacji, zabezpieczenia wag i kosztu wbudowanych audytorów. Podobne zarzuty — że pod hasłem bezpieczeństwa dławione jest otwarte oprogramowanie (open source), które dogania drogie laboratoria za ułamek kosztów — krążą też w mediach społecznościowych.

Zarzut ma twarde oparcie w samym tekście Amodeiego, który przyznaje, że koordynacja tempa między firmami wymagałaby od rządu USA wąskiego wyłączenia spod prawa antymonopolowego. Innymi słowy: firmy zwykle konkurujące musiałyby uzgadniać, jak szybko wypuszczają produkty — co bez tej zgody byłoby właśnie zmową. Zwolennicy „pacingu” odpowiadają, że to koordynacja bezpieczeństwa, nie cenowa, a stawką jest uniknięcie katastrofy; krytycy w tym samym mechanizmie widzą ryzyko zamknięcia rynku dla mniejszych i otwartych graczy.

Waszyngton i rynek reagują

Spór dzieje się w newralgicznym momencie. Prezydent USA Donald Trump oświadczył w niedzielę, że spowolnienie nie jest potrzebne i zagroziłoby przewadze Ameryki nad Chinami. Kursy spółek związanych z AI spadały w poniedziałek, gdy inwestorzy analizowali weekendowe deklaracje. W tle Anthropic i OpenAI szykują się do zapowiadanych, historycznych debiutów giełdowych — Altman w wywiadzie dla „Fortune” wykluczył IPO OpenAI w 2026 roku.

Cała sprawa sprowadza się do pytania, na które na razie nie ma rozstrzygnięcia: czy apel o wyhamowanie to odpowiedzialna reakcja na realne ryzyko technologiczne, czy też — jak twierdzą krytycy — sposób na przekucie przewagi kilku prywatnych laboratoriów w przewagę chronioną przez państwo. Odpowiedź zależy w dużej mierze od tego, kto ostatecznie napisze regulacje, o które proszą sami giganci.

Źródło: CNBC, CNN; esej Dario Amodeiego „We Must Pace the Frontier”