Kilkunastu badaczy OpenAI i Anthropic ostrzega przed zagładą. Trump zbywa temat jednym zdaniem

Prezydent USA Donald Trump oświadczył, że nie ma żadnych obaw o to, by sztuczna inteligencja doprowadziła do zagłady ludzkości — jego zdaniem realnym zagrożeniem byłaby przegrana Ameryki w wyścigu z Chinami — informuje CNBC. Deklaracja padła w czwartek, po fali publicznych ostrzeżeń ze strony kilkunastu badaczy z wiodących laboratoriów OpenAI i Anthropic, którzy wezwali do spowolnienia prac nad coraz potężniejszymi systemami. W Kongresie tymczasem rosną ponadpartyjne naciski na objęcie zaawansowanej AI nadzorem.

„Nie mam żadnych obaw”

Zapytany przez dziennikarzy, czy obawia się, że AI może doprowadzić do wyginięcia ludzkości, Trump odpowiedział krótko: „Nie, nie mam żadnych”.

Mam obawy, że jeśli nie wygramy AI, znajdziemy się w bardzo złej pozycji. Prowadzimy obecnie z Chinami z całkiem sporą przewagą, powiedziałbym, że roczną — a to, jak wiadomo, uchodzi za dużo

— powiedział prezydent USA, cytowany przez CNBC. Stany Zjednoczone i Chiny toczą batalię o prymat w sztucznej inteligencji, a napięcie rośnie, w miarę jak chińskie modele stają się coraz bardziej zaawansowane i zyskują użytkowników na całym świecie.

Badacze: „gramy życiem nas wszystkich”

Wypowiedź Trumpa padła w momencie, gdy alarm podnoszą ludzie z samego środka branży. Badacz Anthropic Jacob Coxon ogłosił we wtorek odejście z firmy, oceniając, że Anthropic i konkurencyjne OpenAI „grają naszym życiem” — i twierdząc, że część osób budujących AI wierzy, iż technologia „może nas wszystkich zabić do końca dekady„. Według CNBC podobne opinie wyraziło od tego czasu kilkanaście innych osób z obu laboratoriów.

Wiele obaw koncentruje się wokół zdolności modeli do samodzielnego ulepszania własnego działania — techniki znanej jako rekurencyjne samodoskonalenie (RSI). Pracująca nad tzw. alignmentem badaczka OpenAI Jasmine Wang oceniła w środę, że „trudno przecenić, jak niebezpieczny jest pęd ku RSI”. Głos zabrał też główny naukowiec OpenAI Jakub Pachocki, który w sobotę stwierdził, że ma „silne oczekiwanie”, iż tempo postępu może utrzymać się aż do osiągnięcia rekurencyjnego samodoskonalenia.

Obawiam się, że nikt nie jest przygotowany na konsekwencje dalszego szybkiego wzrostu inteligencji maszyn

— napisał Pachocki, cytowany przez CNBC.

Ponadpartyjne porozumienie

Warto odnotować, że postulaty nadzoru przestają być domeną jednej partii. W lipcu republikanin Jay Obernolte z Kalifornii i demokratka Lori Trahan z Massachusetts zapowiedzieli projekt ustawy FRONTIER Act, ustanawiającej ramy zarządzania wdrażaniem zaawansowanych modeli AI.

Badacze bezpieczeństwa składają rezygnacje, potężne modele AI wymykają się ze swoich laboratoriów, a firmy i tak pędzą naprzód. Najwyższy czas, by Kongres zszedł z ławki rezerwowych i wykonał swoją robotę

— napisała w środę na platformie X Trahan. Dalej idzie propozycja senatora Berniego Sandersa i kongresmena Grega Casara, którzy na początku miesiąca złożyli projekt Ban Artificial Superintelligence Act — zakładający tymczasowe wstrzymanie prac nad zaawansowaną AI do czasu ustanowienia przez rząd federalny reguł bezpieczeństwa.

Spór, który obserwujemy, to w istocie zderzenie dwóch racji stanu. Administracja Trumpa argumentuje, że spowolnienie oznacza oddanie pola Chinom — a technologiczna hegemonia rywala byłaby zagrożeniem samym w sobie. Badacze odpowiadają, że wyścig, w którym nikt nie kontroluje mety, może nie mieć zwycięzców. Dla Europy, w tym Polski — która, jak pisaliśmy przy okazji Forum w Karpaczu, od sierpnia wdraża unijne przepisy o AI — amerykańska debata ma znaczenie praktyczne: to w USA rozstrzygnie się, czy globalnym standardem będzie regulowany rozwój, czy sprint bez ograniczników. Na razie kierunek wyznacza zdanie prezydenta: wygrać, reszta potem.

Źródło: CNBC