Straszą własnym produktem, bo strach dobrze się sprzedaje? PIE o podwójnej grze gigantów AI

Modele sztucznej inteligencji zaczynają osiągać wyniki matematyczne do niedawna poza ich zasięgiem — a równolegle sami twórcy tej technologii coraz głośniej ostrzegają przed jej dramatycznymi skutkami. Krystian Łukasik i Ignacy Święcicki w najnowszym Tygodniku Gospodarczym Polskiego Instytutu Ekonomicznego zwracają uwagę, że oba typy komunikatów mogą wzmacniać ten sam przekaz o wyjątkowej sile technologii i firm, które ją rozwijają — mechanizm znany w badaniach nad technologicznym hype’em jako criti-hype. Ma to szczególne znaczenie teraz, gdy OpenAI i Anthropic przygotowują się do wejścia na giełdę.

Najpierw pokazują przełom, potem straszą zagładą

Jak przypominają autorzy, Anthropic poinformował, że model Claude w 11 dni sformalizował istniejący dowód wielkiego twierdzenia Fermata — tworząc 13 mln linii kodu i ok. 30 tys. twierdzeń pośrednich, dokonał tzw. autoformalizacji, czyli zamienił złożony dowód na formalny zapis możliwy do automatycznej weryfikacji w języku Lean. Zadanie, które ludziom mogłoby zająć lata, model wykonał w kilkanaście dni. Kilka dni później OpenAI ogłosiło rozwiązanie przez ok. 10 tys. współpracujących agentów jednego z Problemów Milenijnych, dotyczącego równań Naviera-Stokesa — wynik czeka jeszcze na pełną ocenę środowiska matematycznego.

Równolegle płyną ostrzeżenia z samego środka branży. Evan Hubinger, lider badań w Anthropic, ocenił prawdopodobieństwo zagłady ludzkości spowodowanej przez AI w ciągu dekady na ponad 10 proc. Jakub Pachocki, główny naukowiec OpenAI, ostrzega przed rekursywnym samodoskonaleniem — sytuacją, w której AI coraz szybciej napędza własny rozwój z nieprzewidywalnymi skutkami. Szef Anthropic Dario Amodei wezwał branżę do spowolnienia prac, wprowadzenia standardów bezpieczeństwa i koordynacji międzynarodowej, a Sam Altman z OpenAI zapowiedział dostęp dla zewnętrznych ewaluatorów. Do propozycji Amodeia odwołała się wprost przewodnicząca Komisji Europejskiej Ursula von der Leyen, zapowiadając w dorocznym wystąpieniu współpracę z wiodącymi ośrodkami AI przy tworzeniu standardów ewaluacji i bezpieczeństwa — co autorzy odczytują jako kontynuację europejskiego podejścia z Aktu o sztucznej inteligencji, dogodną dla Unii pozostającej w tyle wyścigu technologicznego, ale walczącej o znaczenie regulacyjne.

Ostrzeżenie jako reklama

Analitycy PIE wskazują jednak, że alarmy można czytać nie tylko jako wezwanie do działania, ale i jako element gry rynkowej.

Polega on na ostrzeganiu przed skutkami technologii w celu wzmocnienia przekonania o jej ogromnych możliwościach. Informacja, że SI może zagrozić ludzkości sugeruje, że firmy rozwijają wyjątkowo potężną technologię.

— piszą o mechanizmie criti-hype’u Krystian Łukasik i Ignacy Święcicki w Tygodniku Gospodarczym PIE. Przypominają, że podobne apele o wstrzymanie rozwoju najbardziej zaawansowanych modeli pojawiały się już w 2023 r. — płynęły zarówno od niezależnych badaczy, jak Yoshua Bengio, jak i od liderów konkurujących firm, co od początku utrudniało oddzielenie autentycznych obaw od interesów strategicznych.

Mechanizm ma pomagać w uzasadnianiu wysokich wycen — im bardziej przełomowa i niebezpieczna ma być AI, tym łatwiej przekonywać inwestorów o jej potencjale — oraz wzmacniać pozycję gigantów w dyskusji o regulacjach.

Kosztowne audyty, obowiązki raportowania, ograniczenia dostępu do mocy obliczeniowej czy licencjonowanie są łatwiejsze do spełnienia przez liderów rynku, a dla mniejszych konkurentów mogą stanowić istotną barierę wejścia.

— zauważają analitycy PIE. Wezwania do spowolnienia rozwoju mogą też, ich zdaniem, służyć ograniczeniu tempa kosztownego wyścigu o moc obliczeniową.

Regulować — ale nie rękami regulowanych

Autorzy nie rozstrzygają, którą interpretację przyjąć — zaznaczają, że motywacji nie da się jasno rozdzielić. Kierunek uważają jednak za oczywisty: modele i zastosowania AI powinny podlegać ograniczeniom regulacyjnym jak każda inna technologia.

Ważne jednak, aby standardy bezpieczeństwa były projektowane przez instytucje niezależne od firm tworzących SI oraz były proporcjonalne do rzeczywistych możliwości powstających modeli. W przeciwnym razie bezpieczeństwo SI może stać się nie tylko sposobem ograniczania ryzyka, lecz także narzędziem ochrony pozycji liderów rynku.

— podsumowują autorzy analizy. Innymi słowy: pytanie nie brzmi już, czy regulować sztuczną inteligencję, lecz kto będzie trzymał pióro — i dla europejskiego, w tym polskiego, rynku cyfrowego to dziś pytanie ważniejsze niż spór o to, kiedy AI udowodni kolejne wielkie twierdzenie.

Źródło: Tygodnik Gospodarczy PIE (Polski Instytut Ekonomiczny)