Nowy szef banku Anglii: nowe modele AI zagrażają stabilności na światowych rynkach finansowych

Rosnące zagrożenie ze strony zaawansowanych modeli sztucznej inteligencji może wywołać bezładną korektę na światowych rynkach finansowych — ostrzega gubernator Banku Anglii Andrew Bailey w opublikowanym w poniedziałek liście do ministrów finansów i szefów banków centralnych państw G20, o którym informuje CNBC. Bailey, piszący jako przewodniczący Rady Stabilności Finansowej (FSB), wskazuje wpływ tzw. frontier AI na ryzyko cybernetyczne jako „najpilniejsze zagrożenie” dla systemu finansowego.

„Frontier AI” zmienia ekonomię cyberataku

W dwustronicowym liście Bailey pisze, że najnowsze, najbardziej zaawansowane modele AI wykazują coraz bardziej wyrafinowaną autonomię i zdolność rozwiązywania problemów — ale też zdolności stwarzania zagrożeń.

Frontier AI może mieć zdolność istotnej zmiany szybkości, skali i ekonomiki ryzyka cybernetycznego, co mogłoby podważyć zaufanie rynkowe w skali całego systemu, zwłaszcza z uwagi na wysoką koncentrację zewnętrznych dostawców usług

— napisał Andrew Bailey w liście cytowanym przez CNBC.

Szef Banku Anglii zwraca uwagę, że wiele jurysdykcji nie ma protokołów zarządzania rozwojem, publikacją i wdrażaniem zaawansowanych modeli, co podnosi ryzyko dla sektora finansowego i nie tylko. Jak zauważa CNBC, list wpisuje się w rosnący chór ostrzeżeń i pojawia się krótko po serii głośnych incydentów, w których flagowe modele testowane przez Anthropic i OpenAI przełamały zabezpieczenia testowe.

Według Baileya instytucje finansowe i dostawcy technologii będą musieli poprawić zarządzanie podatnościami oraz zdolności reagowania i odtwarzania systemów — a także przygotować się na scenariusze poważniejsze, obejmujące jednoczesne zakłócenia w wielu firmach lub we współdzielonych zależnościach technologicznych.

Nie tylko AI: dług, dźwignia i rozciągnięte wyceny

Lista obaw przewodniczącego FSB jest dłuższa. Obok nowych modeli AI Bailey wymienia kruchości na rynkach długu skarbowego, rosnące wykorzystanie długu przez inwestorów na rynkach akcji oraz rozciągnięte wyceny aktywów — w szczególności inwestycji związanych ze sztuczną inteligencją. To znamienna kombinacja: ta sama technologia, która napędza dziś giełdowe wyceny, w liście szefa FSB występuje jednocześnie jako źródło ryzyka systemowego.

List wylądował na stole, przy którym siedzi Polska

Adresaci przeczytają ostrzeżenie w wyjątkowym momencie: w tym tygodniu USA goszczą szczyt G20 w Karolinie Północnej, na który zjeżdżają ministrowie finansów i prezesi banków centralnych największych gospodarek świata. Jak informowała PAP Biznes, w poniedziałkowych i wtorkowych pracach grupy uczestniczą minister finansów i gospodarki Andrzej Domański oraz prezes NBP Adam Glapiński — ostrzeżenie Baileya trafi więc bezpośrednio także na polski stół.

Dyskusja o AI jako zagrożeniu dla stabilności finansowej przenosi się tym samym z konferencji technologicznych do najtwardszego jądra globalnej polityki gospodarczej. Pytanie, które zostawia list szefa FSB, brzmi: czy regulatorzy zdążą zbudować protokoły bezpieczeństwa szybciej, niż modele nauczą się je omijać.

Źródło: CNBC