Sztuczna inteligencja omal nie wywołała wojny USA z Chinami. Chatbot „wykrył” broń jądrową, której nie było

Amerykańskie wojsko wiosną tego roku szykowało się do przechwycenia chińskiego statku na Bliskim Wschodzie, bo raport wywiadowczy wskazywał, że jednostka przewozi komponenty programu broni jądrowej. Operację odwołano w ostatniej chwili, gdy okazało się, że raport został wygenerowany z pomocą sztucznej inteligencji, a chatbot błędnie zidentyfikował ładunek — ujawniła w piątek telewizja CNN, powołując się na cztery osoby znające sprawę. Według jednego z rozmówców stacji dokument był „całkowicie fałszywy”, a incydent „omal nie rozpoczął wojny”.

Alarm w środku wojny z Iranem

Jak podaje CNN, raport wywiadowczy krążył w strukturach amerykańskiej armii wiosną, w trakcie wojny z Iranem, i natychmiast uruchomił dzwonki alarmowe: chiński statek na Bliskim Wschodzie miał transportować elementy programu broni jądrowej. Wojsko przystąpiło do planowania przechwycenia jednostki. Według dwóch rozmówców stacji uzbrojeni żołnierze przygotowywali się już do abordażu, a wojskowe samoloty — jak relacjonują kolejne dwa źródła — były w powietrzu.

Dopiero tuż przed planowaną operacją oficerowie przyjrzeli się bliżej dokumentowi przygotowanemu przez analityka dowództwa operacji specjalnych. Ustalili, że powstał on z pomocą sztucznej inteligencji, a chatbot, z którego korzystał analityk, błędnie zidentyfikował przewożony materiał. Serwis Gizmodo, opisujący ustalenia CNN, precyzuje, że analiza chatbota wskazywała, iż statek dostarcza komponenty do programu nuklearnego Iranu — kraju, który od końca lutego jest celem amerykańsko-izraelskich nalotów.

CNN nie zdołała ustalić, co faktycznie znajdowało się na pokładzie ani dokąd zmierzał statek. Nie wiadomo też, z jakiego narzędzia AI korzystał analityk — komercyjnego czy zbudowanego na potrzeby rządu. Odpowiedzialne za region Centralne Dowództwo USA (CENTCOM) nie odpowiedziało na prośbę o komentarz, o co bezskutecznie zabiegał również serwis Engadget.

Jawne dane zmieszane z tajnymi

Do błędu doszło, gdy analityk zapytał chatbota o manifest ładunkowy chińskiej jednostki. Narzędzie połączyło informacje z otwartych źródeł z tajnymi danymi wywiadu radioelektronicznego i na tej podstawie wyciągnęło fałszywy wniosek o nuklearnym charakterze ładunku. To modelowy przykład zjawiska, przed którym eksperci ostrzegają od lat: system AI, karmiony niepełnymi lub błędnymi danymi, potrafi sformułować kategoryczną tezę, która w dokumencie wywiadowczym wygląda jak twarde ustalenie.

Stawka była wyjątkowo wysoka. Operacja zbrojna wobec jednostki pod chińską banderą — abordaż, a w skrajnym scenariuszu ostrzał — mogła sprowokować konflikt zbrojny dwóch największych gospodarek świata. Jak zauważa CNN, analitycy od dawna obawiali się, że poleganie na złych lub zmanipulowanych danych doprowadzi państwa do katastrofalnej pomyłki kalkulacyjnej — i to właśnie taki scenariusz omal się nie zmaterializował.

Pentagon chce być „AI-first”

Incydent uderza w samo serce strategii resortu obrony USA. W styczniu sekretarz obrony Pete Hegseth wydał memorandum nakazujące Pentagonowi transformację w instytucję „AI-first” i eksperymentowanie z modelami czołowych amerykańskich firm AI — przypomina Engadget. Od tego czasu resort zawarł szereg umów: w lutym dostęp do modelu Grok miała zapewnić wojsku firma SpaceXAI, a w maju partnerstwo na dostawy technologii AI dla Pentagonu ogłosiły NVIDIA, Microsoft i Amazon.

Nie wszyscy dostawcy podporządkowali się warunkom resortu. Według Engadget firma Anthropic odmówiła zgody na wykorzystanie swoich modeli do rozwoju broni autonomicznej, za co została przejściowo objęta rządowym zakazem. Kontrakty rządowe pozostają jednak dla branży łakomym kąskiem — a wyścig o nie trwa, mimo że, jak pokazuje opisany incydent, wdrażanie AI w instytucjach siłowych niesie ryzyka nieporównywalne ze zwykłym oprogramowaniem biurowym.

Tydzień przed wizytą Xi w Waszyngtonie

Ujawnienie sprawy ma też wymiar dyplomatyczny. Jak zauważa dziennik „The Jerusalem Post”, publikacja CNN zbiega się z zaplanowaną na 24 września wizytą przywódcy Chin Xi Jinpinga w Waszyngtonie — a jednym z tematów rozmów z Donaldem Trumpem ma być właśnie wykorzystanie sztucznej inteligencji, wobec rosnących obaw ekspertów po obu stronach Pacyfiku.

Historia z Bliskiego Wschodu sprowadza abstrakcyjną debatę o „ryzykach AI” do bardzo konkretnego obrazka: samoloty w powietrzu, komandosi gotowi do abordażu i raport, którego nikt na czas nie zweryfikował. Tym razem człowiek zdążył sprawdzić maszynę. Pytanie, które po tej publikacji zawiśnie nad Pentagonem — i nad każdą armią wdrażającą AI — brzmi: co się stanie, gdy następnym razem nie zdąży.

Źródło: CNN, Engadget