OpenAI zatrzymało proces podkradania „rozumowania” swoich modeli. Trop prowadzi do Chin

OpenAI zidentyfikowało i przerwało skoordynowaną kampanię, w której operatorzy próbowali wyciągnąć chronione ścieżki rozumowania jego modeli sztucznej inteligencji — poinformowała firma w komunikacie, o którym pisze CNBC. Główny klaster aktywności OpenAI powiązało z osobami związanymi z chińskim startupem Moonshot AI, twórcą modelu Kimi. Operacja zaczęła się na początku lipca, a w szczytowym momencie sięgnęła 16 tys. zapytań od ponad 4 tys. użytkowników w ciągu dwóch dni. Łącznie firma zidentyfikowała powiązaną aktywność w klastrze ponad 15 tys. kont i deklaruje, że w pełni przerwała kampanię do 28 lipca.

„Adversarial distillation”: kopiowanie zdolności bez ponoszenia kosztów

OpenAI określa wykrytą aktywność jako „adversarial distillation” (wrogą destylację) — praktykę, w której odpowiedzi lub rozumowanie jednego modelu AI służą do trenowania albo ulepszania innego. Według firmy wyciągnięcie takiego rozumowania mogłoby pozwolić konkurentom odtworzyć zaawansowane zdolności bez ponoszenia porównywalnych nakładów na rozwój i zabezpieczanie modeli granicznych — co zdaniem OpenAI rodzi potencjalne ryzyka dla bezpieczeństwa, także narodowego.

Jak zastrzega firma, operatorzy nie złamali szyfrowania, nie włamali się do baz danych ani nie uzyskali dostępu do przechowywanych rozmów użytkowników. Zamiast tego manipulowali interakcjami z modelami tak, by ukryte rozumowanie zostało odtworzone w formie widocznej dla pytającego.

OpenAI przyznaje, że nie jest jasne, czy wszyscy zaangażowani operatorzy byli powiązani z jednym podmiotem — główny klaster aktywności przypisuje jednak osobom związanym z Moonshot AI. Swoimi ustaleniami firma podzieliła się z innymi laboratoriami AI za pośrednictwem Frontier Model Forum oraz rządowymi kanałami wymiany informacji. Moonshot AI nie odpowiedział od razu na prośby CNBC o komentarz.

Drugi taki zarzut w kilka tygodni

Ustalenia OpenAI pojawiają się zaledwie kilka tygodni po tym, jak konkurencyjny Anthropic oskarżył kilku chińskich deweloperów AI — w tym Moonshot AI i Alibabę — o potajemne wykorzystywanie modelu Claude do pomocy w trenowaniu własnych systemów. Jak zauważa CNBC, oba przypadki obrazują narastające obawy amerykańskich firm AI, że rywale mogą używać ich modeli, by szybciej i taniej rozwijać konkurencyjną technologię.

Spór o destylację to w gruncie rzeczy spór o to, kto zapłaci za najdroższy wyścig przemysłowy naszych czasów. Trening modeli granicznych pochłania miliardy dolarów, a „wroga destylacja” pozwala skonsumować efekty tych inwestycji za ułamek ceny — nic dziwnego, że amerykańskie laboratoria zaczynają traktować ścieżki rozumowania swoich modeli jak tajemnicę przemysłową, a spory z chińskimi rywalami coraz częściej ubierają w język bezpieczeństwa narodowego. Jest w tym jednak historyczna ironia: same wielkie modele językowe wytrenowano na cudzej pracy zebranej z internetu, o co ich twórcy są pozywani przez wydawców i autorów. Granica między „uczeniem się od konkurencji” a kradzieżą własności intelektualnej staje się jedną z kluczowych linii frontu technologicznej rywalizacji USA i Chin — a precedensy, które teraz powstają, określą reguły gry także dla europejskich i polskich firm budujących własne modele.

Źródło: CNBC, OpenAI