Twórcy kontroli nad rozwojem AI trafił na Radę Bezpieczeństwa ONZ

Liderzy firm OpenAI, Anthropic i Hugging Face zaapelowali podczas briefingu Rady Bezpieczeństwa ONZ o pilne wprowadzenie międzynarodowych standardów i kontroli nad rozwojem autonomicznych technologii — informuje agencja Newseria. Z podobnym apelem wystąpiły 22 państwa i instytucje, m.in. Kanada, Australia, Niemcy, Hiszpania i Komisja Europejska, a sekretarz generalny ONZ António Guterres wskazał na możliwość utworzenia międzynarodowej instytucji, która ustalałaby standardy, umożliwiała weryfikację i zwoływała państwa w przypadku przekroczenia progów zdolności modeli. Regulacjom sprzeciwia się administracja USA, która w sztucznej inteligencji widzi swoją przewagę nad Chinami.

Ostrzegają ci, którzy tę technologię budują

Przedstawiciele firm wyspecjalizowanych w AI coraz głośniej mówią o ryzyku związanym ze zbyt szybkim tempem rozwoju technologii. Dario Amodei, współzałożyciel firmy Anthropic, która stoi za modelem Claude, podkreślił niedawno, że tempo ulepszania możliwości modeli sztucznej inteligencji należy spowolnić, bo pozostawione bez kontroli mogą przewyższać ludzkie możliwości zrozumienia i kontrolowania systemów. Jeszcze dalej idzie Evan Hubinger, prowadzący w Anthropic badania nad dostosowaniem AI, który we wpisie w mediach społecznościowych przyznał, że istnieje ponad 10 proc. prawdopodobieństwa, iż w ciągu następnej dekady sztuczna inteligencja może doprowadzić do śmierci wszystkich ludzi.

To się wymknęło spod kontroli, a może w ogóle nigdy pod nią nie było. Mamy do czynienia z globalną konkurencją. Wszyscy chcą się rozwijać i uczyć modele AI szybciej, żeby były jeszcze inteligentniejsze

— mówi agencji Newseria Tobiasz Bocheński, poseł do Parlamentu Europejskiego z Prawa i Sprawiedliwości, członek grupy EKR. Za bardzo niepokojące uznaje wypowiedzi ekspertów przewidujących, że w ciągu 10 lat algorytmy będą tak złożone, iż ludzie w ogóle nie będą ich rozumieli — co „może absolutnie zmienić świat, w którym żyjemy”.

Niektórzy chińscy eksperci mówią, że skończyła się era człowieka, a zaczęła się era sztucznej inteligencji i robotyki. Wiem, że każdy myśli o „Terminatorze” albo „Matriksie”, ale nie uśmiechałbym się tutaj i naprawdę nie bagatelizowałbym tego zagrożenia. Jeżeli sztuczna inteligencja wymknie się spod kontroli, nie wiemy, jakie może mieć to skutki dla całej ludzkości

— podkreśla europoseł.

Agent, który uciekł z klatki

Obawy przestały być czysto teoretyczne. W lipcu 2026 roku, podczas testowania możliwości sztucznej inteligencji, agent AI wykorzystujący modele OpenAI obszedł zabezpieczenia, które miały odizolować go od internetu, i naruszył zabezpieczenia części wewnętrznej infrastruktury badawczej OpenAI oraz systemów firmy Hugging Face. O incydencie wspomniała szefowa Komisji Europejskiej Ursula von der Leyen w orędziu o stanie Unii, wygłoszonym 16 września w Strasburgu, zaznaczając, że przypadki agentów AI wydostających się ze swojego środowiska lub wprowadzających złośliwy kod to dopiero początek.

W następstwie incydentu Hugging Face deweloperzy biją na alarm. Dyrektorzy generalni najbardziej zaawansowanych przedsiębiorstw mówią, że pora spowolnić rozwój modeli samodoskonalących się, spowolnić rozwój tych najbardziej zaawansowanych rozwiązań. Skoro ci, którzy opracowują tę technologię, nie mają wątpliwości, my też nie powinniśmy. Kluczowym narzędziem wprowadzania zabezpieczeń jest oczywiście akt w sprawie sztucznej inteligencji. Dzięki niemu Europa jest w stanie kształtować globalne wysiłki na rzecz rozwiązania tego problemu

— zapowiedziała Ursula von der Leyen, przewodnicząca Komisji Europejskiej. Bruksela chce zintensyfikować współpracę z partnerami „o zbieżnych poglądach”, takimi jak Kanada i Zjednoczone Królestwo — w zakresie oceny i weryfikacji modeli, wczesnego ostrzegania i bezpieczeństwa AI — oraz zaprosić do dyskusji najważniejsze laboratoria opracowujące modele pionierskie, by wesprzeć wysiłki przemysłu na rzecz spowolnienia rozwoju najbardziej zaawansowanych systemów.

Wyścig, w którym nikt nie chce hamować pierwszy

Problem w tym, że globalnej zgody na kontrolę nie widać. Propozycjom regulacji sprzeciwia się administracja USA — Donald Trump uważa, że AI to obszar, w którym Stany Zjednoczone mają przewagę nad Chinami, i chce ją utrzymać. Skalę rywalizacji pokazuje raport Stanford AI Index 2026: Chiny przodują pod względem liczby publikacji, cytowań i przyznanych patentów, a ich udział w 100 najczęściej cytowanych pracach o AI wzrósł z 33 proc. w 2021 roku do 41 proc. w 2024 roku. Stany Zjednoczone zachowują patenty o większym wpływie i w 2025 roku opracowały 59 znaczących modeli wobec 35 w Chinach. Liderem liczby patentów AI na mieszkańca jest z kolei Korea Południowa.

Dylemat polega na tym, że albo można przyjąć jedno globalne rozwiązanie, które wszyscy by zastosowali, albo żadna metoda kontroli się nie sprawdzi. Nikt nie zgodzi się na globalne rozwiązanie

— uważa Bocheński. Jak podkreśla, im bardziej modele będą wykraczały poza ludzki horyzont inteligencji, tym częściej agenci AI będą rozstrzygali problemy nie tylko matematyczno-fizyczne, ale i geopolityczne.

Może się zdarzyć tak, że rząd i polityka wymkną się elementowi ludzkiemu spod kontroli. Nikt na świecie, niezależnie, czy w Pekinie, Tokio, Waszyngtonie, San Francisco, czy w Brukseli, Berlinie, Warszawie, nie ma dziś pomysłu, jak ten dylemat rozwiązać. Wszyscy biegną w jedną stronę, ku jeszcze lepszym możliwościom obliczeniowym sztucznej inteligencji

— mówi europoseł. Korporacje i państwa dysponujące najnowocześniejszymi modelami będą — jego zdaniem — wygrywały z tymi, które ich nie mają, więc „zatrudniać” je zaczną wszyscy, nie rozumiejąc, jak funkcjonują.

Sytuacja jest bezprecedensowa: o hamulec proszą ci sami, którzy wciskają gaz — a mimo to wyścig przyspiesza, bo nikt nie ufa, że konkurent zdejmie nogę z pedału. Historia zna jeden porównywalny przypadek technologii, której twórcy sami domagali się międzynarodowej kontroli — broń jądrową. Tam reżim kontroli powstał dopiero po Hiroszimie. Pytanie, które zostawiamy otwarte: czy tym razem świat zdąży przed swoim „testem”, czy po raz kolejny regulacje napisze dopiero katastrofa.

Źródło: Newseria