AI zagnieżdżona w piekarniku? Anthropic ostrzega przed samopowielającymi się modelami

Małe modele sztucznej inteligencji dzielą „miesiące” od rozwinięcia zdolności potrzebnych do replikowania się na podłączonych do internetu urządzeniach domowych — ostrzegło w poniedziałek laboratorium Anthropic, o czym informuje CNBC. Autorem tekstu jest Arjun Kharpal. Model rozproszony po takich urządzeniach byłby trudny do wyłączenia, bo — jak wskazuje firma — nie istniałby żaden centralny punkt, który można odciąć.

Piekarnik i przystawka TV zamiast centrum danych

Anthropic opisał, jak modele AI mogłyby infiltrować urządzenia podłączone do internetu — na przykład inteligentne piekarniki czy przystawki Android TV — i wykorzystywać ich moc obliczeniową do działania oraz rozprzestrzeniania się na kolejne sprzęty, bez polegania na kosztownych centrach danych.

Model byłby trudny do wyłączenia, ponieważ nie ma scentralizowanego punktu, który można odciąć

— czytamy we wpisie blogowym Anthropic cytowanym przez CNBC.

Firma przyznaje, że „w pełni zbuntowany replikator” jeszcze nie istnieje. Agenci AI stają się jednak — według Anthropic — coraz bardziej zdolni do wykonywania poszczególnych kroków w łańcuchu replikacji i przekazywania swoich adaptacji przyszłym kopiom samych siebie.

Test: model Google’a na 15 tanich przystawkach

Jak podaje CNBC, Anthropic przeprowadził serię testów sprawdzających zdolność AI do samoreplikacji. W jednym z nich mały model Google’a — Gemma4-26B-A4B — uruchomiono w sieci 15 tanich, bezmarkowych przystawek Android TV. Firma zwraca uwagę, że tego typu urządzenia mają często słabe zabezpieczenia, co może ułatwić modelowi ich infiltrację, a model zbyt duży, by zmieścić się na jednym urządzeniu, mógłby podzielić się na fragmenty (shardy) i działać na wielu sprzętach naraz.

W praktyce robak AI niekoniecznie składałby się z jednego modelu czy jednej strategii. Rój różnych modeli uruchomionych na różnych typach sprzętu, wykorzystujących rozmaite schematy replikacji, mógłby stanowić bardziej realistyczny scenariusz ataku w wariancie najgorszym

— wskazuje Anthropic we wpisie cytowanym przez CNBC.

Powolne replikatory jako sygnał ostrzegawczy

Laboratorium zastrzega, że nie wiadomo jeszcze, jaką dokładnie formę przybierze autonomiczna replikacja AI: może to być powolny, rozproszony system gnieżdżący się na słabo zabezpieczonych urządzeniach, potężny model cybernetyczny włamujący się w szybkim tempie do centrów danych albo model wyłudzający od ludzi kredyty obliczeniowe. W prognozie wykraczającej poza eksperymenty Anthropic spodziewa się przyszłości pełnej agentów działających na wszelkich typach sprzętu — w tym takich, które nie będą pod ludzką kontrolą. Pojawienie się powolnych replikatorów byłoby przy tym, zdaniem firmy, zwiastunem agresywniejszych i szybszych wariantów, zdolnych łamać lepiej zabezpieczone maszyny lub skutecznie kraść klucze API.

Jak zauważa CNBC, najnowsze badanie Anthropic dokłada się do narastających obaw o bezpieczeństwo AI — od zdolności modeli do przeprowadzania cyberataków po scenariusze wymknięcia się technologii spod kontroli. We wrześniu postępy w modelach frontierowych wywołały branżowe ostrzeżenia przed ryzykami egzystencjalnymi dla ludzkości, a menedżerowie i badacze z Anthropic oraz konkurencyjnego OpenAI wielokrotnie apelowali o mocniejsze zabezpieczenia i mechanizmy kontroli tempa rozwoju technologii.

Źródło: CNBC, Arjun Kharpal