Interpol o AI w rękach przestępców: to ewolucja, nie rewolucja. Prawdziwy problem dopiero nadchodzi

Sztuczna inteligencja wzmacnia istniejące techniki przestępcze — oszustwa i wyłudzenia — zamiast je rewolucjonizować, ocenił Bjorn R. Watne, globalny szef bezpieczeństwa informacji (CISO) Interpolu, w rozmowie z CNBC na marginesie Tech Week Singapore. Operatorzy scamów mogą dzięki AI atakować wielu poszkodowanych jednocześnie, a coraz lepsze tłumaczenia maszynowe i cyfrowe tożsamości sprawiają, że odróżnienie oszukańczej interakcji od prawdziwej staje się coraz trudniejsze. Szczególną ostrożność Watne zaleca wobec agentowej AI — systemów działających w imieniu użytkownika — których błędy mogą wyjść poza świat informacji i skończyć się fizyczną krzywdą ludzi.

Szybciej i na większą skalę, ale po staremu

To ewolucja, a nie rewolucja

— powiedział CNBC Bjorn R. Watne, globalny CISO Interpolu. Jak dodał, sztuczna inteligencja zwiększa przede wszystkim „szybkość i skalę” istniejących technik przestępczych: pozwala oszustom działać równolegle wobec wielu ofiar, a dzięki coraz lepszym tłumaczeniom i cyfrowym tożsamościom zaciera granicę między kontaktem prawdziwym a fałszywym.

Najpierw „klejnoty koronne”, potem obrona

Zdaniem Watne firmy powinny zacząć nie od kupowania zabezpieczeń, lecz od zidentyfikowania swoich „klejnotów koronnych” — zasobów krytycznych dla ciągłości działania — i ustalenia, komu najbardziej opłacałoby się je ukraść lub sparaliżować. Dopiero wtedy, korzystając z wywiadu o zagrożeniach, można dopasować obronę do taktyk i technologii konkretnych przeciwników — innych wobec oportunistycznych przestępców, innych wobec zaawansowanych grup APT.

Nie ma potrzeby, by każdy próbował bronić się przed wszystkim naraz, skoro nie jest celem takich ataków

— zaznaczył ekspert Interpolu.

Problemem pozostaje jednak rozdźwięk między zarządami a strategią cyberbezpieczeństwa. Choć ryzyko cybernetyczne wędruje w górę korporacyjnych rejestrów ryzyk, w wielu firmach wciąż nie trafiło na dobre do sal posiedzeń zarządów.

Wciąż jest wiele branż, w których nie zdano sobie sprawy, że dziś każdy jest firmą IT

— ocenił Watne.

Agent AI może zrobić komuś krzywdę. Dosłownie

Najpoważniejsze ostrzeżenie dotyczy agentowej sztucznej inteligencji — systemów, które nie tylko odpowiadają na pytania, ale podejmują działania w imieniu użytkownika.

Czym innym jest sytuacja, w której AI podaje ci błędne informacje. Ale gdy AI faktycznie wykonuje działania i zaczyna wykonywać działania błędne, zwłaszcza w domenie fizycznej, może to mieć konsekwencje w postaci obrażeń ciała u ludzi

— ostrzegł Watne, wskazując jako obszar szczególnej troski rosnące zastosowanie AI w urządzeniach takich jak samochody, w tym pojazdy autonomiczne.

Ryzyko potęguje — jak mówił — nieproporcjonalnie wysokie zaufanie ludzi do technologii. W finansach jesteśmy wytrenowani w ostrożności: PIN-y, czujność wobec skimmingu, kontrola. W technologii odwrotnie — nowe urządzenia i aplikacje przyjmujemy bez porównywalnej rozwagi, machinalnie przeklikując zgody i nadając dostępy.

Jeśli chodzi o technologię, poziom zaufania jest kosmiczny

— stwierdził szef bezpieczeństwa informacji Interpolu. W miarę jak systemy AI zyskują zdolność działania w imieniu użytkowników, to zaufanie — jego zdaniem — zasługuje na znacznie baczniejszy ogląd.

Głos Watne jest cenny, bo studzi dwie skrajności naraz. Z jednej strony rozbraja panikę — przestępcy nie dostali nowej broni, tylko taśmę produkcyjną do starej, co oznacza, że sprawdzone zasady higieny cyfrowej nie straciły ważności, a jedynie zmalał margines błędu: fałszywy wnuczek dzwoni teraz płynną polszczyzną i do tysiąca babć jednocześnie. Z drugiej strony wskazuje, gdzie czai się jakościowo nowy problem: nie w czacie, który zmyśla, lecz w agencie, który działa — rezerwuje, przelewa, prowadzi. Najtrafniejsza jest jednak obserwacja o asymetrii zaufania, bo dotyczy każdego z nas: wobec banku jesteśmy podejrzliwi jak celnik, wobec aplikacji — naiwni jak dziecko, a przecież to aplikacjom oddajemy dziś klucze do banku. Dla polskich firm, od warsztatu po spółkę skarbu państwa, praktyczny wniosek brzmi: zanim kupisz kolejny system obrony, policz swoje klejnoty koronne — a dla państwa, które cyfryzuje usługi publiczne szybciej niż edukuje obywateli: największą luką bezpieczeństwa nie jest kod, tylko odruch bezrefleksyjnego „zezwól”.

Źródło: CNBC