UOKiK zaprzęga AI do walki z manipulacją w e-commerce

Automatyczne dodawanie produktów do koszyka, liczniki czasu wymuszające pośpiech i celowo utrudniona rezygnacja z subskrypcji – to tylko niektóre z tzw. dark patterns, które infekują polski handel internetowy. Prezes UOKiK, Tomasz Chróstny, ogłosił wdrożenie zaawansowanych narzędzi opartych na sztucznej inteligencji, które mają skuteczniej wykrywać i eliminować te manipulacyjne techniki.

Mechanizmy manipulacji: Heurystyki przeciwko nam

Skuteczność dark patterns nie jest dziełem przypadku. Projektanci interfejsów wykorzystują podstawowe mechanizmy ludzkiej psychiki, w szczególności heurystyki – uproszczone zasady podejmowania decyzji. Choć na co dzień pozwalają nam one działać szybko, w rękach nieuczciwych sprzedawców stają się narzędziem wywoływania błędów poznawczych.

Prezes UOKiK Tomasz Chróstny podkreśla asymetrię technologiczną na rynku:

Rynek cyfrowy rozwija się szybciej niż tradycyjne narzędzia nadzorcze. Dlatego musimy sięgać po nowe technologie, aby skutecznie chronić konsumentów. Zwłaszcza, że sektor e-commerce już dziś bez oporów korzysta z zaawansowanych technologii, w tym AI, aby wyszukiwać psychologiczne słabości konsumentów i wykorzystywać je przy projektowaniu interfejsów.

AI w roli strażnika praw konsumenta

W odpowiedzi na te wyzwania UOKiK realizuje projekt „Wykrywanie i zwalczanie dark patterns za pomocą sztucznej inteligencji”. W pierwszej fazie eksperci przeanalizowali ponad 300 stron internetowych oraz kod źródłowy 100 witryn stosujących nieuczciwe praktyki. Dane te posłużyły do wytrenowania autorskiego narzędzia AI, które potrafi samodzielnie identyfikować zwodnicze interfejsy.

Do opracowania algorytmów wykorzystano nowoczesne techniki badawcze:

• Eye tracking: monitorowanie uwagi wizualnej użytkownika.
• Facial tracking: analiza reakcji emocjonalnych na bodźce.
• EEG: pomiar aktywności mózgu podczas symulacji zakupów.

Skala problemu: Presja czasu wygrywa z rozsądkiem

Badania UOKiK wskazują, że aż 69 proc. Polaków regularnie kupuje w sieci, a ich decyzje są niezwykle podatne na manipulację. Największy wpływ na konsumentów mają komunikaty wywołujące poczucie presji:

• 53 proc. badanych kupiło produkt pod wpływem informacji o kończącej się promocji.
• 51 proc. uległo komunikatowi o ograniczonej dostępności towaru.
• 45 proc. dokonało zakupu pod presją licznika odmierzającego czas.

Od prototypu do skutecznej ochrony

Opracowane przez Urząd narzędzie AI analizuje układy stron oraz ich kod źródłowy pod kątem wniosków z badań neuromarketingowych. Choć system przechodzi obecnie fazę testów, już teraz staje się istotnym argumentem w dyskusji o przyszłości nadzoru nad rynkiem cyfrowym. Międzynarodowa wymiana doświadczeń w tym zakresie zaplanowana jest na 17 marca br. podczas konferencji w Bydgoszczy.

Tomasz Chróstny podsumowuje rolę technologii w urzędzie:

AI nie zastąpi ani nie wyręczy nas w roli strażnika praw konsumentów w cyfrowym świecie, ale może stać się naszą bronią w walce z manipulacyjnym designem.

Dzięki wykorzystaniu modeli takich jak GPT-4 do analizy zachowań rynkowych, organy ochrony konsumentów mają szansę po raz pierwszy dotrzymać kroku dynamicznie ewoluującym technikom manipulacji w e-commerce.