Zespół badaczy z Wielkiej Brytanii i Włoch przetestował dziesięć asystentów przeglądania AI, w tym ChatGPT od OpenAI, Microsoft Copilot i Merlin AI (rozszerzenie do Google Chrome). Sprawdzano ich zachowanie podczas wykonywania publicznie dostępnych zadań, jak zakupy online oraz w trakcie korzystania z zamkniętych, prywatnych portali.

Wszystkie testowane narzędzia, poza Perplexity AI, wykazywały oznaki zbierania danych i wykorzystywania ich do profilowania użytkowników lub personalizacji swoich usług.

– Asystenci przeglądania AI mają bezprecedensowy dostęp do zachowań online użytkowników, również w obszarach, które powinny pozostać prywatne – podkreśla Anna Maria Mandalari, główna autorka raportu i adiunkt na University College London.

Wygoda kosztem prywatności

Autorzy ostrzegają: choć narzędzia AI niewątpliwie zwiększają wygodę korzystania z internetu, często dzieje się to kosztem prywatności użytkowników, a czasem nawet naruszeniem przepisów o ochronie danych lub własnych regulaminów.

W ramach eksperymentu badacze logowali się na prywatne portale, a następnie prosili asystentów AI o odpowiedzi na pytania typu: „Jaki był cel ostatniej wizyty lekarskiej?”. W ten sposób sprawdzali, czy przeglądarka „zapamiętała” szczegóły tej aktywności.

Okazało się, że niektóre narzędzia, m.in. Merlin i Sider, rejestrowały aktywność użytkownika także po wejściu w tryb prywatny. W praktyce oznaczało to przesyłanie na serwery pełnej zawartości strony widocznej na ekranie. Merlin przechwytywał przy tym m.in. dane logowania do bankowości internetowej, akta medyczne, dokumenty akademickie czy amerykański numer ubezpieczenia społecznego.

Profilowanie i śledzenie między sesjami

Takie rozszerzenia, jak Sider czy TinaMind, przekazywały do Google Analytics nie tylko wpisywane komendy, ale także identyfikatory użytkowników, w tym adres IP. Asystent ChatGPT w przeglądarkach Google, Copilot, Monica i Sider na podstawie interakcji próbował odgadywać wiek, płeć, dochód oraz zainteresowania użytkownika, a następnie wykorzystywał te dane do personalizacji odpowiedzi w kolejnych sesjach. W przypadku Copilot badacze odkryli, że narzędzie zapisywało pełną historię rozmów w tle, co sugerowało utrzymywanie danych między sesjami.

– Nie da się ustalić, co dzieje się z tymi danymi po ich zebraniu – podsumowuje Anna Maria Mandalari.

Ryzyko naruszenia RODO

Badanie, prowadzone w USA, wykazało również możliwe naruszenia tamtejszych przepisów o ochronie prywatności, szczególnie w odniesieniu do danych medycznych. Zdaniem autorów, działania asystentów AI mogą łamać także unijne regulacje, w tym RODO.

Co ciekawe, nawet użytkownicy, którzy zapoznali się z regulaminami usług, mogą nie być świadomi skali zbierania danych. Przykładowo w polityce prywatności Merlina dla UE i Wielkiej Brytanii zapisano, że firma gromadzi m.in. imię i nazwisko, dane kontaktowe, dane logowania, historię transakcji i informacje płatnicze. Do tego dochodzą treści wpisywane przez użytkowników oraz dane z ankiet wysyłanych przez platformę. Dane osobowe są również zbierane z podpowiedzi, które użytkownicy umieszczają w systemie lub wszelkich ankiet wysyłanych przez platformę. Firma wyjaśniła, że zbierane dane służą do personalizacji funkcji przeglądarki AI dla poszczególnych użytkowników, wysyłania powiadomień oraz udzielania pomocy technicznej. Dane mogą być również wykorzystywane w przypadku otrzymania żądań prawnych.

Strona prywatności Sider informuje, że zbiera te same dane co Merlin i wykorzystuje je do tych samych celów, ale dodała, że mogą być analizowane w celu „uzyskania wglądu w zachowanie użytkowników” i prowadzenia badań nad nowymi funkcjami, produktami lub usługami. Firma twierdzi, że może udostępniać dane osobowe, ale nie sprzedaje ich stronom trzecim, takim jak Google, Cloudflare czy Microsoft. Ci dostawcy pomagają Sider w obsłudze swoich usług i są „umownie zobowiązani do ochrony danych osobowych użytkowników”.

W przypadku ChatGPT polityka prywatności OpenAI informuje, że dane od użytkowników z UE i Wielkiej Brytanii są przechowywane na serwerach danych poza tym regionem, ale gwarantuje takie same prawa.