Cyberprzestępcy chętnie sięgają po narzędzia takie jak GhostGPT, WormGPT, DarkGPT czy FraudGPT, które ułatwiają tworzenie złośliwego oprogramowania, fałszywych stron internetowych oraz wiadomości phishingowych. Jednak w najbliższym czasie mogą pojawić się znacznie bardziej niebezpieczne rozwiązania.

To jednak nic w porównaniu z najnowszym odkryciem naukowców z Uniwersytetu Carnegie Mellon, którzy wykazali, że LLM (Large Language Model) potrafią autonomicznie planować i przeprowadzać wyrafinowane cyberataki bez jakiejkolwiek interwencji człowieka. Sztuczna inteligencja okazała się zdolna do odtworzenia cyberataku z 2017 roku na firmę Equifax, samodzielnie wykorzystując luki w zabezpieczeniach, instalując złośliwe oprogramowanie i wykradając dane. Napastnicy pozyskali wówczas dane 147 milionów klientów. Naukowcy z Carnegie Mellon we współpracy z firmą Anthropic opracowali zestaw narzędzi do przeprowadzania ataków o nazwie Incalmo.

Brian Singer, główny badacz i doktorant na Wydziale Inżynierii Elektrycznej i Komputerowej Carnegie Mellon, wyjaśnił, że celem było zmierzenie zdolności LLM (Large Language Model) do autonomicznego planowania ataków bez potrzeby wsparcia człowieka. System wykorzystuje strategię zastosowaną podczas naruszenia Equifax, przekładając ją na konkretne polecenia systemowe służące do przeprowadzania cyberataków. W ramach badań oceniono działanie modelu w środowiskach małych przedsiębiorstw. W 9 na 10 przypadków LLM osiągnął częściowy sukces (np. pozyskanie części wrażliwych danych).

Jak wyjaśniają badacze, LLM pełnił rolę strategiczną, wyznaczając ogólne kierunki ataku, podczas gdy za wykonanie konkretnych działań, takich jak skanowanie czy wdrażanie exploitów – odpowiadała kombinacja agentów AI i innych rozwiązań technologicznych.

Naruszenie danych Equifax zostało wybrane jako przedmiot symulacji ze względu na bogactwo publicznie dostępnych informacji na temat sposobu jego przeprowadzenia.

Na pytanie o zdolność współczesnych mechanizmów obronnych do powstrzymania takiego autonomicznego ataku Brian Singer przyznał, że obecnie trudno ocenić, jak skutecznie poradziłyby sobie z tego typu zagrożeniem. Jako swoje główne źródło niepokoju wskazał jednak szybkość i niskie koszty, z jakimi można zorganizować podobny atak.