CRN Jak wpływ ma obecnie AI na krajobraz zagrożeń?

Diana Kelley Ten wpływ objawia się na dwa sposoby. Pierwszy dotyczy tego, co AI oferuje cyberprzestępcom. A daje im możliwość automatyzacji, obniżenia kosztów prowadzenia działalności i przeprowadzania ataków nawet wtedy, gdy mają stosunkowo małe umiejętności. W efekcie rosną obawy wobec nowych zaawansowanych modeli, takich jak Mythos. W tej sytuacji w wielu organizacjach to, co wcześniej było technologicznym długiem w obszarze bezpieczeństwa z akceptowalnym jeszcze poziomem ryzyka, teraz – kiedy atakujący są uzbrojeni w AI – wymaga ponownej oceny. Organizacje muszą się zastanowić, czy w tej nowej sytuacji dług technologiczny nadal jest akceptowalny, czy też trzeba poświęcić czas, wysiłek i uwagę na zajęcie się nowymi wektorami ataku i podatnościami.

Drugim dużym wyzwaniem jest to, że nasi wewnętrzni klienci – czyli osoby, które obsługujemy w naszych firmach, ludzie w nich pracujący – wdrażają AI w bardzo, bardzo szybkim tempie. A my, jako osoby odpowiedzialne za obronę, musimy jednocześnie znaleźć sposób na zarządzanie i zabezpieczenie tego. A z drugiej strony zastanowić się, jak możemy wykorzystać AI, żeby lepiej wykonywać swoją pracę. Czy powinniśmy wspierać za pomocą AI analityków pierwszej linii w zespołach SOC? Czy wykorzystywać AI do threat huntingu? Pytań jest całe mnóstwo.

Wspomniała pani o Mythos. Oczywiście posiadanie takich modeli daje pewne korzyści, jeśli chodzi o możliwość wykrywania podatności. Jeśli jednak atakujący już teraz mogą znajdować podatności przy użyciu istniejących narzędzi AI, być może poprawa naszego bezpieczeństwa nie jest ostatecznym celem Mythos?

Zamiast martwić się albo wpadać w panikę, lepiej w sposób bardzo strategiczny z punktu widzenia obrony śledzić to, co dzieje się z AI. Jako obrońcy, musimy korzystać z takich narzędzi, żeby znaleźć wcześniej problemy, luki i obszary ekspozycji, zanim zrobią to atakujący. Możemy wtedy stworzyć plany rozwiązania problemu, tak aby atakujący nie znajdowali luk, o których my nie wiemy, lecz żebyśmy sami wykorzystywali te narzędzia do ich wykrywania, a następnie eliminowania obszarów ekspozycji.

Wydaje się również, że świadomość, którą wywołało pojawienie się takich narzędzi, może być potencjalnie korzystna. Nawet jeśli nie wszyscy wyciągają z przypadku Mythos i tego, co się z nim wiąże właściwe wnioski?

Ważne jest wykorzystanie tej świadomości, którą wywołały medialne doniesienia. Nagle zarządy zaczęły o to pytać. Zaczęto patrzeć na AI z perspektywy bezpieczeństwa i zastanawiać się, co to dla nas oznacza? Musimy pomyśleć, jak możemy to wykorzystać do rozmów, szczególnie na temat higieny bezpieczeństwa i technologicznego długu wynikającego ze starszych systemów. Bo to nie są tematy „sexy”, o których wszyscy chcą rozmawiać. A to jest właśnie nasza szansa, żeby tłumaczyć, że teraz ma to naprawdę kluczowe znaczenie dla ryzyka biznesowego.

Jak organizacje i zespoły próbują podchodzić do dylematu z AI?

Zauważam, że dojrzewamy. Niektórzy wcześniej powtarzali – „wciąż musimy mieć ludzi, niech oni zrobią wszystko, bo jeszcze nie możemy ufać AI”. Z drugiej strony były firmy, w których mówiono: „pozbądźmy się wszystkich ludzi; po prostu zastosujmy AI, ona zrobi wszystko”. Teraz mamy coś bardziej pomiędzy. Wykonywanie analiz w 100 procentach przez ludzi przestaje być możliwe. Jest za dużo danych, pojawia się zbyt wiele alertów. Musimy zautomatyzować znaczną część procesu przeglądu, ale trzeba robić to ostrożnie i bardzo świadomie, a nie po prostu uznawać, że AI zrobi wszystko za nas. Każdy, kto korzystał z AI, wie, że może ona zboczyć z właściwego toru. Może zacząć dryfować, może odejść od założeń. Kiedy korzystamy z agentowego AI, może to również przydarzyć się agentom. Firmy zdają sobie więc sprawę, że zastąpienie wszystkich ludzi agentem niekoniecznie jest właściwą drogą. Z drugiej strony stawianie na ludzi i niekorzystanie z automatyzacji również nie jest rozwiązaniem. Coraz częściej widzimy łączenie obu podejść.

Ma pani duże doświadczenie w obszarze bezpieczeństwa i obserwowała wiele nowych trendów. Czy jest coś takiego, co jest obecnie zdecydowanie przereklamowane?

Całkowite zastąpienie ludzi jest hypem. Nie twierdzę, że nie ma elementów w pracy każdego z nas, które można bardziej zautomatyzować i dzięki temu zwiększyć efektywność. Ale pomysł o prowadzeniu firmy z jednym człowiekiem, a wszystko pozostałe to AI? Nawet jeśli znam kogoś, kto rzeczywiście prowadzi firmę w taki sposób, to w przypadku wielu organizacji… Nie sądzę, żeby przyszłość wyglądała tak, że Microsoft to będzie tylko Satya Nadella i grupa agentów. Inną sprawą jest samo pojęcie „inteligencji”. Mówimy, że modele stają się coraz lepsze i coraz bardziej inteligentne, tymczasem są one po prostu coraz lepiej trenowane. Na czym są trenowane? Na danych stworzonych przez ludzi. Bo jeśli AI jest trenowana na danych wygenerowanych przez AI, pojawia się „model collapse”, czyli załamanie modelu. Wtedy AI faktycznie przestaje działać. Po prostu nie jest już skuteczna. Modele stają się coraz lepsze w użyciu, ponieważ ludzie zrozumieli, jak z nich korzystamy i jak można wykorzystywać je skuteczniej. Następnie trenują model i dostarczają mu lepszych danych. Jeśli ludzie zaczynają myśleć, że są to jakieś byty, które gdzieś sobie działają i stają się znacznie inteligentniejsze od nas… Tak naprawdę jest to niezwykle zaawansowane i użyteczne oprogramowanie, które ludzie trenują i stale ulepszają, aby można było z niego korzystać jeszcze skuteczniej. Ale to my jesteśmy inteligencją.

Jak ważne są pani zdaniem startupy w tej fali zmian w cyberbezpieczeństwie, w której obecnie jesteśmy wraz z AI? W porównaniu choćby z sytuacją sprzed kilku lat – czy znaczenie startupów wzrosło w tym środowisku?

Zdecydowanie tak uważam. Pracuję w IT od prawie 40 lat i wielokrotnie obserwowałem ten sam schemat: kiedy jakaś technologia dojrzewa, duże firmy ostatecznie wdrażają odpowiednie mechanizmy bezpieczeństwa i wprowadzają ją na rynek. Ale początkowe etapy innowacji odbywają się w startupach. Startupy bardzo mocno koncentrują się na konkretnym problemie. Nie muszą martwić się o starszych klientów, o całą tę spuściznę. Mogą skoncentrować się na tym, co trzeba zrobić teraz – od podstaw, na nowym, czystym polu.

Wiem, że prawdopodobnie jest to jeden z najtrudniejszych momentów do przewidywania i formułowania konkretnych oczekiwań dotyczących tego, dokąd zmierza bezpieczeństwo. Ale jeśli spojrzymy na rok naprzód, jakie są najważniejsze rzeczy, jeśli chodzi o wpływ AI na bezpieczeństwo?

Napastnicy są bardzo dobrzy, w tym co robią. Wiem to od czasu, kiedy pracowałam z X-Force w IBM. Atakujący są przy tym niezwykle skuteczni w dzieleniu się danymi i informacjami. I będą coraz lepsi w wykorzystywaniu AI do znajdowania podatności. Dlatego musimy przyjrzeć się naszej higienie bezpieczeństwa i zająć się tym problemem. Myślę, że będziemy obserwować coraz więcej dowodów na to, że przeciwnicy wykorzystują AI do przeprowadzania ataków. Po stronie obrońców natomiast przechodzimy cykl hype’u Gartnera. Najpierw pojawia się szczyt oczekiwań, potem dołek rozczarowania, a następnie etap, na którym rozwiązania zaczynają być realnie wykorzystywane. Niektórzy wychodzą już z tej fazy, w której panuje przekonanie, że AI rozwiąże wszystkie nasze problemy. Będziemy więc obserwować bardziej realistyczne przypadki zastosowania sztucznej inteligencji. Zobaczymy większą adopcję agentowego AI, ale będzie ona oparta na podejściu strategicznym i ostrożnym. Organizacje będą testować rozwiązania i wdrażać je z odpowiednimi mechanizmami kontroli, zamiast robić to w sposób, w jaki początkowo działały niektóre firmy, zakładające, że „agent sam to rozgryzie”. I bywa, że agent rzeczywiście potrafi to rozgryźć. Czasami robi niesamowite rzeczy. Ale czasami umieszcza bardzo wrażliwy klucz API w obrazie i wysyła go do innego agenta, żeby uzyskać dostęp. Sądzę więc, że zobaczymy większą kontrolę i bardziej strategiczne podejście organizacji do wdrażania AI.