Są cztery krytyczne i nieprzewidywalne zagrożenia, w których atakujący mają znaczną przewagę – twierdzi Gartner. Należą do nich deepfake’i, włamania do aplikacji AI, natychmiastowe wstrzykiwanie danych i łańcuchy dostaw oprogramowania.

Eksperci wskazują, jak dyrektorzy ds. bezpieczeństwa informacji (CISO) mogą radzić sobie z tymi czterema krytycznymi zagrożeniami.

1 Atak na aplikacje AI

Napastnicy celują w publiczne i wewnętrzne narzędzia AI przedsiębiorstw. Powierzchnia ataku rozrosła się i obejmuje teraz agentów tworzonych na zamówienie, integracje z rozwiązaniami firm trzecich, aplikacje dla pracowników.

„Zespoły ds. cyberbezpieczeństwa muszą rozszerzyć swoje programy poza tradycyjne zabezpieczenia oprogramowania. Powinni mapować nowe powierzchnie ataku wprowadzane przez modele GenAI lub narzędzia agentowe” – radzi John Watts, wiceprezes ds. analityki w Gartnerze.

Sugeruje CISO, by stosowali najlepsze praktyki bezpiecznego cyklu życia oprogramowania i modelowania zagrożeń w aplikacjach AI. Mają również wzmocnić cyberbezpieczeństwo danych poprzez ulepszenie klasyfikacji danych, wdrożenie kontroli dostępu opartej na celu (PBAC) i monitorowanie środowiska uruchomieniowego.

2 Podszywanie się pod tożsamość za pomocą deepfake’ów

Wraz z pojawieniem się generatywnej AI deepfake’i stały się powszechne. Mogą być wykorzystywane do ataków na uwierzytelnianie biometryczne, łączone z socjotechniką w atakach na pracowników czy też do manipulowania procesami rekrutacyjnymi.

„Nie ma jednego mechanizmu cyberbezpieczeństwa, który zapewni ochronę” – ekspert Gartnera nie ma dobrych wieści. W związku z tym jego zdaniem organizacje powinny jednocześnie: wzmocnić procesy biznesowe, zwiększyć świadomość zespołów i wdrożyć dostępne technologie wykrywania deepfake’ów, gdziekolwiek to możliwe.

Zespoły ds. cyberbezpieczeństwa muszą wzmocnić mechanizmy kontroli komunikacji w czasie rzeczywistym, a także procesy uwierzytelniania i weryfikacji biometrycznej. Radzi też CISO zabezpieczyć spotkania online silnym uwierzytelnianiem uczestników i analizą metadanych rozmów.

3 Zagrożenia dla łańcucha dostaw oprogramowania

Zdaniem dyrektora wykorzystanie AI przez napastników zwiększy ataki na łańcuch dostaw oprogramowania poprzez luki w zabezpieczeniach oprogramowania open source.

„Organizacje muszą dążyć do tworzenia zaufanych rejestrów komponentów, wzmacniając swoje procesy CI/CD – ciągłe dostarczanie/wdrażanie – oraz budując silne mechanizmy wykrywania i reagowania na anomalie operacyjne” – uważa Watts.

Uważa, iż firmowe zespoły ds. cyberbezpieczeństwa powinny tworzyć inwentaryzacje zasobów oprogramowania, integrując silne mechanizmy kontroli na każdym etapie rozwoju. CISO powinni też m.in. wymagać od wszystkich vendorów certyfikatów Software Bill of Materials. Trzeba też stale monitorować aktywność narzędzi agentowych.

4 Wstrzykiwanie promptów

Prompt injection atakuje zwłaszcza systemy AI wykorzystujące LLM-y. Napastnicy manipulują promptami, aby zmienić zachowanie modelu, powodując wyciek poufnych informacji, wykonywanie nieautoryzowanych działań lub omijanie kontroli.

Aby przeciwdziałać temu zagrożeniu, zespoły ds. cyberbezpieczeństwa powinny wdrożyć testowanie bezpieczeństwa AI w celu identyfikacji luk, czy też wdrożyć mechanizmy monitorujące i blokujące podejrzane działania.

Najważniejsze sugerowane działania dla CISO obejmują m.in. wdrożenie walidacji i oczyszczania danych wejściowych w celu odfiltrowania potencjalnie złośliwych komunikatów. Gartner radzi też wprowadzenie monitorowania i alertów dotyczących nieprawidłowego zachowania AI oraz zintegrowanie testów wstrzyknięcia promptów z cyklem rozwoju systemu AI.