Bezpieczeństwo i zarządzanie API oraz zarządzanie AI i agentami, to największe wyzwania dla bezpieczeństwa aplikacji – według badania Futurum Group. Sugeruje to zdaniem analityków, iż w miarę decentralizacji architektury aplikacji, łączące je interfejsy stały się głównymi punktami podatności.

Według badania bezpieczeństwo aplikacji nie może działać w silosie, aby było skuteczne. Należy je zintegrować z cyklem rozwoju. Jak zauważono, wdrażanie AI i ML wprowadziło wiele zagrożeń, jak np. tzw. zatruwanie danych, manipulowanie wynikami i obawy dotyczące agentów. Jednak z drugiej strony tradycyjne narzędzia bezpieczeństwa często nie zapewniają widoczności niezbędnej do zabezpieczania aplikacji konteneryzowanych i zautomatyzowanych procesów CI/CD.

Narzędzia AI pomagają wykrywać luki w zabezpieczeniach oprogramowania, jednak mogą również ułatwić przestępcom ataki. Antrophic opracował model Mythos, który podczas testów potrafił identyfikować, a następnie wykorzystywać luki zero-day w każdym głównym systemie operacyjnym i popularnej przeglądarce internetowej.

„Te odpowiedzi wskazują na ogromne wyzwania, przed którymi stoją organizacje, wykraczające daleko poza bezpośrednie obawy związane ze sztuczną inteligencją” – komentuje Fernando Montenegro, wiceprezes w Futurum. „Chociaż możemy zasadnie oczekiwać, że AI pomoże zautomatyzować obronę i priorytetyzować luki w zabezpieczeniach, liderzy ds. bezpieczeństwa nie powinni tracić z oczu szerszej perspektywy. Skuteczne bezpieczeństwo aplikacji wymaga holistycznego podejścia, obejmującego cały cykl życia, od interfejsów API łączących nasze usługi, po zautomatyzowane procesy, które je wdrażają” – radzi wiceprezes.