Aż 81 proc. organizacji uważa, że ​​agenci AI wymagają obecnie więcej ręcznego monitorowania niż czasu, który mogliby zaoszczędzić – według badania Rubrik Zero Labs. Już 86 proc. pytanych przewiduje, że w ciągu najbliższego roku rozprzestrzenianie się agentów przewyższy bariery bezpieczeństwa. Natomiast 52 proc. z nich obawia się, że stanie się to w ciągu pół roku. Tylko 23 proc. menedżerów IT zapewnia, że ma pełną kontrolę nad agentami wdrożonymi w ich środowiskach IT. Wynika z tego, że 77 proc. nie kontroluje ich w pełni, aczkolwiek 57 proc. mówi o „silnym nadzorze”.

Jak zauważają autorzy raportu, organizacje nierzadko wdrażają agentów AI w pośpiechu, z ograniczoną kontrolą bezpieczeństwa i rosnącym ryzykiem. Według badania McKinsey już 62 proc. podmiotów eksperymentuje lub skaluje wykorzystanie agentów AI.

Według raportu Rubrik Zero Labs już 47 proc. liderów IT spodziewa się, że połowa lub więcej ataków w nadchodzącym roku będzie napędzana przez agentów. Prawie wszyscy obawiają się przy tym o swoją pracę w przypadku naruszenia.

Według badania Futurum Group zarządzanie AI i agentami należą do największych wyzwań bezpieczeństwa aplikacji zdaniem pytanych menedżerów. Ubiegłoroczny raport firmy Delinea wskazuje natomiast na poważne ryzyko, jakie niosą ze sobą boty i agenci AI. Stają się oni coraz częściej celem cyberataków.

Eksperci Rubrik Zero Labs rekomendują m.in. wdrożenie telemetrii agentowej jako wstępnego warunku obserwowalności. Zalecają też, by zespoły wdrożyły filtry treści w czasie wykonywania, takie jak firewallle LLM, sanityzację danych wejściowych, filtrowanie danych wyjściowych i in. Organizacje powinny również wdrożyć dedykowaną architekturę zabezpieczeń.