Tylko 28 proc. przedsiębiorstw ma pewność, że potrafi wykryć systemy AI działające poza zatwierdzonymi procesami. Jednocześnie 95 proc. deklaruje, że wyzwania związane z danymi spowolniły ich projekty sztucznej inteligencji.

Zespoły odpowiedzialne za bezpieczeństwo nie zawsze mają pełny wgląd w to, w jaki sposób sztuczna inteligencja jest używana. To spory problem w przypadku autonomicznych agentów AI. Jeżeli taki system zadziała niewłaściwie, trzeba szybko ustalić, co się stało.

Tymczasem tylko 29 proc. przedsiębiorców byłoby w stanie w ciągu kilku minut wskazać, z którymi systemami połączył się dany agent AI. Jeszcze mniej potrafiłoby bez zwłoki określić, jakie działania wykonała sztuczna inteligencja (25 proc.), na jakie decyzje wpłynęła (24 proc.) oraz z jakich danych korzystała (22 proc.).

Dodatkowym wyzwaniem w sytuacji kiepskiej widoczności sztucznej inteligencji jest rosnąca skala shadow AI przez personel przedsiębiorstwa. Aż 95 proc. firm odnotowuje takie przypadki. Dotyczą nie tylko szeregowych pracowników. Aż 44 proc. menedżerów w badaniu Sharp Europe przyznaje, że korzysta z AI bez informowania o tym kolegów,

Veeam wskazuje, że do wzmocnienia kontroli nad AI i danymi potrzebny jest spójny model zarządzania. Otóż według badania organizacje, w których za ryzyko związane z agentami AI odpowiada CISO, mają o 24 proc. większą szansę na wykrycie niepożądanych zachowań sztucznej inteligencji. Z kolei w firmach bazujących na rozproszonej odpowiedzialności poziom identyfikacji takich przypadków spada o 47 proc.