Mniej więcej jeden na cztery dolary wydawane na AI idzie na marne, mimo że przedsiębiorstwa coraz intensywniej starają się zapanować nad wydatkami – wynika z danych Harness. Firma przebadała 700 specjalistów od FinOps i inżynierii. Ponad połowa respondentów przyznała, że w ich organizacji nikt konkretny nie odpowiada za koszty AI, odpowiedzialność jest rozproszona między zespoły inżynieryjne, platformowe i FinOps. Choć wydatki rosną błyskawicznie, struktury nadzoru potrzebne do zarządzania nimi wciąż nie nadążają, tylko jedna na pięć organizacji jest w stanie ustalić źródło nieoczekiwanego skoku kosztów AI w ciągu kilku godzin.

Oprócz rosnących wydatków raport Harness pokazuje, że firmy mają problem z tym, jak bardzo koszty AI różnią się od tradycyjnych wydatków na IT. W przeciwieństwie do infrastruktury chmurowej, gdzie koszty wiążą się głównie z serwerami i pamięcią masową, wydatki na AI obejmują jednocześnie wiele kategorii – infrastrukturę, modele podstawowe, subskrypcje SaaS oraz usługi zarządzane. Większość organizacji korzysta też z co najmniej trzech głównych dostawców AI, z których każdy stosuje inny model cenowy, co utrudnia uzyskanie jasnego obrazu wydatków.

Jednym z największych czynników napędzających koszty stało się oprogramowanie zwiększające produktywność, takie jak asystenci AI czy narzędzia wspomagające programowanie. W związku z tym, że wyglądają jak zwykłe licencje na oprogramowanie, a nie wydatki infrastrukturalne, trudno je śledzić.

Dostawcy już reagują na rosnące zapotrzebowanie na przejrzystość. Więksi dostawcy chmury, w tym Oracle i AWS, wprowadzili nowe funkcje i modele rozliczeń zwiększające widoczność kosztów AI, a Linux Foundation powołała nową grupę roboczą poświęconą właśnie zarządzaniu kosztami.