Jeszcze niedawno zarządy nakazywały pracownikom korzystanie z narzędzi AI przy każdej możliwej okazji, zwłaszcza podczas programowania. Obecnie te same firmy sprawdzają rachunki i zaczynają wycofywać się z entuzjazmu, który sami napompowali. Sposób, w jaki branża ma teraz pogodzić koszty z wcześniejszą propagandą AI-maksymalizmu, ma być „absolutnym koszmarem” – takiej oceny udzielił anonimowy menedżer dużej firmy technologicznej w rozmowie z „The Economist”.

Paradoks polega na tym, że to właśnie firmy technologiczne, które masowo zwalniały pracowników na rzecz agentów AI generujących kod, jednocześnie zachęcały ocalały personel do jak najintensywniejszego korzystania z tych narzędzi. Amazon wprowadził ranking pracowników według liczby zużytych tokenów AI. Meta z kolei uwzględniła zużycie AI w ocenach pracowniczych. Sam termin „tokenmaxxing” zrodził się w żartobliwej, internetowej kulturze entuzjastów AI, ale szybko przestał być wyłącznie memem.

Rachunek przyszedł szybciej, niż się spodziewano

Efekty okazały się przewidywalne. Jeden z pracowników pewnej firmy wygenerował rachunek za tokeny AI przekraczający 150 tys. dolarów miesięcznie – informował o tym „New York Times”. Menedżer Nvidii przyznał, że koszty AI dla jego zespołu badawczego przewyższają wydatki na wynagrodzenia samych pracowników. Jedna firma miała w ciągu jednego miesiąca wydać aż pół miliarda dolarów na korzystanie z modeli Claude. Najnowszy indeks Ramp AI Index wskazuje, że firmy najbardziej „naszpikowane” AI płacą średnio około 7,5 tys. dolarów miesięcznie na pracownika za dostęp do narzędzi AI – wynika z danych przytoczonych przez TechCrunch.

Ton w branży zmienił się z entuzjastycznego na ostrzegawczy. Eksperci radzą teraz wprowadzanie limitów tokenów dla pracowników, bardziej selektywne wdrażanie AI tam, gdzie realnie się to opłaca, oraz sięganie po tańsze modele. Amazon i Meta zlikwidowały swoje rankingi zużycia AI. Jeden z menedżerów Ubera oświadczył, że korzyści z AI nie rekompensują jego wysokich kosztów – krótko potem firma wprowadziła limit 1500 dolarów miesięcznie na pracownika – donosiTechCrunch.

Co to znaczy dla dostawców modeli

To nie są dobre wiadomości dla firm budujących modele AI. Obecne ceny tokenów mogą być najniższe, jakie kiedykolwiek zobaczymy, są bowiem w praktyce subsydiowane przez dostawców, którzy chcą przyciągnąć klientów. Pytanie, jak długo da się utrzymać tak niskie ceny przy wciąż nieuchwytnej rentowności branży AI, zadaje m.in. „The New Yorker”.

OpenAI, jak donoszą nieoficjalne źródła, rozważa właśnie obniżkę cen, by wywołać wojnę cenową z firmą Anthrophic zakładając, że konkurent zrobi to samo. To posunięcie mogłoby na krótką metę przyciągnąć klientów i utwierdzić rynek w przekonaniu, że inwestycja w modele AI wciąż się opłaca. Pytanie, czy taniej dostęp do AI da się utrzymać na dłuższą metę, czy to jedynie chwilowy wybieg przed kolejną podwyżką, pozostaje otwarte.