AI miała ciąć koszty, a pożera budżety. Firmy odkrywają prawdziwą cenę sztucznej inteligencji
Wdrażanie sztucznej inteligencji miało przynieść technologicznym gigantom potężne oszczędności. Rzeczywistość okazała się jednak znacznie bardziej skomplikowana.
Koszty infrastruktury, prądu i obsługi modeli językowych rosną w takim tempie, że rachunek za rewolucję przyszedł znacznie szybciej, niż zakładano, a dyrektorzy finansowi zaczynają mówić „sprawdzam”.
Generatywna sztuczna inteligencja zrewolucjonizowała rynek, ale jej codzienne utrzymanie okazuje się niezwykle kosztowne. Przedsiębiorstwa płacą obecnie nie tylko za same licencje, ale przede wszystkim za potężną moc obliczeniową, usługi chmurowe oraz gigantyczne zużycie energii elektrycznej. Mimo rosnących wydatków wiele firm traktuje te kwoty jako konieczną inwestycję w przyszłą automatyzację, a nie metodę na natychmiastowe cięcie kosztów tu i teraz.
Tokeny pożerają korporacyjne pieniądze
Głównym winowajcą astronomicznych rachunków są tak zwane tokeny, czyli, w uproszczeniu, jednostki tekstu przetwarzane na bieżąco przez algorytmy językowe. Każde zapytanie wysłane do chatbota lub prośba o wygenerowanie grafiki generuje bardzo konkretne opłaty.
Skala zjawiska zaskakuje największych graczy – według doniesień serwisu The Information dyrektor do spraw technologii w firmie Uber wyczerpał roczny budżet na rozwój AI na długo przed końcem roku. Powodem było niedoszacowanie kosztów zużycia właśnie wspomnianych tokenów.
Kosztowna weryfikacja algorytmów
O skali wydatków otwarcie mówią też sami twórcy tych technologii. Bryan Catanzaro, wiceprezes z firmy Nvidia, przyznał wprost, że w jego zespole badawczym wydatki na moc obliczeniową dla algorytmów przekroczyły już koszty utrzymania samego personelu. Choć dotyczy to specyficznego działu badawczo-rozwojowego, świetnie obrazuje to szerszy, galopujący trend kosztowy w całej branży.
Zjawisko widać również w ujęciu makroekonomicznym. Firma analityczna Gartner szacuje, że do końca 2026 roku globalne wydatki na AI mają sięgnąć ok. 2,52 bln dolarów, podczas gdy cały rynek IT urośnie do 6,31 bln USD. To pokazuje skalę inwestycji – sztuczna inteligencja staje się jednym z głównych motorów wzrostu całego sektora technologicznego. Co do kwot, wyjaśnię, że mowa o „naszych” bilionach (1 i 12 zer) i nie jest to błąd tłumaczenia kwoty z raportu Gartnera (6,31 trillion USD w oryginalne). Rewolucja trwa w najlepsze, ale korporacje dopiero teraz uczą się, jak precyzyjnie liczyć jej realną cenę.
Sztuczna inteligencja rezygnuje z dokładności, by być „miła”. Nowe badanie obnaża słabość empatycznego AI
#biznes #ChatGPT #GenAI #infrastrukturaAI #kosztyIT #nvidia #sztucznaInteligencja #uber
ButterWord
Marcio LM
Tina M Casey
Tina M Casey
Dariusz Hałas
Heyla
knoppix
shr
nydus
EL MUNDO - Diario online líder de información en español [Unofficial]