Mastodawn

Token spend breaks budgets – what next?

최근 6개월간 여러 대기업과 스타트업에서 AI 에이전트 사용에 따른 토큰 비용이 10배 이상 급증하며 예산 초과 문제가 심각해지고 있다. 기업들은 비용 절감을 위해 기본 모델을 저렴한 버전으로 설정하거나, 고비용 모델 사용을 제한하는 등 다양한 대응책을 모색 중이다. 일부 기업은 비용 증가에도 불구하고 AI 활용을 장려하며 생산성 향상을 경험하고 있으나, 코드 리뷰 병목과 예산 관리 문제는 여전히 과제로 남아 있다. 전반적으로 AI 토큰 비용 관리가 AI 도입 확산과 함께 중요한 운영 이슈로 부상하고 있다.

https://newsletter.pragmaticengineer.com/p/the-pulse-token-spend-breaks-budgets

#aiagents #tokenspend #costmanagement #enterpriseai #modeloptimization

The Pulse: token spend breaks budgets – what next?

In the past 2-3 months, spending on AI agents has exploded at many tech companies, Details from 15 of them, including the different ways they are coping with this realization.

The Pragmatic Engineer