AI 코딩 확산에 비용 부담↑
"28년엔 개발자 연봉 추월"
사용량 관리 나선 기업들

 

기업들이 생성형 인공지능(AI)을 업무에 본격 도입하면서 '토큰 비용' 관리가 새로운 고민거리로 떠오르고 있다. 문서 요약, 코드 작성, 오류 수정, 기획안 작성 등 업무 전반에 AI를 쓸 때마다 사용량이 눈처럼 쌓이는데 막대한 비용으로 이어지는 구조라서다.

"토큰값, 개발자 연봉보다 비싸진다"

1일 정보기술(IT) 업계에 따르면 국내외 기업들은 AI 코딩 도구와 업무용 생성형 AI 확산에 맞춰 사용량 관리 체계를 정비하고 있다. 토큰은 생성형 AI 모델이 텍스트를 처리하는 기본 단위다. 사용자가 입력한 프롬프트, AI가 읽어 들인 문서와 코드, 답변으로 생성한 결과물이 모두 토큰으로 계산된다.

 

문제는 비용 예측이 쉽지 않다는 데 있다. 정액 구독형 도구처럼 보이더라도 실제로는 모델 종류, 프롬프트 길이, 불러오는 문서 분량, 반복 수정 횟수에 따라 비용이 달라진다. 특히 코딩 에이전트는 단순 질의응답과는 차원이 다르다. 코드를 읽고, 수정하고, 테스트하고, 다시 검토하는 과정을 반복하면서 많은 토큰을 쓴다.

 

최근에는 과금 방식 자체도 정액 구독제에서 토큰 단위 종량제로 빠르게 옮겨가는 추세다. AI가 장황한 답을 내놓거나 오류를 내 재수정이 필요한 경우에도 입력·출력 토큰 모두 비용으로 잡히면서 기업이 체감하는 부담은 더 커지고 있다.

 

이러한 우려는 이미 해외 사례로도 확인됐다. 우버는 지난 4월 연간 AI 예산이 조기에 소진되자 직원 1인당 AI 토큰 사용액을 제한했다. 직원들의 AI 사용 독려를 위해 사용량을 공개하던 아마존도 방침을 접었다.

 

시장조사업체 가트너는 대규모언어모델(LLM) 토큰 사용량 증가와 사용량 기반 과금 확산이 맞물리면서 AI 코딩 비용이 2028년 평균 개발자 연봉을 넘어설 수 있다고 전망하기도 했다. AI 코딩 에이전트가 대규모 배포 단계로 넘어가는 가운데, 정작 많은 조직이 토큰 소비 증가에 따른 재무적 영향은 과소평가하고 있다는 게 가트너의 지적이다.

 

에이전트형 코딩 작업의 토큰 소비를 분석한 연구도 비슷한 결과를 내놨다. AI 경제효과 연구로 잘 알려진 에릭 브린욜프슨 스탠퍼드대 교수팀이 GPT-5, 클로드 소네트 4.5 등 모델 8종을 코딩 벤치마크로 시험한 결과, 에이전트형 코딩 작업은 단순 코드 채팅보다 최대 1000배 많은 토큰을 썼고 같은 작업도 실행마다 사용량이 최대 30배 차이 났다. 더 많은 토큰을 쓴다고 해서 정확도가 비례해 오르지도 않았다.

"잘 쓰는 사람 더 쓰게"...ROI 따지는 기업들

국내에서도 비용 통제 필요성이 커지고 있다. 금융, 게임, 이커머스, 제조, 플랫폼 기업들이 문서 작성과 고객 응대, 데이터 분석, 개발 보조에 생성형 AI를 붙이면서 사용량은 빠르게 늘고 있다. 부서별로 서로 다른 AI 도구를 쓰거나 단순 업무까지 고성능 모델에 맡기면, 비용이 예상보다 빨리 불어나기도 한다.

 

한 AI 업계 관계자는 "예전에는 그냥 넷플릭스 구독하는 느낌이었다면 지금은 비용의 규모가 점점 더 비싸지고 있다"며 "월에 1억원이 나간다고 쳤을 때 과연 그만한 값어치를 하는지 불안감도 있다"고 말했다.

 

이 관계자는 최근 기업들이 AI 교육과 도구 도입을 복지성 비용이 아니라 경영 전략 비용으로 보기 시작했다고 설명했다. 다만 모든 직원에게 AI 도구를 일괄 제공하는 방식은 오래가기 어렵다고 봤다. 그는 "잘 쓰는 사람은 더 쓰고, 안 쓰는 사람은 빼는 루틴이 있어야 한다"며 "모든 사람에게 선의로 '열심히 쓰세요'라고 하기엔 적은 비용이 아니다"라고 강조했다.
 

생략

 

https://n.news.naver.com/mnews/article/015/0005305283