AI 에이전트 늘자 '비용 통제' 경쟁···삼성·LG·SK 기술 강화

토큰 단가 13.6% 내렸지만 사용량 59%↑···전체 지출 37% 증가

삼성SDS·LG CNS, 토큰·운영비용 추적에 최적 모델 자동 선택

SK AX, GPU·AI 모델·에이전트 통합 관리로 비용 효율화

SI업계 AI 비용관리 인포그래픽. 사진=AI(챗GPT) 생성

인공지능(AI) 에이전트 도입이 확산하면서 기업들의 경쟁 영역이 AI 활용을 넘어 운영비용 관리로 확대되고 있다. AI 모델의 사용료가 낮아져도 이용량이 더 빠르게 늘면서 전체 지출은 증가하는 추세다. 삼성SDS와 LG CNS, SK AX 등 국내 주요 시스템통합(SI) 기업들은 토큰 사용량을 추적하고 업무에 맞는 AI 모델을 자동 선택하는 기술을 강화하고 있다.

21일 SI업계에 따르면 삼성SDS는 이달 말 출시 예정인 기업용 AI 플랫폼 '패브릭스 2.0'에서 비용 모니터링과 AI 모델 자동 선택 기능을 강화한다. LG CNS는 '에이전틱웍스'를 통해 관련 기능을 제공하고 있으며, SK AX도 AI 인프라부터 모델·에이전트 운영까지 비용 최적화 범위를 넓히고 있다.

AI 에이전트는 사용자의 질문에 답변하는 데 그치지 않고 여러 AI 모델과 업무 시스템을 호출해 작업을 수행한다. 실행 과정에서 모델 호출이 반복되면 토큰 사용량과 비용도 늘어난다. 토큰은 AI 모델이 입력과 출력을 처리하는 기본 단위로, 사용량에 따라 서비스 이용료가 달라진다.

미국 AI 개발 플랫폼 기업 버셀이 지난 8월 발표한 조사 결과를 보면 7월 자사 AI 게이트웨이에서 처리된 토큰 사용량은 전월보다 59% 증가했다. 같은 기간 토큰당 평균 가격은 13.6% 하락했지만 전체 지출은 37% 늘었다. 모델 이용 단가가 낮아져도 사용량 증가가 전체 비용을 끌어올린 셈이다.

이에 따라 클라우드 자원의 사용량과 비용을 관리하는 '핀옵스'도 AI 영역으로 확대되고 있다. 기존 서버·저장장치 등 인프라 비용뿐 아니라 AI 모델별 토큰 사용량, 추론비용, 에이전트 운영비용까지 관리 대상으로 삼는 방식이다.

삼성SDS는 현재 패브릭스에서 토큰 사용량을 추적하는 기능을 제공하고 있다. 이달 말 선보일 패브릭스 2.0에서는 사용자·조직별 AI 사용량과 비용 모니터링을 강화하고, 사용자 의도와 업무 맥락에 따라 적합한 AI 모델을 자동 선택하는 기능을 내세운다.

이를 통해 기업은 정해진 예산 안에서 업무에 적합한 AI 모델을 활용할 수 있다. 고성능 모델부터 상대적으로 저렴한 경량 모델까지 업무 특성에 맞춰 선택하는 방식이다. 패브릭스 2.0에는 AI 에이전트와 사용자, 업무 시스템의 접근 권한을 통합 관리하는 기능도 포함된다.

신계영 삼성SDS 부사장은 최근 '리얼 서밋'에서 토큰 사용량 증가에 따른 비용 예측의 어려움을 지적하며 AI 모델을 효율적으로 선택하고 사용량을 통제하는 체계의 필요성을 강조했다. 패브릭스 2.0은 비용관리뿐 아니라 AI 에이전트와 사용자, 업무 시스템의 접근 권한도 통합 관리하도록 설계됐다.

삼성SDS 관계자는 "현재도 토큰 사용량을 추적하는 페이지를 제공하고 있으며, 패브릭스 2.0에서는 사용자 맥락에 따른 최적 모델 자동 선택과 비용 모니터링이 더욱 강조될 것"이라고 설명했다.

삼성SDS, LG CNS, SK AX. 사진=AI(챗GPT) 생성

LG CNS는 AI 에이전트 개발·운영 플랫폼 '에이전틱웍스'에서 프로젝트별 토큰 사용량과 운영비용을 모니터링하는 기능을 제공한다. 모델 라우터는 성능과 비용을 함께 고려해 업무에 적합한 AI 모델로 자동 전환한다. 고성능 모델이 필요하지 않은 작업에 과도한 비용을 투입하지 않도록 운영 효율을 높이는 방식이다.

기존 클라우드 비용 최적화 서비스인 '핀옵스 클리닉'과는 관리 영역을 구분하고 있다. 에이전틱웍스가 AI 모델과 에이전트의 사용비용을 관리한다면 핀옵스 클리닉은 클라우드 운영 최적화를 담당한다. LG CNS는 핀옵스 클리닉에도 AI 기술을 적용해 기능을 고도화하고 있다.

SK AX는 클라우드 비용관리 서비스 'CloudZ MCMP'를 기반으로 AI 인프라와 모델, 에이전트 운영 전반으로 관리 영역을 넓히고 있다. 기존 핀옵스 기술로 클라우드 자원의 사용량과 비용을 분석하고, AI 기반 사용량 예측과 자원 최적화를 지원한다.

기업용 AI 서비스 '엔터프라이즈 AI'와 '엑스젠틱코어'를 통해서는 AI 모델과 에이전트의 운영 상태를 관리한다. 특히 업무 목적과 모델 특성을 고려하는 지능형 대규모언어모델(LLM) 라우팅 기술을 활용하고, GPU 서비스(GPUaaS)를 통해 고비용 연산 자원의 할당과 운영 효율을 높이고 있다.

SK AX는 제조·금융·서비스 분야에서 클라우드 운영비용 절감 성과를 확보했다고 설명했다. 다만 AI 에이전트 자체의 운영비용 절감 수치는 공개하지 않았다. 향후 토큰 사용량에 따른 비용 구조와 인프라 운영비용을 종합적으로 고려하는 기술을 고도화할 계획이다.

SK AX 관계자는 "AI 모델의 성능뿐 아니라 토큰 사용량에 따른 비용 구조와 전체 운영비용까지 고려해 고객이 AI 활용 규모를 확대하면서도 비용 효율성과 서비스 품질을 함께 확보할 수 있도록 지원 역량을 강화하고 있다"고 말했다.