[지디넷코리아]글로벌 빅테크의 AI 경쟁이 성능과 규모 중심에서 비용 대비 효율을 높이는 방향으로 옮겨가고 있다. 업무에 필요한 만큼만 AI 모델을 활용해 토큰 소비를 줄이는 이른바 '토큰 다이어트'가 새로운 화두로 떠올랐다.토큰은 AI가 텍스트 등을 처리하는 기본 단위로, 생성형 AI 서비스의 주요 과금 기준이다. 기업들이 AI를 단순 검색과 문서 작성에서 복잡한 업무를 수행하는 에이전트로 확대하면서 토큰 사용량과 운영 비용도 늘어나고 있다.이에 따라 업무 난도에 맞춰 AI 모델을 선택하고 불필요한 토큰 소비를 줄이는 기술이 주목받고 있다. AI 호출 횟수나 사용량보다 실제 업무 성과를 기준으로 요금을 부과하는 서비스도 등장했다. SK텔레콤은 AI 에이전트 도입을 넘어 조직의 일하는 방식 자체를 바꾸는 AI 전환(AX)을 추진하고 있다.AI 비용을 줄이는 대표적인 방법은 업무 특성에 따라 여러 모델을 구분해 사용하는 '모델 라우팅'이다. 간단한 요약이나 번역에는 저비용 모델을 활용하고 복잡한 추론이 필요한 작업에만 고성능 모델을 투입하는 방식이다.앤트로픽은 AI 모델을 경량 모델인 하이쿠, 중간급 소넷, 고성능 오퍼스 등으로 구분해 제공한다. 아마존웹서비스(AWS)의 베드록도 기업이 여러 AI 모델 가운데 업무에 적합한 모델을 선택해 사용할 수 있도록 지원한다.AI 모델 자체의 가격 경쟁도 치열해지고 있다. 오픈AI와 앤트로픽 등 주요 AI 기업들은 고성능 모델의 처리 비용을 낮추며 기업 고객 확보에 나서고 있다.스마트폰 등 기기 내부에서 AI를 실행하는 온디바이스 AI도 토큰 절감 수단으로 주목받는다. 번역이나 요약, 기기 제어처럼 비교적 단순한 작업은 소형언어모델(SLM)로 처리하고, 복잡한 분석과 생성 작업만 클라우드의 거대언어모델(LLM)에 맡기는 방식이다.모든 업무에 고성능 AI를 적용하는 대신 작업에 적합한 모델을 선택하면 외부 모델 호출과 토큰 처리 비용을 줄일 수 있다. 같은 비용으로 더 많은 업무를 처리하는 토큰 대비 가성비를 높이는 전략이다.AI 서비스 요금 체계도 달라지고 있다. AI 호출 횟수나 토큰 사용량이 아닌 실제 업무 해결 여부를 기준으로 비용을 청구하는 방식이다.미국 고객 서비스 플랫폼 인터컴은 AI 상담 에이전트 '핀'이 고객 문의를 해결하면 건당 0.99달러를 받는다. 젠데스크 역시 AI가 상담원 개입 없이 문의를 해결한 경우에 비용을 부과하는 성과 기반 요금제를 도입했다.미국 AI 문서 플랫폼 민틀리파이도 AI 호출 횟수보다 실제 성과 발생 여부에 따라 요금을 부과하는 구조를 도입했다. 인도 음성 텍스트 솔루션 기업 스쿼드스택은 음성 AI 영업 에이전트의 성과를 실제 매출과 연동하는 모델을 선보였다.국내서는 SK텔레콤이 AI 활용을 확대하는 데서 나아가 조직 운영 방식까지 바꾸는 작업을 추진하고 있다.SK텔레콤은 지난 3월 비개발 직군을 포함한 전 구성원이 직접 AI 에이전트를 제작해 업무에 활용하는 '1인 1 AI 에이전트' 프로젝트를 시작했다.특히 AI 에이전트에 사번과 소속, 직무, 권한을 부여해 실제 구성원과 함께 업무를 수행하도록 하는 방안을 추진하고 있다. 직원이 AI와 함께 기획과 개발, 디자인 등 여러 역할을 수행하는 '멀티 롤' 업무 체계도 구상하고 있다.정재헌 SK텔레콤 CEO는 최근 서울대학교에서 진행한 'AI 시대의 선택과 기회' 특강에서 AI 도입에 따른 생산성 변화를 설명하는 'AX의 J커브'를 제시했다.AI 도입 초기에는 데이터 정비와 조직과 업무 재설계, 구성원 재교육 등에 시간과 비용이 투입돼 생산성이 일시적으로 낮아질 수 있다는 것이다. 이후 업무 체계가 AI에 맞게 바뀌면 생산성이 크게 높아질 수 있다는 설명이다.정 CEO는 이러한 초기 구간에서 일하는 방식을 근본적으로 재설계해야 생산성 상승으로 이어질 수 있다고 강조했다.SK텔레콤은 사내 AI 개발 플랫폼을 통합하고 보안 체계를 고도화해 AI 에이전트 활용 기반을 확대할 계획이다. 이를 조직 생산성 향상과 새로운 비즈니스 모델 발굴로 연결한다는 구상이다.
Continue to ZDNet Korea →You are being forwarded in 6s — stay on this page