KT, AI 플랫폼 '토큰팩토리' 30일 출시…73개 모델 탑재

KT가 27일 서울에서 기자간담회를 열고 AI 플랫폼 '토큰팩토리'를 공개했다. 토큰팩토리는 오는 30일 출시되며, 73개의 AI 모델과 사용량 기반 통합 과금을 제공한다. KT가 밝힌 내용을 디지털투데이가 보도했다.

탑재 모델은 국내 인프라에서 서비스되는 7개와 글로벌 모델 66개로 구성된다. 국내 모델에는 KT의 '믿음 K 3.0', 업스테이지의 '솔라 프로 4', 모티프테크놀로지스의 '모티프 3'가 포함된다. 글로벌 모델로는 오픈AI의 GPT 시리즈, 앤스로픽의 클로드, 미스트랄 AI, 딥시크, xAI, 알리바바 클라우드 모델 등이 제공된다.

KT는 연말까지 플랫폼을 500개 이상의 AI 모델로 확대할 계획이다. 이를 위해 오픈라우터와 파트너십을 체결했다. KT는 지난 10월 오픈라우터와 AI 모델 공급망 확장을 위한 협약을 맺은 바 있다.

플랫폼에는 질문 유형과 난이도, 요구 품질, 비용을 기준으로 모델을 자동 선택하는 '오토 모델 라우터'가 적용된다. KT는 자사 오토 모델 라우터가 라우팅 벤치마크인 라우터아레나에서 종합 1위를 기록했다고 밝혔다. 프롬프트 압축과 라우팅을 통해 토큰 비용을 최대 25%까지 절감할 수 있다는 설명이다.

과금과 사용량 추적에는 통신사 통화 상세 기록(CDR)을 응용한 '토큰 디테일 레코드(TDR)' 시스템이 쓰인다. 출시 초기에는 스탠다드와 엔터프라이즈 요금제가 먼저 제공되며, 엔터프라이즈 요금제는 전용 네트워크와 프라이빗 환경, 서비스 수준 협약(SLA)을 포함한다.

KT는 12월 말 엔터프라이즈 기능을 확대하고, 내년 3월 개인 개발자와 일반 사용자에게 서비스를 개방할 예정이다.