이미지 확대보기KT에 따르면 토큰팩토리는 국내외 500개 이상의 AI 모델을 연결해 업무 목적과 비용, 보안 요건에 맞는 모델을 선택할 수 있도록 지원한다. KT는 오는 30일 서비스를 출시하고 초기에는 여러 AI 모델을 활용하는 기업 고객을 대상으로 운영할 계획이다.
플랫폼에는 업무 특성에 맞춰 모델을 자동으로 선택하는 '오토 모델 라우터'와 입력 문장을 압축하는 기술이 적용됐다. KT는 자체 기술을 통해 응답 품질을 유지하면서 AI 이용에 필요한 토큰을 최대 25% 줄일 수 있다고 설명했다. 오토 모델 라우터는 모델 선택 성능을 평가하는 글로벌 벤치마크 'RouterArena'에서 종합 1위를 기록했다.
KT는 국내 데이터센터에서 AI 추론을 지원하고, 개인정보와 민감정보 및 유해 표현을 점검하는 가드레일 기술을 적용해 데이터 주권과 안전성을 강화했다. 글로벌 AI 모델 플랫폼 오픈라우터와 공식 파트너십을 맺고 500개 이상의 모델을 확보했으며, 향후 국내 AI 모델의 해외 유통도 추진할 예정이다.
박상원 KT AX사업부문장(전무)은 “통신사업에서 축적한 연결·과금·보호 역량을 AI 서비스로 확장한 토큰팩토리를 기반으로 고객의 AX 전환을 지원하고 국내 AI 생태계 성장을 이끌겠다”고 말했다.
심준보 로이슈(lawissue) 기자 xzvc@lawissue.co.kr
<저작권자 © 로이슈, 무단 전재 및 재배포 금지>
메일: law@lawissue.co.kr 전화번호: 02-6925-0217

