목록으로
경제5개 기사
KT AI 모델 라우팅 기술 글로벌 벤치마크 2위
KT가 자체 개발한 AI 모델 라우팅 기술 '오토모델라우터'가 LLM 라우터 전문 공개 벤치마크 '라우터 아레나'에서 종합 2위를 기록했다. 이 기술은 이용자의 질문과 업무 난이도에 따라 적합한 AI 모델을 자동으로 선택해 응답 품질과 운영 비용을 동시에 최적화한다. 간단한 업무에는 저비용 모델을, 복잡한 분석에는 고성능 모델을 연결하는 방식으로 효율성을 높였다. 라우터 아레나는 8,400개 질의를 활용해 응답 정확도, 비용 효율성, 입력 변화에 대한 견고성 등을 종합 평가한다. KT의 오토모델라우터는 'Acc-Cost Arena' 기준에서 2위를 차지하며 기술 경쟁력을 입증했다. KT는 이 기술을 기업의 AI 전환(AX) 지원에 활용할 계획이다.
댓글 0개
로그인 후 댓글을 작성할 수 있습니다.