목록으로
IT과학5개 기사

AI 에이전트, 생성형 AI 대비 136.5배 전력 소모

한국과학기술원(KAIST) 유민수 석좌교수팀은 AI 에이전트의 계산 비용과 에너지 소비를 세계 최초로 분석한 결과를 발표했다. 연구에 따르면, 700억 개 매개변수를 가진 대형언어모델(LLM) 기반 AI 에이전트는 단순 질문 처리 시 기존 생성형 AI보다 최대 136.5배 많은 전력을 소비하는 것으로 나타났다. 이는 AI 에이전트가 외부 도구 활용 및 복잡한 업무 수행 과정에서 추가적인 계산 자원을 필요로 하기 때문이다. 연구팀은 AI 에이전트 보편화에 따른 데이터센터 확장보다 전력 인프라 효율 개선 설계의 중요성을 강조했다. 또한, 향후 AI 경쟁력은 모델 성능뿐 아니라 데이터센터 및 전력 관리 효율성에 좌우될 것이라고 전망했다. 이번 연구는 AI 기술 발전 과정에서 에너지 소비 최적화 필요성을 시사한다.

댓글 0

로그인 후 댓글을 작성할 수 있습니다.

AI 에이전트, 생성형 AI 대비 136.5배 전력 소모 - 토론 | 이슈모아 | 이슈모아