KAIST, 지식 재사용으로 서버 호출 57% 줄여

KAIST 이재길 전산학부 교수 연구팀이 기기 내 소형 AI와 서버 대형 AI를 효율적으로 연결하는 협업 프레임워크 'CURE(누적 지식 재사용)'를 개발했다고 22일 밝혔다. 문제 난이도에 따라 필요한 연산량이 다르다는 점에 착안해, 한 번 얻은 지식을 기기 내부 저장소에 누적 저장했다가 재사용하는 방식이다. 기존 모델을 추가로 학습시키거나 증류할 필요 없이 대형 AI 모델에 대한 서버 의존도를 낮췄다. 연구팀에 따르면 이 방식으로 서버 호출을 57% 줄였다.

이 일이 어디서 왔나

9월 16일 KAIST 연구팀은 ECCV·RSS 국제대회에서 로봇이 말을 알아듣고 길을 찾는 체화 AI 기술로 잇달아 1위권 성과를 냈고, ETRI와의 연합팀도 같은 주 VLN 챌린지에서 세계 1위를 차지하는 등 KAIST의 AI 연구 성과 발표가 이어져 왔다. 이번 CURE 프레임워크는 그 연장선에서, 로봇이나 기기에 탑재된 소형 AI가 클라우드의 대형 AI에 의존하는 비용과 지연 문제를 줄이는 방향의 연구로 볼 수 있다.