LGU+, 온디바이스 AI 추론 가속 기술 뉴립스 논문 채택

LG유플러스는 스마트폰에서 AI 모델을 구동하는 처리 속도를 약 4.5배 높이고 배터리 소모를 77% 줄이는 토큰 최적화 기술을 개발했다고 29일 밝혔다. 관련 연구 논문 2편이 국제 학술대회 뉴립스(NeurIPS) 2026의 온디바이스 인텔리전스 워크숍에 채택됐으며, 행사는 12월6일부터 일주일간 호주 시드니에서 열린다. 통화 서비스용 소형언어모델에 경량화와 추론 가속 기술을 적용해 속도와 배터리 효율을 개선했고, 개인정보를 외부 서버로 보내지 않고 기기 내부에서 모델을 추가 학습시키는 기술도 함께 공개됐다. 실제 스마트폰을 이용한 검증에서는 서버에서 학습한 모델과 유사한 수준의 정확도가 확인됐다.

이 글에 나온 것