AI 연구

LLM용 잠재 의미 메모리 시스템 'Memorilla' 공개

GeekNews·2026-11-08

요약

Memorilla는 문서 모음 전체의 임베딩에서 질의에 필요한 정보를 읽어 16개 메모리 토큰으로 가중치 고정 LLM에 전달하는 시스템이다. 문서는 한 번만 인코딩해 재사용하고, 학습 가능한 메모리 모듈이 질의에 따라 모든 문서 임베딩에 어텐션을 적용한다. 개인화, 장문 이해, 지식 집약적 질의응답 벤치마크에서 Mem0, MemoRAG 등 비교군 중 평균 성능이 가장 높았다고 밝혔다. 단일 H100에서 문서 512개를 처리한 실험에서는 전체 응답 생성 시간이 전체 문맥 방식의 19.9초에서 0.74초로 줄어, 약 27분의 1 수준이 되었다.

큐레이터 노트

원문에 없는 맥락입니다

문서를 매번 전체 문맥으로 다시 읽지 않고 한 번 인코딩해 재사용하는 방식이어서, 대규모 문서를 반복 조회하는 작업에서 속도 이점이 두드러진다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

디노티시아, LLM 도구 오픈소스 해커톤 11월 개최
전자신문 SW · 2026-11-09

디노티시아가 11월 14일과 21일 두 차례 모두의연구소 강남에서 자체 개발해 공개한 LLM 학습·평가 도구를 주제로 첫 오픈소스 해커톤을 연다. 참가자들은 디노티시아가 모델 개발에 사용해온 도구를 직접 실행하고 코드를 수정해 해당 오픈소스 프로젝트에 풀 리퀘스트(PR)를 제출하는 것을…

NVIDIA 엔지니어, 유튜브로 오픈소스 AI 전파 나서
NVIDIA Blog · 2026-11-05

NVIDIA의 딥러닝 제품 연구 엔지니어 크리스 알렉슈크는 유튜브를 통해 개발자들에게 오픈소스 LLM을 활용한 애플리케이션 및 에이전트 구축법을 가르치고 있다. 그는 NVIDIA의 오픈소스 멀티모달 모델군 Nemotron의 '1호 팬'을 자처하며, 가중치·학습 데이터·훈련 방법까지 공개…

포티투닷, AI·자율주행·LLM 개발자 확보 나서
전자신문 SW · 2026-11-05

현대자동차그룹의 글로벌 소프트웨어센터인 포티투닷이 자율주행, 차량용 AI 에이전트, 차량용 운영체제(OS), 인포테인먼트 등 소프트웨어 중심 자동차(SDV) 기술 개발을 위해 AI·자율주행·대규모언어모델(LLM) 분야 우수 개발자 확보에 나섰다. 회사는 관련 소프트웨어 기술 개발을 위한…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
벤치마크
AI 모델의 성능을 정량적으로 측정하고 서로 비교할 수 있도록 표준화한 평가용 문제 집합과 채점 기준을 말한다.
임베딩
텍스트, 이미지 같은 데이터를 의미적으로 비슷할수록 벡터 공간에서 가까운 위치에 놓이도록 고정된 길이의 숫자 벡터로 변환한 것을 말한다.
어텐션
입력의 각 요소가 출력을 생성하는 데 얼마나 중요한지를 계산해 가중치를 부여하는 신경망 메커니즘을 말한다.
토큰
언어 모델이 텍스트를 처리할 때 사용하는 최소 단위로, 단어나 단어의 일부, 문장 부호 등을 가리키는 말이다.

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다. 이 글은 AI의 도움을 받아 작성했습니다.

GeekNews 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →