MemT-1.0, 메모리 네이티브 진화를 향하여

MemT-1.0은 지속적인 기억을 기반 모델의 연산에 통합한 메모리 기반 모델로, MemT-1.0-Nano와 MemT-1.0-Flash 두 모델을 공개했다. 128K 토큰의 이력 길이에서 MemT-1.0-Nano는 전체 컨텍스트 KV 캐시와 비교해 엔드투엔드 추론 속도가 약 1.86배 빨라졌고, 영구 저장 공간은 66배 줄었다. 평균적으로 파라메트릭 메모리 베이스라인을 웃돌며, 검색 증강 방식과 맞먹는 성능을 보이면서도 범용 능력은 대체로 유지한다고 밝혔다.