메모리와 컨텍스트

메모리를 켜면 긴 채팅의 가장 오래된 구간이 진행형 줄거리 요약으로 접히고, 요약된 메시지는 프롬프트에서 빠집니다. 이야기는 모양을 지키고 토큰 사용은 평평하게 유지됩니다.

요약은 빠른 무료 모델들로 백그라운드에서 돌아갑니다. 접히는 동안에도 계속 채팅할 수 있습니다. 현재 요약은 시스템 블록으로 동행합니다.

요약과 나란히 최근 채팅을 임베딩해 옛 메시지와 로어 후보들과 비교하고, 가장 가까운 일치를 관련 배경으로 주입합니다. 옛 디테일이 장면이 스치는 바로 그 순간 되살아납니다.

대화별 옵트인입니다. 작은 분류기가 먼저 메시지에 정말 최신 정보가 필요한지 판단하고, 그때만 실제 검색이 돌아 결과가 컨텍스트에 합류합니다.

검색 엔진과 컨텍스트 크기는 설정 서랍에서 조절합니다. 웹 검색은 유료 계정에서 쓸 수 있습니다.

메모리와 웹 검색은 설정 서랍의 대화별 스위치이고, 프리셋이 새 채팅의 기본값을 지닙니다. 유틸리티 모델 설정이 접기와 백그라운드 작업을 맡을 모델을 고릅니다.