메모리와 컨텍스트

메모리를 켜면 긴 채팅에서 가장 오래된 덩어리가 갱신 요약으로 접히고 프롬프트에서 빠집니다. 이야기가 길어져도 토큰 사용량은 평평하게 유지됩니다.

요약은 빠른 무료 모델에서 백그라운드로 돌아가므로 대화를 계속할 수 있습니다. 현재 요약은 시스템 블록으로 함께 전달됩니다.

최근 대화가 임베딩되어 이전 메시지와 로어 후보와 비교됩니다. 가장 가까운 것이 배경으로 주입되므로 오래된 세부 사항이 필요할 때 다시 떠오릅니다.

대화별 선택 기능입니다. 작은 분류기가 사용자의 메시지에 최신 정보가 필요한지 판단합니다. 필요할 때만 실제 검색이 돌아 맥락에 더해집니다.

검색 엔진과 컨텍스트 크기는 설정 서랍에서 조절합니다. 웹 검색은 유료 계정에서 쓸 수 있습니다.

메모리와 웹 검색은 설정 서랍에 있는 대화별 스위치입니다. 프리셋은 새 채팅의 기본값을 담습니다. 유틸리티 모델 설정은 백그라운드 작업을 맡을 모델을 고릅니다.