Память и контекст
Длинные истории остаются связными за пределами контекстного окна.
При включённой памяти самый старый фрагмент длинного чата сворачивается в текущее краткое содержание и покидает промпт. Расход токенов остаётся ровным по мере роста истории.
Свёртка выполняется на быстрых бесплатных моделях в фоне, поэтому вы продолжаете общаться. Текущее краткое содержание едет вместе с запросом в системном блоке.
Недавний чат превращается в эмбеддинги и сравнивается со старыми сообщениями и кандидатами из лора. Ближайшие совпадения добавляются как фон, поэтому старые детали всплывают, когда становятся уместны.
Включается отдельно для каждого разговора. Небольшой классификатор решает, нужны ли вашему сообщению свежие факты. Только тогда запускается настоящий поиск и попадает в контекст.
Поисковик и размер контекста настраиваются в панели настроек. Веб-поиск доступен на платных аккаунтах.
Память и поиск в интернете: переключатели для каждого разговора в панели настроек. Пресеты хранят значения по умолчанию для новых чатов. Настройка служебной модели определяет, какая модель выполняет фоновую работу.