聊天指南
記憶與上下文
讓長篇故事在上下文視窗之外仍保持連貫。
啟用記憶後,長對話中最早的一段會摺進滾動摘要並退出提示。故事變長,token 用量仍維持平穩。
摘要會在背景由快速的免費模型產生,你可以繼續聊天。目前的摘要會隨系統區塊一起送出。
近期對話會被轉成向量,並與較早的訊息和候選世界書內容比對。最接近的內容會當作背景注入,因此舊細節會在相關時重新浮現。
依對話選擇啟用。一個小型分類器會判斷你的訊息是否需要最新資訊。只有需要時才會真正發動搜尋並加入脈絡。
搜尋引擎和上下文大小可在設定抽屜中設定。網路搜尋面向付費帳戶開放。
記憶與網路搜尋是設定抽屜中依對話的開關。預設會保存新對話的預設值。工具模型設定決定由哪個模型負責背景工作。