聊天指南
記憶與上下文
讓長篇故事在上下文視窗之外仍保持連貫。
滾動摘要
啟用記憶後,長聊天中最舊的一段會被摺疊進一份滾動的故事摘要,被摘要的訊息從提示詞中剔除。故事保持其形狀,token 用量保持平穩。
摘要在背景由快速的免費模型進行;摺疊期間你可繼續聊天。當前摘要以系統區塊隨行。
語意擷取
在摘要之外,近期聊天會被嵌入並與更舊的訊息和知識候選比對;最接近的匹配被注入為相關背景。舊細節恰在場景觸及它們時重新浮現。
網路搜尋
按對話選擇加入。一個小型分類器先判斷你的訊息是否真需要新鮮事實;僅當需要時才運行真正的搜尋,並將結果併入上下文。
搜尋引擎和上下文大小可在設定抽屜中設定。網路搜尋面向付費帳戶開放。
開關在哪
記憶與網路搜尋是設定抽屜中的按對話開關;預設為新聊天攜帶預設值。工具模型設定決定由哪個模型進行摺疊與背景工作。