メモリーとコンテキスト

メモリを有効にすると、長いチャットの最も古い塊がローリング要約に畳み込まれ、プロンプトから外れます。物語が長くなってもトークン使用量は横ばいのままです。

要約は高速な無料モデルでバックグラウンド実行されるため、チャットを続けられます。現在の要約はシステムブロックとして同行します。

直近のチャットが埋め込みに変換され、古いメッセージやロアの候補と比較されます。最も近いものが背景として注入されるため、古い設定が必要なときに再び現れます。

会話ごとの任意設定です。小さな分類器があなたのメッセージに最新の情報が必要かを判断します。必要な場合にのみ実際の検索が走り、文脈に加わります。

検索エンジンとコンテキストサイズは設定ドロワーで構成できます。ウェブ検索は有料アカウントで利用可能です。

メモリとウェブ検索は設定ドロワーにある会話ごとのスイッチです。プリセットは新規チャットの既定値を持ちます。ユーティリティモデルの設定は、バックグラウンド処理を行うモデルを選びます。