Mémoire & contexte
Garder les longues histoires cohérentes au-delà de la fenêtre de contexte.
Avec la mémoire activée, le plus ancien morceau d'un long chat se replie dans un résumé courant et quitte le prompt. L'usage de jetons reste stable à mesure que l'histoire grandit.
Le résumé tourne sur des modèles gratuits rapides en arrière-plan, vous continuez donc à discuter. Le résumé courant voyage dans un bloc système.
Le chat récent est vectorisé et comparé aux anciens messages et aux candidats de lore. Les correspondances les plus proches sont injectées en arrière-plan, si bien que les vieux détails refont surface quand ils comptent.
Activation par conversation. Un petit classifieur décide si votre message exige des faits récents. Ce n'est qu'alors qu'une vraie recherche est lancée et rejoint le contexte.
Moteur et taille de contexte se règlent dans le panneau de paramètres. La recherche web est réservée aux comptes payants.
Mémoire et recherche web sont des interrupteurs par conversation dans le tiroir de paramètres. Les préréglages portent les valeurs par défaut des nouveaux chats. Le réglage du modèle utilitaire choisit quel modèle fait le travail de fond.