मेमोरी और संदर्भ
लंबी कहानियों को संदर्भ खिड़की से परे सुसंगत रखना।
स्मृति चालू होने पर लंबी चैट का सबसे पुराना हिस्सा चलती-फिरती सारांश में सिमटकर प्रॉम्प्ट से बाहर हो जाता है। कहानी बढ़ने पर भी टोकन खर्च लगभग सपाट रहता है।
सारांश तेज़ मुफ़्त मॉडलों पर पृष्ठभूमि में बनता है, इसलिए आप बात जारी रख सकते हैं। मौजूदा सारांश एक सिस्टम हिस्से के साथ जाता है।
हाल की चैट को एम्बेड करके पुराने संदेशों और लोर के उम्मीदवारों से मिलाया जाता है। सबसे नज़दीकी मिलान पृष्ठभूमि के रूप में जोड़े जाते हैं, इसलिए पुराने ब्योरे ज़रूरत पड़ने पर फिर उभर आते हैं।
हर बातचीत के लिए अलग से चालू करना होता है। एक छोटा वर्गीकारक तय करता है कि आपके संदेश को ताज़ा जानकारी चाहिए या नहीं। तभी असली खोज चलती है और संदर्भ में जुड़ती है।
खोज इंजन और संदर्भ आकार सेटिंग्स ड्रॉअर में विन्यास-योग्य हैं। वेब खोज सशुल्क खातों के लिए उपलब्ध है।
स्मृति और वेब खोज सेटिंग्स ड्रॉअर में हर बातचीत के अलग स्विच हैं। प्रीसेट नई चैट के लिए डिफ़ॉल्ट रखते हैं। उपयोगिता मॉडल सेटिंग तय करती है कि पृष्ठभूमि का काम कौन-सा मॉडल करेगा।