חיפוש בתיעוד...

התחילו להקליד כדי לחפש בתיעוד

מדריך צ'אט

זיכרון והקשר

לשמור על סיפורים ארוכים קוהרנטיים מעבר לחלון ההקשר.

תקציר מתגלגל

כשהזיכרון מופעל, הנתח הישן ביותר של צ'אט ארוך מקופל לתקציר סיפור מתמשך וההודעות המתומצתות נחתכות מההנחיה. הסיפור שומר על צורתו בעוד צריכת הטוקנים נשארת שטוחה.

התמצות רץ ברקע על מודלים חינמיים מהירים; אתה ממשיך לשוחח בזמן שהוא מקפל. התקציר הנוכחי נוסע כבלוק מערכת.

אחזור סמנטי

לצד התקציר, הצ'אט האחרון מוטמע ומושווה להודעות ישנות יותר ולמועמדי לור; ההתאמות הקרובות ביותר מוזרקות כרקע רלוונטי. פרטים ישנים צפים מחדש בדיוק כשהסצנה נוגעת בהם.

הצטרפות אופציונלית לכל שיחה. מסווג קטן קודם מחליט אם ההודעה שלך באמת זקוקה לעובדות טריות; רק אז רץ חיפוש אמיתי ותוצאותיו מצטרפות להקשר.

מנוע החיפוש וגודל ההקשר ניתנים להגדרה במגירת ההגדרות. חיפוש ברשת זמין לחשבונות בתשלום.

היכן המתגים

זיכרון וחיפוש ברשת הם מתגים לכל שיחה במגירת ההגדרות; הפריסטים נושאים ברירות מחדל לצ'אטים חדשים. הגדרת מודל השירות בוחרת איזה מודל מבצע את הקיפול ואת העבודה ברקע.

זיכרון, אחזור וחיפוש ברשת בUnoRouter