Sổ tri thức
Tri thức thế giới hiện ra trong prompt đúng lúc nó liên quan.
Sổ tri thức là tập hợp các mục cùng cài đặt quét. Gắn bao nhiêu sổ tùy ý vào một cuộc trò chuyện; mọi sổ đã gắn được quét cùng nhau như một hồ chung.
| Cài đặt | Khoảng | Tác dụng |
|---|---|---|
scanDepth | 0-100 | Có bao nhiêu tin nhắn gần nhất được quét tìm từ khóa. Tin nhắn của bạn và của nhân vật đều được tính. |
tokenBudget | 100-32000 | Trần tổng token của các mục đã kích hoạt. Khi các sổ bất đồng, ngân sách cao nhất thắng. |
recursiveScanning | bật / tắt | Nội dung mục đã kích hoạt được quét lại, cho phép tri thức kích hoạt thêm tri thức (tối đa 3 lượt). |
Một mục có khóa (từ kích hoạt ngăn bằng dấu phẩy), khóa phụ tùy chọn và nội dung. Khi bất kỳ khóa nào xuất hiện trong lịch sử được quét, mục kích hoạt và nội dung được chèn.
Chế độ chọn lọc đòi khóa chính VÀ khóa phụ cùng khớp. Mục hằng bỏ qua việc khớp và luôn được chèn. Mục bị tắt vẫn ở trong sổ nhưng không bao giờ kích hoạt. Khớp cả từ ngăn 'lửa' khớp bên trong 'lửng'.
Mỗi mục có một tên hiển thị (chú thích) chỉ dùng để sắp xếp danh sách trình biên tập; không bao giờ gửi cho mô hình và tồn tại qua các vòng nhập-xuất.
Hai con số định đoạt số phận của một mục. Ưu tiên quyết định ai sống sót qua ngân sách token: mục ưu tiên cao hơn được giữ trước khi hết chỗ.
Thứ tự (thứ tự chèn) quyết định vị trí giữa những mục sống sót: thứ tự cao hơn hiện sớm hơn trong prompt. Khi ngang nhau, ưu tiên rồi id mục quyết định.
Mọi mục đã kích hoạt được kết xuất vào một khe sổ tri thức duy nhất trong mẫu prompt, mỗi mục là một tin nhắn riêng với vai trò đã chọn: hệ thống, người dùng hoặc trợ lý.
Không có khái niệm vị trí theo từng mục; di chuyển khe sổ tri thức trong trình biên tập mẫu prompt để điều khiển tri thức rơi vào đâu so với phần còn lại.
Các dòng bắt đầu bằng @@ ở đầu nội dung mục sẽ tinh chỉnh hành vi của mục đó:
@@probability 50
@@scan_depth 8
@@role assistant
@@activate_only_after 4
@@keep| Bộ trang trí | Tác dụng |
|---|---|
@@probability | Xác suất phần trăm được chèn khi kích hoạt; lần gieo ổn định trong một lượt. |
@@scan_depth | Ghi đè độ sâu quét của sổ cho mục này. |
@@order / @@priority | Ghi đè thứ tự đặt hoặc ưu tiên ngân sách cho mục này. |
@@role | Ghi đè vai trò chèn cho mục này. |
@@activate_only_after / @@activate_only_every | Chỉ kích hoạt sau N tin nhắn, hoặc chỉ mỗi N tin nhắn. |
@@keep / @@dont_activate_after_match | Giữ một mục hoạt động sau lần khớp đầu, hoặc không bao giờ kích hoạt lại sau khi khớp. |
@@is_greeting | Chỉ hoạt động khi chat vẫn còn ở tin nhắn lời chào. |
Việc đếm token dùng bộ token hóa của mô hình đang hoạt động, nên ngân sách phản ánh đúng những gì mô hình thực sự thấy. Khi các mục vượt ngân sách, mục ưu tiên thấp nhất rơi trước.
Nếu tri thức cứ bị cắt, hãy tăng ngân sách, thu hẹp khoảng chênh ưu tiên hoặc rút ngắn mục. Nhật ký yêu cầu cho thấy chính xác mục nào đã vào một yêu cầu nhất định.