Sổ tri thức
Kiến thức thế giới được chèn vào khi có liên quan.
Một sổ tri thức gồm các mục cùng thiết lập quét. Gắn bao nhiêu sổ vào một cuộc trò chuyện cũng được. Mọi sổ đã gắn được quét cùng nhau như một nhóm chung.
Nhập từ tệp hoặc từ liên kết: kịch bản JanitorAI, sổ tri thức Chub, nhân vật RisuRealm, bạn đồng hành và sổ tri thức Saucepan, sổ tri thức Botbooru. Trên JanitorAI và Chub, không ai tải được một cuốn sổ riêng tư. Nếu một thẻ liệt kê ba cuốn mà chỉ về được một, thì phần còn lại là riêng tư. Việc nhập sẽ nêu tên chúng thay vì âm thầm nhập ít hơn.
| Cài đặt | Khoảng | Tác dụng |
|---|---|---|
scanDepth | 0-100 | Số tin nhắn gần nhất được quét tìm từ khóa. Tin nhắn của bạn và của nhân vật đều được tính. |
tokenBudget | 100-1000000 | Giới hạn tổng số token của các mục được kích hoạt. Khi các sổ khác nhau, giá trị cao nhất được dùng. |
recursiveScanning | bật / tắt | Nội dung mục đã kích hoạt được quét lại, cho phép tri thức kích hoạt thêm tri thức (tối đa 3 lượt). |
Một mục có các khóa (từ kích hoạt phân cách bằng dấu phẩy), khóa phụ tùy chọn và nội dung. Khi một khóa xuất hiện trong phần lịch sử được quét, mục đó được kích hoạt và chèn nội dung của nó vào.
Chế độ chọn lọc đòi hỏi cả một khóa chính VÀ một khóa phụ. Mục thường trực luôn được chèn. Mục đã tắt không bao giờ kích hoạt. Khớp trọn từ ngăn fire khớp với campfire.
Mỗi mục có một tên hiển thị (ghi chú) để sắp xếp danh sách trong trình sửa. Nó không bao giờ được gửi tới mô hình và vẫn còn sau khi nhập và xuất.
Hai con số điều khiển một mục. Độ ưu tiên quyết định ai sống sót qua ngân sách token: khi hết chỗ, mục ưu tiên cao được giữ trước.
Thứ tự (thứ tự chèn) quyết định vị trí giữa những mục còn lại: thứ tự càng cao thì càng xuất hiện sớm trong câu lệnh. Nếu bằng nhau thì xét độ ưu tiên, rồi tới id của mục.
Các mục được kích hoạt sẽ được kết xuất vào một khe sổ tri thức duy nhất trong mẫu câu lệnh, mỗi mục là một tin nhắn riêng với vai của nó: system, user hoặc assistant.
Không có vị trí riêng cho từng mục. Hãy di chuyển khe sổ tri thức trong trình sửa mẫu câu lệnh để quyết định phần tri thức rơi vào đâu.
Các dòng bắt đầu bằng @@ ở đầu nội dung của mục sẽ thay đổi hành vi của mục đó:
@@probability 50
@@scan_depth 8
@@role assistant
@@activate_only_after 4
@@keep| Bộ trang trí | Tác dụng |
|---|---|
@@probability | Xác suất phần trăm được chèn vào khi kích hoạt. Kết quả gieo giữ nguyên trong cùng một lượt. |
@@scan_depth | Ghi đè độ sâu quét của sổ cho mục này. |
@@order / @@priority | Ghi đè thứ tự đặt hoặc ưu tiên ngân sách cho mục này. |
@@role | Ghi đè vai trò chèn cho mục này. |
@@activate_only_after / @@activate_only_every | Chỉ kích hoạt sau N tin nhắn, hoặc chỉ mỗi N tin nhắn. |
@@keep / @@dont_activate_after_match | Giữ một mục hoạt động sau lần khớp đầu, hoặc không bao giờ kích hoạt lại sau khi khớp. |
@@is_greeting | Chỉ hoạt động khi chat vẫn còn ở tin nhắn lời chào. |
Việc đếm token dùng bộ tách từ của mô hình đang hoạt động. Khi các mục vượt ngân sách, những mục ưu tiên thấp nhất bị bỏ trước.
Nếu phần tri thức cứ bị cắt, hãy tăng ngân sách, thu hẹp khoảng cách độ ưu tiên, hoặc rút gọn các mục. Nhật ký yêu cầu cho thấy những mục nào đã lọt vào.