Chế độ chuyên gia nhắc nhở
Last updated
Last updated
Hiện tại, việc sắp xếp để tạo ứng dụng trong ChatX được đặt ở Chế độ Cơ bản theo mặc định. Điều này lý tưởng cho những người không có kỹ thuật muốn nhanh chóng tạo một ứng dụng. Ví dụ, nếu bạn muốn tạo một ChatBot cơ sở tri thức công ty hoặc một trình tạo tóm tắt bài viết, bạn có thể sử dụng Chế độ Cơ bản để thiết kế các từ Pre-prompt, add Query, tích hợp Context và các bước đơn giản khác để khởi chạy một ứng dụng hoàn chỉnh. Để biết thêm chi tiết, hãy truy cập 👉 and .
💡Tuy nhiên, bạn chắc chắn muốn thiết kế các lời nhắc theo cách tùy chỉnh hơn nếu bạn là một nhà phát triển đã nghiên cứu sâu về lời nhắc, thì bạn nên chọn Chế độ Chuyên gia. Trong chế độ này, bạn được cấp phép để tùy chỉnh các lời nhắc toàn diện thay vì sử dụng các lời nhắc được đóng gói sẵn từ ChatX. Bạn có thể chỉnh sửa các lời nhắc tích hợp sẵn, sắp xếp lại vị trí của Context và History , thiết lập các tham số cần thiết và nhiều hơn nữa. Nếu bạn quen thuộc với Playground của OpenAI, bạn có thể làm quen với chế độ này nhanh hơn.
Trước khi bạn thử chế độ mới, bạn nên biết một số yếu tố cần thiết trong đó:
Hoàn thành (Complete)
Khi chọn một mô hình, nếu bạn thấy "COMPLETE" ở bên phải tên mô hình, điều đó cho thấy đây là mô hình hoàn thành văn bản, ví dụ:
Loại mô hình này chấp nhận một chuỗi văn bản tự do và tạo ra một đoạn văn bản hoàn chỉnh, cố gắng khớp với bất kỳ ngữ cảnh hoặc mẫu nào bạn cung cấp. Ví dụ, nếu bạn viết lời nhắc As René Descartes said, "I think, therefore", có khả năng cao mô hình sẽ trả về "I am." như là phần hoàn thành.
Trò chuyện (Chat)
Khi chọn một mô hình, nếu bạn thấy "CHAT" ở bên phải tên mô hình, điều đó cho thấy đây là mô hình hoàn thành cuộc trò chuyện, ví dụ:
Loại mô hình này lấy danh sách các tin nhắn làm đầu vào và trả về một tin nhắn được tạo bởi mô hình như là đầu ra. Nó bao gồm ba loại tin nhắn: SYSTEM, USER, và ASSISTANT.
SYSTEM
Các tin nhắn hệ thống giúp hướng dẫn hành vi của trợ lý AI. Ví dụ, bạn có thể thay đổi tính cách của trợ lý AI hoặc cung cấp các hướng dẫn cụ thể về cách nó nên thực hiện trong suốt cuộc trò chuyện. Các tin nhắn hệ thống là tùy chọn. Nếu không có các tin nhắn hệ thống, trợ lý AI có thể hành xử như thể nó đang sử dụng các tin nhắn chung như "you are a helpful assistant."
USER
Các tin nhắn người dùng cung cấp các yêu cầu hoặc bình luận để trợ lý AI phản hồi.
ASSISTANT
Các tin nhắn trợ lý lưu trữ các phản hồi trước đó của trợ lý, nhưng chúng cũng có thể được viết bởi bạn để cung cấp các ví dụ về hành vi mong muốn.
Stop_Sequences
Stop_Sequences đề cập đến các từ, cụm từ hoặc ký tự cụ thể được sử dụng để gửi tín hiệu cho mô hình ngôn ngữ lớn (LLM) ngừng tạo văn bản.
Blocks
Khi người dùng nhập một truy vấn, ứng dụng sẽ xử lý truy vấn đó như là tiêu chí tìm kiếm cho kiến thức. Các kết quả được tổ chức từ tìm kiếm sau đó sẽ thay thế biến Context, cho phép LLM tham khảo nội dung để đưa ra phản hồi.
Nội dung truy vấn chỉ có sẵn trong các mô hình hoàn thành văn bản của các ứng dụng trò chuyện. Nội dung được nhập bởi người dùng trong suốt cuộc trò chuyện sẽ thay thế biến này, khởi tạo một lượt trò chuyện mới.
Lịch sử cuộc trò chuyện chỉ có sẵn trong mô hình hoàn thành văn bản của các ứng dụng trò chuyện. Khi tham gia vào nhiều cuộc trò chuyện trong các ứng dụng đối thoại, ChatX sẽ tập hợp và nối các bản ghi cuộc trò chuyện lịch sử theo các quy tắc tích hợp sẵn và thay thế biến 'Lịch sử Cuộc trò chuyện'. Các tiền tố Human và Assistant có thể được sửa đổi bằng cách nhấp vào ... sau "Lịch sử Cuộc trò chuyện".
Mẫu lời nhắc
Trong chế độ này, trước khi sắp xếp chính thức, một mẫu ban đầu được cung cấp trong hộp lời nhắc. Chúng ta có thể trực tiếp sửa đổi mẫu này để có nhiều yêu cầu tùy chỉnh hơn cho LLM. Các loại ứng dụng khác nhau sẽ có các biến thể trong các chế độ khác nhau.
Để biết thêm chi tiết, hãy truy cập 👉
Hiển thị Lời nhắc Tích hợp
Không hiển thị
Hiển thị
Thiết kế Tự động
Có
Không
Chèn Biến
Có
Có
Xác thực Khối
Không
Có
SYSTEM / USER / ASSISTANT
Không hiển thị
Hiển thị
Cài đặt tham số Ngữ cảnh
Có
Có
NHẬT KÝ LỜI NHẮC
Có
Có
Stop_Sequences
Không
Có
Sau khi tạo ứng dụng, bạn có thể chuyển sang Chế độ Chuyên gia trên trang thiết kế prompt.
Trong cả hai chế độ, bạn có thể chỉnh sửa các tham số để chèn bối cảnh, bao gồm TopK và Ngưỡng Điểm.
TopK: Giá trị là một số nguyên từ 1 đến 10.
Giá trị này dùng để lọc các đoạn văn bản có độ tương đồng cao nhất với truy vấn của người dùng. Hệ thống cũng sẽ tự động điều chỉnh số lượng đoạn văn bản dựa trên kích thước cửa sổ bối cảnh của mô hình được chọn. Giá trị mặc định của hệ thống là 2. Giá trị này nên được đặt từ 2 đến 5, vì chúng ta mong đợi nhận được câu trả lời phù hợp hơn với bối cảnh đã nhúng.
Ngưỡng Điểm: Giá trị là một số thập phân từ 0 đến 1, với hai chữ số thập phân.
Giá trị này dùng để đặt ngưỡng tương đồng cho việc chọn đoạn văn bản, tức là chỉ nhớ lại các đoạn văn bản vượt qua điểm số được đặt. Theo mặc định, hệ thống tắt cài đặt này, nghĩa là không có lọc dựa trên giá trị tương đồng của các đoạn văn bản được nhớ lại. Khi được kích hoạt, giá trị mặc định là 0.7. Chúng tôi khuyến nghị giữ cài đặt này ở trạng thái tắt theo mặc định. Nếu bạn có yêu cầu nghiêm ngặt hơn về phản hồi, bạn có thể đặt giá trị cao hơn, mặc dù không nên đặt quá cao.
Chúng tôi không mong muốn LLM tạo ra quá nhiều nội dung. Do đó, cần thiết phải đặt các từ, cụm từ hoặc ký tự cụ thể để báo hiệu cho LLM ngừng tạo văn bản. Cài đặt mặc định là Human: .Ví dụ, nếu bạn đã viết đoạn Few-Shot dưới đây:
Sau đó, trong các tham số mô hình, bạn cần tìm Stop_Sequences và nhập Human1:. Đừng quên nhấn phím Tab. Bằng cách này, LLM sẽ chỉ trả lời bằng một câu khi phản hồi thay vì tạo ra bất kỳ đoạn hội thoại thừa nào khác.
Vì LLM ngừng tạo nội dung trước Human1: Vì LLM ngừng tạo nội dung trước
Bạn có thể nhập "/" trong trình soạn thảo văn bản để nhanh chóng hiển thị các Khối để chèn vào prompt.
Lõi của phát triển giai đoạn đầu bởi các nhà phát triển là Prompt Trước cho cuộc trò chuyện. Nó yêu cầu thiết kế các prompt tích hợp, với vị trí chèn được đề xuất dưới đây:
Bạn cũng có thể tùy chỉnh và chỉnh sửa mẫu prompt ban đầu. Ví dụ, nếu bạn muốn phản hồi của LLM bằng tiếng Anh, bạn có thể chỉnh sửa các prompt tích hợp như sau:
Trong quá trình gỡ lỗi, bạn không chỉ có thể kiểm tra đầu vào của người dùng và phản hồi của LLM mà còn có thể xem các prompt hoàn chỉnh bằng cách nhấp vào biểu tượng ở góc trên bên trái của nút gửi tin nhắn. Điều này thuận tiện cho các nhà phát triển xác nhận xem nội dung Biến đầu vào, Ngữ cảnh, Lịch sử Cuộc trò chuyện và nội dung Truy vấn có đáp ứng kỳ vọng hay không.
6.1 Truy cập Nhật ký Prompt
Trong giao diện xem trước gỡ lỗi, sau khi tham gia vào cuộc trò chuyện với AI, chỉ cần di chuyển con trỏ chuột qua bất kỳ phiên người dùng nào, bạn sẽ thấy biểu tượng "Log" ở góc trên bên trái. Nhấp vào đó để xem Nhật ký Prompt.
Trong Nhật ký Prompt, chúng ta có thể thấy rõ:
Các prompt tích hợp hoàn chỉnh.
Các đoạn văn bản liên quan được tham chiếu trong phiên hiện tại.
Các bản ghi phiên lịch sử.
Từ nhật ký, chúng ta có thể xem các prompt hoàn chỉnh đã được hệ thống lắp ráp và gửi đến LLM, và chúng ta có thể liên tục cải thiện đầu vào prompt dựa trên kết quả gỡ lỗi.
6.2 Theo dõi Lịch sử Gỡ lỗi
Trong giao diện chính của ứng dụng ban đầu, bạn có thể tìm thấy "Nhật ký & Ghi chú" trong thanh điều hướng bên trái. Nhấp vào đó sẽ cho phép bạn xem các nhật ký hoàn chỉnh. Trong giao diện chính "Nhật ký & Ghi chú", bạn có thể nhấp vào bất kỳ mục nhật ký cuộc trò chuyện nào. Trong hộp thoại bên phải hiện ra, chỉ cần di chuyển con trỏ chuột qua cuộc trò chuyện và sau đó nhấp vào nút "Nhật ký" để kiểm tra Nhật ký Prompt.
Lưu ý rằng chỉ sau khi tải lên bối cảnh, các prompt tích hợp chứa mới được hiển thị trên trang thiết kế prompt.
Mẫu Prompt ban đầu của hệ thống cung cấp các tham số và yêu cầu cần thiết cho phản hồi của LLM. Để biết thêm chi tiết, hãy truy cập 👉 .
Để biết thêm chi tiết, hãy truy cập 👉 .
