Trước đây, cho phép các nhà phát triển tải trực tiếp các văn bản dài dưới nhiều định dạng khác nhau và dữ liệu có cấu trúc để xây dựng kiến thức, cho phép các ứng dụng AI trò chuyện dựa trên ngữ cảnh mới nhất được tải lên bởi người dùng. Với bản cập nhật này, công cụ dữ liệu bên ngoài giúp các nhà phát triển sử dụng khả năng tìm kiếm của riêng họ hoặc dữ liệu bên ngoài như các cơ sở kiến thức nội bộ làm ngữ cảnh cho các mô hình ngôn ngữ lớn (LLMs). Điều này được thực hiện bằng cách mở rộng API để truy xuất dữ liệu bên ngoài và nhúng nó vào các Prompt. So với việc tải kiến thức lên đám mây, sử dụng công cụ dữ liệu bên ngoài mang lại lợi ích đáng kể trong việc đảm bảo an ninh cho dữ liệu riêng tư, tùy chỉnh tìm kiếm và nhận dữ liệu thời gian thực.
Khi người dùng cuối gửi yêu cầu đến hệ thống trò chuyện, nền tảng backend sẽ kích hoạt công cụ dữ liệu bên ngoài (tức là gọi API của chính nó), truy vấn thông tin bên ngoài liên quan đến câu hỏi của người dùng, chẳng hạn như hồ sơ nhân viên, bản ghi thời gian thực, v.v. Công cụ sau đó sẽ trả về các phần liên quan đến yêu cầu hiện tại thông qua API. Nền tảng backend sẽ lắp ráp các kết quả trả về thành văn bản làm ngữ cảnh được nhúng vào Prompt, để tạo ra các phản hồi cá nhân hóa hơn và đáp ứng nhu cầu của người dùng một cách chính xác hơn.
Trước khi sử dụng công cụ dữ liệu bên ngoài, bạn cần chuẩn bị một API và một API Key để xác thực. Truy cập .
ChatX cung cấp quản lý API tập trung; Sau khi thêm cấu hình mở rộng API trong giao diện cài đặt, chúng có thể được sử dụng trực tiếp trên các ứng dụng khác nhau trên ChatX.
Lấy ví dụ "Truy vấn Thời tiết", nhập tên, điểm cuối API và API Key vào hộp thoại "Thêm Phần mở rộng API mới". Sau khi lưu, chúng ta có thể gọi API.
Trên trang sắp xếp prompt, nhấp vào nút "+ Thêm" bên phải "Tools", và trong hộp thoại "Thêm Công cụ" mở ra, điền tên và tên biến (tên biến sẽ được tham chiếu trong Prompt, vì vậy hãy sử dụng tiếng Anh), cũng như chọn mở rộng dựa trên API đã thêm ở Bước 2.
Trong hộp sắp xếp prompt, chúng ta có thể lắp ráp dữ liệu bên ngoài đã truy vấn vào Prompt. Ví dụ, nếu chúng ta muốn truy vấn thời tiết hôm nay ở London, chúng ta có thể thêm một biến tên là location, nhập "London", và kết hợp nó với tên biến mở rộng của công cụ dữ liệu bên ngoài là weather_data. Đầu ra gỡ lỗi sẽ như sau:
Trong Nhật ký Prompt, chúng ta cũng có thể thấy dữ liệu thời gian thực được trả về bởi API:
