Thông số kỹ thuật
Đối với những người đã quen thuộc với các ngăn xếp công nghệ ứng dụng LLM, tài liệu này được coi là một lối tắt để hiểu về những ưu điểm độc đáo của ChatX.
Chúng tôi áp dụng các chính sách minh bạch về các thông số sản phẩm để đảm bảo quyết định được thực hiện dựa trên sự hiểu biết đầy đủ. Sự minh bạch này không chỉ có lợi cho việc lựa chọn kỹ thuật của bạn, mà còn thúc đẩy sự hiểu biết sâu sắc hơn trong cộng đồng để đóng góp tích cực.
Thông tin cơ bản về dự án
Thành lập
Tháng 3 năm 2023
Giấy phép mã nguồn mở
Đội ngũ R&D chính thức
Hơn 10 nhân viên full-time
Cộng tác viên cộng đồng
Công nghệ Backend
Python/Flask/PostgreSQL
Công nghệ Frontend
Next.js
Kích thước mã nguồn
Hơn 130.000 dòng
Tần suất phát hành
Trung bình mỗi tuần một lần
Tính năng kỹ thuật
Các động cơ suy luận của LLM
ChatX Runtime (LangChain đã được loại bỏ từ phiên bản v0.4)
Hỗ trợ Mô hình Thương mại
Hơn 10 mô hình, bao gồm OpenAI và Anthropic Thêm mô hình mới phổ biến trong vòng 48 giờ
Hỗ trợ bởi nhà cung cấp MaaS
7, bao gồm Hugging Face, Replicate, AWS Bedrock, NVIDIA, GroqCloud, together.ai, OpenRouter
Hỗ trợ Các Thời gian Chạy Suy luận Mô hình Cục bộ
6, bao gồm Xoribits (được khuyến nghị), OpenLLM, LocalAI, ChatGLM, Ollama, NVIDIA TIS
Hỗ trợ Tích hợp Mô hình Chuẩn Giao diện của OpenAI
∞
Khả năng Đa phương tiện
Mô hình ASR Mô hình văn bản phong phú lên đến cấu hình GPT-4V
Loại Ứng dụng Tích hợp
Tạo văn bản, Trò chuyện, Agent, Luồng làm việc, Nhóm (Q2 2024)
Quy trình Orchestration Dựa trên Lời Nhắc
Giao diện điều chỉnh trực quan được ca ngợi rộng rãi, chỉnh sửa Lời Nhắc và xem trước hiệu ứng tại một nơi. Chế độ Orchestration
Orchestration Đơn giản
Orchestration Trợ lý
Orchestration Luồng
Orchestration Đa Agent (Q2 2024)
Loại Biến Lời Nhắc
Chuỗi
Liệt kê Radio
API Bên ngoài
Tập tin (Q2 2024)
Tính năng Luồng làm việc Agent
Giao diện điều khiển luồng làm việc trực quan hàng đầu trong ngành, gỡ lỗi nút trực tiếp trong thời gian thực, ngôn ngữ miền (DSL) modul và mã nguồn chạy tự nhiên, được thiết kế để xây dựng ứng dụng LLM phức tạp, đáng tin cậy và ổn định hơn. Các Nút Được Hỗ Trợ
LLM
Truy xuất Kiến thức
Phân loại Câu hỏi
IF/ELSE
CODE
Mẫu
Yêu cầu HTTP
Công cụ
Các Tính năng RAG
Giao diện quản lý cơ sở kiến thức trực quan đầu tiên trong ngành, hỗ trợ xem trước đoạn mã và kiểm tra ghi nhớ.
Phương pháp Indexing
Từ khóa
Vector văn bản
Mô hình câu hỏi-đoạn mã được hỗ trợ bởi LLM
Các Phương pháp Truy xuất
Keywords
Từ khóa
So sánh độ tương tự văn bản
Tìm kiếm kết hợp
N lựa chọn 1
Ghi nhớ nhiều đường dẫn
Tối ưu hóa Ghi nhớ
Mô hình sắp xếp lại
Khả năng ETL
Tự động làm sạch cho các định dạng TXT, Markdown, PDF, HTML, DOC, CSV. Dịch vụ không cấu trúc cho phép hỗ trợ tối đa. Đồng bộ hóa tài liệu Notion như cơ sở kiến thức.
Hỗ trợ cơ sở dữ liệu Vector
Qdrant (được khuyến nghị), Weaviate, Zilliz
Công nghệ Agent
ReAct, Gọi Hàm.
Công cụ hỗ trợ
Kích hoạt các công cụ tiêu chuẩn Plugin OpenAI
Tải trực tiếp các API Quy định OpenAPI như các công cụ
Công cụ tích hợp
Hơn 30 công cụ (Kể từ Q1 2024)
Ghi nhật ký
Được hỗ trợ, chú thích dựa trên nhật ký
Trả lời Chú thích
Dựa trên Q&A do con người chú thích, được sử dụng cho các câu trả lời dựa trên độ tương tự. Có thể xuất dưới dạng dữ liệu để tinh chỉnh mô hình.
Kiểm duyệt Nội dung
Kiểm duyệt của OpenAI hoặc các external API
Hợp tác Nhóm
Không gian làm việc, quản lý nhiều thành viên
Thông số Kỹ thuật API
RESTful, bao phủ hầu hết các tính năng
Phương pháp Triển khai
Docker, Helm