Demo
Chatbot AI được cá nhân hóa cho riêng bạn
Phiên bản 0.5
ChatRTX là một ứng dụng demo cho phép bạn cá nhân hóa mô hình ngôn ngữ lớn (LLM) GPT kết nối với nội dung của riêng bạn—tài liệu, ghi chú, hình ảnh hoặc dữ liệu khác. Bằng cách tận dụng khả năng tạo tăng cường truy xuất (RAG), TensorRT™-LLM, dịch vụ vi mô NVIDIA NIM™ và tăng tốc RTX™, bạn có thể truy vấn chatbot tùy chỉnh để nhanh chóng nhận câu trả lời liên quan đến bối cảnh. Và vì tất cả đều chạy cục bộ trên PC hoặc máy trạm Windows RTX của bạn, bạn sẽ nhận được kết quả nhanh chóng và riêng tư.
ChatRTX hỗ trợ nhiều định dạng tệp khác nhau, bao gồm TXT, PDF, DOC/DOCX, JPG, PNG, GIF và XML. Chỉ cần trỏ ứng dụng vào thư mục chứa tệp là ứng dụng sẽ tải tệp vào thư viện trong vài giây.
ChatRTX có hệ thống tự động nhận dạng giọng nói sử dụng AI để xử lý ngôn ngữ nói và cung cấp phản hồi bằng văn bản với khả năng hỗ trợ nhiều ngôn ngữ. Chỉ cần nhấp vào biểu tượng micrô và trò chuyện với ChatRTX để bắt đầu.
Hãy để ChatRTX làm việc—sắp xếp album ảnh của bạn bằng tìm kiếm bằng văn bản hoặc giọng nói đơn giản, giữ mọi thứ riêng tư và dễ dàng hơn.
ChatRTX cung cấp quyền truy cập vào các dịch vụ vi mô NIM của NVIDIA, với các mô hình AI mới nhất được tối ưu hóa cho RTX. Với NVIDIA NIM, bạn có thể dễ dàng tải xuống, thiết lập và xây dựng các ứng dụng AI để tăng tốc quy trình làm việc, tăng năng suất và mở khóa tiềm năng đầy đủ của các mô hình AI.
Chỉ cần tải xuống và cài đặt là bạn có thể bắt đầu trò chuyện ngay.
Platform | Windows |
GPU | NVIDIA® GeForce® RTX 5090 or 5080 GPU or NVIDIA® GeForce® RTX 30 or 40 Series GPU with at least 8GB of VRAM |
RAM | 16GB or greater |
OS | Windows 11 |
Driver | 572.16 or higher |
Disk Space | 70GB free disk space. *Installer size: 13MB; disk space requirements vary based on system configuration and installed models. See User Guide for details. |
Demo công nghệ ChatRTX được xây dựng từ dự án tham khảo nhà phát triển TensorRT-LLM RAG có sẵn trên GitHub. Nhà phát triển có thể sử dụng bản tham khảo đó để phát triển và triển khai các ứng dụng dựa trên RAG của riêng họ cho RTX, được tăng tốc bằng TensorRT-LLM.
Dịch vụ vi mô NIM và Blueprint của NVIDIA
Khai thác các mô hình AI tạo sinh mới nhất trên PC AI RTX của bạn với các dịch vụ vi mô NIM và Blueprint AI của NVIDIA. Được tối ưu hóa cho GPU RTX, các dịch vụ vi mô NIM giúp tiếp cận AI tiên tiến từ các ứng dụng yêu thích của bạn như ChatRTX, AnythingLLM, ComfyUI và LM Studio. Kết hợp chúng với Blueprint để nhanh chóng thiết lập, tùy chỉnh và triển khai các quy trình làm việc dựa trên AI tự động hóa các tác vụ và mở khóa các khả năng mới. Hãy định hình và trải nghiệm AI của ngày mai, ngay hôm nay. Sử dụng công nghệ NVIDIA RTX™
Nâng cấp lên AI tiên tiến với GPU NVIDIA GeForce RTX™ và tăng tốc chơi game, sáng tạo, năng suất và phát triển. Nhờ bộ xử lý AI tích hợp chuyên dụng, bạn có được công nghệ AI hàng đầu thế giới và hiệu suất cung cấp sức mạnh cho mọi việc bạn làm—ngoài ra, dữ liệu của bạn luôn luôn duy trì cục bộ trên PC Windows của bạn.
Khám phá các công cụ nhà phát triển AI tổng hợp và giải pháp doanh nghiệp của NVIDIA.