什麼是 ChatRTX？
ChatRTX 是一款示範用的應用程式。若有 GPT 大型語言模型 (LLM) 連接到自己的內容、文件、筆記、影像或其他資料，可透過此應用程式依個人需求設定 LLM。利用檢索增強生成器 (RAG)、TensorRT™-LLM、NVIDIA NIM™ 微服務和 RTX™ 加速，您可以查詢自訂聊天機器人，快速獲得上下文相關的答案。由於所有功能都在 Windows RTX PC 或工作站本機執行，因此您將獲得快速且不公開的結果。
與你的檔案聊天
ChatRTX 支援各種檔案格式，包括 TXT、PDF、DOC/DOCX、JPG、PNG、GIF 和 XML。只要將應用程式指向儲存檔案的文件夾，幾秒內就能將檔案載入至資料庫。
與 ChatRTX 交談
ChatRTX 具備自動語音辨識系統，利用 AI 處理口語，並提供文字回應，同時支援多國語言。只要按一下麥克風圖示與 ChatRTX 對話，馬上就能開始。
照片和影像搜索
讓 ChatRTX 執行工作：透過簡單的文字或語音搜尋排序相簿，保證所有內容的隱私且輕鬆完成。
讓 AI 微服務化
ChatRTX 提供對 NVIDIA NIM 微服務的存取權，其中包括針對 RTX 最佳化的最新 AI 模型。NVIDIA NIM 可讓您輕鬆下載、設定和建置 AI 驅動的應用程式，以加速工作流程、提升生產力，並完全釋放 AI 模型的潛力。
立即觀看實際操作示範
隆重介紹 ChatRTX
ChatRTX 更新：語音、影像和全新模型支援
下載 NVIDIA ChatRTX
下載安裝後，便可立即開始聊天。
系統要求
| Platform | Windows |
| GPU | NVIDIA® GeForce® RTX 5090 or 5080 GPU or NVIDIA® GeForce® RTX 30 or 40 Series GPU with at least 8GB of VRAM |
| RAM | 16GB or greater |
| OS | Windows 11 |
| Driver | 572.16 or higher |
| Disk Space | 70GB free disk space. *Installer size: 13MB; disk space requirements vary based on system configuration and installed models. See User Guide for details. |
開發人員的聊天功能
ChatRTX 技術展示是根據 GitHub 上的 TensorRT-LLM RAG 開發人員參考專案所建置。開發人員可以用該參考專案，自行為 TensorRT-LLM 加速的 RTX 開發及部署 RAG 型應用程式。
NVIDIA NIM 微服務和 Blueprints
AI，已準備就緒
RTX AI 電腦上利用 NVIDIA NIM™ 微服務與 AI Blueprint，在本機上利用最新的生成式 AI 模型。 NIM 微服務已針對 RTX GPU 最佳化，可從您最喜歡的應用程式（例如 ChatRTX、AnythingLLM、ComfyUI 和 LM Studio）中，解鎖對尖端 AI 的存取權。將其與 Blueprints 結合，快速設定、自訂和部署 AI 驅動工作流程，以自動化工作並解鎖新功能。今天就塑造和體驗未來的 AI。採用 NVIDIA RTX™ 技術
NVIDIA 引領全球 AI。驅動您的 AI 世界。
NVIDIA GeForce RTX™ GPU 是晉升至先進 AI 的跳板，可加速您的遊戲、創作、生產力與開發。有鑑於專用的內建 AI 處理器，您可獲得領先全球的 AI 技術與效能，為您所作的一切提供動力，此外，資料也始終保存在 Windows PC 的本機當中。
探索 NVIDIA 的生成式 AI 開發人員工具和企業解決方案。