Ваш персонализированный чат-бот с ИИ
Системные требования
ChatRTX— это демоприложение, которое позволяет персонализировать большую языковую модель (LLM) GPT, подключенную к вашему контенту: документам, заметкам и другим данным. Используя генерацию ответа, дополненную результатами поиска (RAG), TensorRT-LLM и ускорение на RTX, вы можете отправлять запросы к пользовательскому чат-боту, чтобы быстро получать ответы, соответствующие контексту. А так как приложение работает локально на ПК или рабочей станции с Windows с RTX, результаты генерируются быстро и безопасно.
Скачайте, установите и сразу же начинайте чат.
ChatRTX поддерживает различные форматы файлов, включая текстовые, pdf, doc/docx и xml. Просто укажите приложению папку, содержащую нужные файлы, и оно загрузит их в библиотеку за считанные секунды.
Техническое демо ChatRTX создано на основе референсного проекта разработчика TensorRT-LLM RAG, который доступен на GitHub. Разработчики могут использовать этот проект для разработки и развертывания собственных приложений на базе RAG для RTX, ускоренных с помощью TensorRT-LLM.
Получите ИИ нового уровня на видеокартах GeForce RTX™ и NVIDIA RTX™. RTX позволяет использовать ИИ на ПК с ОС Windows по максимуму: от расширенных возможностей для творчества и сверхвысокой производительности до невероятного быстродействия в играх.
Узнайте подробнее об инструментах для разработчиков и корпоративных решениях NVIDIA на базе генеративного ИИ.
Положение о конфиденциальности NVIDIA