ChatRTX란 무엇인가요?
ChatRTX는 GPT 거대 언어 모델(LLM)을 사용자의 문서, 메모, 동영상 또는 기타 데이터와 같은 콘텐츠에 연결하여 맞춤 설정할 수 있도록 하는 데모 앱입니다. 검색 증강 생성(RAG), TensorRT™-LLM, NVIDIA NIM™ 마이크로서비스, RTX™ 가속화를 활용하여 맞춤형 챗봇에 쿼리하고 문맥에 맞는 관련 답변을 빠르게 얻을 수 있습니다. 이 모든 과정은 사용자의 Windows RTX PC 또는 워크스테이션에서 로컬로 실행되므로, 빠르고 비공개적인 결과를 얻을 수 있습니다.
내 파일을 기반으로 채팅
ChatRTX는 TXT, PDF, DOC/DOCX, JPG, PNG, GIF, XML 등의 다양한 파일 형식을 지원합니다. 애플리케이션에서 파일이 포함된 폴더를 지정하면 몇 초 만에 라이브러리에 로드됩니다.
ChatRTX와 대화
ChatRTX는 음성 언어를 처리하고 다양한 언어를 지원하는 텍스트 응답을 제공하기 위해 AI를 사용하는 자동 음성 인식 시스템을 갖추고 있습니다. 마이크 아이콘을 클릭하고 ChatRTX와의 대화를 시작해 보세요.
사진 및 이미지 검색
ChatRTX에 작업을 맡겨 보세요. 간단한 텍스트나 음성 검색만으로 사진 앨범을 정렬할 수 있으며, 모든 정보를 비공개로 유지하고 번거로움이 없습니다.
AI NIMble 만들기
ChatRTX는 RTX에 최적화된 최신 AI 모델을 탑재한 NVIDIA NIM 마이크로서비스에 대한 액세스를 제공하니다. NVIDIA NIM을 통해 AI 기반 애플리케이션을 쉽게 다운로드, 설정 및 구축하여 워크플로우를 가속화하고, 생산성을 높이며, AI 모델의 잠재력을 최대한 활용할 수 있습니다.
활용 사례 보기
ChatRTX 소개
ChatRTX 업데이트: 음성, 이미지, 신규 모델 지원
NVIDIA ChatRTX 다운로드하기
다운로드하여 설치하면, 채팅을 바로 시작할 수 있습니다.
시스템 요구 사항
| Platform | Windows |
| GPU | NVIDIA® GeForce® RTX 5090 or 5080 GPU or NVIDIA® GeForce® RTX 30 or 40 Series GPU with at least 8GB of VRAM |
| RAM | 16GB or greater |
| OS | Windows 11 |
| Driver | 572.16 or higher |
| Disk Space | 70GB free disk space. *Installer size: 13MB; disk space requirements vary based on system configuration and installed models. See User Guide for details. |
개발자를 위한 채팅
ChatRTX 기술 데모는 GitHub에서 제공하는 TensorRT-LLM RAG 개발자 레퍼런스 프로젝트로 구축되었습니다. 개발자는 이 레퍼런를 사용해 TensorRT-LLM으로 가속화된 RTX를 위한 자체 RAG 기반 애플리케이션을 개발하고 배포할 수 있습니다.
NVIDIA NIM 마이크로서비스 및 Blueprints
AI, 지금 바로 시작하세요
NVIDIA NIM 마이크로서비스 및 AI Blueprint를 통해 최신 생성형 AI 모델을 RTX AI PC에서 로컬로 활용하세요. RTX GPU에 최적화된 NIM 마이크로서비스는 ChatRTX, AnythingLLM, ComfyUI, LM Studio와 같은 인기 앱에서 최첨단 AI를 사용할 수 있도록 지원합니다. 마이크로서비스를 Blueprints와 결합하면 작업을 자동화하고 새로운 기능을 활용하는 AI 기반 워크플로우를 신속하게 설정, 커스터마이 및 배포할 수 있습니다. 지금 바로 AI의 미래를 만들고 경험해 보세요. 이 모든 것은 NVIDIA RTX™로 구동됩니다.
전 세계의 AI를 구현하는 NVIDIA. 당신에게로.
NVIDIA GeForce RTX™ GPU를 통해 최첨단 AI로 업그레이드하고 게이밍, 창작, 생산성 및 개발 업무를 가속하세요. 특수 내장 AI 프로세서 덕분에 사용자의 모든 작업을 지원하는 세계 최고의 AI 기술과 성능을 경험할 수 있을 뿐만 아니라, 사용자의 데이터가 자신의 Windows PC에 항상 안전하게 로컬로 보관됩니다.
NVIDIA의 생성형 AI 개발자 도구와 엔터프라이즈 솔루션을 살펴보세요.