Din personlige AI-chatbot
Systemkrav
ChatRTX er en demoapp, der giver dig mulighed for at tilpasse en GPT LLM (Large Language Model – stor sprogmodel), som er tilknyttet dit eget indhold – dokumenter, noter eller andre data. Ved at udnytte RAG (Retrieval-Augmented Generation), TensorRT-LLM og RTX-acceleration kan du stille spørgsmål til en brugerdefineret chatbot for hurtigt at få kontekstrelevante svar. Og eftersom det hele kører lokalt på din Windows RTX-pc eller -arbejdsstation, får du hurtige og sikre resultater.
Du skal blot downloade og installere, og så kan du begynde at chatte med det samme.
ChatRTX understøtter forskellige filformater, herunder tekst, pdf, doc/docx og xml. Du skal bare lede programmet til den mappe, der indeholder dine filer, hvorefter det indlæser filerne i biblioteket på få sekunder.
Den tekniske demo af ChatRTX er bygget ud fra TensorRT-LLM RAG-udviklerreferenceprojektet, der er tilgængeligt fra GitHub. Udviklere kan bruge denne reference til at udvikle og udrulle deres egne RAG-baserede programmer til RTX, accelereret af TensorRT-LLM.
Få AI-ydeevne på næste niveau med GeForce RTX™- og NVIDIA RTX™-grafikkort. Fra forbedret kreativitet og produktivitet til lynhurtig gaming – den ultimative AI-styrke på Windows-PC'er findes på RTX.
Få mere at vide om NVIDIAs generative AI-udviklerværktøjer og virksomhedsløsninger her.
NVIDIAs politik om beskyttelse af personlige oplysninger