Din personliga AI-chattbot
Systemkrav
ChatRTX är en demo-app som gör att du kan anpassa en stor GPT-språkmodell (LLM) som är ansluten till ditt eget innehåll – dokument, anteckningar eller andra data. Med RAG (Retrieval Augmented Generation), TensorRT-LLMoch RTX-acceleration kan du söka i en anpassad chatbot för att snabbt få kontextuellt relevanta svar. Och eftersom allt körs lokalt på din Windows RTX-dator eller arbetsstation får du snabba och säkra resultat.
Ladda ner, installera och börja chatta direkt.
ChatRTX stöder olika filformat, inklusive text, pdf, doc/docx och xml. Rikta programmet mot mappen som innehåller dina filer så laddar de in dem i biblioteket på några sekunder.
Teknikdemon för ChatRTX är byggd från utvecklarreferensprojektet TensorRT-LLM RAG som finns tillgängligt från GitHub. Utvecklare kan använda den referensen för att utveckla och driftsätta sina egna RAG-baserade program för RTX, som accelereras av TensorRT-LLM.
AI-prestanda på en helt ny nivå med grafikkorten GeForce RTX™ och NVIDIA RTX™. RTX är den ultimata AI-kraften på Windows-datorer och ger allt från förbättrad kreativitet och produktivitet till blixtsnabbt spelande.
Läs mer om NVIDIA:s generativa AI-utvecklarverktyg och företagslösningar här.
NVIDIA:s integritetspolicy