Chat With RTX to aplikacja demonstracyjna, personalizująca model językowy GPT (LLM) połączony z własnymi treściami – dokumentami, notatkami, filmami lub innymi danymi.
Wykorzystując generację wspomaganą wyszukiwaniem (RAG) oraz akcelerację TensorRT-LLM i RTX, możemy wysyłać zapytania do tego chatbota, aby szybko uzyskać istotne odpowiedzi. Korzystanie z ChatBotu jest bezpieczne, ponieważ działa lokalnie na komputerze z systemem Windows RTX lub stacji roboczej.
Narzędzie wykorzystuje moc obliczeniową układów NVIDIA GeForce RTX 3000 i RTX 4000. Komputer powinien być wyposażony w co najmniej 16 GB RAM i działać w oparciu o system Windows 11.
