NVIDIA upravo je objavio besplatnu demo chatbota koja se pokreće lokalno na vašem računalu. Ovo je vrlo zgodno jer chatbotu daje pristup vašim datotekama i dokumentima. Možete pružiti Razgovarajte s RTX-om određene osobne podatke i zamolite ga da na temelju tih podataka izradi životopis. Također mu možete postavljati pitanja kao što biste postavljali bilo kojem chatbotu i on će zaroniti u vaše podatke tražeći odgovore.
Tvrtka kaže da korisnicima omogućuje "brzo i jednostavno povezivanje datoteka s lokalnim računalima kao skupa podataka s velikim modelom jezika otvorenog koda kao što su Mistral ili Llama 2." NVIDIA daje primjer korisnika koji pita chatbota o restoranu koji je preporučio partner dok je u Las Vegasu. Softver skenira lokalne datoteke kako bi pronašao odgovor. Podržava niz formata datoteka uključujući .txt, .pdf, .doc, .docx i .xml. Tvrtka kaže da učitava relevantne datoteke u svoj skup podataka "u nekoliko sekundi".
Chat s RTX-om također integrira videozapise i popise za reprodukciju YouTube. Možete dodati URL videozapisa skupu podataka i on će integrirati znanje sadržano u videozapisu za kontekstualne upite. NVIDIA kaže da će biti koristan kada se traže preporuke za putovanja "na temelju sadržaja iz omiljenih videozapisa utjecajnih osoba" ili kada se traže vodiči i sažeci izvedeni iz obrazovnih izvora.
Ovo zvuči kao veliki korak prema nečemu poput pravog digitalnog pomoćnika koji radi u kontekstu vaših osobnih podataka. Većina chatbota šalje podatke u oblak, ali Chat with RTX "korisnicima omogućuje obradu osjetljivih podataka na lokalnom računalu bez potrebe da ih dijele s trećom stranom ili imaju internetsku vezu." Dakle, komunikacija je sigurnija i više orijentirana na kontekst.
Postoje neka ograničenja. Ovo je demo proizvod pa očekujte puno grešaka NVIDIA trebao bi ih početi popravljati čim korisnici počnu pisati izvješća o greškama i slično. Ovdje također postoje neka stroga hardverska ograničenja. Chat s RTX-om radi samo na Windows 11 računalima s GPU-om NVIDIA GeForce RTX 30 serija ili novija i najmanje 8 GB VRAM-a.
Nedavno NVIDIA stvarno pokazuje svoju vještinu umjetne inteligencije jer je tvrtka upravo lansirala svoju sljedeću generaciju AI superračunalnih čipova. Jednostavno se baškari u zaradi, prvenstveno zahvaljujući svojim segmentima umjetne inteligencije i podatkovnih centara.
Pročitajte također: