NVIDIA právě vydali bezplatné demo chatbota, které běží lokálně na vašem PC. To je velmi výhodné, protože to umožňuje chatbotovi přístup k vašim souborům a dokumentům. Můžete poskytnout Chatujte s RTX určité osobní údaje a požádat ho, aby na základě těchto informací vytvořil životopis. Můžete mu také položit otázky jako kterýkoli chatbot a on se ponoří do vašich dat, aby získal odpovědi.
Společnost říká, že umožňuje uživatelům „rychle a snadno připojit místní PC soubory jako datovou sadu k velkému open source jazykovému modelu, jako je Mistral nebo Llama 2“. NVIDIA uvádí příklad uživatele, který se v Las Vegas ptá chatbota na restauraci doporučenou partnerem. Software prohledá místní soubory, aby našel odpověď. Podporuje řadu formátů souborů včetně .txt, .pdf, .doc, .docx a .xml. Společnost říká, že nahraje relevantní soubory do své datové sady „během několika sekund“.
Chat s RTX také integruje videa a seznamy skladeb YouTube. Můžete přidat adresu URL videa do datové sady a ta integruje znalosti obsažené ve videu pro kontextové dotazy. NVIDIA říká, že to bude užitečné při žádostech o cestovní doporučení „na základě obsahu oblíbených videí od influencerů“ nebo při hledání návodů a shrnutí odvozených ze vzdělávacích zdrojů.
To zní jako velký krok směrem k něčemu jako skutečný digitální asistent, který funguje v kontextu vašich osobních údajů. Většina chatbotů odesílá data do cloudu, ale Chat s RTX „umožňuje uživatelům zpracovávat citlivá data na místním počítači, aniž by je museli sdílet s třetí stranou nebo mít připojení k internetu“. Je to tedy bezpečnější a kontextově orientovaná komunikace.
Existují určitá omezení. Toto je demo produkt, takže očekávejte spoustu chyb NVIDIA měli by je začít opravovat, jakmile uživatelé začnou psát zprávy o chybách a podobně. Také zde platí určitá přísná hardwarová omezení. Chat s RTX funguje pouze na počítačích s Windows 11 s GPU NVIDIA GeForce RTX řady 30 nebo vyšší a alespoň 8 GB paměti VRAM.
Nedávno NVIDIA skutečně předvádí své schopnosti umělé inteligence, protože společnost právě uvedla na trh další generaci superpočítačových čipů umělé inteligence. Jednoduše se vyhřívá na ziscích, především díky svým segmentům AI a datových center.
Přečtěte si také: