NVIDIA щойно випустила безкоштовну демоверсію чат-бота, який працює локально на вашому ПК. Це дуже зручно, оскільки дає чат-боту доступ до ваших файлів і документів. Ви можете надати Chat with RTX певні персональні дані та попросити його створити резюме на основі цієї інформації. Ви також можете ставити йому запитання, як і будь-якому чат-боту, і він зануриться у ваші дані для отримання відповідей.
Компанія заявляє, що це дозволяє користувачам “швидко і легко підключати локальні файли на ПК як набір даних до великої мовної моделі з відкритим вихідним кодом, такої як Mistral або Llama 2”. NVIDIA наводить приклад, коли користувач запитує чат-бота про ресторан, який рекомендував його партнер, перебуваючи в Лас-Вегасі. Програмне забезпечення сканує локальні файли, щоб знайти відповідь. Вона підтримує цілу низку форматів файлів, включаючи .txt, .pdf, .doc, .docx і .xml. Компанія заявляє, що завантажує відповідні файли у свій набір даних “за лічені секунди”.
Чат з RTX також інтегрує відео та плейлисти YouTube. Ви можете додати URL-адресу відео в набір даних, і він буде інтегрувати знання, що містяться в відео, для контекстних запитів. NVIDIA каже, що це буде корисно при запиті рекомендацій щодо подорожей, “заснованих на контенті з улюблених відео від впливових осіб”, або при пошуку навчальних посібників та резюме, отриманих з освітніх ресурсів.
Це звучить як великий крок до чогось схожого на справжнього цифрового асистента, який працює в контексті ваших персональних даних. У більшості чат-ботів дані відправляються в хмару, але Chat with RTX “дозволяє користувачам обробляти конфіденційні дані на локальному комп’ютері без необхідності ділитися ними з третьою стороною або мати підключення до інтернету”. Так що це безпечніше і більш контекстно-орієнтоване спілкування.
Існують деякі обмеження. Це демонстраційний продукт, тому слід очікувати багато помилок, хоча NVIDIA повинна почати їх виправляти, як тільки користувачі почнуть писати звіти про помилки та тому подібне. Тут також є деякі суворі апаратні обмеження. Chat with RTX працює лише на комп’ютерах з Windows 11 з графічними процесорами NVIDIA GeForce RTX 30 серії або вище і принаймні 8 ГБ VRAM.
Останнім часом NVIDIA дійсно демонструє свою майстерність у сфері ШІ, оскільки компанія щойно запустила своє наступне покоління суперкомп’ютерних чипів зі штучним інтелектом. Вона просто купається в прибутках, в першу чергу завдяки сегментам ШІ та центрів обробки даних.
Читайте також:
Leave a Reply