NVIDIA PC 上でローカルに実行される無料のチャットボット デモをリリースしました。これは、チャットボットにファイルやドキュメントへのアクセスを許可するため、非常に便利です。提供できます RTX とチャットする 特定の個人データを作成し、その情報に基づいて履歴書を作成するよう依頼します。他のチャットボットと同じように質問することもでき、回答を得るためにデータを調べます。
同社によれば、これによりユーザーは「ローカル PC ファイルをデータセットとして、Mistral や Llama 2 などの大規模なオープンソース言語モデルに迅速かつ簡単に接続」できるようになるという。 NVIDIA は、ユーザーがラスベガス滞在中にパートナーが推奨するレストランについてチャットボットに質問する例を示しています。ソフトウェアはローカル ファイルをスキャンして答えを見つけます。 .txt、.pdf、.doc、.docx、.xml などのさまざまなファイル形式をサポートしています。同社は、関連ファイルを「数秒で」データセットにアップロードすると述べている。
RTX とのチャットはビデオとプレイリストも統合します YouTube。ビデオの URL をデータセットに追加すると、ビデオに含まれる知識が統合されてコンテキスト クエリが実行されます。 NVIDIA 「インフルエンサーのお気に入りの動画の内容に基づいて」旅行のおすすめをリクエストしたり、教育リソースから得たチュートリアルや要約を検索したりするときに役立つと述べています。
これは、個人データのコンテキストで機能する真のデジタル アシスタントのようなものに向けた大きな一歩のように思えます。ほとんどのチャットボットはデータをクラウドに送信しますが、Chat with RTX を使用すると、「ユーザーは機密データをサードパーティと共有したりインターネット接続を必要とせずに、ローカル コンピューター上で処理できるようになります」。つまり、より安全で、よりコンテキスト指向のコミュニケーションとなります。
いくつかの制限があります。これはデモ製品なので、多くのバグが予想されます NVIDIA ユーザーがバグレポートなどを書き始めたらすぐに修正を開始する必要があります。ここには、いくつかの厳しいハードウェア制限もあります。 RTX とのチャットは、GPU を搭載した Windows 11 コンピューターでのみ機能します NVIDIA GeForce RTX 30 シリーズ以降、および 8 GB 以上の VRAM。
最近 NVIDIA 同社は次世代の AI スーパーコンピューター チップを発売したばかりで、その AI の能力を実際に誇示しています。主にAIとデータセンター部門による利益を享受しているだけだ。
また読む：