大量にファイルを保存して肝心なときに探し出せない人には便利かも
Nvidiaが無料で使えるAIチャットボット「Chat with RTX」をリリース。PC上のローカルファイルで学習
Share
Nvidiaは、ユーザーのPC上で動作するAIチャットボット「Chat with RTX」をリリースした。これは無料のデモアプリで、ユーザーのPC上に保存されているローカルファイルを使って学習し、ドキュメントの要約や自分のデータに関する質問をすることもできる。
Nvidiaの説明によると、ユーザーは「素早く簡単にPC上のローカルファイルをデータセットとしてMistralやLlama 2のようなオープンソースの大規模言語モデル（LLM）に接続」できるという。
Chat with RTXの紹介動画では、使用するLLMをLlamaとMistralから選択し、データセットとなるファイルの保存フォルダーを指定、「サラがおすすめしていたレストランの名前は？」と（英語で）質問すると、その質問への回答と、その情報が含まれるローカルファイルの名前が表示される。
ほかにもユーザーが「自分が新しい仕事に就いたのはいつ？」とChat with RTXにたずねれば、雇用契約書のdocxファイルからその日付を探し出すといたことができる。このツールは、txt、pdf、doc/docx、xmlなど、さまざまなファイル形式をサポートしている。
また、YouTube動画やプレイリストから情報を探し出すことも可能で、検索対象となる動画のURLを入力し、その動画に関する質問を投げると、回答を返してくる。チュートリアル系の動画などから要約を得たり、旅行情報の動画から
レポートを大量に書く研究者や、大量のドキュメントを分析する必要のあるような職業の人なら、このアプリでPC作業が大幅に楽になるかもしれない。通常のAIチャットボットは、クラウド上にあるデータを扱うが、このデモアプリは「データを第三者と共有したり、インターネットに接続したりすることなく処理できる」ため、機密データを含むデータセットも扱うことができる。
Chat with RTXは、GeFoce RTX 30シリーズもしくはRTX 40シリーズと、VRAMを8GB以上搭載するGPUを装備したWindows PCで使用可能だ。
