Nvidia更新ChatRTX聊天機器人以支援語音提示及更多模型

Nvidia本周更新其基於生成式預訓練模型（Generative Pre-trained Transformer，GPT）與Nvidia RTX系列GPU的ChatRTX聊天機器人，它可支援更多的開源模型，具備語音查詢能力，並可辨識圖片。

ChatRTX為一由Nvidia所開發的GPT聊天機器人示範程式，在選擇了大型語言模型之後（LLM），使用者即可將它連至自己的文件、筆記、圖片或其它資料，藉由檢索增強生成（Retrieval-Augmented Generation，RAG）技術、TensorRT-LLM軟體與RTX加速，即可向此一客製化的聊天機器人提出問題，並得到相關的解答。由於它是直接在Windows PC或工作站上執行，可確保隱私及安全。

Nvidia是在今年2月發表ChatRTX，其系統需求包括Nvidia GeForce RTX 30/40系列GPU、Nvidia RTX Ampere或Ada Generation GPU，執行Windows 11作業系統，以及必須具備16GB或更多記憶體。

使用者可透過ChatRTX將本地端的檔案當作資料集，首個版本支援.txt、.pdf、.doc/.docx和.xml等檔案格式，連至諸如Mistral或Llama 2的開源大型語言模型，以利用ChatRTX來查詢筆記及檔案，而且是在使用者的裝置上執行。

新版增加了對Gemma與ChatGLM3模型的支援，也支援語言及圖像對比預訓練（CLIP）神經網路，並透過對Whisper的支援提供了語音查詢能力，額外支援jpeg、gif及png檔案格式。因此，現在使用者除了可以文字及語音與ChatRTX對話之外，還能搜尋照片與圖片。

ChatRTX開放所有使用者免費下載。