NVIDIA 日前推出了個人化 AI 聊天機械人 Chat with RTX，用戶可以不連接網絡，就能夠將自己的文件、筆記等資料連接大語言模型（LLM）。NVIDIA 官方表示，Chat with RTX 所有操作均在 Windows RTX PC 或工作站上本地運行，因此非常安全。
用戶可利用 Chat With RTX 使用檢索增強生成 (RAG)、TensorRT-LLM和 RTX 加速。要使用 Chat with RTX 的話，需要配備 GeForce RTX 30、40 系列以上的 GPU，或者是 RTX Ampere、Ada Generation GPU。除此之外，用戶最少需要配備 8 GB 顯示卡記憶體。
Chat with RTX 支援各種文件格式，包括 word檔、pdf、doc/docx 和 xml。只需將應用程式指向包含檔案的資料夾，數秒內就可使用。此外用戶亦可利用 Chat with RTX 「觀看」 YouTube 影片，整合影片內容。
NVIDIA 強調，由於 Chat with RTX 在本機運作，無須連接網絡，因此其查詢速度非常快，同時用戶資料僅會保存在裝置，所以非常安全，用戶可以安心處理敏感資料。
下載連結：https://www.nvidia.com/en-us/ai-on-rtx/chat-with-rtx-generative-ai/
資料來源：NVIDIA
NVIDIA 宣布 Omniverse Cloud 可配合 Apple Vision Pro 使用 MediaTek 夥拍 Nvidia 發表全新車載系統處理器晶片 NVIDIA Blackwell 新一代 AI 晶片 性能比 H100 強 7 倍