產業：行競科技攜手日廠ENEOS ，共拓電動車輛與儲能市場
(2024/12/24 09:05)
產業：個性化GPT聊天機器人將開始大舉問世
2024/02/17 12:05 財訊快報／記者李純君報導
AI正引領科技走向，生成式AI更趨動科技發展，而NVIDIA更將個人化的AI聊天機器人NVIDIA Chat with RTX技術展示開放下載，Chat With RTX為NVIDIA RTX AI PC量身打造聊天機器人，這也意味著，個性化GPT聊天機器人將開始大舉問世。
在配備NVIDIA GPU的雲端伺服器的支援下，全球每天有數百萬人都在使用聊天機器人。現在這些開創性工具將出現在搭載NVIDIA RTX處理器的Windows PC上，以便讓人在本機端快速使用量身打造的生成式人工智慧(AI)。
現已開放免費下載的技術展示內容Chat with RTX，透過本機端的NVIDIA GeForce RTX 30系列或更高規格的GPU且具備8GB以上視訊隨機存取記憶體(VRAM)加速，可以讓使用者以自己的內容打造個人專屬的聊天機器人。
Chat with RTX利用檢索增強生成(RAG)、NVIDIA TensorRT-LLM軟體及NVIDIA RTX加速技術，將生成式AI功能引入有著GeForce技術支援的Windows PC。使用者可以快速、輕鬆地將PC本機端上的檔案當成資料集，連接到Mistral或Llama 2這一類開源大型語言模型，以便快速查詢與上下文有關的答案。
使用者無需搜尋筆記或儲存的內容，只要在 Chat with RTX工具輸入查詢內容，如「我的夥伴推薦拉斯維加斯的哪一間餐廳」等，該工具就會掃描使用者指向的本機端檔案，並且按照上下文提供答案。Chat with RTX工具支援包括.txt、.pdf、.doc/.docx 和 .xml在內的多種檔案格式，將應用程式指向有著這些檔案的資料夾，Chat with RTX工具就會在幾秒鐘內將它們載入到檔案庫中。
【往下看更多】
►他出門擺攤「62公斤50元」被搬光 警方揪兇手：女友幹的
►新店工人修門窗失足墜樓 路過騎士遭砸中「1昏迷1受傷」
►趙薇被封殺後...富商老公也玩完？ 再爆欠款「10位數」遭告上高院
人氣新聞
分類最新
