產業:個性化GPT聊天機器人將開始大舉問世
AI正引領科技走向,生成式AI更趨動科技發展,而NVIDIA更將個人化的AI聊天機器人NVIDIA Chat with RTX技術展示開放下載,Chat With RTX為NVIDIA RTX AI PC量身打造聊天機器人,這也意味著,個性化GPT聊天機器人將開始大舉問世。
在配備NVIDIA GPU的雲端伺服器的支援下,全球每天有數百萬人都在使用聊天機器人。現在這些開創性工具將出現在搭載NVIDIA RTX處理器的Windows PC上,以便讓人在本機端快速使用量身打造的生成式人工智慧(AI)。
現已開放免費下載的技術展示內容Chat with RTX,透過本機端的NVIDIA GeForce RTX 30系列或更高規格的GPU且具備8GB以上視訊隨機存取記憶體(VRAM)加速,可以讓使用者以自己的內容打造個人專屬的聊天機器人。
Chat with RTX利用檢索增強生成(RAG)、NVIDIA TensorRT-LLM軟體及NVIDIA RTX加速技術,將生成式AI功能引入有著GeForce技術支援的Windows PC。使用者可以快速、輕鬆地將PC本機端上的檔案當成資料集,連接到Mistral或Llama 2這一類開源大型語言模型,以便快速查詢與上下文有關的答案。
使用者無需搜尋筆記或儲存的內容,只要在 Chat with RTX工具輸入查詢內容,如「我的夥伴推薦拉斯維加斯的哪一間餐廳」等,該工具就會掃描使用者指向的本機端檔案,並且按照上下文提供答案。Chat with RTX工具支援包括.txt、.pdf、.doc/.docx 和 .xml在內的多種檔案格式,將應用程式指向有著這些檔案的資料夾,Chat with RTX工具就會在幾秒鐘內將它們載入到檔案庫中。
【往下看更多】
►他出門擺攤「62公斤50元」被搬光 警方揪兇手:女友幹的
►新店工人修門窗失足墜樓 路過騎士遭砸中「1昏迷1受傷」
►趙薇被封殺後...富商老公也玩完? 再爆欠款「10位數」遭告上高院
【熱門排行榜】
►金控業年終曝光「平均6~8」 最高上看12個月
►送手機給父母! 1過程她驚覺「爸媽好像真老了」 網一票沒扛住:瞬間淚崩
►借30萬利率13.72%! 他見「本金沒少利息狂加」急了 內行人曝2解方