英伟达推出了自家版本的ChatGPT，名字很有GPU的滋味——
ChatWithRTX。
英伟达的这款AI聊天机器人和目前干流的选手有所不同。它并非是在网页或APP中运转，而是须要下载装置到团体电脑中。这波操作，不只是在运转成果上会更快，也就象征着ChatWithRTX在聊天内容上或许并没有那么多限度。
网友们也纷繁对这一点收回了感叹：
当然，在性能方面也是要求的，只有要至少8GB的RTX30或40系列显卡即可。
那么ChatWithRTX的实践成果如何，咱们继续往下看。
首先，值得一提的是，ChatWithRTX并非是英伟达自己搞了个大言语模型（LLM）。它面前所依托的仍是两款开源LLM，即Mistral和Llama2，用户在运转的时刻可以依据喜好自行选用。
Pick完LLM之后，就可以在ChatWithRTX中上行本地文件。允许的文件类型包括txt，.pdf，.doc/.docx和.xml。
而后就可以开局提问了，例如：
因为是在本地运转，因此ChatWithRTX生成答案的速度是极快的，真真儿的是啪的一下：
除此之外，ChatWithRTX另一个亮点性能，就是可以依据在线视频做回答。例如把一个油管视频的链接投喂给它：
而后向ChatWithRTX提问：
ChatWithRTX也会以极快的速度依据视频内容作答。至于其面前用到的技术方面，英伟达官网只是繁难提了一句：用到了检索增强生成（RAG）、NVIDIATensorRTLLM软件和NVIDIARTX等。
正如咱们刚才提到的，ChatWithRTX的用法很繁难，只有一个下载装置的举措。不过在性能上，除了GPU的要求之外，还有一些条件，例如：
系统：Windows10或Windows11
RAM：至少16GB
驱动：535.11版本或降级
不过ChatWithRTX在大小上并没有很轻量，合计大概35G。因此在下载它之前，务必需要审核一下ChatWithRTX所须要的装置条件。不然就会产生各种各样的喜剧了：
TheVerge在英伟达颁布ChatWithRTX之后，立刻开展了一波实测。不过论断却是大跌眼镜。例如刚才提到的搜查视频性能，在实践测试环节中，它居然下载了齐全不同视频的文字记载。
其次，假设给ChatWithRTX投喂过多的文件，例如让ChatwithRTX为25000个文档编制索引，它就间接罢工解体了。以及它也记不住高低文，因尔后续疑问不能基于上一个疑问。
最后还有个槽点，就是下载ChatwithRTX消耗了测试人员整整半个小时……不过槽点之外，TheVerge也比拟中立地必需了ChatwithRTX的好处。例如搜查电脑上的文档，其速度和精准度是真香。
并且做总结也是ChatwithRTX较为长于的内容：
更关键的是，在本地运转这样的机制，给用户文件的安保性带来了保证。那么你会pick英伟达版的ChatGPT吗？
本文来自微信群众号量子位（ID：QbitAI），作者：关注前沿科技，36氪经授权颁布。
