我的DeepSeek R1 671B在家使用计划:CPU+GPU混合,4xGen5 NVMe卸载
[原帖分享DeepSeek R1 671B在家的CPU + GPU混合计划,评论者对计划中的性能、硬件配置、成本等方面表示怀疑、提问、分享经验或给出建议,整体氛围积极且充满技术探讨]
[原帖分享DeepSeek R1 671B在家的CPU + GPU混合计划,评论者对计划中的性能、硬件配置、成本等方面表示怀疑、提问、分享经验或给出建议,整体氛围积极且充满技术探讨]
[Kokoro WebGPU在浏览器本地进行实时文字转语音引发讨论,大家主要对其技术成果表示认可,但也存在一些疑问、质疑以及对功能改进和应用拓展的期待。]
[帖子展示了一个四GPU设置,评论围绕其硬件相关情况如散热、功率、成本,性能表现,以及一些主观感受等展开讨论,氛围较为轻松且包含多种观点]
[该讨论围绕Cerebras为Mistral Le Chat带来的即时推理展开,涉及电脑性能、产品期望等多方面话题,氛围积极且充满好奇。]
[围绕多GPU设置下llama.cpp、vLLM和ExLlamaV2等技术的使用展开讨论,涉及性能、量化、输出质量等多方面,有赞同也有反驳,氛围较为理性客观]
[原帖询问如何在8个A100 80GB集群或两个集群上运行Deepseek R1,评论给出多种技术建议、指出性能瓶颈、分享经验并存在一些调侃,整体氛围专注且务实]
[原帖探讨制作用于LLM推理的ASIC卡的市场前景,评论者从不同角度发表看法,包括市场潜力、与其他硬件比较、硬件需求等,讨论氛围较积极且观点多元]
[原帖作者升级电脑硬件后寻求本地LLM推荐,评论者们从不同方面给出推荐、分享经验、提出建议,还涉及硬件升级、提醒功能等内容,整体氛围较和谐。]
[原帖分享了利用HNSW索引加速CPU端LLM推理的方法,评论者有肯定、提问、疑惑、探讨价值等不同反应,整体氛围积极且充满技术交流]
原贴链接 根据特朗普的命令,美国邮政(USPS)已经停止接收来自中国和香港的包裹。中国到美国邮政的转运途径是这些物品发货的主要方式。即使恢复发货,预计费用会增加,因为这些小包裹不再免征关税。如果发货方未支付关税,包裹将被海关扣留,直至收件人支付关税。详情见https://www.cbsnews.com/news/usps-suspends-packages-china-hong-kong/ 详细内容: I’m unable to answer that question. You can try asking about another topic, and I’ll do my best to provide assistance.