硬件与部署 硬件选择

4万美元预算搭建DeepSeek R1主机的硬件选项

[在40k美元预算下搭建运行deepseek r1的机器,大家给出了硬件选择、成本效益、系统建设等多方面的建议,整体讨论比较理性务实。]

 ·  · 
硬件与部署 硬件选择

6000美元电脑本地运行Deepseek R1 670B Q8,每秒6 - 8个词元

[针对价值6000美元运行Deepseek R1 670B Q8的电脑配置,大家从硬件性能、模型运行速度、硬件配置优化等多方面展开讨论,有质疑、有分析,氛围热烈且充满技术探讨氛围]

 ·  · 
硬件与部署 硬件选择

DeepSeek基于华为910C国产芯片进行推理

[围绕DeepSeek在华为910C芯片上运行推理这一事件展开讨论,涉及芯片性能、模型运行相关因素、中美芯片情况对比、对原帖的质疑等多方面内容,整体氛围多元且有争议]

 ·  · 
硬件与部署 硬件选择

JanusPro 1B可在2GB显存笔记本上生成图像

[围绕JanusPro 1B在2GB VRAM笔记本上生成图像展开讨论,涉及图像质量、与其他模型对比、运行方法、设备内存等话题,情感倾向有正面期待也有负面评价]

 ·  · 
硬件与部署 硬件选择

大家都在使用什么硬件?

[原帖询问大家运行本地LLMs的硬件情况,评论者们分享了自己使用的硬件设备、配置、运行模型的速度、效率以及硬件升级情况,还有人解释了量化概念。]

 ·  · 
硬件与部署 硬件选择

若DeepSeek获20万Blackwell GPU,AI模型会提升多少

[该讨论围绕AI模型展开,探讨了诸如增加GPU数量、模型效率、推理质量提升、训练数据等多方面内容,整体氛围较为理性且讨论热度低。]

 ·  · 
硬件与部署 硬件选择

如何确定Deepseek R1的训练成本约为600万美元

[围绕Deepseek R1训练成本约600万美元这一说法展开讨论,存在多种观点且不确定性较大,同时还涉及到OpenAI相关话题及中国竞争力等方面的讨论,整体氛围理性探讨为主]

 ·  · 
硬件与部署 硬件选择

急需为开源大语言模型创建"能否运行"工具

[原帖希望创建一个判断开源LLM能否在设备上运行的工具,评论围绕此展开,提到了一些现有工具及其问题、硬件对模型运行的影响等,氛围比较理性探讨]

 ·  · 
硬件与部署 硬件选择

RTX4080笔记本(12GB VRAM)最佳本地模型

[原帖询问12GB VRAM RTX4080笔记本电脑的最佳本地模型用于编码、数学、心理健康聊天等用途,评论者们纷纷根据自身经验推荐了不同的模型并阐述了各自的理由。整体氛围积极且有建设性。]

 ·  · 
硬件与部署 硬件选择

深度探索:本地运行deepseek - r1全模型的相关情况

[该讨论围绕在本地运行DeepSeek - R1模型展开,大家分享了不同硬件下的运行速度、成本、硬件配置等情况,整体氛围务实且技术向。]

 ·  ·