硬件与部署 硬件选择

Deepseek R1在本地LLM的Ollama硬件基准测试

[原帖对Deepseek R1在不同GPU上进行硬件基准测试,评论主要围绕模型在不同硬件上的性能、运行情况提问、分享经验或表示认可感谢,也存在少量反对声音]

 ·  · 
硬件与部署 硬件选择

5000美元预算下全预训练大型BERT或ModernBERT模型(约3亿参数)的本地GPU合理配置

[围绕5000美元预算下大型BERT或ModernBERT模型(约3亿参数)的本地GPU设置展开讨论,包括预训练相关考量、不同GPU的适用性、特定领域模型选择及训练中的一些具体参数和权衡等内容,整体氛围比较理性专业]

 ·  · 
硬件与部署 硬件选择

英特尔应推出24GB版Arc B580

[围绕Intel是否应推出24GB版本的Arc B580展开讨论,涉及技术可行性、市场、性能、成本等多方面,观点多元且存在争议]

 ·  · 
硬件与部署 硬件选择

能否用自托管的ollama或hugging face完全取代付费模型

[Reddit用户们就用本地托管模型(如ollama或hugging face)取代付费模型(如ChatGPT等)展开讨论,分享了各自的使用情况、模型性能、隐私考量、硬件需求等方面的观点,整体氛围理性且多元。]

 ·  · 
硬件与部署 硬件选择

消费者级硬件应可用于模型训练

[原帖提出要能在消费级硬件上训练模型,评论者们从不同角度展开讨论,包括训练的可行性、相关项目、硬件发展等,观点有支持有反对且争议较多]

 ·  · 
硬件与部署 硬件选择

二手3090显卡价格涨至850 - 900美元

[原帖询问3090二手价格上涨后是否仍值得购买,评论围绕3090价格波动原因、是否等待5090、拜登政策对价格影响、不同地区价格差异、显卡的AI训练价值等多方面展开讨论,整体氛围热烈且争议较多]

 ·  · 
硬件与部署 硬件选择

成功购入第二块3090显卡

[在“Finally got my second 3090”的帖子下,大家围绕3090显卡展开多方面讨论,包括硬件配置、散热、外观、性能等,整体氛围轻松且充满技术交流。]

 ·  · 
硬件与部署 硬件选择

用一堆旧硬件运行Deepseek V3

[原帖分享在旧设备上运行Deepseek的情况,包括设备配置、速度等,评论围绕运行相关疑问、技术建议、设备性能等方面展开,整体氛围较为积极且充满技术探讨氛围]

 ·  · 
硬件与部署 硬件选择

Dell T5820搭配两块Dell RTX 3090不到2千美元 - 购于eBay

[Reddit用户讨论在eBay上不到2000美元买到的Dell T5820搭配2个Dell RTX 3090的设备,包括设备运行、性能、散热、功耗等方面,整体氛围积极且充满好奇]

 ·  · 
硬件与部署 硬件选择

DDR6内存与合适GPU可高速运行700亿参数模型

[原帖探讨DDR6内存与GPU搭配运行70b模型的速度,评论从不同角度展开讨论,包括硬件性能、成本、技术可行性等,整体氛围理性且充满技术探讨氛围]

 ·  ·