硬件与部署 硬件选择

二手3090显卡价格涨至850 - 900美元

[原帖询问3090二手价格上涨后是否仍值得购买,评论围绕3090价格波动原因、是否等待5090、拜登政策对价格影响、不同地区价格差异、显卡的AI训练价值等多方面展开讨论,整体氛围热烈且争议较多]

 ·  · 
硬件与部署 推理速度优化

UMbreLLa使RTX 4070Ti运行Llama3.3 - 70B达9.6Tokens/s

[围绕UMbreLLa在不同硬件上的性能展开讨论,包括技术原理、可能存在的问题,既有肯定也有质疑,整体氛围活跃且充满探索性]

 ·  · 
硬件与部署 硬件选择

成功购入第二块3090显卡

[在“Finally got my second 3090”的帖子下,大家围绕3090显卡展开多方面讨论,包括硬件配置、散热、外观、性能等,整体氛围轻松且充满技术交流。]

 ·  · 
硬件与部署 硬件选择

用一堆旧硬件运行Deepseek V3

[原帖分享在旧设备上运行Deepseek的情况,包括设备配置、速度等,评论围绕运行相关疑问、技术建议、设备性能等方面展开,整体氛围较为积极且充满技术探讨氛围]

 ·  · 
硬件与部署 硬件选择

Dell T5820搭配两块Dell RTX 3090不到2千美元 - 购于eBay

[Reddit用户讨论在eBay上不到2000美元买到的Dell T5820搭配2个Dell RTX 3090的设备,包括设备运行、性能、散热、功耗等方面,整体氛围积极且充满好奇]

 ·  · 
硬件与部署 其他

公司计划添加外部GPU内存

[公司计划增加外部GPU内存,在讨论中有人对相关技术提出质疑、建议改进,还有人对原帖作者存在拼写错误进行讽刺]

 ·  · 
硬件与部署 推理速度优化

英特尔B580首次推理速度测试

[针对Intel B580的推理速度测试,大家讨论了测试结果与不同硬件在AI任务中的性价比、性能评估适用性,还涉及AMD显卡测试的疑问、对测试结果的主观感受、对原帖标题的质疑等,讨论氛围较为理性客观]

 ·  · 
硬件与部署 硬件选择

DDR6内存与合适GPU可高速运行700亿参数模型

[原帖探讨DDR6内存与GPU搭配运行70b模型的速度,评论从不同角度展开讨论,包括硬件性能、成本、技术可行性等,整体氛围理性且充满技术探讨氛围]

 ·  · 
硬件与部署 性能优化

Deepseek v3本地运行体验

[原帖作者分享本地运行Deepseek v3的体验及硬件配置,讨论围绕硬件相关、运行性能展开,氛围比较理性探讨]

 ·  · 
硬件与部署 其他

405B与Ollama和vLLM与6x AMD Instinct Mi60 AI服务器对比

[该讨论围绕405B + Ollama与vLLM + 6x AMD Instinct Mi60 AI Server相关内容展开,涉及设备的连接、成本等信息,重点比较了ollama和vLLM在硬件、性能、社区支持等方面的差异,同时包含对展示内容的质疑、认可以及一些担忧消费等话题]

 ·  ·