硬件与部署 其他

NVIDIA GeForce RTX 5090水冷却时12V - 2x6电源接口超150°C:考虑用于LLM使用者需知

[围绕NVIDIA GeForce RTX 5090的12V - 2x6电源连接器过热新闻展开讨论,涉及3090显卡性价比、AMD与NVIDIA对比、LLM使用、硬件温度等多方面话题,氛围比较理性且讨论角度多样]

 ·  · 
硬件与部署 本地部署方案

本地运行大语言模型的最佳框架

[针对在特定硬件配置下本地运行大型语言模型(LLMs)的最佳框架的问题,评论者们推荐了多个框架,如Llama.cpp、Ollama、lm studio等,并从性能、操作便捷性等多方面阐述各自的优缺点。]

 ·  · 
硬件与部署 硬件选择

华为GPU支持情况

[原帖询问华为GPU的支持情况,评论围绕华为GPU的速度、与其他产品对比、硬件支持、购买建议以及美国出口禁令对其影响等展开,氛围热烈且存在争议]

 ·  · 
硬件与部署 性能对比

使用llama.cpp RPC在不同硬件配置下的性能测试

[原帖分享不同GPU配置下的性能测试结果,评论主要围绕结果呈现方式、原帖观点的争议、特定设置的缺陷、对总结的需求以及硬件混合的疑问等方面展开]

 ·  · 
硬件与部署 其他

16张3090显卡成功运行

[围绕16个3090s设备展开多方面讨论,包括设备性能、成本、散热等,有好奇、羡慕等多种情感,同时存在技术方面的疑问与探讨]

 ·  · 
硬件与部署 其他

Bolt Graphics新GPU或将助力大语言模型

[关于Bolt Graphics即将推出的GPU,大家从价格、性能、适用场景、是否为骗局等多方面进行讨论,整体氛围充满质疑与理性分析]

 ·  · 
硬件与部署 其他

RTX 4090 96G版本现世且可运行

[围绕RTX 4090展开多方面讨论,包括性能、购买、技术、散热等,态度多样且包含好奇、质疑等]

 ·  · 
硬件与部署 硬件选择

NVIDIA RTX PRO 6000 Blackwell GPU核心数比RTX 5090多11%

[围绕NVIDIA RTX PRO 6000 Blackwell GPU展开讨论,涉及功耗、价格、性能、获取难度等方面,有吐槽价格高的,也有对其性能表示期待的]

 ·  · 
硬件与部署 硬件选择

预估NVIDIA RTX PRO 6000 Blackwell GPU售价

[围绕NVIDIA RTX PRO 6000 Blackwell GPU价格展开讨论,大家对价格预估差异大,涉及市场、成本、显存等因素,对Nvidia的定价策略态度不一]

 ·  · 
硬件与部署 硬件选择

英特尔Granite Rapids - AP是否为Deepseek R1最快CPU

[原帖探讨Intel Granite Rapids - AP是否为Deepseek R1最快CPU,评论从成本、性能、技术特性等多方面展开讨论,氛围比较理性客观]

 ·  ·