硬件与部署 硬件选择

考虑添加另一块RTX 3090

[原帖想添加RTX 3090显卡,评论主要围绕硬件相关话题展开,如硬件空间、散热、配置、兼容性等,讨论氛围比较务实]

 ·  · 
硬件与部署 硬件选择

AMD GPU通过Vulkan在树莓派5上支持llama.cpp

[原帖讲述在树莓派5上通过Vulkan实现AMD GPU对llama.cpp的支持并寻求测试建议,评论者表达肯定、喜爱、期待,还涉及技术测试、参数分享、性能功耗、不同技术应用比较等多方面内容。]

 ·  · 
硬件与部署 硬件选择

RTX 4090本地运行最佳编码助手模型评估

[原帖对RTX 4090上的不同编码助手模型进行评估,评论主要围绕模型比较、使用体验、对结果的疑问与怀疑等展开,氛围较为理性且讨论点分散。]

 ·  · 
硬件与部署 硬件选择

LLM咖啡馆的硬件配置

[原帖探讨为LLM Cafe做硬件设置,评论者从不同角度发表看法,包括硬件选择、成本、合法性、需求等,有多种观点且有一定争议]

 ·  · 
硬件与部署 硬件选择

构建用于Aya - Expanse - 8B推理的迷你PC - 寻求建议!

[原帖寻求构建用于AI推理的迷你PC的建议,评论围绕硬件选择、翻译模型、性能等方面展开,整体氛围积极且充满建议性]

 ·  · 
硬件与部署 硬件选择

技嘉推出AMD Radeon PRO W7800 AI TOP 48G显卡

[围绕Gigabyte宣布的Radeon PRO W7800 AI TOP 48G GPU,大家主要讨论其价格、性能、兼容性等方面,将其与其他产品对比,总体氛围比较理性且关注性价比]

 ·  · 
硬件与部署 硬件选择

5000英镑搭建大语言模型设备的最佳方案

[一位生物医学AI领域的博士后有5000英镑预算搭建用于LLM的硬件,评论给出多种硬件推荐和相关考量,有不同观点且存在一些争议,整体氛围较理性探讨]

 ·  · 
硬件与部署 硬件选择

锐龙9 HX 370新APU推理性能如何

[围绕Ryzen AI 300 APUs的性能展开讨论,包括推理性能受内存带宽限制、NPU的实用性、ROCm的支持情况等,氛围较为理性探讨]

 ·  · 
硬件与部署 硬件选择

适用于苹果GPU的最佳语音合成(TTS)

[围绕能在苹果GPU上运行的最佳TTS展开讨论,涉及多种TTS的推荐、性能问题、存在的漏洞、不同用户的需求以及相关提醒功能等,整体氛围比较平和且富有技术探讨性]

 ·  · 
硬件与部署 硬件选择

3090、4080super与A6000硬件选择对比

[原帖询问为多个用户服务120 + B模型选择3090、4080super、A6000中的哪种设备好,评论者从性价比、显存、功耗、商业用途等多方面给出各自的推荐理由,整体讨论热度较低。]

 ·  ·