硬件与部署 硬件选择

英伟达游戏GPU经改装用于AI工作负载:中国云计算提供商出租RTX 4090D 48GB和RTX 4080 Super 32GB

[该讨论围绕Nvidia游戏GPU改装用于AI工作负载在中国云计算提供商出租这一事件展开,涉及价格、风险、创新等多方面观点,讨论氛围既有理性探讨也有不满情绪。]

 ·  · 
硬件与部署 硬件选择

框架公司公布AMD MAX CPU新规格

[围绕Framework宣布的AMD MAX CPU新形态展开讨论,涉及性价比、性能、与其他产品比较、在不同领域的应用等方面,有期待也有质疑,整体氛围活跃且多元]

 ·  · 
硬件与部署 其他

48GB显存双风扇体验不佳,部分模型对比

[原帖作者对48GB显存双“吹风机”设备运行模型的情况失望,引发了关于模型运行、显存限制、本地与在线推理等多方面的讨论,讨论氛围较为理性且包含多种观点。]

 ·  · 
硬件与部署 硬件选择

英特尔Xeon 6 6521P:1250美元可购24核,136条PCIe 5.0通道

[围绕Xeon 6 6521P处理器是否是本地AI构建的最佳平台展开讨论,涉及性能、成本、硬件相关等多方面的观点,整体氛围积极探讨]

 ·  · 
硬件与部署 其他

框架公司推出专注于AI的个人电脑

[Framework推出AI聚焦型PC,网站出现访问问题,大家对产品价格、配置感兴趣,有对网站的负面评价也有对产品的期待,总体氛围较理性探讨]

 ·  · 
硬件与部署 其他

闪迪新型高带宽闪存使GPU可实现4TB显存并在高容量时匹配HBM带宽

[关于SanDisk新的高带宽闪存使GPU可达4TB VRAM且匹配HBM带宽的消息,大家从期待应用、质疑可行性、关注性能价格等多方面进行讨论,整体氛围积极且充满探索性]

 ·  · 
硬件与部署 其他

96GB改装RTX 4090售价4500美元

[围绕96GB改装版RTX 4090售价4.5千美元这一主题展开讨论,包括对产品真实性、改装可能性、价格合理性、购买意愿、英伟达策略等方面的看法,整体氛围充满质疑与探讨]

 ·  · 
硬件与部署 推理速度优化

AMDVLK驱动在AMD上的推理速度对比

[原帖对比AMD不同驱动在特定测试中的性能,评论围绕AMD驱动性能展开,涉及与其他技术比较、不同环境下的适用性等,整体氛围比较理性探讨]

 ·  · 
硬件与部署 性能对比

仅使用锐龙9 9950x CPU的惊人性能

[原帖分享了仅用CPU运行的系统性能,评论者们围绕CPU性能、模型运行、硬件比较等多方面展开讨论,整体氛围较为理性且积极交流]

 ·  · 
硬件与部署 其他

AMD消费级GPU用户何处获取Flash Attention

[AMD GPU用户询问获取Flash Attention的途径,评论围绕不同工具(如llama.cpp、PyTorch、MLC - LLM)中Flash Attention的获取、性能表现、量化质量以及相关的系统要求等展开讨论,整体氛围较为专业和平和]

 ·  ·