硬件与部署 硬件选择

DDR6内存与合适GPU可高速运行700亿参数模型

[原帖探讨DDR6内存与GPU搭配运行70b模型的速度,评论从不同角度展开讨论,包括硬件性能、成本、技术可行性等,整体氛围理性且充满技术探讨氛围]

 ·  · 
硬件与部署 硬件选择

PS5用于推理

[原帖探讨将PS5用于推理(运行LLMs),认为其性价比不错且可两用,评论者观点不一,有反对、赞同,也有提出替代方案或新设想的,讨论氛围较理性。]

 ·  · 
硬件与部署 硬件选择

RTX Titan Ada 48GB原型显卡曝光

[围绕RTX Titan Ada 48GB原型展开讨论,包括对其是否为旧原型、未发布等疑问,还有价格期望、性能相关的讨论,整体氛围充满疑问和不同观点的交流]

 ·  · 
硬件与部署 硬件选择

GMK宣布将在2025年上半年推出基于AMD Ryzen AI 9 Max+ 395处理器的全球首款迷你PC

[GMK宣布世界首款基于AMD Ryzen AI 9 Max + 395处理器的迷你电脑,评论涉及对“世界首创”说法的质疑、产品的营销策略、硬件规格(如RAM容量)、市场前景、与其他产品的比较以及一些针对产品的疑问等方面,整体氛围比较多元既有质疑也有支持]

 ·  · 
硬件与部署 硬件选择

我的PowerMac G3睡眠型AI工作站:80GB总内存(32GB显存+48GB内存)

[原帖展示Powermac G3 sleeper AI工作站,评论围绕设备规格、构建方式、旧物再利用等话题展开,整体氛围积极友好]

 ·  · 
硬件与部署 硬件选择

Nvidia 50x0系列显卡并不比40x0系列更优

[原帖对比Nvidia 50x0和40x0系列显卡,评论从性能、性价比、数据准确性等多方面展开讨论,整体氛围热烈且观点多元]

 ·  · 
硬件与部署 硬件选择

硬件采购何处寻

[原帖询问硬件来源并提及购买的翻新3090显卡不稳定,评论者分享了如eBay、本地分类广告、Microcenter等多种硬件来源,还对显卡不稳定的原因进行了分析和排查,讨论氛围比较务实]

 ·  · 
硬件与部署 硬件选择

48GB与96GB VRAM用于微调的对比

[原帖讨论48GB与96GB VRAM用于微调的选择,评论围绕成本、设备性能、不同VRAM下的模型操作、硬件需求等方面展开,氛围较为理性探讨]

 ·  · 
硬件与部署 硬件选择

4090可运行的最佳写作与编码大语言模型

[针对能在4090上运行且适合写作和编码的最佳大型语言模型(LLM)这一问题,大家从不同角度给出了推荐,同时涉及了一些模型在不同场景下的表现、运行情况等,整体讨论氛围较为平和。]

 ·  · 
硬件与部署 硬件选择

RTX 3060 12GB与RTX 4060 Ti 16GB用于机器学习与偶尔游戏的抉择

[原帖寻求RTX 3060 12GB和RTX 4060 Ti 16GB用于机器学习和偶尔游戏的选择建议,评论者从价格、显存、性能、长远考虑等多方面给出观点,整体氛围较为理性探讨]

 ·  ·