硬件与部署 硬件选择

新型GPU问世,具备可扩展内存

[关于一款带有可扩展内存的RISC - V GPU,大家从性能、软件支持、实用性等多方面进行讨论,整体氛围充满质疑与争议]

 ·  · 
硬件与部署 配置

首次测试:Qwen2.5:72b在Ollama Mac与open - webUI、M3 Ultra 512 gb上的测试

[原帖分享关于Qwen2.5在特定设备上的测试,评论围绕模型速度、功耗、硬件选择、ChatGPT使用等方面展开,氛围积极且包含各种有用的建议和幽默调侃。]

 ·  · 
硬件与部署 其他

3090显卡相关(未明确与AI联系,根据推测)

[围绕4x3090展开讨论,涉及模型运行、硬件配置、风扇情况等多方面内容,有推荐、质疑等多种观点,整体氛围积极且充满技术交流]

 ·  · 
硬件与部署 硬件选择

8GB显存、16GB内存下的最佳运行模型

[原帖分享特定硬件下运行较好的模型,评论者们围绕推荐模型、模型在编码等应用中的表现、不同模型的对比、在8GB内存机器上的运行情况展开讨论。总体氛围积极交流。]

 ·  · 
硬件与部署 其他

CXL技术:将RAM插入PCIE插槽,助力CPU运行Deepseek

[该讨论围绕CXL技术展开,主要观点包括CXL在运行LLMs方面的优劣、带宽瓶颈、与传统内存方式对比、成本考量等,整体氛围是技术探讨且存在不同观点的交流。]

 ·  · 
硬件与部署 其他

48GB 4090d拆解与测试视频

[围绕48GB 4090和相关硬件产品展开讨论,涉及性能比较、价格、购买渠道、使用体验等多方面内容,总体氛围比较积极热烈]

 ·  · 
硬件与部署 硬件选择

不计成本下运行Llama 3.3的理想系统

[围绕如果钱不是问题时运行Llama 3.3的系统选择展开讨论,包括各种硬件设备、对Llama 3.3构建系统的必要性以及相关成本、能源等方面的考虑,整体氛围较为轻松且充满创意]

 ·  · 
硬件与部署 硬件选择

微小盒子使用体验

[原帖询问tinybox的用户评价以便推荐给客户,评论者们围绕tinybox是否值得推荐展开讨论,涉及缺货、价格、性能等多方面内容,氛围比较理性且观点多样]

 ·  · 
硬件与部署 其他

千元预算构建相关问题

[围绕1000美元左右预算装机展开讨论,涉及硬件选择、显存和内存带宽等因素,总体氛围较为理性且提供了很多实用建议]

 ·  · 
硬件与部署 硬件选择

无需GPU的快速音频生成 - Orpheus.cpp

[围绕Orpheus.cpp项目展开讨论,涉及项目命名、与其他项目协同工作、语音克隆功能、使用方法等方面,整体氛围积极且充满技术探讨]

 ·  ·