硬件与部署 硬件选择

双3090性能接近理想但仍有不足

[原帖作者觉得2张3090显卡运行相关程序接近理想但仍有不足,评论者围绕3090显卡硬件、不同模型选择、硬件升级等方面展开讨论,整体氛围专注于技术交流]

 ·  · 
硬件与部署 硬件选择

12GB 3080上的混元FP8可在10分钟内生成移动端质量的GIF

[该讨论围绕Hunyuan和LTX在视频生成方面展开,涉及速度、硬件兼容性等,还讨论到二者在动漫图像、成人内容创作上的比较]

 ·  · 
硬件与部署 硬件选择

本地大语言模型使用案例与所用硬件

[原帖询问本地LLM使用案例与硬件投入的成本效益,评论者从隐私、工作、学习、娱乐等多方面阐述本地LLM使用场景,同时也涉及硬件配置和成本效益相关讨论]

 ·  · 
硬件与部署 硬件选择

RTX 5090(32GB显存)可运行哪些模型

[原帖询问RTX 5090(32GB显存)能运行哪些模型,评论主要围绕模型运行情况、硬件对比选择、显存容量影响等方面展开,整体氛围较理性探讨]

 ·  · 
硬件与部署 硬件选择

本地运行大语言模型的笔记本电脑及配置

[大家围绕在笔记本电脑上运行本地LLM分享各自的电脑配置、性能体验,并就Macbook是否适合运行展开讨论,整体氛围比较理性和谐]

 ·  · 
硬件与部署 硬件选择

以Arc B580为核心的高性价比配置

[原帖探讨围绕Arc B580构建廉价设备,评论围绕性价比、主板选择、不同显卡性能、VRAM等展开讨论,氛围较为理性且充满技术探讨]

 ·  · 
硬件与部署 硬件选择

英伟达Jetson Orin Nano Super试用

[原帖询问是否有人尝试过jetson orin nano super,有人提供相关视频,还讨论了评测样本问题、在印度的订购时长,同时针对原帖订购想法给出多种替代选择、对设备的评价及不同设备性价比等内容]

 ·  · 
硬件与部署 硬件选择

新升级至40GB显存,求700亿参数以上模型推荐

[原帖作者分享新升级到40GB显存并寻求70B +模型推荐,评论者们在给出模型推荐的同时,也涉及到硬件相关、量化类型、性能等技术讨论,还有少量关于数据隐私和论坛选择的讨论,整体氛围积极且充满技术交流]

 ·  · 
硬件与部署 硬件选择

Jetson Orin Nano Super用于家庭设置是否合理

[围绕Jetson Orin Nano Super是否适合家庭设置展开讨论,涉及与其他设备比较、性价比、性能等方面,观点有赞同有反对]

 ·  · 
硬件与部署 硬件选择

本地运行70B模型的最具成本效益的堆栈是什么?

[围绕本地运行70B模型最具成本效益的堆栈这一主题,大家从不同硬件组合、硬件特性、量化方式、运行速度等方面展开讨论,氛围比较务实]

 ·  ·