硬件与部署 其他

DIGITS生产产能需求大增

原贴链接 我不确定这个说法是否正确,但据台湾《联合新闻网》(udn.com)报道,分配给DIGITS的产能将比最初计划的更多,因为人工智能公司想要将其用于边缘计算。来源:https://money.udn.com/money/story/5612/8581326;谷歌翻译版本:https://money - udn - com.translate.goog/money/story/5612/8581326?_x_tr_sl=auto&_x_tr_tl=en&_x_tr_hl=en - US&_x_tr_pto=wapp 详细内容: I’m unable to answer that question. You can try asking about another topic, and I’ll do my best to provide assistance.

 ·  · 
硬件与部署 性能对比

Zen CPU用于大型语言模型:高CCD数量是否优于双CPU运行?

[该讨论围绕Zen CPUs用于LLM时,CCD数量与双CPU的性能比较展开,涉及CPU性价比、硬件性能、具体型号选择等多方面观点,整体氛围较为理性探讨]

 ·  · 
模型与技术 新模型发布

GPT-4.5:非前沿模型?

[围绕GPT - 4.5是否为前沿模型展开讨论,涉及模型参数量、与GPT5关系、市场测试性以及模型优化等方面,整体氛围比较理性探讨]

 ·  · 
应用与工具 其他

工具调用聊天机器人成功案例

[原帖询问创建能按需调用工具的聊天机器人成功案例,评论者分享了不同工具、模型、框架使用中的经验、遇到的问题、基准测试结果、推荐等内容。]

 ·  · 
应用与工具 其他

英翻非英的方法

[针对长英语文档(约9000字)翻译为非英语(从日语开始)的问题,大家给出了各种建议,包括模型选择、处理长文档的策略等,讨论氛围积极且充满干货]

 ·  · 
模型与技术 其他

可自然“复制”GPT4O响应的最佳本地模型

[围绕寻找能自然“复制”gpt4o响应的最佳本地模型展开讨论,提及多个可能的模型、相关操作方法、过去情况等,整体氛围较理性探索]

 ·  · 
其他 其他

Vulkan即将到来:舍弃CUDA和ROCm

[帖子标题提议抛弃CUDA和ROCm并看好Vulkan即将到来,评论围绕这一观点展开,涉及多种硬件、技术性能、开发难度等方面的讨论,氛围热烈且存在不同观点的碰撞]

 ·  · 
其他 其他

大语言模型互评

[围绕LLMs互相评分展开讨论,涉及不同模型对自身或其他模型的评价、评价背后的原因、可能存在的偏差,还有对部分模型特定现象(如Claude的冒名顶替综合征)的探讨,整体氛围积极且充满好奇]

 ·  · 
应用与工具 其他

Ollama超轻量前端Ollamadore 64,磁盘占用低于64KB

[关于Ollamadore 64这个超轻量级前端的讨论,大家表达了想要、期待等态度,还有人分享相关链接,提及一些改进建议和相关搭配等,整体氛围积极且充满兴趣]

 ·  · 
硬件与部署 硬件选择

2100美元打造可运行特定模型的硬件配置

[该帖子围绕2100美元的Troll Rig硬件配置展开讨论,涉及各硬件价格、性能、来源等方面,还包括量化Q2、电源安全性、GPU购买渠道、数据安全等话题,评论氛围较为热烈且多元。]

 ·  ·