硬件与部署 其他

48GB显存双风扇体验不佳,部分模型对比

[原帖作者对48GB显存双“吹风机”设备运行模型的情况失望,引发了关于模型运行、显存限制、本地与在线推理等多方面的讨论,讨论氛围较为理性且包含多种观点。]

 ·  · 
行业与社区 公司动态

苹果未来或将不再局限于本地AI,拟在得克萨斯州投资5000亿美元建AI农场

[围绕苹果在德州投资5000亿美元建设AI相关设施这一事件展开讨论,包括投资的真实性、背后目的、苹果AI发展方向等多方面内容,整体氛围热烈且充满质疑]

 ·  · 
其他 其他

免费Gemini代码辅助

[围绕免费的Gemini代码辅助展开讨论,涉及与现有工具的区别、存在的限制、付费情况、支持的平台以及大家对它的不同态度等,整体氛围比较理性探讨且存在多种观点分歧]

 ·  · 
模型与技术 其他

量化LLM/VLM的简易工具QuantBench

[关于QuantBench量化工具的讨论,涉及低质量量化、量化方法、项目计划、显存需求等话题,整体氛围积极且充满技术交流]

 ·  · 
其他

Gemini 2.0突然开始用中文思考

[关于Gemini 2.0突然开始用中文思考这一现象,大家从LLMs是否是“中文屋”、高层次推理、语言切换原因、模型可能存在的问题、不同版本等多方面进行了讨论,整体氛围较为理性且充满好奇。]

 ·  · 
应用与工具 其他

WilmerAI发布约3小时视频教程讲解提示路由和工作流

[围绕WilmerAI的3小时视频教程展开讨论,涉及项目技术细节、功能、制作情况等多方面内容,整体氛围较为积极理性]

 ·  · 
硬件与部署 硬件选择

英特尔Xeon 6 6521P:1250美元可购24核,136条PCIe 5.0通道

[围绕Xeon 6 6521P处理器是否是本地AI构建的最佳平台展开讨论,涉及性能、成本、硬件相关等多方面的观点,整体氛围积极探讨]

 ·  · 
模型与技术 新模型发布

无需单个标记的推理:Huginn新模型

[帖子介绍了Huginn模型无需推理标记就能推理的特性,评论从不同角度展开讨论,涉及AGI、成本、技术概念、模型推理等多方面内容,整体氛围较为理性探讨]

 ·  · 
模型与技术 技术讨论

仅用179行构建大语言模型框架——为何其他框架如此臃肿?

[原帖分享自己构建的179行LLM框架并探讨简化的原因和功能,评论围绕框架的Python使用、对框架的态度、代码疑问等展开,氛围较为积极和谐。]

 ·  · 
模型与技术 新模型发布

微软的Magma多模态基础模型登Hugging Face,MIT许可

[微软发布用于多模态人工智能代理的Magma模型,引发关于其是否与机器人相关的推测,进而讨论到相关爱好成本变高,还围绕3D打印机展开多方面的技术讨论,氛围比较热烈且积极探索]

 ·  ·