应用与工具 其他

仅用FastAPI构建代理:小型语言模型大获成功

[原帖构建了一个FastAPI代理,评论围绕其是否为真正代理展开,还涉及项目API相关情况、代码质量安全等,整体氛围是理性的技术交流]

 ·  · 
硬件与部署 其他

英伟达发布涉及2亿Linux和Windows游戏玩家的安全警告

[围绕Nvidia安全警告展开,包括对更新的看法、对文章信息的不满、对漏洞的猜测与分析,以及对相关话题的疑问等,整体氛围较多元,有担忧、质疑等情绪]

 ·  · 
模型与技术 其他

Llama 3.2 90b - vision去向成谜

[关于Llama 3.2 90b - vision不再被提及的现象,大家从它的支持情况、运行便利性、模型特性、与其他模型对比等多方面展开讨论,整体氛围积极探讨为主,有不同观点交流]

 ·  · 
模型与技术 其他

最佳(理想无审查)长文本模型(128k)?

[原帖询问最佳(最好无审查)的长文本模型(128k),评论者们纷纷推荐自己认为合适的模型如Mistral系列、Hermes 3 405B等,也有分享相关资源的,还涉及模型审查和长文本处理机制等内容,整体氛围较为平和]

 ·  · 
硬件与部署 其他

电源限制与核心时钟限制效率的最终测试

[帖子围绕GPU功率限制与核心时钟限制效率展开,包含相关图表,评论涉及技术分析、操作方式、性能优化等多方面内容,整体氛围较为技术化]

 ·  · 
硬件与部署 其他

为AI计算机使用打造的安全桌面沙盒

[原帖介绍用于AI计算机使用的安全桌面沙箱,有评论认可其技术运用,也有对安全沙箱不感兴趣的,还有对产品相关技术、本地性等提出疑问,整体氛围混合多元]

 ·  · 
应用与工具 其他

微软的生成式AI脚本

[关于微软的生成式AI脚本,有人不看好,也有人认为是不错的工具,大家从不同角度如代码编写、JavaScript实现、使用案例等方面展开讨论,整体氛围较理性]

 ·  · 
其他 其他

原来它不是开源的

[该讨论围绕AI模型是否开源展开,涉及版权、开源定义、模型本质等多方面,有对现状的质疑、不同定义的探讨和对一些现象的批评,整体氛围较为理性探讨。]

 ·  · 
行业与社区 其他

Chat Arena排名的闭源和开源语言模型

[帖子展示了AI模型排名表格,评论围绕模型表现、比较、排名基准的可靠性等展开,有认可也有质疑,还有对个别模型如Gemma被低估的讨论等]

 ·  · 
硬件与部署 其他

多数人是否在本地以gguf格式运行大语言模型?

[围绕本地运行LLMs的格式展开讨论,重点探讨了gguf格式,涉及不同格式的特点、使用场景、性能、支持情况等,整体氛围积极且充满技术交流]

 ·  ·