硬件与部署 其他

350美元纯CPU的7年老工作站运行Nemo/ollama的结果

[围绕350美元仅CPU的7年旧工作站上的Nemo/ollama结果展开讨论,涉及硬件配置、性能、量化等多方面内容,整体氛围积极且充满技术探讨]

 ·  · 
模型与技术 其他

54GB显存(2个3090+1个1060)下的最佳运行模型

[原帖主拥有特定硬件配置想尝试开源LLM,评论者围绕可运行的模型、硬件使用方式、模型速度和性能等方面展开讨论,整体氛围积极且富有建设性]

 ·  · 
应用与工具 其他

六个月打造免费易用的本地AI

[帖子介绍一个免费易用的本地AI项目,评论围绕项目功能、运行模式、盈利方式、技术问题等展开,整体氛围积极且充满探索性]

 ·  · 
应用与工具 其他

开源Transformer实验室推出标记可视化工具

[围绕开源Transformer Lab相关话题展开讨论,包括其工具使用、遇到的问题及改进方向等,整体氛围积极且充满探索性]

 ·  · 
硬件与部署 其他

RTX 5090定价为1999 - 2499美元

[围绕RTX 5090的定价展开讨论,涉及与前代价格对比、性价比、市场竞争、消费者接受度等多方面,观点褒贬不一,氛围热烈且争议较大]

 ·  · 
模型与技术 其他

LLM幻觉排行榜

[围绕LLM Hallucination Leaderboard展开多方面讨论,包括模型评估相关的贪心采样、温度设置等,也涉及不同模型如4o、llama、gpt4的表现,还有模型可靠性、产品化等话题,氛围比较理性探讨]

 ·  · 
模型与技术 其他

神经网络中结构化扰动的元胞自动机驱动镜像张量表面:基于连续状态权重调制的动态正则化、增强可塑性和多尺度学习新方法

[围绕神经网络相关帖子,有对标题术语难懂的吐槽,也有对内容的赞赏、疑问和对更多资料的寻求,总体讨论热度低]

 ·  · 
行业与社区 其他

杰弗里·辛顿调侃山姆·阿尔特曼

[围绕Geoffrey Hinton嘲讽Sam Altman的事件,讨论涉及OpenAI相关事件、人物关系、AI发展中的各种问题如安全和产品滥用,还有一些其他话题如诺贝尔奖评选等,氛围比较多元且有争议]

 ·  · 
硬件与部署 其他

8GB GDDR6显存现仅需18美元

[原帖提到8GB VRAM GDDR6售价18美元,引发了关于Nvidia显存策略、市场垄断、显卡价格与性能、各厂商竞争等多方面的讨论,整体氛围热烈且争议较多。]

 ·  · 
应用与工具 其他

学习大语言模型工作原理的首个优质项目

[针对学习大型语言模型(LLM)工作原理的首个项目这一主题,评论者们纷纷给出建议,推荐各种资源,包括书籍、播放列表、教程、代码库等,也给出了不同的学习路径,总体氛围积极且充满干货]

 ·  ·