原贴链接

正如标题所说。你希望存在并且应该存在的东西有哪些？为什么这么希望呢？可以是以下各种事物：小于70亿参数的支持文本和图像的模型、与CUDA同等水平的AMD支持、移动设备的代理框架、拥有更多显存的GPU等等。

讨论总结

这个讨论围绕着标题“什么不存在但应该存在且希望存在以及为什么”展开。人们从硬件（如GPU、CPU、迷你电脑等）到软件（如模型、推理引擎、语音库等）多个方面表达了自己希望存在的事物，并给出了理由。整体氛围积极向上，大家相互分享观点，很少有激烈的争论。

主要观点

  1. 👍 希望存在带有100gb显存的Intel卡
    • 支持理由：满足更高性能需求
    • 反对声音：无
  2. 🔥 希望有特定VRAM版本的廉价低端和中端GPU
    • 正方观点：有助于运行大模型
    • 反方观点：无
  3. 💡 希望有带内存插槽的图形卡
    • 解释：可扩展VRAM，提升性能
  4. 💡 希望存在不依赖标记化的约300亿字节潜在变换模型
    • 解释：在小模型应用表现会很好
  5. 💡 希望有更多合理尺寸的混合专家模型
    • 解释：之前推出的类似模型较少且MOE模型在CPU上可用性好

金句与有趣评论

  1. “😂 Intel card with 100gb vram.”
    • 亮点：简洁直接地表达了对特定硬件的期待。
  2. “🤔 I was going to say more model sizes next, such as 20b, 40b, 50b, etc, but if my first wish was fulfilled, everyone could just outright run 70b and 123b models, fast, cheap and easy.”
    • 亮点：阐述了硬件改善对模型运行的影响。
  3. “👀 This is the one. Forget about wishing for GPUs coming with more vram, just give us expansion slots for VRAM, that would be the dream”
    • 亮点：提出了一种新颖的解决GPU显存问题的思路。

情感分析

总体情感倾向为积极正面。大家都在畅想希望存在的事物，没有明显的分歧点。可能是因为这是一个关于愿望的话题，大家更多的是分享自己的想法而不是进行争论。

趋势与预测

  • 新兴话题：可能会引发对不同硬件组合或软件改进的进一步讨论，如如何实现一些特殊功能的硬件（像带内存插槽的图形卡）或者如何优化软件以适应新的模型。
  • 潜在影响：如果一些硬件或软件的改进真的实现，可能会对人工智能、计算机硬件等相关领域产生推动作用，例如更强大的GPU可能加速人工智能模型的训练和推理，新的模型也可能给自然语言处理等应用带来新的突破。

详细内容：

标题：Reddit 热门讨论：理想中的科技产品与技术创新

在 Reddit 上，有一个引发广泛关注的帖子“ What doesn’t exist but should and you wish did and why?”，获得了众多用户的积极参与，评论数众多。该帖子探讨了大家期望存在但目前尚未实现的各种科技产品和技术特性。

讨论的焦点主要集中在以下几个方面：

  1. 对具备更多 VRAM 的高性能 GPU 的渴望，例如有人希望有英特尔卡拥有 100GB VRAM，还有人期待价格实惠的拥有大 VRAM 的显卡，以满足 AI 等高性能计算需求。
  2. 对创新模型架构的期待，比如非令牌化的模型、多专家混合模型等。
  3. 期望出现功能强大且价格合理的一体化计算设备，如拥有大量内存和高效处理能力的迷你电脑。
  4. 对改进现有技术的期望，比如为 GPU 增加内存扩展插槽，提升 CPU 的推理能力等。

有人分享道：“作为一名在技术领域探索多年的爱好者，我深知 VRAM 对于模型训练和推理的重要性。每次看到因为 VRAM 不足而导致的性能瓶颈，都让我对大容量 VRAM 的显卡充满期待。” 还有用户表示：“在实际应用中，由于当前硬件的限制，很多复杂的任务无法高效完成，真希望能有更强大的技术突破。”

在讨论中，存在一些共识。比如大家都认为目前的硬件在某些方面存在不足，需要改进和创新。然而，也存在争议点，例如对于何种技术路径能够实现这些期望，大家观点不一。

特别有见地的观点包括：有人提出要将更多的计算加速功能整合到系统核心处理架构中，还有人认为应该开发支持多种量化和优化方案的优秀推理引擎软件。

总之，这场讨论充分展现了大家对科技发展的期待和深入思考，也反映了当前技术面临的挑战和未来可能的发展方向。