原贴链接

无（仅包含一个视频链接https://llminfo.image.fangd123.cn/videos/1g16efq.mp4，无法明确具体内容）

讨论总结

这个帖子的讨论主题围绕在本地机器上运行基于本地大型语言模型（LLMs）的AI副驾驶展开。内容涉及AI编码加密智能合约的利弊、本地LLM的选择、硬件配置对运行模型的影响、产品使用中的网页布局和收费等问题，还有与智能合约相关的EIP - 2535使用以及不同公司产品盈利方式与数据隐私的探讨等。整体氛围活跃，包含多个不同的话题方向，大家各抒己见。

主要观点

  1. 👍 AI可用于编码加密智能合约。
    • 支持理由：无（未提及）
    • 反对声音：无（未提及）
  2. 🔥 AI编码的智能合约可能会有自主进行奇特行为的可能。
    • 正方观点：可能会出现类似自主进行仓鼠战斗之类的现象。
    • 反方观点：无（未提及）
  3. 💡 这种智能合约是金融的未来但充满漏洞。
    • 正方观点：是金融未来的一种可能发展方向。
    • 反方观点：合约漏洞百出、不可更改且自主运行，是一场灾难。
  4. 🤔 寻求适合特定编程语言和技术讨论的最佳本地LLM。
    • 正方观点：根据资源情况推荐Qwen2.5 - coder模型（资源有限时）或llama 70B等。
    • 反方观点：无（未提及）
  5. 👀 原帖是劣质付费Mac应用的广告。
    • 正方观点：未明确阐述特别理由，直接指出是劣质付费广告。
    • 反方观点：无（未提及）

金句与有趣评论

  1. “😂 AI coded crypto smart contracts. 💀”
    • 亮点：简洁地指出AI编码加密智能合约这个话题。
  2. “🤔 Future of finance 🔥 As in setting money on fire because those contracts are all full of holes, immutable and run autonomously. What a disaster.”
    • 亮点：形象地表达出对AI编码智能合约作为金融未来的担忧，因其漏洞多。
  3. “👀 This is an advertisement for a shitty paid mac app.”
    • 亮点：直白地对原帖性质做出评价。
  4. “💡 trytoinfect74: BTW, what’s the best local LLM at this moment for coding and general tech talk (quartenions and matrices, UI/UX etc) for C#, JS and Python languages? I have 64GB RAM and RTX4080.”
    • 亮点：提出了关于特定条件下寻找最佳本地LLM的问题，引发后续讨论。
  5. “😉 graphicaldot: We could have taken the same route as Conitnue.dev, but we don’t want our users to face additional challenges—like searching for the best models and desktop apps for their machines—while trying to solve problems with AI copilots.”
    • 亮点：阐述己方产品理念，与其他产品对比，强调用户体验。

情感分析

总体情感倾向较为复杂多元。在AI编码加密智能合约部分，既有对其成为金融未来的期待，也有对其漏洞的担忧，存在争议的原因在于对新技术应用于金融领域安全性和可靠性的不同考量。在本地LLM的讨论中，大家比较理性地分享观点和经验，没有明显的情感偏向分歧。在产品评价方面，有对原帖广告性质的负面评价，也有对自己产品理念的正面阐述。

趋势与预测

  • 新兴话题：随着本地AI运行相关话题热度增加，可能会有更多关于不同模型在本地运行优化以及如何更好保护用户数据隐私的讨论。
  • 潜在影响：如果AI编码加密智能合约进一步发展，可能会对金融领域的合约编写、管理和安全保障产生重大影响；本地LLM的发展会影响程序员的编程效率和开发方式，也可能改变相关软件产品的盈利模式和市场格局。

详细内容：

《关于在本地机器上运行的 AI 副驾驶的热门讨论》

在 Reddit 上，一篇题为“Ever wonder about the speed of AI copilots running locally on your own machine on top of Local LLMs”的帖子引起了广泛关注。该帖子包含了一个视频链接 https://llminfo.image.fangd123.cn/videos/1g16efq.mp4 ，获得了众多的点赞和大量的评论。

帖子引发的讨论方向十分丰富，主要围绕着本地运行的 AI 模型在编程、技术交流、智能合约等方面的应用和问题展开。

文章将要探讨的核心问题包括：当前最佳的本地 LLM 模型选择、模型运行中遇到的问题以及相关产品的收费和数据隐私等争议点。

在讨论中，有人认为 AI 编写的加密智能合约存在风险，就像“把钱放在火上烧”，因为这些合约可能充满漏洞且不可更改，自主运行可能带来灾难。有人则指出人类编写的合同中的错误能被 AI 检测到，颇具讽刺意味。

有用户分享道：“作为一名在技术领域工作多年的从业者，我深知任何系统都会存在漏洞。就像 NASA 发射的旅行者号探测器，50 年前发射，数十亿英里之外了还在修复漏洞。那些盲目追捧智能合约的人，根本没有研究过过去一个世纪的计算发展。”

关于本地 LLM 模型的选择，有人提到：“目前对于 C#、JS 和 Python 语言的编程和一般技术交流（四元数和矩阵、UI/UX 等），如果资源有限，Qwen2.5-coder 模型是不错的选择，否则可以选择 llama 70B。”但也有人分享了使用 Qwen2 7B Coder 的糟糕经历，比如在处理一些 Powershell 相关的提示时，甚至无法给出正确的语法。

在数据隐私和收费方面，有人质疑产品收费的合理性，比如问道：“为什么运行本地模型要每月收费 2 美元？”而产品方解释称，他们会为用户在其机器上托管模型，构建相关的 API 需要资源。同时强调长期目标是在本地运行的桌面应用上实现更多功能，并指出第三方提供商可能不重视用户数据隐私。

总之，这场讨论展现了人们对本地运行的 AI 副驾驶在技术、应用和商业等方面的不同看法和担忧，也反映了这一领域的复杂性和不确定性。