原贴链接

在人工智能世界的’狂野西部’，真正的巨头们从不会按时完成任务！按时完成的项目都是些简单、表面功夫的项目。而严肃的项目总是会延迟。你设定一个日期，但现实是：不会按计划进行，范围蔓延会改变路线图，意外事件会使一切脱轨。从Alpha版本发布到现在才4个月，从项目开始到现在才半年，但感觉就像过了近十年。期限会改变，但每次延迟并非失败，而是在改进、变得更有野心。一个不断被推迟的项目不是迟到，而是在增加分量，变成值得打造并值得全程跟进的项目。延迟越久，就越严肃。LLAMA - 3 8B未校准版是一个严肃的项目，谢天谢地，BETA版本终于来了。#模型详情：审查级别：非常低；待定/10（10为完全无审查）；预期用途：创意写作、角色扮演、一般任务。该模型在约5000万个标记（其中绝大多数是唯一的）上以16K的实际上下文长度进行训练。为了实现各种能力以及在保持低审查的同时保留（甚至增强）智能，进行了不同的技术和实验。更多相关信息可在我的’博客’上查看，它相当于过去几个月的存档回忆录。更多信息见模型卡片。https://huggingface.co/SicariusSicariiStuff/LLAMA - 3_8B_Unaligned_BETA

讨论总结

这个帖子围绕LLAMA - 3_8B_Unaligned_BETA的发布展开讨论。涉及模型能力（如创建长上下文文本）、基础模型版本（与LLAMA 3.1的比较）、评估情况、性能表现（轻松输出令牌）等方面。同时还包含一些关于reddit投票现象（投票不可靠、可能被操纵）、对模型的不同态度（调侃用途、认可内容风格）以及数据集隐私相关的讨论，整体氛围积极，大家积极分享各自的观点和见解。

主要观点

  1. 👍 模型具有创建长上下文文本的能力
    • 支持理由：评论者提及在模型卡示例中有生成50KB《权力的游戏》同人小说的长文本能力。
    • 反对声音：无。
  2. 🔥 LLAMA 3.1更草率所以选择LLAMA - 3作为基础模型
    • 正方观点：回复者根据主观经验认为LLAMA 3.1有较多合成数据所以更草率，LLAMA - 3可减少草率性。
    • 反方观点：无。
  3. 💡 reddit可能存在投票操纵等情况
    • 解释：由评论者对自己被点踩情况分析得出，提到reddit存在投票模糊化等情况。
  4. 💡 已经提交模型进行评估并期待结果
    • 解释：评论者Sicarius_The_First表示已提交模型到UGI板评估并期待尽快得到结果。
  5. 💡 存在让模型倾向于生成较长文章的操作方式
    • 解释：通过以特定符号开始生成内容可引导模型从训练书籍数据中提取内容以生成较长文章。

金句与有趣评论

  1. “😂 Sicarius_The_First：Forgot to mention, one of the model capabilities is creating very long context text, in the included example in the model card, it created a 50KB plain text of Game Of Throne fan fiction.”
    • 亮点：直接指出模型创建长文本的能力且给出模型卡中的实例。
  2. “🤔 BigChungus - 42069：I advise you stop caring about the silly number on the internet”
    • 亮点：针对被点踩现象提出不要在意网络投票数字的洒脱观点。
  3. “👀 On - The - Red - Team：This is really good and narrates very well.”
    • 亮点：简洁地肯定了帖子叙述很好。
  4. “😂 OrdoRidiculous: So I can use this to do evil world takeover stuff, yeah?”
    • 亮点：以幽默调侃的方式询问模型用途。
  5. “💡 sleepyrobo：jeez this thing really spits out tokens without much effort”
    • 亮点：简洁地体现出模型输出令牌不费力的性能特点。

情感分析

总体情感倾向积极。主要分歧点在于reddit投票的可靠性。可能的原因是评论者对自己被点踩情况不解从而引发对投票可靠性的质疑，而其他大部分评论者都是围绕模型本身积极分享观点或者以幽默的方式与模型发布者互动。

趋势与预测

  • 新兴话题：下一个版本基于RULER的约32K - 64k上下文相关内容可能会引发后续讨论。
  • 潜在影响：如果模型性能如预期发展良好，可能会对创意写作、角色扮演等相关任务领域产生积极推动作用。

详细内容：

标题：LLAMA-3_8B_Unaligned_BETA 发布引发热烈讨论

在 AI 领域这片充满未知的“西部荒野”中，有一个帖子引起了大家的关注。帖子指出真正的巨头项目往往无法按时完成。像按时完成的项目通常比较基础，而严肃的项目则总是延迟。比如 LLAMA-3_8B_Unaligned 项目，从 Alpha 版发布至今仅 4 个月，项目启动也才半年，但感觉像过了近十年。然而，每次延迟并非失败，而是在不断完善和变得更具雄心。如今，Beta 版终于来了！

该帖子获得了众多的关注，引发了热烈的讨论。主要观点包括： 有人提到该模型能够创作出非常长的上下文文本，比如在模型卡中的示例里，它创作了 50KB 的《权力的游戏》同人小说。 有人表示不理解为什么会有不喜欢的情况，难道是不喜欢《权力的游戏》或者长上下文？也有人觉得可能两者都有。 还有人指出 Reddit 上存在投票模糊的情况，小数字的投票意义不大，而且存在大量无意义和操纵的行为。 关于模型的优化，有人说不同的优化格式适用于不同的移动 SOC。有人在骁龙 8 Gen 3 上进行测试，发现 Q4_0_4_4 在加载和生成方面的性能比 Q4_0_8_8 更好。还有人分享在 Surface Pro 11 上使用 Q4_0_4_8 时的推理和提示处理速度。 有人认为自己对旧模型的输出有点怀旧。 有人觉得该模型在生成长散文方面有技巧，比如以“***”开头。

讨论中的共识是，这个模型的发布是一件有意义的事情，尽管存在一些问题和争议。特别有见地的观点是关于模型优化和不同格式在不同设备上的表现差异的分析，这为大家深入了解模型提供了更多角度。

总之，关于 LLAMA-3_8B_Unaligned_BETA 的讨论丰富多样，为我们全面了解这个模型及其相关情况提供了宝贵的信息。