原贴链接

谷歌Gemma 3！它有10亿、40亿、120亿、270亿等不同规模的版本：

输入：

  • 文本字符串，例如问题、提示或待总结的文档
  • 图像，归一化为896 x 896分辨率且每个编码为256个标记
  • 40亿、120亿和270亿规模的总输入上下文为128K个标记，10亿规模为32K个标记

输出：

  • 8192个标记的上下文

更新： 他们已经将其添加到Ollama中了！ Ollama：https://ollama.com/library/gemma3 显然，它在Chatbot Arena上的ELO（等级分）为1338，比DeepSeek V3 671B更高。

讨论总结

帖子主要是关于Gemma 3在Huggingface发布相关内容，评论讨论涵盖多个方面。包括Gemma 3在Ollama中的运行情况，不同版本的输入输出参数、对GPU的要求，与其他模型比较、是否具备推理能力等，还有模型名称术语解释、量化版本等疑问，以及一些信息分享和幽默性的版本推测。整体氛围比较积极，大家都在分享自己对Gemma 3的认识和见解，不过大部分话题的讨论热度较低。

主要观点

  1. 👍 对Gemma 3相关内容表示积极的态度
    • 支持理由：Gemma 3在Huggingface发布且被添加到Ollama并有不错的ELO数值，让人兴奋期待
    • 反对声音：无
  2. 🔥 Gemma 3在Ollama里目前无法运行
    • 正方观点：运行时会出现不支持该模型的错误提示，有用户表示无法运行
    • 反方观点：可以通过更新Ollama来解决
  3. 💡 Gemma 3不同版本有不同的输入上下文限制
    • 对于较大模型如27B所需VRAM对于普通GPU过大，不同版本输入上下文限制不同影响使用情况
  4. 🤔 Gemma 3的27b模型与1.5 Flash有差异
    • 两者在功能表现上存在不同之处，例如Gemma 3模型会过度思考
  5. 😎 当前没有模型具备推理能力
    • 目前已发布模型在推理能力上有所欠缺，期待Gemma 3.5或4能改进

金句与有趣评论

  1. “😂 [-Cubie-: Let’s gooooo]”
    • 亮点：简洁表达对Gemma 3相关成果的积极态度。
  2. “🤔 Acrobatic_Cat_3448：It’s so new that it’s not even possible to run it yet…”
    • 亮点：指出Gemma 3在Ollama里新到无法运行的情况。
  3. “👀 Sammoga123：So… literally the 27b model is like they released 1.5 Flash?”
    • 亮点：开启Gemma 3的27b模型与1.5 Flash比较的讨论。
  4. “😉 After the Portuguese (pt) and Italian (it) versions, should we also expect the Thai (th) variant with thinking? 😛”
    • 亮点：以幽默的方式对Gemma 3版本进行推测。
  5. “💡 What do "it" and "pt" mean in the model names, please?”
    • 亮点：提出对Gemma 3模型名称中术语含义的疑问。

情感分析

总体情感倾向是积极的，大家对Gemma 3的发布表示欢迎和期待。主要分歧点在于Gemma 3在Ollama中的运行情况，一方认为无法运行存在问题，另一方认为可以通过更新解决。可能的原因是大家获取资源和操作环境不同导致对运行情况有不同看法。

趋势与预测

  • 新兴话题：利用Gemini 2.0数据微调来产生推理能力可能会成为后续关注焦点。
  • 潜在影响：如果Gemma 3后续版本能够实现推理能力，可能会对本地推理模型发展有推动作用。

详细内容：

标题：关于 Google Gemma 3 在 Huggingface 上的热门讨论

近日，Reddit 上一则关于 Google Gemma 3 在 Huggingface 上的帖子引发了众多网友的关注和热烈讨论。该帖子详细介绍了 Gemma 3 的相关信息，包括不同规模的模型链接、输入输出规格等，并提到它已被添加到 Ollama 中。此贴获得了大量的点赞和众多评论。

主要的讨论方向集中在模型的可用性、性能、技术规格以及与其他模型的比较等方面。核心的争议点在于 Gemma 3 的实际表现和应用价值。

在讨论中，有人兴奋地表示“Let’s gooooo”。也有人指出模型太新还无法运行，比如“它如此之新以至于现在还根本无法运行……错误：llama 运行程序已终止：您的 Ollama 版本不支持此模型。您可能需要升级”。还有人已经成功更新并使用了 Ollama。

关于模型的技术规格，有人提到“8k 是输出，对于 4b、12b 和 27b，ctx=128k”，但也有人表示“我们大多数人的 GPU 无法容纳 128k 的上下文，哈哈。对于 27B Q4_0 来说，这将需要约 45.09GB 的 VRAM，我需要第二块 3090 显卡”。对于计算相关的问题，有人回应“您可以根据他们技术报告表 3 中的数字进行推断。他们展示了 32K KV 缓存的数字，但您可以基于此计算任意大小的 KV 大小”。

对于模型的性能和比较，有人认为“Gemma 3 27B IT 在 128K 时与 Llama 3.1 70B 大致相同，而在 32K 时不如 Llama 3.1”。有人觉得“这个模型与 1.5 Flash 感觉非常不同，它似乎有过度思考的问题，像 Sonnet 3.7 那样。但也有人认为“目前还没有具有推理能力的模型，这很遗憾，可能需要等待 Gemma 3.5 甚至 4 版本”。

总之，这次关于 Google Gemma 3 的讨论展示了网友们对新技术的关注和深入思考，也反映出大家对模型未来发展的期待。