原贴链接

以下是我今天下午收到GPU后所做一些测试的截图:https://imgur.com/a/PLsw747。基本上,我已经:- 验证了它是一个GPU;- 它显示出预期的VRAM容量和名称;- 它的传输速度虽然不是理论最大值,但至少符合PCIe Gen4 16x(与我的A6000s相同的25GB/s带宽速度);- 我还在一个大语言模型(LLM)的帮助下编写脚本,在卡上传输了50GB数据并传回,通过校验和验证数据以确保固件没有虚报VRAM容量;- 运行了Comfy UI和我手头最大的扩散模型(17.2GB Flux)来查看它实际做AI任务的情况,是的,与我的3090s或A6000s相比,它似乎速度很快。我还没有在大语言模型上测试推理,因为我刚设置好LM Studio,它没有检测到卡,这让我很担心,直到ComfiUI运行正常。我可能需要一点时间来弄清楚如何让LM Studio与它一起工作,或者选择另一个大语言模型应用程序。我对基准测试的建议持开放态度。这张卡花了我11000澳元,约合7250美元,然而在我购买之后价格立即上涨了40%。如果价格没有立即上涨,我会非常想完成这个工作站,因为我可以用7张卡获得448GB的VRAM,花费77000澳元/50000美元,这似乎是个不错的价格,但11000 + 14185.07×6 = 96110.42澳元/63340美元,就没那么有吸引力了。但是,是的,如果不先测试一张卡,我是不会把那么多钱花在7张卡上的。

讨论总结

原帖作者分享了新收到的nvidia a100 smx4 64GB的测试情况,包括对GPU的各项验证、运行相关软件情况和价格情况等。评论者们的讨论主要集中在显卡的价格是否合理、显存容量是否合适、该显卡的硬件相关疑问(如VRAM带宽、SXM4载板等)、对原帖作者购买显卡用途的好奇、对使用显卡进行AI实验的计划、打开设备查看内部的风险、对显卡硬件构造的猜测、GPU供应商相关信息等方面。整体氛围比较和谐,大家各抒己见,交流观点。

主要观点

  1. 👍 原帖中显卡价格不错
    • 支持理由:如Herr_Drosselmeyer认为这个价格听起来很不错。
    • 反对声音:无
  2. 🔥 若64GB显存足够,双5090s可能更便宜
    • 正方观点:Herr_Drosselmeyer提出如果64GB够用,双5090s会是更经济的选择。
    • 反方观点:无
  3. 💡 在中国存在制造NVIDIA相关产品的工厂
    • 解释:aliencaocao声称知道在中国有制造NVIDIA相关产品的工厂,但难以提供确切证据。
  4. 💡 计划用显卡进行AI相关的大型模型训练和实验
    • 解释:MoneyPowerNexis提到打算用这些显卡来训练大型模型以及进行其他需要大量计算的AI实验。
  5. 💡 对于打开设备查看内部存在不同态度
    • 解释:一些人如ambient_temp_xeno有打开设备看看内部的想法,而MoneyPowerNexis则表示不敢这么做。

金句与有趣评论

  1. “😂 Herr_Drosselmeyer:if 64GB is enough, dual 5090s will probably work out cheaper, so that’s my plan for next year.”
    • 亮点:以一种幽默且务实的态度看待显卡的选择,如果64GB显存足够就选择更便宜的双5090s,还提到这是自己明年的计划。
  2. “🤔 aliencaocao:I know factories that makes these in china. Also have 48g 4090”
    • 亮点:引出在中国有制造NVIDIA相关产品的工厂以及48g的4090型号这一话题,引发后续关于产品来源和型号的讨论。
  3. “👀 DeltaSqueezer: What are you doing with the cards. Curious to how you are casually able to think about dropping $50k on this stuff :D”
    • 亮点:表达出对原帖作者能轻松考虑花费高额资金在显卡上的好奇,这也是很多读者可能存在的疑问。

情感分析

总体情感倾向为中性。主要分歧点较少,大部分评论者都是在分享自己的观点或者提供信息,没有太多激烈的争论。可能的原因是这个话题相对比较专业和小众,大家更多地是在交流技术相关的内容。

趋势与预测

  • 新兴话题:关于显卡的性能优化以及如何更好地进行AI相关计算可能会成为后续讨论的话题,比如如何进一步挖掘该显卡在AI实验中的潜力。
  • 潜在影响:如果关于在中国有NVIDIA相关产品制造工厂这一信息属实,可能会对显卡的市场价格、供应渠道等方面产生影响,也可能影响人们对显卡来源和质量的看法。

详细内容:

《关于 NVIDIA A100 显卡的热门讨论》

在 Reddit 上,一则关于 NVIDIA A100 显卡的帖子引发了热烈讨论。原帖作者分享了自己购买 NVIDIA A100 SMX4 64GB 显卡后的一系列测试情况,还附上了相关的图片链接(https://imgur.com/a/PLsw747)。此帖获得了众多关注,评论数众多。

帖子引发的主要讨论方向包括显卡的价格、性能、来源以及应用等方面。核心争议点在于这款显卡的性能是否如其所宣传的那样出色,以及其价格的合理性和市场供应情况。

讨论焦点与观点分析如下:

有人认为这款显卡的价格相对划算。比如有用户表示:“那听起来对于那张显卡来说是个非常好的价格。当然,如果 64GB 足够,双 5090s 可能会更便宜,所以这是我明年的计划。”但也有人担忧其来源的合法性,例如:“这么多出口管制,他们却能得到比我们更好的显卡。”

在性能方面,有人对其带宽表示好奇,比如:“64GB 对于 A100 来说是个奇怪的显存容量。那它的显存带宽会比常规的 40GB 和 80GB A100 更大吗?”

关于显卡的用途,原帖作者表示计划用于训练大型模型和进行其他 AI 实验。

讨论中也存在一些共识,比如大家都对这款显卡的特殊情况感到好奇和关注。

特别有见地的观点如一位用户提出的全面测试和评估建议,包括更新驱动、检查兼容性、尝试其他应用和使用特定的基准测试工具等。

总之,这次关于 NVIDIA A100 显卡的讨论展示了大家对高性能硬件的浓厚兴趣和深入思考。