原贴链接

image

详细内容:

标题:NVIDIA Jetson AGX Thor 将于 2025 年拥有 128GB VRAM,引发 Reddit 热议

近日,Reddit 上一则关于 NVIDIA Jetson AGX Thor 的讨论引起了广泛关注。该帖指出 NVIDIA Jetson AGX Thor 将在 2025 年拥有 128GB 的 VRAM,此帖获得了众多点赞和大量评论。讨论主要围绕着该产品的性能、价格、适用场景以及与其他竞品的比较等方面展开。

在讨论中,有人认为它具有共享内存,可运行 LLMs 和训练小模型,拥有 ARM64 CPUs,预计价格在 2-3 千美元,功耗在 50-100W 之间,且不能运行游戏。有人对其高 VRAM 和低功耗的性价比表示怀疑,也有人提到当前版本的 Orin 是 64GB,还有人关注其与市场上类似价格范围的 GPU(如 RTX 4090)相比的性能。

有人指出幻灯片显示该产品的 GPU 性能是 Orin 的 8 倍,IO 带宽是 10 倍,有人期待它能配备更快的内存,也有人认为共享内存的 LPDDR 性能会令人失望,尤其是对于 LLMs 来说。有人提到其在推理方面可能较慢,更适合用于嵌入式系统部署边缘推理。

有用户分享道:“作为一名 NVIDIA Inception 成员,AGX Orin 64GB 的价格约为 1793 欧元(不含增值税)。”还有用户表示,如果用于推理,需要快速的内存而不是大量的计算。

关于价格,有人认为英伟达从不降价,当前的 AGX 价格较高,新的 AGX Thor 价格可能在 4-5 千美元。但也有人认为,考虑到 VRAM 容量,对于爱好者来说,它可能是市场上最实惠的硬件。

在性能方面,有人认为虽然内存量大,但 CUDA 方面受限,核心数量远少于 RTX 4090。但也有人认为其功耗低、内存大,并非用于训练,在某些场景下性能每瓦特表现出色。

有人认为该产品适用于机器人技术,能同时本地运行多种任务,也有人质疑其使用场景,认为运行大模型速度慢,不如选择 Mac 或其他设备。

总的来说,Reddit 上关于 NVIDIA Jetson AGX Thor 的讨论热烈且观点多样,大家对其性能、价格和应用前景充满期待的同时,也存在诸多争议和疑问。未来我们将持续关注该产品的实际表现和市场反应。