EXO Labs在两台512GB M3 Ultra Mac Studios上运行8位DeepSeek R1达11t/s
[围绕EXO Labs在特定设备上的运行情况展开讨论,涉及设备性价比、性能比较等多方面,有惊叹、肯定、否定等不同态度,总体氛围比较多元]
[围绕EXO Labs在特定设备上的运行情况展开讨论,涉及设备性价比、性能比较等多方面,有惊叹、肯定、否定等不同态度,总体氛围比较多元]
讨论围绕nemo 128k模型在处理长文档时的性能表现,通过needle test发现其性能优于RULER,但仍存在上下文丢失问题。