苹果M3 Ultra性能爆棚,DeepSeek测试竟超8张A100显卡?

   时间:2025-03-12 19:17 来源:ITBEAR作者:顾青青

近期,B站知名UP主“虽然但是张黑黑”发布了一段引人注目的视频,视频内容聚焦于苹果最新推出的满血版M3 Ultra芯片在高性能计算领域的卓越表现。该UP主通过一系列测试,展示了M3 Ultra在运行大型AI模型时的惊人速度,甚至在某些场景下超越了使用8张NVIDIA A100显卡的配置。

测试中,M3 Ultra被用于运行拥有6710亿参数的DeepSeek R1模型。在GGUF格式下,虽然M3 Ultra的速度略低于8张A100显卡,达到了15.78 Tokens/s,但当切换至更能发挥其统一内存优势的MLX格式时,M3 Ultra的速度飙升至19.17 Tokens/s,成功反超了A100显卡的组合。在DeepSeek V3模型的测试中,M3 Ultra同样展现出了出色的性能,速度高达19.66 Tokens/s。

值得注意的是,这次测试中使用的满血版M3 Ultra搭载在Mac Studio上,仅需一台机器就能实现如此强大的性能,这无疑大大提升了其性价比。据透露,这款配备512GB统一内存的M3 Ultra总价为74249元人民币,相比之下,8张A100显卡的成本则要高得多。

然而,尽管M3 Ultra在某些场景下表现出色,但它并非无所不能。在单用户进行单一模型推理时,由于主要依赖内存带宽和容量,A100显卡的性能仍然非常强劲,其潜力并未被完全释放。而在多用户推理和大模型训练等更为复杂的场景下,M3 Ultra则显得力不从心,无法与A100相提并论。

尽管如此,M3 Ultra的出色表现仍然引起了业界的广泛关注。随着技术的不断进步和应用的日益广泛,高性能计算领域对于芯片性能的要求也越来越高。苹果此次推出的M3 Ultra芯片,无疑为这一领域带来了新的选择和可能性。

 
 
更多>同类内容
全站最新
热门内容