炼丹速度×7!你的Mac电脑也能在PyTorch训练中用GPU加速了
yuyutoo 2025-03-06 21:01 8 浏览 0 评论
丰色 发自 凹非寺
量子位 | 公众号 QbitAI
一直以来，Pytorch在Mac上仅支持使用CPU进行训练。
就在刚刚，Pytorch官方宣布，其最新版v1.12可以支持GPU加速了。
只要是搭载了M1系列芯片的Mac都行。
这也就意味着在Mac本机用Pytorch“炼丹”会更方便了！
训练速度可提升约7倍
此功能由Pytorch与Apple的Metal工程团队合作推出。
它使用Apple的Metal Performance Shaders(MPS) 作为PyTorch的后端来启用GPU加速训练。
为了优化计算性能，MPS还针对Metal GPU系列的独特特性对每个内核进行了微调。
Metal是一个类似OpenGL的框架，只不过OpenGL适用于各平台的移动端GPU渲染和计算，Metal专用于iOS/MacOS平台，不过也兼顾了性能和易用性。
MPS就是一套基于Metal框架的库，直接调用即可使用GPU的高性能进行图形处理、构建卷积神经网络等工作。
苹果官方在搭载了M1 Ultra、20核CPU、64核GPU、128GB RAM和2TB SSD的Mac Studio上进行了测试。
（这阵容差不多能算是豪华配置了）。
他们分别训练了batch size为128的ResNet50、batch size为64的HuggingFace BERT，以及batch size=64的VGG16。
从下图中我们可以发现，相比使用CPU加速，使用GPU可将模型训练速度提高约7倍，评估（evaluation）速度则最高能提约20倍。
看到这儿，有网友开始好奇它与搭载了Nvidia GPU的laptop相比性能如何。
有人表示，虽说目前M1的原始计算性能比不上英伟达的产品，但功耗方面还不错。未来苹果很有可能慢慢追上性能。
总的来说，Mac Studio现在看起来实在太香了。
他进一步解释道：
“毕竟它是你花4800美元就能买到的最便宜、包含128GB GPU内存的机器。现在有了基于GPU加速的PyTorch支持，完全可以用来训练大模型、配置大的batch size。
对于我所做的那种DL工作，数据加载比实际的原始计算能力更容易成为瓶颈。”
你心动了吗？
现在就试试？
只需保证你的macOS操作系统在12.3版本及以上，且安装了arm64原生Python，然后去官网下载最新的Pytorch预览版就可以了。
地址：
https://pytorch.org/blog/introducing-accelerated-pytorch-training-on-mac/
— 完 —
量子位 QbitAI · 头条号签约
关注我们，第一时间获知前沿科技动态
相关推荐
- 自卑的人容易患抑郁症吗?（自卑会导致抑郁吗）
-
Filephoto[Photo/IC]Lowself-esteemmakesusfeelbadaboutourselves.Butdidyouknowthatovert...
- 中考典型同(近)义词组（同义词考题）
-
中考典型同（近）义词组...
- BroadcastReceiver的原理和使用（broadcast-suppression）
-
一、使用中注意的几点1.动态注册、静态注册的优先级在AndroidManifest.xml中静态注册的receiver比在代码中用registerReceiver动态注册的优先级要低。发送方在send...
- Arduino通过串口透传ESP 13板与java程序交互
-
ESP13---是一个无线板子，配置通过热点通信Arduino通过串口透传ESP13板与java程序交互...
- zookeeper的Leader选举源码解析（zookeeper角色选举角色包括）
-
作者：京东物流梁吉超zookeeper是一个分布式服务框架，主要解决分布式应用中常见的多种数据问题，例如集群管理，状态同步等。为解决这些问题zookeeper需要Leader选举进行保障数据的强一致...
- 接待外国人英文口语（接待外国友人的英语口语对话）
-
接待外国人英文口语询问访客身份： MayIhaveyourname,please? 请问您贵姓？ Whatcompanyareyoufrom? 您是哪个公司的？ Could...
- 一文深入理解AP架构Nacos注册原理
-
Nacos简介Nacos是一款阿里巴巴开源用于管理分布式微服务的中间件，能够帮助开发人员快速实现动态服务发现、服务配置、服务元数据及流量管理等。这篇文章主要剖析一下Nacos作为注册中心时其服务注册与...
- Android面试宝典之终极大招（android面试及答案）
-
以下内容来自兆隆IT云学院就业部，根据多年成功就业服务经验，以及职业素养课程部分内容，归纳总结：18.请描述一下Intent和IntentFilter。Android中通过Intent...
- 除了Crontab，Swoole Timer也可以实现定时任务的
-
一般的定时器是怎么实现的呢？我总结如下：1.使用Crontab工具，写一个shell脚本，在脚本中调用PHP文件，然后定期执行该脚本；2.ignore_user_abort()和set_time_li...
- Spark源码阅读:DataFrame.collect 作业提交流程思维导图
-
本文分为两个部分：作业提交流程思维导图关键函数列表作业提交流程思维导图...
- 使用Xamarin和Visual Studio开发Android可穿戴设备应用
-
搭建开发环境我们需要做的第一件事情是安装必要的工具。因此，你需要首先安装VisualStudio。如果您使用的是VisualStudio2010，2012或2013，那么请确保它是一个专业版本或...
- Android开发者必知的5个开源库（android 开发相关源码精编解析）
-
过去的时间里，Android开发逐步走向成熟，一个个与Android相关的开发工具也层出不穷。不过，在面对各种新鲜事物时，不要忘了那些我们每天使用的大量开源库。在这里，向大家介绍的就是，在这个任劳任怨...
- Android事件总线还能怎么玩?（android实现事件处理的步骤）
-
顾名思义，AndroidEventBus是一个Android平台的事件总线框架，它简化了Activity、Fragment、Service等组件之间的交互，很大程度上降低了它们之间的耦合，使我们的代码...
- Android 开发中文引导-应用小部件
-
应用小部件是可以嵌入其它应用（例如主屏幕）并收到定期更新的微型应用视图。这些视图在用户界面中被叫做小部件，并可以用应用小部件提供者发布。可以容纳其他应用部件的应用组件叫做应用部件的宿主（1）。下面的截...
欢迎 你 发表评论:
- 一周热门
-
-
前端面试:iframe 的优缺点? iframe有那些缺点
-
带斜线的表头制作好了，如何填充内容?这几种方法你更喜欢哪个?
-
漫学笔记之PHP.ini常用的配置信息
-
推荐7个模板代码和其他游戏源码下载的网址
-
其实模版网站在开发工作中很重要，推荐几个参考站给大家
-
[干货] JAVA - JVM - 2 内存两分 [干货]+java+-+jvm+-+2+内存两分吗
-
正在学习使用python搭建自动化测试框架?这个系统包你可能会用到
-
织梦(Dedecms)建站教程 织梦建站详细步骤
-
【开源分享】2024PHP在线客服系统源码(搭建教程+终身使用)
-
2024PHP在线客服系统源码+完全开源 带详细搭建教程
-
- 最近发表
-
- 自卑的人容易患抑郁症吗?（自卑会导致抑郁吗）
- 中考典型同(近)义词组（同义词考题）
- WPF 消息传递简明教程（wpf messagebox.show）
- BroadcastReceiver的原理和使用（broadcast-suppression）
- Arduino通过串口透传ESP 13板与java程序交互
- zookeeper的Leader选举源码解析（zookeeper角色选举角色包括）
- 接待外国人英文口语（接待外国友人的英语口语对话）
- 一文深入理解AP架构Nacos注册原理
- Android面试宝典之终极大招（android面试及答案）
- 除了Crontab，Swoole Timer也可以实现定时任务的
- 标签列表
-
- mybatis plus (70)
- scheduledtask (71)
- css滚动条 (60)
- java学生成绩管理系统 (59)
- 结构体数组 (69)
- databasemetadata (64)
- javastatic (68)
- jsp实用教程 (53)
- fontawesome (57)
- widget开发 (57)
- vb net教程 (62)
- hibernate 教程 (63)
- case语句 (57)
- svn连接 (74)
- directoryindex (69)
- session timeout (58)
- textbox换行 (67)
- extension_dir (64)
- linearlayout (58)
- vba高级教程 (75)
- iframe用法 (58)
- sqlparameter (59)
- trim函数 (59)
- flex布局 (63)
- contextloaderlistener (56)