炼丹速度×7!你的Mac电脑也能在PyTorch训练中用GPU加速了
yuyutoo 2025-03-06 21:01 11 浏览 0 评论
丰色 发自 凹非寺
量子位 | 公众号 QbitAI
一直以来，Pytorch在Mac上仅支持使用CPU进行训练。
就在刚刚，Pytorch官方宣布，其最新版v1.12可以支持GPU加速了。
只要是搭载了M1系列芯片的Mac都行。
这也就意味着在Mac本机用Pytorch“炼丹”会更方便了！
训练速度可提升约7倍
此功能由Pytorch与Apple的Metal工程团队合作推出。
它使用Apple的Metal Performance Shaders(MPS) 作为PyTorch的后端来启用GPU加速训练。
为了优化计算性能，MPS还针对Metal GPU系列的独特特性对每个内核进行了微调。
Metal是一个类似OpenGL的框架，只不过OpenGL适用于各平台的移动端GPU渲染和计算，Metal专用于iOS/MacOS平台，不过也兼顾了性能和易用性。
MPS就是一套基于Metal框架的库，直接调用即可使用GPU的高性能进行图形处理、构建卷积神经网络等工作。
苹果官方在搭载了M1 Ultra、20核CPU、64核GPU、128GB RAM和2TB SSD的Mac Studio上进行了测试。
（这阵容差不多能算是豪华配置了）。
他们分别训练了batch size为128的ResNet50、batch size为64的HuggingFace BERT，以及batch size=64的VGG16。
从下图中我们可以发现，相比使用CPU加速，使用GPU可将模型训练速度提高约7倍，评估（evaluation）速度则最高能提约20倍。
看到这儿，有网友开始好奇它与搭载了Nvidia GPU的laptop相比性能如何。
有人表示，虽说目前M1的原始计算性能比不上英伟达的产品，但功耗方面还不错。未来苹果很有可能慢慢追上性能。
总的来说，Mac Studio现在看起来实在太香了。
他进一步解释道：
“毕竟它是你花4800美元就能买到的最便宜、包含128GB GPU内存的机器。现在有了基于GPU加速的PyTorch支持，完全可以用来训练大模型、配置大的batch size。
对于我所做的那种DL工作，数据加载比实际的原始计算能力更容易成为瓶颈。”
你心动了吗？
现在就试试？
只需保证你的macOS操作系统在12.3版本及以上，且安装了arm64原生Python，然后去官网下载最新的Pytorch预览版就可以了。
地址：
https://pytorch.org/blog/introducing-accelerated-pytorch-training-on-mac/
— 完 —
量子位 QbitAI · 头条号签约
关注我们，第一时间获知前沿科技动态
相关推荐
- 《保卫萝卜2》安卓版大更新 壕礼助阵世界杯
-
《保卫萝卜2：极地冒险》本周不仅迎来了安卓版本的重大更新，同时将于7月4日本周五，带来“保卫萝卜2”安卓版本世界杯主题活动的火热开启，游戏更新与活动两不误。一定有玩家会问，激萌塔防到底进行了哪些更新？...
- 儿童手工折纸:胡萝卜，和孩子一起边玩边学carrot
-
1、准备两张正方形纸，一橙一绿，对折出折痕。2、橙色沿其中一条对角线如图折两三角形。3、把上面三角折平，如图。4、绿色纸折成三角形。5、再折成更小的三角形。6、再折三分之一如图。7、打开折纸，压平中间...
- 《饥荒》食物代码有哪些（饥荒最新版代码总汇食物篇）
-
饥荒游戏中，玩家们需要获取各种素材与食物，进行生存。玩家们在游戏中，进入游戏后按“～”键调出控制台使用代码，可以直接获得素材。比如胡萝卜的代码是carrot，玉米的代码是corn，南瓜的代码是pump...
- Skyscanner:帮你找到最便宜机票 订票不求人
-
你喜欢旅行吗？在合适的时间、合适的目的地，来一场说走就走的旅行？机票就是关键！Skyscanner这款免费的手机应用，在几秒钟内比较全球600多家航空公司的航班安排、价格和时刻表,帮你节省金钱和时间。...
- 小猪佩奇第二季50（小猪佩奇第二季英文版免费观看）
-
Sleepover过夜Itisnighttime.现在是晚上。...
- 我在民政局工作的那些事儿(二)（我在民政局上班）
-
时间到了1997年的秋天，经过一年多的学习和实践，我在处理结婚和离婚的事情更加的娴熟，也获得了领导的器重，所以我在处理平时的工作时也能得心应手。这一天我正在离婚处和同事闲聊，因为离婚处几天也遇不到人，...
- 夏天来了就你还没瘦?教你不节食13天瘦10斤的哥本哈根减肥法……
-
好看的人都关注江苏气象啦夏天很快就要来了你是否和苏苏一样身上的肉肉还没做好准备？真是一个悲伤的故事……下面这个哥本哈根减肥法苏苏的同事亲测有效不节食不运动不反弹大家快来一起试试看吧~DAY1...
- Pursuing global modernization for peaceful development, mutually beneficial cooperation, prosperity for all
-
AlocalworkeroperatesequipmentintheChina-EgyptTEDASuezEconomicandTradeCooperationZonei...
- Centuries-old tea road regains glory as Belt and Road cooperation deepens
-
FUZHOU/ST.PETERSBURG,Oct.2(Xinhua)--NestledinthepicturesqueWuyiMountainsinsoutheastChi...
- Ftrace function graph简介（flat function）
-
引言由于android开发的需要与systrace的普及，现在大家在进行性能与功耗分析时候，经常会用到systrace跟pefetto.而systrace就是基于内核的eventtracing来实...
- JAVA历史版本（java各版本）
-
JAVA发展1.1996年1月23日JDK1.0Java虚拟机SunClassicVM，Applet，AWT2.1997年2月19日JDK1.1JAR文件格式，JDBC，JavaBea...
- java 进化史1（java的进阶之路）
-
java从1996年1月第一个版本诞生，到2022年3月最新的java18，已经经历了27年，整整18个大的版本。很久之前有人就说java要被淘汰，但是java活到现在依然坚挺，不知道java还能活...
- 学习java第二天（java学完后能做什么）
-
#java知识#...
欢迎 你 发表评论:
- 一周热门
- 最近发表
-
- 《保卫萝卜2》安卓版大更新 壕礼助阵世界杯
- 儿童手工折纸:胡萝卜，和孩子一起边玩边学carrot
- 《饥荒》食物代码有哪些（饥荒最新版代码总汇食物篇）
- Skyscanner:帮你找到最便宜机票 订票不求人
- 小猪佩奇第二季50（小猪佩奇第二季英文版免费观看）
- 我在民政局工作的那些事儿(二)（我在民政局上班）
- 夏天来了就你还没瘦?教你不节食13天瘦10斤的哥本哈根减肥法……
- Pursuing global modernization for peaceful development, mutually beneficial cooperation, prosperity for all
- Centuries-old tea road regains glory as Belt and Road cooperation deepens
- 15 THE NUTCRACKERS OF NUTCRACKER LODGE (CONTINUED)胡桃夹子小屋里的胡桃夹子(续篇)
- 标签列表
-
- mybatis plus (70)
- scheduledtask (71)
- css滚动条 (60)
- java学生成绩管理系统 (59)
- 结构体数组 (69)
- databasemetadata (64)
- javastatic (68)
- jsp实用教程 (53)
- fontawesome (57)
- widget开发 (57)
- vb net教程 (62)
- hibernate 教程 (63)
- case语句 (57)
- svn连接 (74)
- directoryindex (69)
- session timeout (58)
- textbox换行 (67)
- extension_dir (64)
- linearlayout (58)
- vba高级教程 (75)
- iframe用法 (58)
- sqlparameter (59)
- trim函数 (59)
- flex布局 (63)
- contextloaderlistener (56)