百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 编程网 > 正文

“告别 8 万行 C++ 代码,我用 4 千行 C 代码就搞定了!”

yuyutoo 2024-10-28 20:21 3 浏览 0 评论

摘要:这一次,Zig 要彻底告别 C++ 了。

链接:https://ziglang.org/news/goodbye-cpp/

声明:本文为 CSDN 翻译,未经允许禁止转载。

作者 | Andrew Kelley
译者 | 弯月 责编 | 郑丽媛
出品 | CSDN(ID:CSDNnews)

在此次变更之前,Zig 代码库由两个编译器组成:

  • 旧编译器:总共包含 8 万行 C++ 代码,加上新编译器共享 Zig 代码。

  • 新编译器:总共包含 25 万行 Zig 代码。

新编译器的速度更快,使用的内存更少,并得到了积极的维护和增强。同时,没有人想碰旧编译器,但是通过源代码构建新编译器时需要用到旧编译器。

这意味着,新的 Zig 语言特性必须实现两次:在新代码库中实现一次,然后在旧代码库中再实现一次——这是一个巨大的痛点,尤其这两个编译器的设计早已大相径庭。

此外,用 C++ 实现的 Zig 最初使用的策略与 D 编译器相同:在进程退出之前不释放任何内存。但随着编译时执行代码成为该语言的标志性功能之一,加之使用同一个编译单元来处理一切,项目的规模越来越大,这个设计决策就有点不合时宜了。


解决方案


这个问题很有趣,有很多解决方案,但每一种都有一定的弊端。在搞清楚问题之后,我们就各种可能性展开了快速的头脑风暴会议,每个提议都有自己的优缺点。

  • 放弃自我编译

Odin 就采用了这种方法。

这个方法可以解决整个问题,但缺点是我们必须放弃 Zig,转而使用 C。我不同意,因为 Zig 带来的改进太诱人了,我不想放弃:例如,我们使用的一些面向数据的设计技术无法通过 C/C++ 实现。

  • 使用旧版本的编译器

这是 Rust 和许多其他语言采用的方法。

这种方法的一大缺点是,根据源代码构建任何提交都需要经过复杂的操作。例如,假设你尝试执行 git bisect,有时 git 会检出一个旧版本的提交,但脚本无法利用这些源代码构建,因为构建编译器的二进制文件不是正确版本。当然,这个问题并不是无法解决,但势必会给开发人员带来许多不必要的麻烦。

此外,构建编译器也会受到目标平台上已有二进制文件的限制。例如,假设没有 riscv64 版的编译器,就无法在 riscv64 硬件上利用源代码构建。

因此关键问题在于,这种方法无法充分支持能够在任何系统上构建任何提交的需求。

  • 将编译器编译成 C 代码

这是 Nim 采用的方法。

与前面的策略相比,这种方法的好处是可以将生成的 C 代码提交至源代码控制,比较方便,但如果这些 C 代码只能用于特定平台,实际效果也是一样的。

我不太清楚怎样才能生成不依赖于平台的 C 代码(像 Nim 那样),但我看到他们的描述中说:“支持的 CPU/OS 组合比旧的 csources 代码库更多”。这意味着,尽管他们的代码可以在许多 CPU/OS 的组合上编译,但这并不一定表示这些 C 代码具有可移植性。此外,这些代码与主编译器分别保存在不同的代码库中,所以并不能解决前一种策略遇到的问题。

我探索了这种可能性,发现生成的 C 代码不仅只能用于特定平台,而且代码量非常大。我们的编译器会生成一个 80 MiB 的 C 文件。虽然我们可以通过 C 后端增强来改进,但与其接受如此大规模的扩张,还不如直接将二进制文件提交到 Git 代码库。

  • 将编译器编译成 C 代码,之后直接维护 C 代码

这种方法我从多年前就想试试,最近终于开始研究了一下。很明显的一大缺点是,清理自动生成的 C 代码非常困难,而且依然需要维护两种编译器实现,容易打击贡献者的积极性——谁会愿意用 Zig 和 C 重复两次相同的工作?

  • 将编译器编译成简单的虚拟机

有一次,在讨论编译器自举时,Drew DeVault 提到了 OCaml 的策略。于是我有了一个想法:可以建立一个自举专用的后端。

不过我认为 Zig 和 OCaml 之间还有一些差异。Zig 只有一个虚拟机平台,它是跨平台的,可以通LLVM 进行优化——这就是 WebAssembly,使用 WASI 作为操作系统抽象层。


探索思路


主要思路是,利用一个非常小的 wasm 二进制作为 stage1 内核,提交到源代码控制,这样就可以用它来编译源代码中的任何提交。我们提供了一个 C 编写的 WASI 解释器,然后用它将 Zig 编译器代码编译成 C 代码。之后用系统的 C 编译器对 C 代码进行编译和连接,生成 stage2 二进制文件。接着,stage2 二进制文件就可以通过反复的 zip build 从源代码进行构建。

wasm 二进制文件是通过 zig build update-zig1 生成的,后者使用了 LLVM 后端来生成一个针对 wasm32-wasi 平台、generic+bulk_memory CPU 的 ReleaseSmall 二进制文件。该二进制文件中 C 之外的所有后端都是禁用的,这样产生的文件仅有 2.6MiB。然后再通过 wasm-opt -Oz --enable-bulk-memory 进行优化,压缩到 2.4MiB。最后,用 zstd 进一步压缩至 637KB。其中还包括了 zstd 解码器(用 C 实现),但这是值得的,因为 zstd 的实现基本不会改变,而且它每次都能给 wasm 二进制文件节省下 1.8MiB。

因此,我们用 4 千行可移植的 C 代码替换了原本 8 万行的 C++ 代码。这些代码仅使用了标准 libc 函数,且不依赖于任何 POSIX 的头文件,也不依赖于 windows.h。操作系统互操作层完全抽象到了几个 WASI 函数中,由 WASI 解释器负责实现:

(import "wasi_snapshot_preview1" "args_sizes_get" (func (;0;) (type 3)))(import "wasi_snapshot_preview1" "args_get" (func (;1;) (type 3)))(import "wasi_snapshot_preview1" "fd_prestat_get" (func (;2;) (type 3)))(import "wasi_snapshot_preview1" "fd_prestat_dir_name" (func (;3;) (type 6)))(import "wasi_snapshot_preview1" "proc_exit" (func (;4;) (type 11)))(import "wasi_snapshot_preview1" "fd_close" (func (;5;) (type 8)))(import "wasi_snapshot_preview1" "path_create_directory" (func (;6;) (type 6)))(import "wasi_snapshot_preview1" "fd_read" (func (;7;) (type 5)))(import "wasi_snapshot_preview1" "fd_filestat_get" (func (;8;) (type 3)))(import "wasi_snapshot_preview1" "path_rename" (func (;9;) (type 9)))(import "wasi_snapshot_preview1" "fd_filestat_set_size" (func (;10;) (type 36)))(import "wasi_snapshot_preview1" "fd_pwrite" (func (;11;) (type 28)))(import "wasi_snapshot_preview1" "random_get" (func (;12;) (type 3)))(import "wasi_snapshot_preview1" "fd_filestat_set_times" (func (;13;) (type 51)))(import "wasi_snapshot_preview1" "path_filestat_get" (func (;14;) (type 12)))(import "wasi_snapshot_preview1" "fd_fdstat_get" (func (;15;) (type 3)))(import "wasi_snapshot_preview1" "fd_readdir" (func (;16;) (type 28)))(import "wasi_snapshot_preview1" "fd_write" (func (;17;) (type 5)))(import "wasi_snapshot_preview1" "path_open" (func (;18;) (type 52)))(import "wasi_snapshot_preview1" "clock_time_get" (func (;19;) (type 53)))(import "wasi_snapshot_preview1" "path_remove_directory" (func (;20;) (type 6)))(import "wasi_snapshot_preview1" "path_unlink_file" (func (;21;) (type 6)))(import "wasi_snapshot_preview1" "fd_pread" (func (;22;) (type 28)))

为了让 Zig 编译器把自己编译成 C,只需要使用这些系统调用。

Jacob Young和我一起,在andrewrk/zig-wasi的基础上完成了这个 WebAssembly/WASI 解释器。我用 Zig 建立了初版,借助 Zig 丰富的标准库和安全机制探索了这个思路。这个解释器不会提前解码 wasm 模块,而是直接使用文件偏移量作为程序计数器。虽然它能正常工作,但太慢了,对编译器进行解释执行需要好几个小时,而用原生机器码只需大约 5 秒钟。

因此,Jacob 改善了该项目,引入了另一个指令集和更多的优化,还有一些其他技巧,将性能提升到了可接受的程度。同时,我将 Zig 代码转成了纯 C。

我们一起努力了大约两个星期,互相将对方的代码合并到自己的分支中,交流心得、分享成功的喜悦。我非常感谢 Jacob 在这个项目上的努力,特别是他一丝不苟地改进 Zig 的 C 后端,才让这个项目得以成功。

在概念得到证实后,Jacob 意识到,将 WebAssembly 转成 C,要比直接解释执行更快。这实际上就是 JIT 编译,但更大的好消息是,我们的自举工具实际上是系统的 C 编译器。

WebAssembly Binary Toolkit 项目里有一个 wasm2c 工具,但我们并没有移植或分叉——Jacob 从零开始创建了一个 wasm2c 的实现。这个实现没有考虑通用性,只包含了在编译器编译自己时需要调用的系统调用。

所以,这个版本的 wasm2c 只有 4 千行代码,也不依赖 C++,采用了更简洁的方式,没有实现任何沙盒、安全特性等。


新的构建过程


下面是新的构建过程:

Building CXX object CMakeFiles/zigcpp.dir/src/zig_llvm.cpp.oBuilding CXX object CMakeFiles/zigcpp.dir/src/zig_llvm-ar.cpp.oBuilding CXX object CMakeFiles/zigcpp.dir/src/zig_clang.cpp.oBuilding CXX object CMakeFiles/zigcpp.dir/src/zig_clang_driver.cpp.oBuilding CXX object CMakeFiles/zigcpp.dir/src/zig_clang_cc1_main.cpp.oBuilding CXX object CMakeFiles/zigcpp.dir/src/zig_clang_cc1as_main.cpp.oBuilding CXX object CMakeFiles/zigcpp.dir/src/windows_sdk.cpp.oLinking CXX static library zigcpp/libzigcpp.aBuilt target zigcppBuilding C object CMakeFiles/zig-wasm2c.dir/stage1/wasm2c.c.oBuilding C object CMakeFiles/zig-wasm2c.dir/stage1/zstd/lib/decompress/huf_decompress.c.oBuilding C object CMakeFiles/zig-wasm2c.dir/stage1/zstd/lib/decompress/zstd_ddict.c.oBuilding C object CMakeFiles/zig-wasm2c.dir/stage1/zstd/lib/decompress/zstd_decompress.c.oBuilding C object CMakeFiles/zig-wasm2c.dir/stage1/zstd/lib/decompress/zstd_decompress_block.c.oBuilding C object CMakeFiles/zig-wasm2c.dir/stage1/zstd/lib/common/entropy_common.c.oBuilding C object CMakeFiles/zig-wasm2c.dir/stage1/zstd/lib/common/error_private.c.oBuilding C object CMakeFiles/zig-wasm2c.dir/stage1/zstd/lib/common/fse_decompress.c.oBuilding C object CMakeFiles/zig-wasm2c.dir/stage1/zstd/lib/common/pool.c.oBuilding C object CMakeFiles/zig-wasm2c.dir/stage1/zstd/lib/common/xxhash.c.oBuilding C object CMakeFiles/zig-wasm2c.dir/stage1/zstd/lib/common/zstd_common.c.oLinking C executable zig-wasm2cBuilt target zig-wasm2cConverting ../stage1/zig1.wasm.zst to zig1.cBuilding C object CMakeFiles/zig1.dir/zig1.c.oBuilding C object CMakeFiles/zig1.dir/stage1/wasi.c.oLinking C executable zig1Built target zig1Running zig1.wasm to produce zig2.cRunning zig1.wasm to produce compiler_rt.cBuilding C object CMakeFiles/zig2.dir/zig2.c.oBuilding C object CMakeFiles/zig2.dir/compiler_rt.c.oLinking CXX executable zig2Built target zig2Building stage3

总结:

  1. 使用系统 C 编译器编译 zig-wasm2.c;

  2. 使用 zig-wasm2.c 将 zig1.wasm.zst 转换成 zig1.c;

  3. 使用系统 C 编译器编译 zig1.c;

    a.注意 zig1 只启用了 C 后端。

  4. 使用 zig1 将 Zig 编译器编译成 zig2.c;

  5. 使用系统 C 编译器编译 zig2.c;

    a.这个编译器的逻辑是正确的,但它的机器码是由系统 C 编译器优化的,而不是它自己优化的。所以我们继续进行第六步,得到一个自我编译后性能特性。

  6. zig2 build(使用旧版本 Zig 编译 Zig 的标准构建流程);

如果用最后一步产生的结果再次编译 Zig,会得到同样的字节码。也就是说,zig3、zig4 是完全相同的。所以整个过程结束,最后得到的二进制文件可以去掉后缀,直接命名为 zig。

wasm 二进制的更新仅限于有重大更新,或新功能影响到编译器构建自身的时候。例如,编译器中的 bug 修复不会影响编译器编译自身,因此可以忽略。但如果 Zig 编译自身时必须修复该 bug,那么就需要更新 wasm 二进制。与之相似,当语言改变、编译器需要使用新功能来编译自身时,就要更新 wasm 二进制文件。

更新stage1/zig1.wasm.zst的方法如下:

zig build update-zig1


性能


我收集了两个性能数据:

数据#1:使用make -j8 install 从源代码编译,配置为-DCMAKE_BUILD_TYPE=Debug:

old: 8m12s with 11.3 GiB peak RSSnew: 9m59s with 3.8 GiB peak RSS

#2:使用ninja install从源代码编译,配置为-DCMAKE_BUILD_TYPE=Release:

old: 13m20s with 10.3 GiB peak RSSnew: 10m53s with 3.2 GiB peak RSS

其中最关键的是构建时内存的需求量。一个只有 4~8GiB 的 RAM 能否编译 Zig 是非常重要的,这决定了是否可以用 GitHub 认证的 Action。


未来的计划


有一点我要承认,尽管此次改动大获全胜,但还是有一个地方退步了,即能否在固定次数内实现 Zig 的自举。

在这之前,从源代码开始的构建过程没有涉及任何二进制块,除了系统的 C/C++ 编译器之外。但此次改动之后,它使用了 WebAssembly 的二进制,这并不是源代码,而是一个构建结果,有些人可能非常看重这一点。

这是需要付出的代价,但我认为这些代价是值得的。考虑到官方语言规格以及 Zig 越来越受欢迎的现状,我们会看到更多的第三方项目开始用 C 来实现 Zig。

我愿把此次改动之前的版本标记为 1.0,且此次改动也并不在 Zig 软件基金会的计划内。当然,事情可能会改变,这只是目前的计划。

此外,此次改动还去掉了 -fstage1 标志,这个标志可以让 Zig 用户选择旧版本编译器来代替新版本——这是使用异步函数的唯一方法,而异步函数功能在新的编译器中还没有实现。

我建议需要使用 -fstage1 标志的用户继续使用 0.10.0,当 0.10.1 发布后进行升级,最终升级到 0.11.0,该版本将会支持异步函数。注意 Zig 采用语义版本号,因此本文中所说的一切都不会进入 0.10.1 发布,。0.10.1 只会包含 master 分支上的 bug 修复。


语言的发展


从更积极的方面来看,此次改动意味着所有计划中的语言改动都可以更快地进行。当我们脱离了旧代码的束缚,Zig 0.11.0 的发布迭代会更快。

有了这个改动,我们就可以像试用标准库那样,立即试用语言上的新改动。

在这个改动合并到主分支时,标签“stage1”下已经有 650 个问题,而这些问题所针对的代码都可以删掉了!所以,理论上我们可以立即关闭这些问题,不过我要求关闭这些问题时必须编写相应的测试用例,或者证明相应的部分已经有测试覆盖了。也许这需要付出更多的努力,但这正是我们当前的工作。

相关推荐

Java开发中如何优雅地避免OOM(OutOfMemoryError)

Java开发中如何优雅地避免OOM(OutOfMemoryError)在这个信息化高速发展的时代,内存就像程序员手中的笔,缺了它就什么都写不出来。而OOM(OutOfMemoryError)就像是横在...

常见的JVM调优方法和步骤

1、内存调优堆内存设置:通过-Xms和-Xmx参数调整初始和最大堆内存大小-Xms:初始堆大小(如-Xms512M)-Xmx:最大堆大小(如-Xmx2048M)调整新生代和老年代的比例...

Java中9种常见的CMS GC问题分析与解决(一)

目前,互联网上Java的...

JDK21新特性:Prepare to Disallow the Dynamic Loading of Agents

PreparetoDisallowtheDynamicLoadingofAgentsJEP451:准备禁止动态加载代理摘要...

Java程序GC垃圾回收机制优化指南

Java程序GC垃圾回收机制优化指南作为一个Java开发者,我们经常会在任务管理器里看到Java进程占用内存不断增长,然后突然下降的现象。这其实就是在Java虚拟机中运行的垃圾回收(GC)机制在起作用...

Java Java命令学习系列(一)——Jps

jps位于jdk的bin目录下,其作用是显示当前系统的java进程情况,及其id号。jps相当于Solaris进程工具ps。不象”pgrepjava”或”ps-efgrepjava”,jps...

面试题专题:头条一面参考答案(003)

前两篇文章也都是介绍头条一面的内容及参考答案...

Java JVM原理与性能调优:从基础到高级应用

一、JVM基础架构与内存模型1.1JVM整体架构概览Java虚拟机(JVM)是Java程序运行的基石,它由以下几个核心子系统组成:...

死锁攻防战:阿里架构师教你用3种核武器杜绝程序僵死

从线程转储分析到银行家算法,彻底掌握大厂必考的死锁解决方案以下是为Java死锁问题设计的结构化技术解析方案,包含代码级解决方案与高频追问应对策略:...

Java 1.8 虚拟机内存分布详解

Java1.8虚拟机内存分布详解Java1.8的JVM内存布局相比早期版本有显著变化(如永久代被元空间取代)。以下是其核心内存区域的划分、作用及配置参数:一、JVM内存整体结构...

Java 多线程开发难题?这篇文章给你答案!

作为互联网大厂的后端开发人员,在Java多线程开发过程中,必然会面临诸多复杂且具有挑战性的问题。在高并发场景下,各类潜在问题对系统的稳定性与性能产生严重影响,本文将深入探讨这些问题,并提供全面且有...

软件性能调优全攻略:从瓶颈定位到工具应用

性能调优是软件测试中的重要环节,旨在提高系统的响应时间、吞吐量、并发能力、资源利用率,并降低系统崩溃或卡顿的风险。通常,性能调优涉及发现性能瓶颈、分析问题根因、优化代码和系统配置等步骤,调优之前需要先...

JVM性能优化实战技巧

JVM性能优化实战技巧在现代企业级应用开发中,JavaVirtualMachine(JVM)作为承载Java应用程序的核心引擎,其性能直接决定了系统的响应速度、吞吐量以及资源利用率。因此,掌握一些...

JVM 深度解析:运行时数据区域、分代回收与垃圾回收机制全攻略

共同学习,有错欢迎指出。JVM运行时数据区域1.程序计数器程序计数器是一块较小的内存空间,可看作当前线程所执行的字节码的行号指示器。在虚拟机概念模型里,字节码解释器通过改变这个计数器的值选取下一条...

JVM内存管理详解与调优实战

JVM内存管理详解与调优实战Java虚拟机(JVM)作为Java程序运行的核心组件,其内存管理机制直接影响着应用程序的性能表现。今天,咱们就来一场既严肃又有趣的JVM内存管理之旅,看看这个“幕后英雄”...

取消回复欢迎 发表评论: