Linux系列：如何调试 malloc 的底层源码

一：背景

1. 讲故事

上一篇我们聊过 C# 调用 C 的 malloc 代码来演示heap的内存泄露问题，但要想深入研究得必须把 malloc 的实现库 libc.so 给调试起来，大家都知道在Linux 上 libc 和 Windows 的 Win32 API 是一个层级的，由于 Linux 重度依赖 libc，比较吐槽的是两者各自为政，如果手工编译 libc，容易搞出很多兼容性问题，这一点真的不如 Windows 的大一统来的痛快，手工编译比较繁琐，用此篇来记录下。

二：手工编译 libc

1. 下载 libc 2.39 源代码

要想知道下载哪个版本的 libc，可以用 ldd 观察现存的 libc 版本，参考如下：

root@ubuntu2404:/data# ldd /bin/bash | grep libc
	libc.so.6 => /lib/x86_64-linux-gnu/libc.so.6 (0x0000737556800000)
root@ubuntu2404:/data# /lib/x86_64-linux-gnu/libc.so.6
GNU C Library (Ubuntu GLIBC 2.39-0ubuntu8.4) stable release version 2.39.
Copyright (C) 2024 Free Software Foundation, Inc.
This is free software; see the source for copying conditions.
There is NO warranty; not even for MERCHANTABILITY or FITNESS FOR A
PARTICULAR PURPOSE.
Compiled by GNU CC version 13.3.0.
libc ABIs: UNIQUE IFUNC ABSOLUTE
Minimum supported kernel: 3.2.0
For bug reporting instructions, please see:
<https://bugs.launchpad.net/ubuntu/+source/glibc/+bugs>.

从卦象看，当前 libc 的版本是 Ubuntu GLIBC 2.39-0ubuntu8.4，接下来下载 2.39 版本的源代码进行编译即可。

root@ubuntu2404:/src# wget http://ftp.gnu.org/gnu/libc/glibc-2.39.tar.gz
root@ubuntu2404:/src# tar -xzf glibc-2.39.tar.gz && cd glibc-2.39 && mkdir build && cd build
root@ubuntu2404:/src/glibc-2.39/build# ../configure --prefix=/usr --enable-debug=yes
root@ubuntu2404:/src/glibc-2.39/build# make -j$(nproc)
root@ubuntu2404:/src/glibc-2.39/build# ./libc.so --version
GNU C Library (GNU libc) stable release version 2.39.
Copyright (C) 2024 Free Software Foundation, Inc.
...

稍等片刻后，就可以看到源码编译出来的 libc.so ，截图如下：

2. 配置 C 代码

写了一段简单的 C 代码，参考如下：

#include <stdio.h>
#include <stdlib.h>

int main()
{
    // getchar();    !!! 先注释掉的，后续放开
    void *ptr = malloc(100);
    if (ptr == NULL)
    {
        fprintf(stderr, "malloc failed\n");
        return 1;
    }
    free(ptr);
    printf("malloc and free succeeded\n");
    getchar();
    return 0;
}

为了能够加载我的libc库，使用 `LD_PRELOAD` 环境变量指定，本想用 gdb 启动调试的方式执行 main，无奈编译出来的 __vdso_timeDuring 和 kernel 有兼容性问题导致报错，输出如下：

``` C#
root@ubuntu2404:/data# gdb ./main
Reading symbols from ./main...
(gdb) set environment LD_PRELOAD /src/glibc-2.39/build/libc.so
(gdb) run
Starting program: /data/main
     58340:	__vdso_timeDuring startup program terminated with signal SIGSEGV, Segmentation fault.

一定捣鼓之后，我发现不用 gdb 启动就没有问题，同时内存段也挂上了我的自定义libc，太棒了，输出如下：

root@ubuntu2404:/data# LD_PRELOAD=/src/glibc-2.39/build/libc.so ./main
malloc and free succeeded

root@ubuntu2404:/src/glibc-2.39/build# ps -ef | grep main
root       58361    1251  0 13:55 pts/0    00:00:00 ./main
root       58366    1869  0 13:56 pts/1    00:00:00 grep --color=auto main

root@ubuntu2404:/src/glibc-2.39/build# cat /proc/58361/maps
60fc4cd29000-60fc4cd2a000 r--p 00000000 08:03 1703942                    /data/main
60fc4cd2a000-60fc4cd2b000 r-xp 00001000 08:03 1703942                    /data/main
60fc4cd2b000-60fc4cd2c000 r--p 00002000 08:03 1703942                    /data/main
60fc4cd2c000-60fc4cd2d000 r--p 00002000 08:03 1703942                    /data/main
60fc4cd2d000-60fc4cd2e000 rw-p 00003000 08:03 1703942                    /data/main
60fc8a96c000-60fc8a98d000 rw-p 00000000 00:00 0                          [heap]
7add43aaa000-7add43aad000 rw-p 00000000 00:00 0
7add43aad000-7add43ad1000 r--p 00000000 08:03 2915675                    /src/glibc-2.39/build/libc.so
7add43ad1000-7add43c21000 r-xp 00024000 08:03 2915675                    /src/glibc-2.39/build/libc.so
7add43c21000-7add43c78000 r--p 00174000 08:03 2915675                    /src/glibc-2.39/build/libc.so
7add43c78000-7add43c7c000 r--p 001ca000 08:03 2915675                    /src/glibc-2.39/build/libc.so
7add43c7c000-7add43c7e000 rw-p 001ce000 08:03 2915675                    /src/glibc-2.39/build/libc.so
...

这就叫在绝望中寻找希望，既然能运行，那就用 gdb 附加调试吧，只要能研究到 malloc 的底层代码才是最终目的。。。

把 main() 函数入口的 getchar() 给注释掉，方便在 malloc 之前通过 attach 附加，为了能够在 vscode 中操作，新增一个对可执行文件可控的 launch.json，内容如下：

{
    "configurations": [
        {
            "name": "C/C++: gcc build and debug active file",
            "type": "cppdbg",
            "request": "attach",
            "program": "${fileDirname}/${fileBasenameNoExtension}",
            "processId": "${command:pickProcess}",      // 选择要附加的进程
            "stopAtEntry": false,
            "setupCommands": [
                {
                    "description": "Enable pretty-printing for gdb",
                    "text": "-enable-pretty-printing",
                    "ignoreFailures": true
                },
                {
                    "description": "Set Disassembly Flavor to Intel",
                    "text": "-gdb-set disassembly-flavor intel",
                    "ignoreFailures": true
                }
            ],
        }
    ],
    "version": "2.0.0"
}

再新增一个 gcc 编译的 task 任务文件 (task.json),内容如下：

{
    "tasks": [
        {
            "type": "cppbuild",
            "label": "C/C++: gcc build active file",
            "command": "/usr/bin/gcc",
            "args": [
                "-fdiagnostics-color=always",
                "-g",
                "${file}",
                "-o",
                "${fileDirname}/${fileBasenameNoExtension}"
            ],
            "options": {
                "cwd": "${fileDirname}"
            },
            "problemMatcher": [
                "$gcc"
            ],
            "group": {
                "kind": "build",
                "isDefault": true
            },
            "detail": "Task generated by Debugger."
        }
    ],
    "version": "2.0.0"
}

稍微解释一下：

• "processId": "${command:pickProcess}" 表示弹框选择你要附加的进程。
• "request": "attach" 使用附加进程的模式

在 vscode 中使用 Ctrl+Shift+B 或者 gcc -g main.c -o main 对代码进行构建，接下来执行代码。

root@ubuntu2404:/data# LD_PRELOAD=/src/glibc-2.39/build/libc.so ./main

root@ubuntu2404:/src/glibc-2.39/build# ps -ef | grep main
root       58992    1251  0 14:14 pts/0    00:00:00 ./main
root       58999    1869  0 14:16 pts/1    00:00:00 grep --color=auto main

点击UI中 Run -> Start Debugging 选择要附加的 pid=58992 ，截图如下：

3. 观察效果

vscode 附加成功后，在 UI 上 Enter 回车过掉 getchar()，单步 F11 调试即可进入 malloc 方法实现，挺有意思的，最后给大家截一张大图：

三：总结

对 Win32 级别的 libc 进行源码调试，有助于我们对书籍中那些malloc的底层理论知识有一个很好的眼见为实，也是给Linux上的.NET高级调试打开了一扇窗！