[保姆级教程] 如何在 Linux Kernel (V5.17.7) 中添加一个系统调用（System call）

最近在学习 《linux Kernel Development》，本书用的linux kernel 是v2.6 版本的。看完”系统调用“一节后，想尝试添加一个系统调用，然后重编一个kernel。经过几个小时的尝试，实现了这个小功能，其中也遇到了不少坑，本文主要是记录分享下如何在Linux Kernel (V5.17.7) 中添加一个系统调用（System call）。

编kernel之前需要注意：

1、修改的kernel是目前最新的release 版本(V5.17.7), 书中v2.6版本的kernel太老了，gcc需要降到4.8版本，否则无法编过。 kernel 发布地址：https://www.kernel.org/

2、需要选用大内存，多核的机器编kernel，否则会出现各种异常问题，而且编kernel 很费时间。15GB内存的机器，编不过kernel。换用100GB内存的机器就好了

本文主要包含以下几点内容：

1、环境准备

2、修改kernel

3、rebuild kernel 以及安装kernel

4、测试结果

1、环境准备

我编kernel的机器是：Ubuntu 20.04.1 LTS，内存180GB,  cores: 88

1.1 更新系统的源

sudo apt update && sudo apt upgrade -y

1.2 安装编译kernel 需要的依赖

sudo apt install build-essential libncurses-dev libssl-dev libelf-dev bison flex -y

我这里用的vim，没有的话也需要安装：

sudo apt install vim -y

1.3 清除已经安装的packages

sudo apt clean && sudo apt autoremove -y

1.4 下载kernel code

wget -P ~/ https://cdn.kernel.org/pub/linux/kernel/v5.x/linux-5.17.7.tar.xz

tar -xvf ~/linux-5.17.7.tar.xz -C ~/

2、修改kernel

2.1 检查你自己当前系统的kernel 版本

uname -r

5.11.0-36-generic

重新安装kernel之后，这个版本号会被修改。

2.2 切换到工作目录中，然后创建自己的系统调用

cd ~/linux-5.17.7/
mkdir hello

2.3 创建自己的系统调用

vim hello/hello.c

添加代码。

#include <linux/kernel.h>
#include <linux/syscalls.h>

SYSCALL_DEFINE0(hello)

{
    printk("hello_system_call.\n");
    return 0;
}

2.4 为你的系统调用创建 Makefile

vim hello/Makefile

添加下面内容：

obj-y := hello.o

2.5 将你的系统调用添加到Kernel 的makefile中

vim Makefile

搜索 core-y， 完成如下添加：

2.6 将系统调用的相应函数原型添加到系统调用的头文件中

vim include/linux/syscalls.h

添加：

asmlinkage long sys_hello(void);

2.7 在system_table 中为你的系统调用开辟一个新的系统调用号。

vim arch/x86/entry/syscalls/syscall_64.tbl

3、编译kernel 并安装

前面的步骤都很简单，这一步可能会出现各种问题，而且很耗时。

3.1 创建你的.config

这里一路默认设置就好。

make menuconfig

3.2 查询你的机器logicl cores 有多少个

nproc

3.3 编译安装你的kernel

make -j32
echo $?  // make 结束之后记得检查一下 状态
###if output is 0 then
sudo make modules_install -j32
echo $?
make install -j32

3.4 查看kernel 是否安装进去了

sudo update-grub
sudo reboot

4、测试结果

4.1 首先check 你的kernel 换好没

uname -r

4.2 编一个code 调用你的系统调用

由于系统调用不像普通函数那样，需要通过sys_call 以及系统调用号才能实现系统调用。创建一个test.c

#include <linux/kernel.h>
#include <sys/syscall.h>
#include <stdio.h>
#include <unistd.h>
#include <string.h>
#include <errno.h>
#define __NR_hello 451

long hello_syscall(void)
{
    return syscall(__NR_hello);
}
int main(int argc, char *argv[])
{
    long activity;
    activity = hello_syscall();
    if(activity < 0)
    {
        perror("Sorry, xxx. Your system call appears to have failed.");
    }
    else
    {
        printf("Congratulations, xxx! Your system call is functional. Run the command dmesg in the terminal and find out!\n");
    }
    return 0;
}

4.3 测试结果

gcc -o test test.c
./test
dmesg // 后面也能看到系统调用打印的信息

Congratulations, yaran! Your system call is functional. Run the command dmesg in the terminal and find out!