linux下ioctl遇到的坑

在驱动编程里面经常会用到ioctl的系统调用，发现cmd = 2的时候，用户ioctl直接返回-1。

原因在于在linux-x.xx/fs/ioctl.c定义的do_vfs_ioctl函数

 int do_vfs_ioctl(struct file *filp, unsigned int fd, unsigned int cmd,
          unsigned long arg)
 {
     int error = ;
     int __user *argp = (int __user *)arg;
     struct inode *inode = file_inode(filp);

     switch (cmd) {
         ......
         ......
         ......
     case FS_IOC_FIEMAP:
         return ioctl_fiemap(filp, arg);

     case FIGETBSZ:
         return put_user(inode->i_sb->s_blocksize, argp);

     default:
         if (S_ISREG(inode->i_mode))
             error = file_ioctl(filp, cmd, arg);
         else
             error = vfs_ioctl(filp, cmd, arg);
         break;
     }
     return error;
 }

发现do_vfs_ioctl实现先判断系统的cmd不匹配后才判断用户的cmd。

从以下代码可以得出 FIGETBSZ = 2。

 #define FIGETBSZ _IO(0x00,2) /* get the block size used for bmap */

 * used to create numbers * /
 #define _IO(type,nr)        _IOC(_IOC_NONE,(type),(nr),0)
 #define _IOR(type,nr,size)    _IOC(_IOC_READ,(type),(nr),(_IOC_TYPECHECK(size)))
 #define _IOW(type,nr,size)    _IOC(_IOC_WRITE,(type),(nr),(_IOC_TYPECHECK(size)))
 #define _IOWR(type,nr,size)    _IOC(_IOC_READ|_IOC_WRITE,(type),(nr),(_IOC_TYPECHECK(size)))
 #define _IOR_BAD(type,nr,size)    _IOC(_IOC_READ,(type),(nr),sizeof(size))
 #define _IOW_BAD(type,nr,size)    _IOC(_IOC_WRITE,(type),(nr),sizeof(size))
 #define _IOWR_BAD(type,nr,size)    _IOC(_IOC_READ|_IOC_WRITE,(type),(nr),sizeof(size))

 #define _IOC(dir,type,nr,size) \
      (((dir)  << _IOC_DIRSHIFT) | \
       ((type) << _IOC_TYPESHIFT) | \
       ((nr)   << _IOC_NRSHIFT) | \
       ((size) << _IOC_SIZESHIFT))

 #define _IOC_NRSHIFT    0
 #define _IOC_TYPESHIFT    (_IOC_NRSHIFT+_IOC_NRBITS)
 #define _IOC_SIZESHIFT    (_IOC_TYPESHIFT+_IOC_TYPEBITS)
 #define _IOC_DIRSHIFT    (_IOC_SIZESHIFT+_IOC_SIZEBITS)

 #define _IOC_NRBITS    8
 #define _IOC_TYPEBITS    8

 #ifndef _IOC_SIZEBITS
 #define _IOC_SIZEBITS    14
 #endif

 #ifndef _IOC_DIRBITS
 #define _IOC_DIRBITS    2
 #endif

其实内核cmd有一个格式，使用户cmd不与系统cmd冲突，解决办法就是用_IO、_IOW、_IOR和_IOWR产生cmd。

cmd的格式为：

DIR：SIZE：TYPE：NUM = 2：14：8：8

其中TYPE可以自定义一个ASCII码，假设是一条输入命令，NUM = 1，SIZE为char。则可以利用_IOW('a', 1, char)自动生成cmd