Qt Creator下应用CMake项目调试mex文件

网上可以找到很多应用Visual Studio编写、编译mex文件，并与MATLAB联合调试的文章。但这只限于Win平台，网上许多源码都是.mexa64的文件，它们的作者是怎么调试的呢？这里我介绍一下我的方式。

利用Qt的IDE，建立CMake工程，从而实现一次编码，多平台复用；而且CMake还可以自动设置Matlab的Include和Lib目录，免去很多麻烦；再者，IDE的GUI能让调试直观不少，比直接用gdb调试mex方便。

---

一、实现平台：

操作系统：Linux Mint 17.3, Ubuntu 14.04, Linux Mint 18, Ubuntu 16.04.

编程工具：CMake 3.7, 系统自带的gcc, 系统自带的gdb, Matlab 2016b, Qt 5.7

二、建立CMake工程：

在Qt中新建CMake工程，其结构可以参见此处

http://cn.mathworks.com/matlabcentral/fileexchange/45522-mex-cmake

或在这里下载

http://download.csdn.net/detail/fzq15980/9711446

这里有它的中文说明

http://blog.csdn.net/kxuehen/article/details/45851651

其中注意几点：

1） Matlabdef.def文件的内容是

EXPORTS mexFunction

2） FindMatlab.cmake文件是用于查找本地Matlab的Include和Lib路径的。CMake通过将其加入CMAKE_MODULE_PATH变量，实现了此查找功能。这里一定要把环境变量MATLAB_ROOT设为Matlab根目录，例如，我在~/.bashrc下加入

export MATLAB_ROOT=/usr/local/MATLAB/R2016b

3） 编译生成的mex文件可以指定位置（即make后，mex文件的生成位置，并不是指定make install之后的安装位置），在生成mex文件用的CMakeList.txt中设置LIBRARY_OUTPUT_PATH变量即可。例如，我在add_library（）后面加上

set(LIBRARY_OUTPUT_PATH ${PROJECT_BINARY_DIR}/lib)

就可把mex文件生成到构建目录（通常是build目录）的lib文件夹下了。

三、编译CMake工程：

用Qt Creator编译CMake工程，一定要安装CMake 3.3.2以上版本。

Qt Creator要引入bash的环境变量，比如上面提到的MATLAB_ROOT就在这些变量中，方法是更改Qt Creator快捷方式里的Exec，（即.desktop文件，一般是~/.local/share/applications/DigiaQtOpenSource-qtcreator.desktop或/usr/share/applications/DigiaQtOpenSource-qtcreator.desktop）。例如我改成这样，加入了bash -i -c

Exec=bash -i -c /opt/Qt5.7.0/Tools/QtCreator/bin/qtcreator

同时注意把Qt Creator里的CMake生成器设置为CodeBlocks - Unix Makefiles （默认就是这个设置），如下图所示

如果Edit里没有源码显示，别忘了点开左侧的Project；然后菜单Build->Run CMake，或者右键工程名，然后点右键菜单中的Run CMake，如图所示

针对CMake工程，详细的Qt Creator设置可以参考

http://doc.qt.io/qtcreator/creator-project-cmake.html

四、与Matlab联合调试：

编译完成之后就可以打开Matlab，让Qt Creator使用gdb进行联合调试。在Qt Creator中设置断点，然后菜单Debug->Start Debuging->Attach to Running Application...

但我在联合调试时遇到2个错误：

1） 第一种可能出现的错误，如下图所示

可以用以下命令暂时解决问题，

 echo  | sudo tee /proc/sys/kernel/yama/ptrace_scop

若要彻底地解决这个问题，可以修改文件/etc/sysctl.d/10-ptrace.conf 将其中的

kernel.yama.ptrace_scope = 

改为

kernel.yama.ptrace_scope = 

2） 第二种可能出现的错误，如下图所示

这里的solib-search-path是gdb搜索动态链接库文件（或者叫共享库文件，即Linux里的.so文件或Win中的.dll文件）的目录，当然gdb也会在其工作的当前目录进行搜索。那么这个错误其实是说gdb找不到我们的mex文件了，所以我这里直接设置调试时的Working directory为mex所在目录，就可以让gdb直接找到mex文件了，设置方法如图所示

注：这里有个小技巧，我喜欢把Matlab代码和C++分开存放，所以想要在Matlab中调用新生成的mex文件，可以用Matlab里addpath命令，把mex文件所在的文件夹包含进去，如

addpath('~/mex/build/lib');