FastDFS介绍(非原创)

文章大纲

一、FastDFS介绍
二、FastDFS安装与启动（Linux系统）
三、Java客户端上传图片
四、参考文章

一、FastDFS介绍

1. 什么是FastDFS

FastDFS是用C语言编写的一款开源的分布式文件系统。FastDFS为互联网量身定制，充分考虑了冗余备份、负载均衡、线性扩容等机制，并注重高可用、高性能等指标，使用FastDFS很容易搭建一套高性能的文件服务器集群提供文件上传、下载等服务。

2. FastDFS架构

FastDFS架构包括 Tracker server和Storage server
Tracker server作用是对Storage server进行负载均衡和调度，在文件上传时会直接请求Tracker server，然后Tracker server可以根据一些策略找到Storage server来提供文件上传服务。所以可以将tracker称为追踪服务器或调度服务器。
Storage server作用是文件存储，客户端上传的文件最终存储在Storage服务器上，Storage server没有实现自己的文件系统而是利用操作系统的文件系统来管理文件。可以将storage称为存储服务器。
具体架构如下图：

2.1 Tracker 集群
FastDFS集群中的Tracker server可以有多台，Tracker server之间是相互平等关系同时提供服务，Tracker server不存在单点故障。客户端请求Tracker server采用轮询方式，如果请求的tracker无法提供服务则换另一个tracker。

2.2 Storage集群
Storage集群采用了分组存储方式。storage集群由一个或多个组构成，一个组由一台或多台存储服务器组成，组内的Storage server之间是平等关系，不同组的Storage server之间不会相互通信，同组内的Storage server之间会相互连接进行文件同步，从而保证同组内每个storage上的文件完全一致的。一个组的存储容量为该组内存储服务器容量最小的那个，集群存储总容量为集群中所有组的存储容量之和，由此可见组内存储服务器的软硬件配置最好是一致的。
采用分组存储方式的好处是灵活、可控性较强。比如上传文件时，可以由客户端直接指定上传到的组也可以由tracker进行调度选择。一个分组的存储服务器访问压力较大时，可以在该组增加存储服务器来扩充服务能力（纵向扩容）。当系统容量不足时，可以增加组来扩充存储容量（横向扩容）。

2.3 文件上传流程

客户端上传文件后存储服务器将文件ID返回给客户端，此文件ID用于以后访问该文件的索引信息。文件索引信息包括：组名，虚拟磁盘路径，数据两级目录，文件名。

上传说明
（1）组名：文件上传后所在的storage组名称，在文件上传成功后有storage服务器返回，需要客户端自行保存。
（2）虚拟磁盘路径：storage配置的虚拟路径，与磁盘选项store_path*对应。如果配置了store_path0则是M00，如果配置了store_path1则是M01，以此类推。
（3）数据两级目录：storage服务器在每个虚拟磁盘路径下创建的两级目录，用于存储数据文件。
（4）文件名：与文件上传时不同。是由存储服务器根据特定信息生成，文件名包含：源存储服务器IP地址、文件创建时间戳、文件大小、随机数和文件拓展名等信息。

2.4 文件下载流程

tracker根据请求的文件路径即文件ID 来快速定义文件。
比如请求下边的文件：

下载说明
（1）通过组名tracker能够很快的定位到客户端需要访问的存储服务器组是group1，并选择合适的存储服务器提供客户端访问。
（2）存储服务器根据“文件存储虚拟磁盘路径”和“数据文件两级目录”可以很快定位到文件所在目录，并根据文件名找到客户端需要访问的文件。

二、FastDFS安装与启动（Linux系统）

1. 安装libfastcommon

（1）获取libfastcommon安装包：

获取libfastcommon安装包：
wget https://github.com/happyfish100/libfastcommon/archive/V1.0.38.tar.gz

（2）解压安装包：tar -zxvf V1.0.38.tar.gz
（3）进入目录：cd libfastcommon-1.0.38
（4）执行编译：./make.sh
（5）安装：./make.sh install

（6）可能遇到的问题

-bash: make: command not found

-bash: gcc: command not found

解决方案：

debian通过apt-get install gcc make安装

centos通过yum -y install gcc make安装

2. 安装FastDFS

（1）获取fdfs安装包：
wget https://github.com/happyfish100/fastdfs/archive/V5.11.tar.gz

（2）解压安装包：tar -zxvf V5.11.tar.gz
（3）进入目录：cd fastdfs-5.11
（4）执行编译：./make.sh
（5）安装：./make.sh install

（6）查看可执行命令：ls -la /usr/bin/fdfs*

3. 配置Tracker服务

（1）进入/etc/fdfs目录，有三个.sample后缀的文件（自动生成的fdfs模板配置文件），通过cp命令拷贝tracker.conf.sample，删除.sample后缀作为正式文件：

（2）编辑tracker.conf：vi tracker.conf，修改相关参数

base_path=/home/mm/fastdfs/tracker  #tracker存储data和log的跟路径，必须提前创建好

port=23000 #tracker默认23000

http.server_port=80 #http端口，需要和nginx相同

（3）启动tracker（支持start|stop|restart）：

/usr/bin/fdfs_trackerd /etc/fdfs/tracker.conf start

（4）查看tracker启动日志：进入刚刚指定的base_path(/home/mm/fastdfs/tracker)中有个logs目录，查看tracker.log文件

（5）查看端口情况：netstat -apn|grep fdfs

（6）可能遇到的报错



/usr/bin/fdfs_trackerd: error while loading shared libraries: libfastcommon.so: cannot open shared object file: No such file or directory

解决方案：建立libfastcommon.so软链接

ln -s /usr/lib64/libfastcommon.so /usr/local/lib/libfastcommon.so

ln -s /usr/lib64/libfastcommon.so /usr/lib/libfastcommon.so

4. 配置Storage服务

（1）进入/etc/fdfs目录，有cp命令拷贝storage.conf.sample，删除.sample后缀作为正式文件;
（2）编辑storage.conf：vi storage.conf，修改相关参数：

base_path=/home/mm/fastdfs/storage   #storage存储data和log的跟路径，必须提前创建好

port=23000  #storge默认23000，同一个组的storage端口号必须一致

group_name=group1  #默认组名，根据实际情况修改

store_path_count=1  #存储路径个数，需要和store_path个数匹配

store_path0=/home/mm/fastdfs/storage  #如果为空，则使用base_path

tracker_server=10.122.149.211:22122 #配置该storage监听的tracker的ip和port

（3）启动storage（支持start|stop|restart）

/usr/bin/fdfs_storaged /etc/fdfs/storage.conf start

（4）查看storage启动日志：进入刚刚指定的base_path(/home/mm/fastdfs/storage)中有个logs目录，查看storage.log文件

（5）此时再查看tracker日志：发现已经开始选举，并且作为唯一的一个tracker，被选举为leader

（6）查看端口情况：netstat -apn|grep fdfs

（7）通过monitor来查看storage是否成功绑定

/usr/bin/fdfs_monitor /etc/fdfs/storage.conf

5. 安装Nginx和fastdfs-nginx-module模块

（1）下载Nginx安装包
wget http://nginx.org/download/nginx-1.15.2.tar.gz

（2）下载fastdfs-nginx-module安装包
wget https://github.com/happyfish100/fastdfs-nginx-module/archive/V1.20.tar.gz

（3）解压nginx：tar -zxvf nginx-1.15.2.tar.gz

（4）解压fastdfs-nginx-module：tar -xvf V1.20.tar.gz

（5）进入nginx目录：cd nginx-1.10.1

（6）安装依赖的库

apt-get update

apt-get install libpcre3 libpcre3-dev openssl libssl-dev libperl-dev

（7）配置，并加载fastdfs-nginx-module模块：

./configure --prefix=/usr/local/nginx --add-module=/usr/local/src/fastdfs-nginx-module-1.20/src/

（8）编译安装：

make

make install

（9）查看安装路径：whereis nginx

启动、停止：

cd /usr/local/nginx/sbin/

./nginx

./nginx -s stop #此方式相当于先查出nginx进程id再使用kill命令强制杀掉进程

./nginx -s quit #此方式停止步骤是待nginx进程处理任务完毕进行停止

./nginx -s reload

（11）验证启动状态：wget "http://127.0.0.1"

（12）查看此时的nginx版本：发现fastdfs模块已经安装好了

（13）可能的报错

/usr/include/fastdfs/fdfs_define.h:15:27: fatal error: common_define.h: No such file or directory

解决方案：修改fastdfs-nginx-module-1.20/src/config文件，然后重新第7步开始

ngx_module_incs="/usr/include/fastdfs /usr/include/fastcommon/"

CORE_INCS="$CORE_INCS /usr/include/fastdfs /usr/include/fastcommon/"

6. 配置Nginx和fastdfs-nginx-module模块

（1）配置mod-fastdfs.conf，并拷贝到/etc/fdfs文件目录下

cd fastdfs-nginx-module-1.20/src/

cp mod_fastdfs.conf /etc/fdfs

（2）进入/etc/fdfs修改mod-fastdfs.conf

base_path=/home/mm/fastdfs

tracker_server=10.122.149.211:22122 #tracker的地址

url_have_group_name=true #url是否包含group名称

storage_server_port=23000 #需要和storage配置的相同

store_path_count=1  #存储路径个数，需要和store_path个数匹配

store_path0=/home/mm/fastdfs/storage #文件存储的位置

（3）配置nginx，80端口server增加location如图

cd /usr/local/nginx/conf/

vi nginx.conf

（4）最后需要拷贝fastdfs解压目录中的http.conf和mime.types

cd /usr/local/src/fastdfs-5.11/conf

cp mime.types http.conf /etc/fdfs/

7. FastDFS常用命令测试

7.1 上传文件
（1）进入/etc/fdfs目录，有cp命令拷贝client.conf.sample，删除.sample后缀作为正式文件;
（2）修改client.conf相关配置：

base_path=/home/mm/fastdfs/tracker //tracker服务器文件路径

tracker_server=10.122.149.211:22122 //tracker服务器IP地址和端口号

http.tracker_server_port=80 # tracker服务器的http端口号，必须和tracker的设置对应起来

（3）新建一个测试文档1.txt，内容为abc
（4）命令

/usr/bin/fdfs_upload_file  <config_file> <local_filename>

（5）示例

/usr/bin/fdfs_upload_file  /etc/fdfs/client.conf 1.txt

组名：group1

磁盘：M00

目录：00/00

文件名称：CnqV01trmeyAbAN0AAAABLh3frE677.txt

（6）查看结果，进入storage的data目录

（7）通过wget和浏览器方式访问成功

wget http://10.122.149.211/group1/M00/00/00/CnqV01trmeyAbAN0AAAABLh3frE677.txt

7.2 下载文件
（1）命令

/usr/bin/fdfs_download_file <config_file> <file_id> [local_filename]

（2）示例

/usr/bin/fdfs_download_file /etc/fdfs/client.conf group1/M00/00/00/CnqV01trmeyAbAN0AAAABLh3frE677.txt a.txt

（3）查看结果

7.3 删除文件
（1）命令

/usr/bin/fdfs_delete_file <config_file> <file_id>

（2）示例

/usr/bin/fdfs_delete_file /etc/fdfs/client.conf group1/M00/00/00/CnqV01trmeyAbAN0AAAABLh3frE677.txt

（3）查看结果，进入storage的data目录文件不存在，通过wget再次获取404：

温馨提示：现在FastDFS的安装好像不支持Windows

三、Java客户端上传图片

1. 新建maven项目

2. pom.xml文件添加相关依赖

<dependencies>

        <!--引入FastDFS工具类-->

        <dependency>

            <groupId>cn.bestwu</groupId>

            <artifactId>fastdfs-client-java</artifactId>

            <version>1.27</version>

        </dependency>

        <!--引入testng单元测试-->

        <dependency>

            <groupId>org.testng</groupId>

            <artifactId>testng</artifactId>

            <version>RELEASE</version>

        </dependency>

        <!--引入IO工具类库-->

        <dependency>

            <groupId>commons-io</groupId>

            <artifactId>commons-io</artifactId>

            <version>2.6</version>

        </dependency>

</dependencies>

3. 添加配置文件内容

connect_timeout = 2

network_timeout = 30

charset = UTF-8

# Tracker配置文件中配置的http端口

http.tracker_http_port = 80

http.anti_steal_token = no

http.secret_key = FastDFS1234567890

# Tracker服务器地址

tracker_server = 192.168.105.133:22122

tracker_server = 192.168.105.134:22122

4. 创建Java_Tools类，使用单元测试测试文件上传和下载

import org.apache.commons.io.IOUtils;

import org.csource.common.MyException;

import org.csource.fastdfs.*;

import org.testng.annotations.Test;

import java.io.FileOutputStream;

import java.io.IOException;

public class Java_Tools {

    // 本地文件位置

    String local = "C:\\Users\\XY\\Documents\\上传.txt";

    // 声明跟踪器客户端对象

    TrackerClient trackerClient = null;

    // 声明存储器客户端对象

    StorageClient1 storageClient1 = null;

    // 声明跟踪器服务对象

    TrackerServer trackerServer = null;

    // 声明存储器服务对象

    StorageServer storageServer = null;

    // 文件上传

    @Test

    public void testUpload() {

        try {

            // 初始化配置文件

            ClientGlobal.init("fdfs_client.conf");

            // 创建跟踪器客户端对象

            trackerClient = new TrackerClient();

            // 获取跟踪器连接

            trackerServer = trackerClient.getConnection();

            // 获取存储器客户端对象

            storageClient1 = new StorageClient1(trackerServer, storageServer);

            // 上传文件，返回文件标识

            String index = storageClient1.upload_file1(local, null, null);

            // 查看标识

            System.out.println(index);

        } catch (IOException e) {

            e.printStackTrace();

        } catch (MyException e) {

            e.printStackTrace();

        }

    }

    // 文件下载

    @Test

    public void testDownload() {

        try {

            ClientGlobal.init("fdfs_client.conf");

            trackerClient = new TrackerClient();

            trackerServer = trackerClient.getConnection();

            storageClient1 = new StorageClient1(trackerServer, storageServer);

            // 根据文件标识下载文件

            byte[] by = storageClient1.download_file1("group1/M00/00/00/wKhphVrxnTeAPEznAANfM1yHJic535.txt");

            // 将数据写入输出流

            IOUtils.write(by, new FileOutputStream("C:\\Users\\XY\\Documents\\下载.txt"));

        } catch (IOException e) {

            e.printStackTrace();

        } catch (MyException e) {

            e.printStackTrace();

        }

    }

    // 文件删除

    @Test

    public void testDelete() {

        try {

            ClientGlobal.init("fdfs_client.conf");

            trackerClient = new TrackerClient();

            trackerServer = trackerClient.getConnection();

            storageClient1 = new StorageClient1(trackerServer, storageServer);

            // 根据文件标识删除文件，返回0则删除成功

            int i = storageClient1.delete_file1("group1/M00/00/00/wKhphVry2QmAXgH2AANfM1yHJic724.txt");

            if (i == 0) {

                System.out.println("删除成功");

            } else {

                System.out.println("删除失败");

            }

        } catch (IOException e) {

            e.printStackTrace();

        } catch (MyException e) {

            e.printStackTrace();

        }

    }

    // 文件信息

    @Test

    public void testGetFileInfo() {

        try {

            ClientGlobal.init("fdfs_client.conf");

            trackerClient = new TrackerClient();

            trackerServer = trackerClient.getConnection();

            storageClient1 = new StorageClient1(trackerServer, storageServer);

            // 根据文件标识获取文件信息

            FileInfo fileInfo = storageClient1.get_file_info1("group1/M00/00/00/wKhphVry2QmAXgH2AANfM1yHJic724.txt");

            // 文件IP地址

            System.out.println(fileInfo.getSourceIpAddr());

            // 文件大小

            System.out.println(fileInfo.getFileSize());

            // 创建时间

            System.out.println(fileInfo.getCreateTimestamp());

            // 错误校验码

            System.out.println(fileInfo.getCrc32());

        } catch (IOException e) {

            e.printStackTrace();

        } catch (MyException e) {

            e.printStackTrace();

        }

    }

}

四、参考文章