FastDFS分布式文件系统安装和使用

  • 时间:
  • 浏览:
  • 来源:互联网

一、介绍

FastDFS(最快的分布式文件系统)是淘宝开发的一款轻量级分布式文件系统,采用C语言开发,目前只提供了C、java、PHP等语言的API。

主要用它来对文件进行管理,功能包括文件同步、文件访问(上传和下载),解决了大容量存储和负载均衡的问题。

类似的分布式文件系统还有谷歌的GFS、HDFS(Hadoop)、TFS(淘宝)等。

 

二、整体架构

FastDFS服务端有两个角色:跟踪器(tracker)和存储节点(storage)。

Tracker 主要做调度工作(管理集群
tracker 类似于注册中心,记录服务器的存储空间,状态,负载等,当上传和访问图片由tracker决定,tracker也可以实现集群。每个tracker节点地位平等
Storage:存储、同步和提供存取接口
Storage分为多个组,每个组之间保存的文件是不同的。每个组内部可以有多个成员,组成员内部保存的内容是一样的,组成员的地位是一致的,没有主从的概念。

整体来说:FastDFS有两个特点

  1. 高可靠性:无单点故障
  2. 高吞吐量:只要Group足够多,数据流量是足够分散的。

 

三、文件上传

技术分享图片

客户端上传文件后存储服务器将文件ID返回给客户端,此文件ID用于以后访问该文件的索引信息。文件索引信息包括:组名,虚拟磁盘路径,数据两级目录,文件名。

  技术分享图片

  • 组名:文件上传后所在的storage组名称,在文件上传成功后有storage服务器返回,需要客户端自行保存。
  • 虚拟磁盘路径:storage配置的虚拟路径,与磁盘选项store_path*对应。如果配置了store_path0则是M00,如果配置了store_path1则是M01,以此类推。
  • 数据两级目录:storage服务器在每个虚拟磁盘路径下创建的两级目录,用于存储数据文件。
  • 文件名:与文件上传时不同。是由存储服务器根据特定信息生成,文件名包含:源存储服务器IP地址、文件创建时间戳、文件大小、随机数和文件拓展名等信息。

 

四、文件下载

技术分享图片

 

五、搭建

fastDFS需要配合nginx和nginx-fastdfs插件使用

(1)搭建fastDFS文件服务

1、安装依赖环境

yum -y install gcc-c++ libevent

2、安装libfastcommon

下载地址:https://github.com/happyfish100/libfastcommon

解压后进入目录执行

1、./make.sh

2、./make.sh install

检查一下/usr/lib下是否存在libfastcommon.so,如果不存在则需要从lib64复制过去

cp /usr/lib64/libfastcommon.so /usr/lib/

3、安装fastDFS(Tracker服务)

fastDFS下载地址:https://github.com/happyfish100/fastdfs

解压后进入目录执行

1、./make.sh

2、./make.sh install

3、cp /conf/* /etc/fdfs/    复制配置文件

4、vim /etc/fdfs/tracker.conf   修改配置文件

主要修改base_path的路径(用于存储store数据和日志文件

注意确保文件夹存在

默认端口是22122

5、/usr/bin/fdfs_trackerd /etc/fdfs/tracker.conf    启动服务

/usr/bin/fdfs_trackerd /etc/fdfs/tracker.conf  restart 重启服务

根据需要配置开机启动、配置防火墙端口开放

 

4、安装fastDFS(Storage服务)

上面已经安装好,所以可以直接使用

1、vim /etc/fdfs/tracker.conf   修改配置文件

主要修改base_path、store_path0、tracker_server这三处

注意确保文件夹存在

默认端口是23000

5、/usr/bin/fdfs_storaged /etc/fdfs/storage.conf    启动服务

根据需要配置开机启动、配置防火墙端口开放

 

附:fastDFS命令:

5、测试

1、检查/usr/lib/是否存在libfdfsclient.so,如果不存在需要复制过来。

cp fastdfs-6.07/client/libfdfsclient.so /usr/lib/

2、执行上传测试:/usr/bin/fdfs_test /etc/fdfs/client.conf upload /home/sumengnan/woniu.jpeg     

结果如下:

[root@210server sumengnan]# /usr/bin/fdfs_test /etc/fdfs/client.conf upload /home/sumengnan/woniu.jpeg 
This is FastDFS client test program v6.07

Copyright (C) 2008, Happy Fish / YuQing

FastDFS may be copied only under the terms of the GNU General
Public License V3, which may be found in the FastDFS source kit.
Please visit the FastDFS Home Page http://www.fastken.com/ 
for more detail.

[2021-03-21 12:18:43] DEBUG - base_path=/mnt/fastdfsStore, connect_timeout=5, network_timeout=60, tracker_server_count=1, anti_steal_token=0, anti_steal_secret_key length=0, use_connection_pool=0, g_connection_pool_max_idle_time=3600s, use_storage_id=0, storage server id count: 0

tracker_query_storage_store_list_without_group: 
        server 1. group_name=, ip_addr=192.168.1.210, port=23000

group_name=group1, ip_addr=192.168.1.210, port=23000
storage_upload_by_filename
group_name=group1, remote_filename=M00/00/00/wKgB0mBWySOAXnWGAAEVpA8CyVA26.jpeg
source ip address: 192.168.1.210
file timestamp=2021-03-21 12:18:43
file size=71076
file crc32=251840848
example file url: http://192.168.1.210/group1/M00/00/00/wKgB0mBWySOAXnWGAAEVpA8CyVA26.jpeg
storage_upload_slave_by_filename
group_name=group1, remote_filename=M00/00/00/wKgB0mBWySOAXnWGAAEVpA8CyVA26_big.jpeg
source ip address: 192.168.1.210
file timestamp=2021-03-21 12:18:43
file size=71076
file crc32=251840848
example file url: http://192.168.1.210/group1/M00/00/00/wKgB0mBWySOAXnWGAAEVpA8CyVA26_big.jpeg
[root@210server sumengnan]# 

最后一步返回了文件的url:http://192.168.1.210/group1/M00/00/00/wKgB0mBWySOAXnWGAAEVpA8CyVA26_big.jpeg  表示上传成功,可以直接在服务器文件夹中找到此文件

现在还访问不了,因为这个http请求,fastDFS是无法处理http请求的,需要搭配nginx使用。

 

(2)安装nginx插件

nginx插件下载:https://github.com/happyfish100/fastdfs-nginx-module

1、解压插件,并fastdfs-nginx-module-1.22/src/config文件中的local全部去掉

2、cp fastdfs-nginx-module-1.22/src/mod_fastdfs.conf   /etc/fdfs/      复制配置文件

3、vim /etc/fdfs/mod_fastdfs.conf   修改配置文件

主要修改tracker_server、url_have_group_name、store_path0信息

 

(3)安装nginx插件

参考:https://blog.csdn.net/sumengnan/article/details/108747737

1、不同点是在第3步(编译并安装nginx)

使用的是./configure --prefix=/usr/local/nginx --add-module=/home/sumengnan/fastdfs-nginx-module-1.22/src   (指定插件位置)

如果报错如下图

则需要

a、vim objs/Makefile   去掉-Werror

b、vim src/os/unix/ngx_user.c  注释掉此行后重新执行make & make install

 

2、安装完成后修改配置文件:vim /usr/local/nginx/conf/nginx.conf  修改如下内容:

    server {
        listen       80;
        server_name  localhost;

        location /group1 {
            ngx_fastdfs_module;
        }

        error_page   500 502 503 504  /50x.html;
        location = /50x.html {
            root   html;
        }
    }

3、启动:/usr/local/nginx/sbin/nginx

 

(4)测试

浏览器访问之前返回的文件http请求url,结果成功返回图片。

 

六、springboot整合使用

(1)引入依赖

        <dependency>
            <groupId>com.github.tobato</groupId>
            <artifactId>fastdfs-client</artifactId>
            <version>1.26.1-RELEASE</version>
        </dependency>

(2)配置文件配置


#读取超时时间
fdfs.so-timeout=1500
#连接超时时间
fdfs.connect-timeout=600
fdfs.pool.jmx-enabled=false
#生成缩略图的大小
fdfs.thumb-image.width=100
fdfs.thumb-image.height=100
#tracker跟踪服务器的地址(关键)
fdfs.tracker-list[0]=192.168.1.210:22122

(3)启动类配置

@SpringBootApplication
@Import(FdfsClientConfig.class)
public class DemoApplication {

    public static void main(String[] args) {
        SpringApplication.run(DemoApplication.class, args);
    }
}

(4)上传实例代码

@RestController
public class TestController {

    @Autowired
    private FastFileStorageClient fastFileStorageClient;


    @RequestMapping("/upload")
    public void upload() throws FileNotFoundException {
        File file = new File("/Users/sumengnan/woniu.jpeg");
        String fileName=file.getName();//获取文件名
        String extName=fileName.substring(fileName.lastIndexOf(".")-1);//获取文件扩展名
        FileInputStream fileInputStream = new FileInputStream(file);//获取文件输入流
        //上传文件
        StorePath storePath = fastFileStorageClient.uploadFile(fileInputStream, file.length(), extName, null);
        //返回上传结果
        System.out.println(storePath.getGroup());
        System.out.println(storePath.getPath());
        System.out.println(storePath.getFullPath());
    }

}

fastFileStorageClient接口的方法如下:

(5)测试

上传成功:

 

 

本文链接http://www.dzjqx.cn/news/show-617590.html