FastDFS

FastDFS是余庆国人开发的一个开源的轻量级分布式文件系统，它对文件进行管理，功能包括：文件存储、文件同步、文件访问（文件上传、文件下载）等，解决了大容量存储和负载均衡的问题。特别适合以文件为载体的在线服务，如相册网站、视频网站等等。

FastDFS为互联网量身定制，充分考虑了冗余备份、负载均衡、线性扩容等机制，并注重高可用、高性能等指标，使用FastDFS很容易搭建一套高性能的文件服务器集群提供文件上传、下载等服务。

FastDFS的特点：

FastDFS是一个轻量级的开源分布式文件系统
FastDFS主要解决了大容量的文件存储和高并发访问的问题，文件存取时实现了负载均衡
FastDFS实现了软件方式的RAID，可以使用廉价的IDE硬盘进行存储
支持存储服务器在线扩容
支持相同内容的文件只保存一份，节约磁盘空间
FastDFS只能通过Client API访问，不支持POSIX访问方式
FastDFS特别适合大中型网站使用，用来存储资源文件（如：图片、文档、音频、视频等等）

基本架构

基本角色：

Tracker Server：跟踪服务器，主要负责Group和Storage Server之间的负载均衡；每个Storage Server 在启动后会连接Tracker Server，告知自己所属Group 等信息，并保持周期性心跳。
Storage Server：存储服务器，主要负责容量和备份服务；以Group为单位，每个Group中可以有多个Storage Server，数据互为备份。
Client：客户端，即用于上传和下载所在工程部署的服务器。

注意：

所有角色是平等的，不存在Master、Salver
tracker server不会存储索引信息，如果要下载文件，文件的位置信息全部由客户端提供
不同组的storage server之间不会相互通信
由storage server主动向tracker server报告状态信息，tracker server之间不会相互通信。

文件存储策略：

为了支持大容量，存储节点（服务器）采用了分卷（或分组）的组织方式（图中白色的区域）。
存储系统由一个或多个卷组成，卷与卷之间的文件是相互独立的，所有卷的文件容量累加就是整个存储系统中的文件容量。
一个卷可以由一台或多台存储服务器组成，一个卷下的存储服务器中的文件都是相同的，卷中的多台存储服务器起到了冗余备份和负载均衡的作用。
在卷中增加服务器时，同步已有的文件由系统自动完成，同步完成后，系统自动将新增服务器切换到线上提供服务。
当存储空间不足或即将耗尽时，可以动态添加卷。只需要增加一台或多台服务器，并将它们配置为一个新的卷，这样就扩大了存储系统的容量。
FastDFS中的文件标识分为两个部分：卷名和文件名，二者缺一不可。

文件元数据（meta-data）:

文件相关属性，键值对（Key Value Pair）方式，如：width=1024,heigth=768

文件上传流程

Client询问Tracker上传到的Storage，不需要附加参数；
Tracker返回一台可用的Storage；
Client直接和Storage通讯完成文件上传。

文件下载流程

Client询问Tracker下载文件的Storage，参数为文件标识（卷名和文件名）；
Tracker返回一台可用的Storage；
Client直接和Storage通讯完成文件下载。

部署FastDFS

Docker下部署FastDFS

# 部署Tracker
# 22122 => Tracker默认端口
docker run --name=tracker-server --privileged=true -p 22122:22122 -v /var/fdfs/tracker:/var/fdfs -d delron/fastdfs tracker
# 部署Storage
# 23000 => Storage默认端口
# 8888 => 内置Nginx默认端口
# --net=host => 避免因为Docker网络问题导致外网客户端无法上传文件，因此使用host网络模式
docker run --name=storage-server --privileged=true -p 23000:23000 -p 8888:8888 -v /var/fdfs/storage:/var/fdfs -e TRACKER_SERVER=192.168.0.100:22122 -e GROUP_NAME=group1 --net=host -d delron/fastdfs storage

测试上传下载：

docker exec -it storage-server /bin/bash

cd /var/fdfs/

/usr/bin/fdfs_upload_file /etc/fdfs/client.conf test.jpg

# 记录返回的文件名称（卷名和文件名）信息

浏览器访问上传的文件: http://192.168.0.100:8888/group1/M00/00/00/rBEACF8wzPaATSdKAAEQy6lDthg207.jpg

最后更新于1年前