2022年san文件系统与集群文件系统 .pdf

《2022年san文件系统与集群文件系统 .pdf》由会员分享，可在线阅读，更多相关《2022年san文件系统与集群文件系统 .pdf（4页珍藏版）》请在得力文库 - 分享文档赚钱的网站上搜索。

1、SAN 文件系统与集群文件系统及其应用发展趋势张敬亮摘要 ：本文主要介绍与分析传统网络存储方式与新的存储架构，以及国内自主研发的集群存储系统蓝鲸集群存储系统与SAN 文件系统的发展与应用情况。关键字 ：SAN 集群文件系统、蓝鲸集群文件系统1传统网络存储方式所面临的挑战随着以 NAS1和SAN2为代表的网络存储架构逐渐走向成熟，厂商对其理念进行的大量宣传与推广， 以及网络存储系统对数据进行集中存储和管理所带来的优越性，网络存储已经逐渐被人们接受， 其应用也迅速推广至各个行业。换言之， 传统的 NAS 和SAN 产品很好地解决了分散存储所面临的可用性、可管理性和可扩展性等大部分问题，但随着信息化

2、技术的迅猛发展，诸如高性能计算、视频编辑、遥感信息处理等技术的大规模应用，对网络传存储系统提出了更高的要求：1需要支持更多的客户机进行高性能的文件共享，从而提高业务处理效率，减少因数据拷贝而造成的不必要的损失。2希望系统的性能和容量可在线扩展，无需停止业务。然而，在目前主流的存储架构中，存在着如下问题：1由于 SAN 提供的是块级数据共享, 所以，要想实现多个平台的文件共享，还有很多障碍。2在 SAN 系统中，因为每个应用节点的逻辑卷之间无法实现容量共享，所以整个系统的存储利用率仍然比较低。而且，当系统中的逻辑卷容量不足时，无法实现在不影响业务的情况下的在线扩容。3NAS产品可以实现文件共享，

3、而且每个节点都可以同时共享整个系统的存储空间，利用率更高。但在传统的NAS 产品中，所有数据都要经过单一I/O（输入 /输出） 节点， 所以当客户节点增多或负载加大时，NAS 产品的文件并发访问性能不尽如人意，同时，一般的NAS 产品都无法实现存储容量和性能的在线扩展。4虽然陆续出现了诸如NAS 集群、 NAS 网关等改良的方案，但都因为架构的限制无法实现本质上的突破。2新的存储架构应运而生为解决上述问题产生了新型存储架构，即支持集群文件系统的集群存储架构和结合1 Network Attached Storage， 网络附连存储2 Storage Area Storage ，存储区域网名师资料

4、总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 1 页，共 4 页 - - - - - - - - - SAN 文件系统的SAN 存储架构。这些架构具备以下主要特点：1提供统一的访问入口和全局的文件系统。2提供元数据集群和SAN 或专用的存储集群。前者负责处理元数据请求，后者负责处理I/O 读写，二者的处理是相互独立、并行进行的，即客户端直接到SAN上进行数据读写。3数据以条带化方式写入SAN 或存储集群，可以为应用节点提供更高的多设备聚合带宽。4可提供对目前主流集群网络互连技术的支持（包括

5、GE、Myrinet 和IB） ，其中 GE是最主要的形式。由于FC3网络设备价格较高，在集群中采用较少，因此集群文件系统对 FC的支持也很少；而SAN文件系统主要支持包括FC和GE在内的主流存储网络。由于使用了元数据和I/O 分离处理的带外架构，类似的产品一般都具备以下优势：1支持高性能的文件共享，减少数据复制代理的开销和可能导致的错误。2可支持上千个节点的大规模集群。3可达数十GB/s 的高聚合带宽。4系统性能、容量皆可动态扩展，且对客户端透明。5采用元数据控制器故障转移（FAIL OVER ）技术、文件系统日志技术保证服务和数据的可靠性。3SAN 文件系统和集群文件系统产品分析虽然 SA

6、N 文件系统和集群文件系统具有一些共同点，但在应用环境中还存在如下差别。1有些集群文件系统一般仅支持单一的客户端操作系统类型，主要用于高性能计算中的集群应用，其性能扩展性优于传统的并行文件系统。2部分厂商的产品以集群文件系统配合专用的存储集群的方式提供用户使用。3有些 SAN 文件系统可以松耦合，并和 SAN 配合，支持不同客户端操作系统类型，更多用于服务器环境下的集中存储。SAN 文件系统本身可以替代集群文件系统，但那些仅支持FC 的 SAN 文件系统， 在集群规模扩大时，成本会迅速攀升；相反地，基于 IP SAN 的 SAN 文件系统， 在大规模的集群应用环境中可以提供非常高的性价比。4国

7、内主流集群文件系统和SAN 文件系统目前，主流的集群文件系统有CFS 公司的 Lustre、Panasas公司的 PanFS 和北京中科储天信息技术有限公司的BWFS；主流的 SAN 文件系统有BWFS、ADIC 公司的 StorNext FS、IBM 的 SFS等。其中，由于BWFS 同时具备了集群文件系统和SAN 文件系统的特点，而且对IP SAN3 Fibre Channel，光纤通道名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 2 页，共 4 页 - - - - - - -

8、 - - 也具有良好的支持，所以，在类型上同时属于集群文件系统和SAN 文件系统。值得一提的是， BWFS 是由我国自主研发的、部分指标接近或超过国外的同类产品。以下重点介绍Lustre,PanFS 和 BWFS 的结构和特点，并和主流的SAN 文件系统和集群文件系统汇总对比。Lustre是面向 I/O密集型集群应用、支持上万个集群节点、数百TB存储容量的对象集群文件系统。 Lustre包括客户端（ Client） 、元数据服务器（MDS4）和对象存储服务器(OST5)三个部分， OST负责数据存储和访问，支持对象访问协议，MDS负责元数据访问和锁管理。Lustre采用门户（ Portal）模

9、块支持异构网络环境，底层采用EXT3 格式存储数据，对应用提供POSIX （可移植操作系统接口）语义支持，应用通过客户端（client）透明地访问数据。Lustre目前支持2 个MDS 的故障转移方式，尚未支持MDS 集群。 Lustre的开发采用开发源码的方式，目前对外发布的是1.4.6 版，已经应用在美国洛斯阿拉莫斯（Los Alamos） 、劳伦斯利物莫（ Lawrence Livermore ） 、桑迪亚（ Sandia）等国家实验室。PanFS主要面向大规模的Linux 集群， 其产品在一个设备中集成了刀片式存储节点服务器 StorageBlade（910 片）和刀片式元数据服务器D

10、irectorBlade （12 片） ，通过 4 个 GE 输出，多个设备可以堆叠。其中DirectorBlade 负责处理元数据请求，2 个 DirectorBlade 以集群方式运行，从而提供高数据带宽。在集群节点安装DirectFlow软件，为集群应用提供全局的文件访问接口，底层与Lustre 一样，采用EXT3 格式存储数据。 PanFS 目前已经应用在生物信息处理、石油地质勘探、流媒体、计算机辅助工程（CAE）等领域。BWFS 基于 IP 技术，支持大规模异构集群和应用服务器环境，支持Linux 和 Windows平台。 BWFS 包括元数据服务器（Metadata Server，

11、 MS ）集群、存储设备（Storage Node，SN）集群、可加载文件系统模块（Installable File System IFS, ）和管理控制台 （Administration console，AD ） ，MS 集群负责处理元数据请求和负载平衡；SN 集群负责数据存储和数据服务；IFS 安装在集群节点并对应用提供统一的全局文件系统访问接口；AD 为用户提供BWFS的管理服务。BWFS 采用带外数据模型、延迟绑定LazyBinding 、分层资源管理、针对应用的动态一致性语义等技术，集群节点直接到SN 集群并发地访问数据，且MS 集群和 SN 集群均可以在线动态扩展，具有非常高的I/

12、O 聚合带宽和极强的I/O 可扩展性，在某些应用领域，性能比原有系统提高了数十倍。目前，已经应用到石油地质勘探、遥感数据处理、高性能计算、大型信息中心、信息检索与处理等多个领域。下表汇总产品国内市场上主流的SAN 文件系统和集群文件系统：厂商名称产品文件系统类型应用节点支持的操作系统IBM TotalStorage SFS SAN Windows、Linux 、Unix ADIC StorNext SAN Windows、Linux 、Unix NRCHPC BWFS 集群、 SAN Widows、Linux CFS Lustre 集群Linux Panasas Panfs 集群Linux （

13、下转第29 页）4 Meta Data Server 5 Object Storage Target. 名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 3 页，共 4 页 - - - - - - - - - 5 应用发展趋势虽然 SAN 文件系统和集群文件系统在我国的应用和推广的时间不长，但由于其可提供高性能的文件共享及良好的可扩展性，在高性能计算、 视频处理、 遥感信息处理等领域被越来越多的用户关注和应用。通过上述分析，我们可以看到集群文件系统和SAN 文件系统，均以全新的方式解决了传统网络存储中所面临的问题。尤其是SAN 文件系统具有更高的灵活性，可以更好地解决数据爆炸时代所带来的存储挑战。这意味着， 和 SAN 结合的 SAN 文件系统已成为存储基础架构发展的一种必然趋势。随着信息技术的不断发展，在不久的将来， 将会有更多的存储厂商参与其中，并且得到越来越广泛的应用。作者简介：张敬亮： 中科院计算所工程中心 名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 4 页，共 4 页 - - - - - - - - -