随着计算机科学技术的快速发展,高性能计算已成为科学研究所必需的辅助工具,并在各个基础学科领域发挥出了巨大的作用。
基于LoongStore高性能计算可应对不同需求挑战
LoongStore高性能计算解决方案
面向高性能计算集群存储架构设计
针对高性能计算应用高并发的特点,采用带外模式的大规模开放集群存储架构,通过高速网络将通用存储服务器中的CPU、内存、网络带宽、磁盘转速、总线性能整合在一起,形成一个高端存储器,使得存储总体性能高于计算处理能力与网络带宽的传输速度,以此来屏蔽由于磁盘和总线性能提升缓慢造成的存储性能瓶颈。本次项目中我们将以全线速网络互连前端的计算节点和后端的存储及元数据节点,以保证存储设备的性能输出达到最大化。由于采用带外模式,很好的消除了元数据通路与数据通路的相互干扰。而元数据服务器的集群化和存储服务器的集群化,使得整个系统中不存在像NAS或者SAN系统那样的性能瓶颈点,因此能够完全满足高性能计算应用高并发的需求。
针对高性能计算的海量小文件高吞吐率、高效检索技术
目前,存储市场上大部分的存储系统在海量小文件的应用模式下,都存在吞吐率低,检索慢的问题。这个问题的本质原因是整个存储系统处理元数据的效率所导致的。由于目前绝大多数存储系统都是采用单一元数据服务器架构,虽然部分存储系统有两个元数据服务器,但是系统正常情况下只有一个元数据服务器提供服务功能,另一个处于standby状态,本质上属于高可用作用,因此,当整个存储系统的文件数量达到一定规模时,检索文件的效率变得极其低下,从而导致小文件吞吐率低。我们在LoongStore现有的多元数据服务器集群技术的基础上,结合高性能计算应用文件创建、访问以及目录结构特点,研制独一无二的多元数据服务器集群技术,在一套存储系统中可以根据用户生产系统中实际产生文件数量的规模对元数据服务器集群进行动态配置,整个存储系统中所有的元数据服务器同时参与文件的检索和定位工作,消除存储系统中元数据通道的瓶颈,同时还可以根据后续应用特点的变化和需求的增强,做到在线扩展元数据服务器,并且达到即插即用的效果。
面向海量数据的全局数据高可用技术
高可用对于一个存储系统来说非常重要,本质上来看就是如何使存储系统自身不存在单点故障。目前市场是大部分的存储系统在可靠性方面主要是依靠硬件自身的可靠性来实现,比如Raid技术,采用高端的光纤盘阵等,这些高可用技术存在很大的局限性,恢复效率差,无法适应海量数据的应用环境。LoongStore独特的全局数据高可用技术,结合应用特点用自身独有的软件技术来完成高可用,首先,无论是存储服务器还是元数据服务器都采用了集群化技术;其次,存储系统软件层采用多副本技术、文件动态分片技术、文件级raid技术以及支持不同目录设置不同冗余度技术来保证整个系统的高可用。最终,通过这些高效的全系统规模数据高可用技术,彻底消除存储系统中的单点故障。另外,存储系统内置了自动故障探测机制,可以动态探测不同的故障,并自动启动数据的恢复流程确保数据完整性,数据恢复完全在存储后端进行,不对前端应用造成任何影响,在保证数据安全的同时确保用户的应用持续稳定的运行,单台存储服务器或者元数据服务器发生损坏都不会对应用数据读写造成任何影响,且随着存储服务器的不断增加,数据恢复的速度成倍增长,即服务集群规模越大数据的安全性越高。
面向多用户环境的增强型权限管理技术
计算平台是一个多用户共享平台,每天都有很多用户在计算平台上面运行不同的任务,整个存储系统需要保证各个用户之间的任务相互独立、数据安全高可用,因此,传统的基于操作系统用户权限的管理技术无法完全满足计算平台的需求。在新研制的存储系统中拟提供增强型权限管理技术,除了兼容原有基于操作系统用户的权限管理之外,还增加了自身所特有的增强型权限管理技术,通过存储系统的后端管理平台直接为某个目录指定哪些用户、或者哪些应用服务器能够访问,哪些目录禁止用户删除、修改等。
以磁盘为粒度的在线实时访问流量调控技术
存储系统采用对象存储技术,能够做到以磁盘为粒度的在线实时访问流量调控技术,当整个存储系统通过实时监控发现某些设备或者磁盘处于高负载的情况时,一方面,存储系统可以通过禁止某些设备写入数据,从而降低某些设备的负载;另一方面,可以启动系统负载调控功能,存储系统根据自身智能负载机制将系统的热点数据进行迁移,使得存储系统中的各个存储节点负载均衡。
针对高性能计算应用的集群存储系统高并发读写技术
高性能计算特点是高并发读写,针对这种应用的特点,与传统的设备级分片不同,拟采用文件切片技术,将文件均匀分布在整个存储服务器集群中,以保证应用无论是对单个文件还是多个文件的访问模式,都能有效利用整个存储服务器集群提供的性能;另一方面应用服务器端通过高速网络直接与存储服务器通信,高效地利用了高速网络提供的带宽,消除了通行过程中的网络瓶颈。采用这样的技术之后,当整个计算平台的上千个应用节点同时访问数据的时,能够确保整个存储系统的每个设备都能发挥出自身的硬件能力,为前端应用提供更大的聚合带宽。
满足大计算量、长周期计算特点的不停机扩容技术,保持计算任务的连续性
计算平台作为一个大规模的平台,具有使用周期长、计算量大的特点,在实际的使用过程中,存在着随时扩展整个计算平台的计算和存储能力的需求,这就要求整个存储系统具有在线扩容的能力。本次项目研制的系统单套系统容量能够支持多达EB,其灵活的扩展性允许在线扩容,独有的数据恢复策略可以实现在线的更换所有硬件设备,能够满足计算平台中磁盘和数据总线性能提升时,存储底层设备的更换,实现一套存储系统永久满足高性能计算的存储需求。且扩容过程不影响前端的应用,同时系统的总体IO带宽随着规模的扩大线性增长,可以根据计算规模不断变化的定制存储系统,以此满足高性能计算中对容量与性能的需求。
公司总部 · 北京
客服电话
400-803-6006
网销电话
400-803-6006
丨 最新动态
龙存高性能并行存储支持AI人工智能
异构混合存储,提速全国产化进程