河北慧日信息技术有限公司

数据中心正走向分化?

更新时间:2023年03月22日  2548浏览

 

 
 
 
 
 

随着人工智能技术的快速发展和AI大模型规模的不断扩大,数据中心行业在经历了30年的持续成长后,正面临着新一轮的挑战与机遇。未来数据中心将分化成两种类型:追求极致算力的数据中心与产业赋能型的数据中心。

 
 
 
 
 
 

 

 
数据中心的转型背景与挑战
 

过去的数据中心发展主要受互联网快速发展驱动,追求标准化和快速交付。而随着AI的到来,AI应用与互联网有很大区别,通常是“业务驱动技术变革”。在这样一个“AI+”的数据中心时代,数据中心的类型开始发生转变。未来的数据中心将更加弹性、协同,以应对不断变化的技术需求。

与此同时,AI模型的规模不断扩大,对数据中心的能耗、算力提出了更高的要求。早在五年前,Open AI团队就向微软提出了一个大胆的想法:建立一个可以永远改变人机交互方式的人工智能系统,随后微软专门为其打造了一台超级计算机,用来在公有云上训练超大规模的人工智能模型,这台超级计算机拥有28.5万个CPU核心,超过1万颗GPU,进入2023年,又传出微软将在未来几年陆续向Open AI投资100亿美元的消息。

不断变化的业务驱动逻辑和巨大的算力需求,使得数据中心亟需在各方面不断创新。

 

 
追求极致算力的数据中心
 

追求极致算力的数据中心旨在提供最大的计算能力,以满足越来越庞大的AI模型的训练需求。这类数据中心主要关注计算能力和效率,目标是实现极高的性能和运算速度,通常会采用最先进的硬件设备,如高性能处理器、GPU和高速内存。此外,可能会专注于优化能源利用,采用节能技术和设备,以降低运行成本和环境影响。例如,通过自然冷却或液冷技术来提高数据中心的冷却效率。典型应用场景包括:人工智能、机器学习、超算等领域。例如,训练复杂的深度学习模型需要大量的计算资源,算力型数据中心可以提供足够的性能和效率来满足这些需求。

以ChatGPT为例,这种大模型需要更高性能的算力支持,据估算,在训练方面,1746亿参数的GPT-3模型大约需要375-625台8卡DGX A100服务器训练10天左右,对应A100 GPU数量约3000-5000张。而在推理方面:如果以A100 GPU单卡单字输出需要350ms为基准计算,假设每日访问客户数量高达5,000万人时,按单客户每日发问ChatGPT应用10次,单次需要50字回答,则每日消耗GPU的计算时间将会高达243万个小时,对应的GPU需求数量将超过10万个。这种大规模的计算需求对数据中心的能效和算力提出了极高的要求。为了应对这种挑战,数据中心需要在硬件和软件方面不断创新,例如采用高性能GPU服务器和优化调度策略,以提高计算效率和降低能耗。

此外,追求极致算力的数据中心还需面对波峰波谷的调度问题。在AI模型训练过程中,计算需求可能突然增大,然后在一段时间内保持沉默。这种不稳定的计算需求对数据中心的调度能力提出了很高的要求。因此,数据中心需要具备强大的调度能力,以应对这种不稳定的计算需求。

 

产业赋能型数据中心
 

产业赋能型数据中心关注的是将AI技术赋能于各个行业,促进产业链的协同与创新。这类数据中心关注的是针对特定行业或应用场景的解决方案,目标是为企业和行业提供量身定制的数据中心服务,以实现业务需求和增长。这类数据中心需要具备更强的弹性和调度能力,将特定领域的专业知识和技术与数据中心资源相结合,以满足特定行业的需求。

这类数据中心的应用场景包括:金融、医疗、制造、物联网等行业。以金融行业为例,这类数据中心可能会提供低延迟、高可用性的交易处理系统,以满足金融市场对速度和稳定性的要求。

在产业赋能型数据中心中,合作与协同是关键。各个行业的技术需求可能相互影响,因此数据中心需要具备跨行业的协同能力,以实现资源共享和优化利用。此外,产业赋能型数据中心还需关注如何在技术创新与产业应用之间实现良好的平衡,以便为各个行业提供更好的技术支持。

 

 
两类数据中心的核心差异
 

从数据的角度来看,可以通过以下指标来衡量这两类数据中心的差异:

 

1.性能和效率:算力型数据中心通常具有更高的性能指标,如每秒浮点运算次数(FLOPS)等。这类数据中心的优化程度较高,可以充分发挥硬件设备的潜力,提高计算效率。

 

2.定制化和行业应用:应用型赋能产业的数据中心更注重与特定行业的结合,提供定制化的解决方案。例如,医疗行业的数据中心可能需要满足严格的数据安全和隐私要求,因此这类数据中心可能会采用更严格的数据加密和访问控制措施。另一方面,制造业的数据中心可能需要实现设备间的实时通信和数据分析,以提高生产效率和降低成本。

 

3.能源消耗和环境影响:由于算力型数据中心对性能和效率的追求,它们的能源消耗往往较高。然而,这类数据中心通常会采用先进的节能技术和设备,如绿色能源、自然冷却系统等,以降低对环境的影响。相比之下,应用型赋能产业的数据中心可能会根据特定行业的需求来优化能源利用,例如,金融行业数据中心可能更注重低延迟和高可用性,而不是单纯地追求能源效率。

4.成本和投资回报:算力型数据中心往往需要更大的初期投资,包括购买高性能硬件、建设庞大的基础设施以及支付能源成本。然而,这类数据中心的高性能和效率可能会带来更高的投资回报,特别是在高性能计算和人工智能等领域。相反,应用型赋能产业的数据中心可能会针对特定行业的需求进行更为合理的投资分配,以实现业务目标和盈利。

 

5.发展趋势和市场需求:随着云计算、大数据和人工智能等技术的快速发展,对算力型数据中心的需求将持续增长。同时,随着数字化转型的推进,各行业对定制化数据中心服务的需求也在不断上升。因此,这两种类型的数据中心都有很大的市场潜力和发展前景。

 
总之

数据中心在迎来新一轮的挑战与机遇之际,需要在硬件、软件、调度策略等方面进行创新,以实现更高的能效、算力和调度能力。未来,数据中心将分化为追求极致算力的数据中心和产业赋能型的数据中心。

这两类数据中心将分别关注能效、算力、弹性和协同等方面,以满足不断变化的AI技术需求。在这个过程中,企业家和行业从业者们都需要保持清醒的判断,坚定地投入研究与发展,以推动数据中心行业持续创新和发展。



微信扫码关注

Tel  :400-0311-765

Add:石家庄市高新区物联网大厦一层