地球与环境 2022-01-24 11:39

exascale

为了准备百亿亿次埃尔卡皮坦和下一代耗电量大的超级计算机,LLNL的建筑人员和维护人员自2019年底和COVID-19大流行期间以来,一直在努力工作,开展一项耗资1亿美元的大型百亿亿次计算设施现代化项目。该项目将使实验室计算中心的能源容量增加近一倍,最终为大约7.5万户中等大小的家庭提供足够的瓦数。Aaron Kiefer/LLNL拍摄。

超级计算机并不是凭空出现的,尤其是像劳伦斯利弗莫尔国家实验室即将推出的百兆级巨兽埃尔卡皮坦(El Capitan)那样巨大和快速的计算机。在高峰使用,埃尔卡皮坦——预计到2023年成为世界上最强大的计算机,将需要的能量是一个小城市,所以它需要多年的规划、基础设施升级和一个全新的方式来思考现有的机电功能超级计算设施来让这一切发生。

为了为El Capitan和下一代耗电量大的超级计算机做准备,LLNL的建筑人员和维护人员自2019年底和COVID-19大流行期间以来一直在努力工作,开展一项耗资1亿美元的百亿亿次计算设施现代化(ECFM)项目。该项目将使实验室计算中心的能源容量增加近一倍,最终为大约7.5万户中等大小的家庭提供足够的瓦数。

但它没有为房屋供电,此次升级将使LLNL和其他国家核安全局(NNSA)国家实验室(洛斯阿拉莫斯和桑迪亚)能够运行埃尔卡皮坦和其他下一代超级计算机,能够定期进行高保真建模和模拟,以满足NNSA库存管理计划的需要。从而保证了国家核威慑的安全、保障和可靠。

虽然El Capitan要到2023年春天才会到来,但为超过2exaflops(每秒2百亿亿次浮点运算)的超级计算机准备LLNL的道路从2008年就开始了。研究表明,要同时成功安装两台百亿亿次计算机,实验室需要运行85兆瓦的计算能力,而现有的容量是45兆瓦。

LLNL武器模拟与计算项目主任Chris Clouse表示:“ECFM项目将使我们分类计算中心的用电量增加近一倍,建筑物的冷却电量增加近三倍。”“这些升级是至关重要的,使我们能够同时安装两台百亿亿级计算机,避免了计算周期中任何潜在的停机时间,因为我们在2029年的时间范围内,在El Capitan退役之前,完全安装了我们的第二台百亿亿级计算机系统。”

仅运营El Capitan就需要30-35兆瓦的峰值电力,这意味着LLNL不得不彻底重新考虑如何为机房地板供电和供水。El Capitan占地6800平方英尺,占地面积为红杉和ASC紫色超级计算机。

LLNL高性能计算首席工程师和ECFM项目经理Anna Maria Bailey说:“挑战性在于,当我们在做这些较小的项目(Purple和Sequoia)时,我们最初着眼于商业解决方案,然后我们开始着眼于工业解决方案。”“Exascale是游戏规则的改变者;我们实际上是在做效用(规模)解决方案,这不是你打个响指就能做到的事情。所以,当我们说到百亿亿次时,我们说的是“这是大量的基础设施。”这不再是你可以在本地做的事情,也不是一夜之间就能实现的。”

这个项目的规模让LLNL以前的任何项目都相形见绌。为了应对疫情,建筑公司Nova Probst安装了一个公用事业级的基础设施,将一条115千伏(kv)的输电线路连接到一个新的开关站,该开关站包含两个40兆瓦变电所变压器、13.8千伏开关站、继电器和馈线以及位于计算设施内的二次变电站。

机组人员还增加了6个3000吨的冷却塔,以及所有必需的管道、热交换器和水泵,以将计算设施的水冷却系统从1万吨扩大到2.8万吨。该系统将提供冷却El Capitan和其他未来机器所需的水,使用较暖的水来减少冷水机和水泵的使用,以提高整体效率。

对于这样一个规模和范围的项目,Bailey说最大的挑战是通过许可和批准流程。作为由国家核安全管理局管理的国会预算项目,该项目花了7年时间进行规划,并经历了多次审查周期。

它需要多项研究,全面的环境影响评估,加州公用事业委员会的批准,并与公用事业供应商太平洋天然气和电力公司和西部地区电力管理局(WAPA)密切合作,西部地区电力管理局是美国能源部的四个电力营销部门之一。通过一项跨机构协议,WAPA将运营和维护新的开关站。

尽管因新冠肺炎疫情而推迟,但该项目已完成93%以上,预计将于2022年5月全面投入运营,比原计划提前8个月。虽然电力和水已经达到了所需的容量,但它仍需要达到计算楼层,在那里它将提供高达35兆瓦的电力,达到6800平方英尺的占地面积,而紫色是一台100万亿次浮点运算的机器,运行所需的电力不到5兆瓦。

“这个项目进展顺利,”贝利说。“这太疯狂了。在过去的20年里,机器的占地面积并没有增长多少,但对电气和机械的要求却增长了7倍。我们过去提供商业设施基础设施解决方案,现在我们需要提供公用事业解决方案来支持负载。我们得弄清楚我们是如何影响电网的。这更像是与公用事业公司的联姻,而不仅仅是握手而已。”

其他的研究还需要进行,比如如何最好地缓解El Capitan从峰值性能到闲置时出现的能源不平衡,在这种情况下,高达30兆瓦的突然下降可能会引起公用事业的担忧。

在新变电站通电后,Bailey和她的团队将用负载组测试系统。他们已经开始了下一步的设计过程,即埃尔卡皮坦基地基础设施项目,该项目将方便将电力和冷却从设施配送点输送到埃尔卡皮坦未来的位置。施工将于今年冬天开始,预计在2023年1月完成,距离El Capitan的货架开始到达只有几个月的时间。

“这就是让我夜不能寐的原因,”贝利说。“ECFM几乎完成了,这是一个伟大的项目,但现在橡胶真的上路了。”