11月9日下午消息，在2023世界互聯(lián)網(wǎng)大會烏鎮(zhèn)峰會“數(shù)字化綠色化協(xié)同轉(zhuǎn)型發(fā)展”分論壇上，螞蟻集團首席技術(shù)官何征宇表示，AI和大模型的爆發(fā)推高了智能算力需求，數(shù)字化、綠色化協(xié)同發(fā)展的使命，要求行業(yè)亟需構(gòu)建綠色、高質(zhì)量的計算基礎(chǔ)設(shè)施。

他呼吁行業(yè)加強軟硬協(xié)同與生態(tài)建設(shè)，共同提升計算基礎(chǔ)設(shè)施算力規(guī)模、可用性與寬容度。

AI大模型時代，行業(yè)智能化的深度和廣度在擴展，雙化協(xié)同也迎來提速?！按笳Z言模型與生成式AI讓計算機開始具備語言與內(nèi)容生產(chǎn)能力，將我們帶入了通用人工智能時代，承載這種能力的智能計算資源需求也隨之井噴，算力基礎(chǔ)設(shè)施的效率提升和綠色化是必經(jīng)之路”，何征宇表示。

據(jù)何征宇介紹，上周螞蟻百靈大模型正式通過了備案，螞蟻集團搭建的綠色計算體系，也正在為百靈大模型提供綠色化的計算能力。螞蟻建設(shè)了萬卡異構(gòu)集群，其中硬件算力效率（HFU）超過60%，集群有效訓練時長占比90%以上，RLHF訓練在同等模型效果下訓練吞吐性能相較于業(yè)界方案提升3.59倍，推理性能相較于業(yè)界方案提升約2倍，處于業(yè)界先進水平。

來源：中國電子企業(yè)協(xié)會