手机浏览器扫描二维码访问
商汤在第二十届中国IDC产业年度大典上分享的算电协同实践,说白了就是给智算中心这个“AI算力工厂”解决了用电的大难题——现在跑大模型的智算中心就是个巨型“电老虎”,不仅耗电多、电费贵,还经常因为电力供应不稳导致算力任务中断。商汤靠一套“能源大模型+智慧储能系统”的组合拳,让算力和电力精准配合,实现了“算随电用、电随算动”,既降了成本,又保了稳定,还贴合了“双碳”目标,下面就用最接地气的话把这事拆明白。
一、为啥智算中心非得搞“算电协同”?—— 电力已经成了AI发展的“卡脖子”难题
现在AI大模型越做越大,训练一个千亿参数的模型,需要成千上万的服务器连轴转,这些服务器堆在一起的智算中心,就是个实打实的“电老虎”。但行业里一直有两个绕不开的用电痛点,不解决的话,AI算力想发展根本无从谈起。
1. 数据“各玩各的”,电力浪费严重
智算中心里有三类关键数据:一是AI训练任务的数据,比如今天要跑视频生成模型、明天要做数据分析;二是服务器集群的负载数据,比如现在有多少服务器在干活、负载有多高;三是电力调度的数据,比如电网什么时候电价便宜、什么时候绿电(风电、光伏)多、电网能提供多少电力。
但现在这三类数据就像三个互不搭理的“部门”,电力系统不知道智算中心接下来要干啥、需要多少电,智算中心也不知道电网的电力情况,只能“瞎用电”。比如电网深夜电价低、绿电充足时,智算中心的算力任务可能正处于低谷,白白浪费了便宜电;而白天电网用电高峰、电价高时,智算中心又刚好要跑大模型,需要大量电力,不仅电费飙升,还可能因为电网供电不足导致任务中断。这种数据孤岛,让智算中心的电力使用效率大打折扣,钱花了不少,还没办好事。
2. 电力波动太坑,算力稳定没保障
大模型训练和推理时,算力负载就像坐过山车,可能上一秒还很平稳,下一秒因为要处理海量数据,负载突然飙升,瞬间需要巨量电力。电网的供电能力是相对固定的,根本跟不上这种“尖峰需求”,很容易导致服务器电压不稳甚至宕机,辛苦跑了几天的大模型训练任务可能直接归零,损失难以估量。
反过来,当算力任务进入低谷,服务器负载骤降,智算中心的电力需求也跟着减少,这时候电网的电力又没处用,造成资源闲置。而且现在国家在推“双碳”目标,智算中心作为高耗能场所,要是不能降低能耗、减少碳排放,后续发展也会受政策限制。
3. 全球都在抢赛道,这是国家层面的战略布局
不只是国内有这问题,全球科技强国都在盯着“算力-能源”一体化的布局。比如美国的大数据企业Palantir推出了“Chain Reaction”平台,把它定位成“美国人工智能基础设施的操作系统”,核心就是把算力调度、电力预测和芯片管理揉到一起,打造国家级的AI基础设施。商汤搞算电协同,不只是为了解决自己智算中心的运营问题,更是在国家战略层面,补齐我国AI基础设施的能源短板,避免在全球AI竞争中落后。
二、商汤怎么破解难题?—— 两大核心抓手,让算力和电力“心有灵犀”
商汤没有简单地给智算中心装个电表或者买个充电宝,而是从底层逻辑入手,打造了“能源大模型+智慧储能系统”的闭环,让算力和电力能双向适配,真正实现“算随电用、电随算动”。
1. 能源大模型:智算中心的“电力预言家+总调度”
商汤自研的能源大模型,就像给智算中心装了个超级聪明的大脑,既能精准预测未来的电力需求,又能实时指挥电力怎么用,核心靠三个独门绝技。
(1)把所有数据串起来,实现“任务-算力-功耗”精准对应
天气女巫:“局长,我们真要把林主任派去美国吗?”神矛局局长郑贤:“这就叫以毒攻毒。”“可是,这毒……”天气女巫心有余悸:“也太猛了吧?”“是啊,阿迈瑞肯的人民……”郑贤憋着笑:“要遭老罪咯!”于是,《辟邪剑谱》让美利坚男人卷了起来,白胡子海贼团在纽约掀起“顶上战争”,哥斯拉登上北美大陆……钢铁侠托尼·史塔克:“混蛋,为了人类文明的进步就要毁掉美利坚?”大魔王林浩:“托尼,你终于发现真相了!”...
小时不识月远程千寻祭月之夜,哀雪纷飞,承载天命之婴孩诞于世间,不幸逢父陨宗亡之劫。慈母携幼潜藏于仇敌界内荒村,隐忍五载,以求生存。又是雪夜,母遭毒手,遗恨而去。仇恨于心,天命之子亡命归宗,踏上修炼複仇之旅。爱恨交织,情仇相生,爱或能愈恨。命运多舛,缘起缘定,天命之子竟与杀父仇人之女坠入情网,又与杀母仇人之子结拜手足。取舍之间,犹...
陆阎穿越到了一个奇特的世界,每隔一段时间整个世界都会迎来一次版本更新。昨日还是问道长生的仙侠版本,今天便会化作遍地丧尸的废土末日。上一秒真神降世俯瞰诡秘世界,下一刻人类联邦探索群星遨游星海。在变化万千的世界之中,众生随波逐流,唯有陆阎独立于诸多版本之外。在仙侠版本谋求功法,在末日版本祭炼万魂,于都市版本开启灵气复苏搅动大势,从诡秘世界传播仙道途径攫取神位。当陆阎之名传遍诸多版本之时,他早已凌驾于群仙众神之上。...
用优美的文字记录生活,用丰富的情感表达思想!......
天地灵气复苏,凶兽横行……世界各地秩序崩坏。新的时代,庆阳却一觉醒来,重生到了一条黑蟒身上,身份也从老公,变成了御兽。......
【喜欢嘤嘤嘤女主的慎入】\n【本书又名—我,区区扎纸匠,你却让我破大案】\n岳东去联动营业厅替去世的爷爷办理销号时被工作人员刁难。\n“按规矩,必须要本人才能办理!”\n“规矩就是规矩!必须遵守!”\n岳东被气笑了,挥手施展扎纸匠的手段将去世的爷爷请了上来。\n工作人员吓得当场大小便失禁进了医院!\n岳东也被带去了治安所。\n岳东:“冤枉啊,我只是按照工作人员的要求把本人请上来而已。”\n治安员只相信科学。\n“真把当我们憨憨?来,我这里刚好有个案子,现场给我们表演一个!”\n岳东无奈,挥手:“太上老君急急如律令!!!”\n下一秒,治安员麻了!这家伙是真能啊!\n岳东一出手便帮治安所破获了一起弑父案,整个治安局震惊!\n太好了,国家就需要你这样的特殊人才,请务必来我们部门!!!...