DeepSeek后中国AI又传重磅消息,中国AI骄傲!百度宣布点亮自研万卡集群
创始人
2025-02-05 15:16:04
0

据介绍,无论是硬件还是软件,国产昆仑芯万卡集群以及未来三万卡集群的建设所面临的技术挑战是全方位的。而24年9月升级的百度百舸AI异构计算平台4.0,围绕落地大模型全旅程的算力需求,在集群创建、开发实验、模型训练、模型推理四大方面,能为企业提供“多、快、稳、省”的AI基础设施,在万卡集群的建设中发挥了至关重要的作用。

首先,突破硬件扩展性瓶颈,如卡间互联的拓扑限制,避免通信带宽成为瓶颈;同时,围绕芯片及集群功耗基于万卡规模常规方案功耗可达十兆瓦或更高,采用创新性散热方案,从而解决万卡集群的能效与散热问题;完善模型的分布式训练优化,采用高效并行化任务切分策略,训练主流开源模型的集群MFU提升至58%;在提升稳定性方面,提供容错与稳定性机制,避免由于单卡故障率随规模指数上升而造成的万卡集群有效性大幅下降,保障有效训练率达到98%;最后,针对机间通信带宽需求,建设超大规模HPN高性能网络,优化拓扑结构,从而降低通信瓶颈,带宽有效性达到90%以上

同时,昆仑芯作为国内自研的AI芯片,凭借其独特的技术优势,在百舸4.0的能力加持下,在生成式人工智能时代展现出了巨大的竞争力。

据专家介绍,未来一年,将是各种AI原生应用爆发的黄金时期。自研芯片和万卡集群的建成带来了强大的算力支持,同时有效提升百度和客户的资源整体利用率,降低大模型训练成本,推动了模型降本的趋势,为整个行业提供了新的思路和方向。

随着国产大模型的兴起,万卡集群已从单纯算力供给逐渐向“有效”算力供给过渡,通过模型优化、并行策略、有效训练率提升、动态资源分配等手段,智能调度任务,将训练、微调、推理任务混合部署,最大化提升集群综合利用率,降低单位算力成本,从而真正发挥算力效能。而随着本次万卡集群点亮和应用落地,相信国产昆仑芯万卡集群以及未来三万卡集群将会持续为企业提供源源不断的稳定、高效的算力动能。

相关内容

热门资讯

A 股之后再叩港股,宁德时代开... 2月11日晚,宁德时代新能源科技股份有限公司正式向香港联合交易所有限公司递交发行境外上市外资股(H股...
宜兴农商银行 全员发力迎战业务... 临近春节,宜兴农商银行迎来了一年中最为繁忙的时刻。 走进宜兴农商银行丁蜀支行的大厅,首先映入眼帘的是...
有企业“豪掷”近6亿元,家居建... 文/孙梅欣 刚从春节假期中复工的上市家居建材企业,已经积极展开了股票回购。 箭牌家居发布公告称,...
刚刚!已抵达福州!又要大反转 刚刚,我已抵达福州。这座充满活力与魅力的城市,仿佛带着一种独特的气息在迎接我。街头巷尾那熟悉又陌生的...
北京科锐中标约4.86亿元南方... 北京科锐2月11日晚间公告显示,公司在“南方电网公司2024年配网设备第二批框架招标项目”中中标预估...
事关电动车以旧换新!福建最新通... 请提供一下福建关于电动车以旧换新通知的具体内容,这样我才能据此写出200字的描述。 12日,福...
“塑料黄金”进入折扣渠道,好特... 【大河财立方 记者 王宇】近期,在资本市场火热的谷子经济、盲盒经济,在线下进入了折扣零售渠道。 2月...
多位首席合规官任职资格获准 助... 本报记者 熊悦 2月11日,华夏银行发布公告称,国家金融监督管理总局已核准杨宏担任该行首席合规官、刘...
上海独角兽维昇药业通过IPO聆... 图片来源:图虫创意 2月11日晚间,素有生长激素“千年老二”称号的安科生物(300009.SZ)发布...
世界泳联2024兴奋剂检测:接... 日前,世界泳联公布2024年对运动员进行兴奋剂检测的数据,中国游泳运动员占据前32位:其中多哈世锦赛...
提气!U20国足亚青赛2比1力... 2月12日,2025年U20亚洲杯(亚青赛)在深圳打响,凭借蒯纪闻和刘诚宇在上半场的两连击,U20国...
福田“明星”文旅企业Klook... 南都记者获悉,福田辖区“明星”文旅企业、旅游体验平台Klook今日宣布,完成1亿美元(约7.2亿人民...
可爱的“哈基米”,沦为互联网最... “哈基米”原本是一个可爱的、充满亲昵感的词汇,用于称呼小动物,尤其是猫咪。它带着人们对小动物的喜爱与...
启动赴港上市 宁德时代递交招股... 2月11日,宁德时代正式向香港联交所递交发行境外上市外资股(H股)并在香港联交所主板挂牌上市的申请。...
黄金价格再暴涨,大把现货黄金从... 黄金价格实在是涨得太离谱了呀!马上饰品黄金就要超过 900 块钱一克了,而国际黄金价格也飙着 300...
恒指量价齐升刷新年内高点 机构... 财联社2月12日讯(编辑 冯轶)今日港股再度转涨。收盘恒指、国指再度刷新阶段新高,分别收涨2.64%...
字节跳动概念股2月12日上涨,... 近日,字节跳动概念股板块表现亮眼,据证券之星数据显示,2月12日该板块表现突出,较前一交易日上涨了1...
贵犬与贱狗 用“贵犬”与“贱狗”这样的表述是带有歧视性和不尊重动物的概念。在动物世界里,每一只狗都是平等的生命个...
港股收评:恒指涨2.64%,恒... 2月12日,港股收盘,恒生指数收涨2.64%,恒生科技指数收涨2.70%。市场股票呈涨多跌少态势。板...