齐鲁网·闪电新闻8月30日讯 如何打通技术到产业化的最后一公里,是行业发展的共同课题。受限于算力成本高、数据采集难等因素,大模型行业长期面临需求高、产出难、产出慢的困境。山东企业浪潮云探索新模式,打造大模型的“超级学校”。
这是一座“奇怪”的工厂,原料不用进仓库、产线上面没工人、产品更是摸不着;这还是一座“万能”的工厂,化工、采矿、装备制造,它的产品可以走进千行百业。这里是浪潮人工智能工厂,国内首座打造大模型和智能体的实体化工厂。
记者韩盼盼:什么是大模型?扔掉晦涩的专业术语,我们可以认为大模型就是一个“超级学霸”,假如它看过一本《唐诗三百首》,那么它不仅记住了里面每个字,还吃透了内在的逻辑和关系,假如我让它用李白的风格写一首藏头诗,它很快就能完成,你给的数据越多,它会的就越多。而这样的“超级学霸”是怎么训练出来的呢?让我们走进它的“学校”。
正如人类要咿呀学语,大模型的诞生,也要从最初的学习开始。这个数据车间,就是它的启蒙课堂,庞大且高质量的数据集就是它的教材。在大模型学习前,这些数据要经历抽检、清洗、脱敏等预处理,但即便如此,这样的“教材”往往依旧不合格。
浪潮云信息技术股份公司工厂运营处工程师王天宇:以12345(政务服务便民热线)为例 ,它一般是投诉类或咨询类的偏多,相对应的真实数据像是感谢类、无效的,比如答错了这种类型的数据相对较少,那为了保障这个模型能处理不同的业务种类,我们需要给每种种类都扩充一定数量的数据。
这种扩充,也叫“数据增广”,工厂通过与各行业院所、高校合作,拿到更多的专业数据,再利用算法,变换、生成新样本,数据集的规模和多样性上来了,大模型的教材就“不偏科”了。此后,大模型将在模型车间充分学习,整个过程相当于人类的小学、初中和大学。
记者韩盼盼:大模型学习消耗的是算力,为了提高它的学习效率,这个车间用50千瓦的整机柜替代了普通数据中心的2.5千瓦整机柜,整个工厂布局了2000多台通算和智算服务器,智算算力超过1000P,这就相当于50万台高性能电脑的计算能力了。
在这样的算力支撑下,一个大模型很快会初具雏形。但此刻它能否成功“毕业”,还得经历一次严格的考试。在评测中心,系统正在为大模型出“考卷”。
浪潮云信息技术股份公司工厂运营处工程师胡浩宇:例如效果评测、安全评测,如果有5个答案,只有3个答案是回答正确的,这整体就是一个不合格的(大模型),会再重新返回模型车间进行一次训练,(考题)最多的能达到上千条或者是上万条。
整个评测过程没有人工作业,由工厂提前做好的“考官”大模型来操作,所以效率极高。过了这一关,大模型就相当于拿到了“毕业证书”,走出“学校”的它,多彩的人生才刚刚开始。
记者韩盼盼:我的大学专业是新闻学,现在是一名记者,像人类一样,学习了不同专业知识的大模型,也有各自擅长的工作岗位。瞧我身后正在跳舞的机器人,还有它的好朋友机械臂、机器狗,它们都是穿上了不同“工作服”的大模型,但它现在的身份,还只是“实习生”。
在集成车间,模型被“灌装”进设备,变成了这只即将投放到巡检岗位的机器狗,站在它身边的模型训练师,就像带教师傅一样,反复传授工作指令、巡检要点。
山东浪潮海若人工智能有限公司产品研发处工程师田昌英: 在我的仿真系统里去跑,去模拟各种状况,然后它去识别、自我优化,行业场景这一块(训练),基本上就是一个月到两个月,大部分在训练场就可以完成,差不多之后,我们会迁移到训练分场,比方说化工。
实习期过了关,大模型也就真正入了职,成为生产线、生产车间里的重要生产力。回顾这个“超级学霸”的养成路线,会发现它按部就班地走过了“十一个车间”,经历了61道标准化精密工序,这一整条工业化的流水线,正是浪潮云打通大模型产业化“最后一公里”的首创路径。
浪潮人工智能工厂负责人王刚:传统我们通过手工作坊去做人工智能的大模型、智能企业(软件),这个过程里面其实没有标准,我们是创新地提出通过标准化的工艺、工序和工具体系,来把手工作坊的模式转化为标准化的工业流水线模式,实际上它是一个模式创新,一方面是增效,第二方面就是降本。
大模型走出工厂,由它带来的工业和生活新场景正式开启,截至目前,这座工厂已在石化、钢铁、医疗等行业累计落地近千个智能体,为全国24个省市提供AI服务。
上一篇:焦糖玛奇朵 焦糖玛奇朵是咖啡吗