伊人生活网-时装周-本文
浪潮信息AIStation推理平台是企业级AI推理服务平台
2020-07-11 13:25:21 文/kh
4月9日,2020浪潮云数据中心合作伙伴大会(IPF2020)在线上举行,浪潮重磅发布全新AIStation人工智能推理服务平台,这是业界首款智算中心算力调度软件产品,是专为企业级AI生产环境打造的AI推理服务平台,可实现推理服务资源敏捷调配,支持多源模型统一调度,使模型部署从几天缩短到几分钟,将有力地帮助企业轻松部署AI推理服务,从而大幅提升AI交付和生产效率。
当前,AI模型开发进入到生产部署阶段面临着多重困难和挑战:AI模型需要经过大量的调试和测试才能部署上线,这一过程通常需要2-3天;AI线上服务计算资源一般较固定,对于突发需求资源响应慢,业务扩展难;AI模型来源不同,统一管理也很困难。企业希望可以无缝衔接AI模型训练开发与推理部署,进行高效的资源调度和模型管理,缩短业务上线周期。
最新发布的浪潮AIStation推理平台是企业级AI推理服务平台,通过弹性可伸缩架构、低延迟轻量化设计、A/B测试滚动发布、多模型加权评估等重要技术创新,帮助企业高效利用AI计算资源,快速部署推理服务。AIStaion推理平台具有一键部署、快速响应、日志监控、资源管控、数据处理等功能,是功能全面强大的AI资源平台。
AIStation推理平台支持本地On-Premise和云端Cloud部署,保证服务的可获得性和业务连续性,实现了AI模型从开发环境到生产部署繁杂过程的自动化快捷操作,将模型部署时间从两三天降低到几分钟。
在资源调度方面,AIStation推理平台能够敏捷调配服务资源。采用创新的弹性可伸缩架构,可根据推理服务资源需求的变化及时调整资源配给,将响应突发需求的实例部署时间从几小时缩短到几分钟。并且支持新模型发布前A/B测试,在实际业务场景中验证模型有效性,保证推理业务的安全、可靠,同时避免了流量切换所导致的集群负载压力。
在模型管理方面,AIStation推理平台实现了多源模型统一调度。通过统一平台管理多源、多场景模型的推理服务,实时掌控全局资源,对模型服务实现综合调度和动态部署。同一资源池可同时支持多家模型服务,将资源利用率从40% 提高到80%。并且可实现多模型加权评估,通过对不同预训练模型的计算结果进行自定义权值设置,有效提升实际业务场景中预测结果的可靠性,构建可靠可信的智能系统,有效降低误判率。
之前浪潮推出的AIStation训练平台已经获得广泛应用,该平台通过计算资源细粒度调度、训练数据缓存加速、分布式训练自动编排等策略,使用户的AI计算资源利用率提高到90%以上,大幅缩短了模型开发周期。随着本次浪潮AIStation推理平台的面世,AIStation资源平台全面支持训练与推理两大场景,实现从模型开发、训练、部署、测试、发布、服务的全流程一站式高效交付。
浪潮AI&HPC总经理刘军表示:“智算中心是人工智能新基建,它生产和供应人工智能计算力,是社会经济运行的智慧基础设施。而要让智算中心充分释放算力,就需要按需灵活调度算力。AIStation对于智算中心新基建的意义,就相当于电厂和电网的核心调度系统,它能够根据AI应用需求高效调度AI算力资源,帮助企业加速AI研发创新、提速AI生产交付,让企业更专注于AI开发本身,从而赋力更多创新可能,加速AI落地应用。”
浪潮是人工智能计算的领导品牌,AI服务器中国市场份额保持50%以上,并与人工智能领先科技公司保持在系统与应用方面的深入紧密合作,帮助AI客户在语音、语义、图像、视频、搜索、网络等方面取得数量级的应用性能提升。浪潮与合作伙伴共建元脑生态,共享AI计算、资源与算法三大核心平台能力,助力行业用户开发并部署属于自己的“行业大脑”,加速推进产业AI化落地。
声明:本站原创/投稿文章由伊人生活网编辑发布,所有权归伊人生活网所有,转载务必注明来源;文章仅代表原作者观点,不代表伊人生活网立场;如有侵权、违规,可直接反馈本站,我们将会作删除处理。
相关推荐
-
月经颜色鲜红正常吗(月经颜色暗红色有血块是什么原因)
月经颜色变化的原因与意义 女性的月经颜色可能会在不同的周期内有所变化,有时会出现鲜红色,有时则会变为暗红色并伴有血块。这些变化通常是正常的生理现象,但也可能与一些潜在的健康问题有关。 1. 鲜红色月...
2023-07-03853 关键词:月经颜色鲜红正常吗(月经颜色暗红色有血块是什么原因)
-
英敏特携手PCHi发布中国美妆行业蓝皮书,分享2023年美业开局机会点
2月15日,中国化妆品行业的年度技术盛会PCHi正式于广州开幕。作为长期合作伙伴,全球独立市场研究咨询公司英敏特除了持续在展会的创新技术展示区带来全球美妆创新产品的盘点之外,并在今年携手PCHi及多方...
2023-02-161926 关键词:英敏特携手PCHi发布中国美妆行业蓝皮书,分享2023年美业开局机会点
-
法拉利要抢LV的生意?一件风衣超4万元,法拉利的服装有何特点?
法拉利要抢LV的生意?一件风衣超4万元,法拉利的服装有何特点?接下来,和小编一起来看看吧。 备受外界关注的法拉利服装已经走下T台,即将与中国消费者合作“亲密接触”。赶在今年“双11”前夕,法...
2022-10-141963 关键词:法拉利要抢LV的生意?一件风衣超4万元,法拉利的服装有何特点?
-
出门游玩如何穿显气质?盘点成套穿搭,收获高颜值!
出门游玩如何穿显气质?盘点成套穿搭,收获高颜值!接下来,和小编一起来看看吧。 虽然国外有些地方因为疫情不能去玩,但是我们国内还是有很多好玩的景点可以去看看。即使在你的家乡附近,也...
2022-10-091974 关键词:出门游玩如何穿显气质?盘点成套穿搭,收获高颜值!
-
孩子学习用具有科学概念“傍身”,这些学习用具真的物有所值吗?
随着生活水平的提高,家长对孩子学习用具的要求越来越高。孩子们学习桌椅、脊椎书包、全光谱台灯等“特殊功能”学习用具受到家长的青睐。这些学习用具中的一些被贴上了标签“符合人体工程学”标签,有的...
2022-08-292084 关键词:孩子学习用具有科学概念“傍身”,这些学习用具真的物有所值吗?
网站热点
-
AI让老电影焕发“新生” 珍贵的影像资料得以更好地留存
AI让老电影焕发“新生” 珍贵的影像资料得以更好地留存近日,第十四届北京电影节开幕,全新4K版电影《A计划》和《卖身契》在“致敬·修复”模块首映。熟悉的画面让很多人想起了在电视机前看电影的温馨时光。不...
2024-04-2413 关键词:AI让老电影焕发“新生” 珍贵的影像资料得以更好地留存
-
叶诗文时隔8年再获奥运资格 收获巴黎奥运会200米蛙泳的参赛资格后
叶诗文时隔8年再获奥运资格 收获巴黎奥运会200米蛙泳的参赛资格后2024年全国游泳冠军赛和巴黎奥运会预选赛24日继续在深圳举行。奥运冠军叶诗文在女子200米蛙泳决赛中得到了2分22秒55分的最佳成绩...
2024-04-2514 关键词:叶诗文时隔8年再获奥运资格 收获巴黎奥运会200米蛙泳的参赛资格后
-
鲁迅家属向乐乐茶发律师函 乐乐茶联名推文已经删除
鲁迅家属向乐乐茶发律师函 乐乐茶联名推文已经删除4月23日世界阅读日,乐乐茶联合译林出版社,上线了“烟腔乌龙”联名鞋奶茶店,敬礼作家鲁迅。除开杯体印着鲁迅手捧着奶茶人像外,“烟腔乌龙”还搭配发布印着鲁...
2024-04-294 关键词:鲁迅家属向乐乐茶发律师函 乐乐茶联名推文已经删除
-
链游项目_3T游戏的多重玩法是噱头还是创新?
以太坊创始人Vitalik在2019年曾说:金融与游戏会是区块链最先落地的场景。随着区块链技术的不断演进,各层(Layer)架构的创新已成为推动该领域前进的关键力量。特别是,跨链与游戏的融合概念引起了...
2024-04-2512 关键词:链游项目_3T游戏的多重玩法是噱头还是创新?
-
韩国医学院教授辞职生效 医疗改革特别委员会当天正式出台
韩国医学院教授辞职生效 医疗改革特别委员会当天正式出台4月25日,据韩联社援引韩国医学界25日消息,国内各大医学院辞职教授当天起效。另一方面,韩国总统直属的医疗改革多边协商机制——医疗改革特别委员会当...
2024-04-2510 关键词:韩国医学院教授辞职生效 医疗改革特别委员会当天正式出台