策无遗算网

策无遗算网

全部分类 休闲

浪潮信息发布AIStation V5,全面支持大模型开发流程与高效算力调度

浪潮信息发布AIStation V5,全面支持大模型开发流程与高效算力调度

北京2024年7月11日 /美通社/ -- 7月9日,浪潮力调在"元脑中国行"全国巡展济南站上,信息型开效算浪潮信息发布AIStation 人工智能开发平台V5升级版,发布发流具备全面的全面大模型流程支持能力,帮助企业用户降低构建大模型微调任务门槛,支持提供标准、大模度安全的程高大模型推理服务,并针对大模型业务资源需求优化了集群管理功能,浪潮力调助力行业客户快速开展大模型业务创新与落地,信息型开效算获得稳定、发布发流高效、全面易用、支持高精度的大模度大模型服务。


随着大模型技术与产业化发展的快速迭代,企业用户在大模型开发和应用的浪潮力调过程中面临诸多新的挑战。一方面,用户在大模型微调过程通常会遇到环境算法配置复杂、模型结构多样适配繁琐、算力资源管理难等问题,模型精度难以提升;另一方面,在部署本地化、私有化大模型时,会面临部署经验不足、性能优化瓶颈、算力资源利用不合理等挑战,难以在保障数据与业务隐私的条件下构建和使用本地化大模型应用。

AIStation V5版本功能全面升级,支持端到端的大模型开发流程,新增适配50+大模型结构,内置10+微调数据集和20+可配置参数项,提供低代码大模型微调能力,让用户一键提交任务、统一管理任务,低门槛构建大模型微调任务、优化模型性能。同时,针对大模型算力资源占用高、训练稳定性难保障的问题,AIStation V5升级了针对大模型训练与微调的分布式任务一键配置能力,帮助用户高效、稳定地进行大模型微调。

AIStation V5集成了高性能推理服务框架,同等算力大模型批量推理服务承载量较原生部署方式提升1-3倍。通过对算力、服务、业务访问的全方位治理,以及多样化的推理服务部署机制,AIStation V5可以满足不同场景下用户自研模型的部署需求,让用户能够在大规模集群内更加细粒度的分配调度算力,部署和使用不同来源、不同结构、不同规模的大模型推理服务,就像在本地部署单个大模型、传统AI应用与服务一样简单。

此外,AIStation V5针对大模型业务特点持续优化集群管理核心功能,支持平台管控的数据模型下载任务管理和导入流程,实现了分钟级大模型训练异常自动恢复,能够有效降低大模型相关业务的人力投入和管理成本;优化升级算力池化与分配策略,实现多团队开发人员共用流程、共享环境,开发者与算力高效协同,助力企业客户提升各类AI创新业务的整体效率。

浪潮信息AIStation是面向企业级训练与推理场景开发的人工智能开发平台,实现从模型开发、训练、部署、测试、发布、服务的全流程一站式高效交付。通过统一管理计算资源、数据资源、深度学习软件栈资源,以及支持大模型业务全链条,AIStation能够为企业用户提供敏捷高效的一体化AI平台,加快AI开发应用创新落地。

友情链接: FILA支持巴黎2024奥运会中国香港代表团团服发布会 引领专业运动时尚明星甜品大厨Yazid Ichemrahen掌舵巴黎莱佛士皇家蒙索酒店糕点部软通动力携手华为云全面深化技术与服务能力"廿年携手,共赢新篇" Medtec China 二十周年新闻发布会于上海成功举办“渝”你同行!2024澳网中国业余挑战赛重庆站圆满收官再创佳绩!宁德时代天恒储能系统海外发布西门子能源获得15亿美元订单,为沙特阿拉伯提供高效联合循环发电技术、设备和服务"廿年携手,共赢新篇" Medtec China 二十周年新闻发布会于上海成功举办佳洁士健康笑容保护计划走进武汉辛安渡小学天学网教师端全新升级,聚焦用户体验,助力数字化教学双效提升旅游和创意经济部在学校假期期间推出"Wonderful Indonesia 2024学校假期联合品牌"活动博腾生物引进MaxCyte流式电转技术平台,持续为客户提供高标准端到端的细胞与基因治疗CRO & CDMO服务万豪旅享家推出“馆你好好玩”主题活动,缤纷体验点亮精彩文博之旅TÜV NORD集团CEO Stenkamp博士与代表团陪同德国副总理哈贝克访华通宇通讯亮相2024年世界移动通信大会上海,体验更高水平的连接

外链: