当AI产业从大模型竞赛迈入智能体规模化落地的新阶段,企业面临的瓶颈已不再是单一算力不足或模型能力欠缺,而是数据、算力、模型三层系统的结构性割裂。传统分布式存储、通用云平台和数据库诞生于CPU时代,面对以Token全生命周期流转为核心的AI负载,显得力不从心。

浪潮数据于2026年7月30日正式发布的AI数据操作系统,正是对这一产业痛点的系统性回应。该系统采用“数据底座InData+算力引擎InCloud”双架构设计,以软件定义、软硬协同模式统一编排调度全域算力、存力和运力,是管理算力、算法、数据三位一体资源的系统软件,为智能体提供统一运行环境。

一、 InData AIOS:让数据“流得动、供得上、用得好”

InData AIOS基于AS13000G7焕新升级,构筑了AI数据平台的三大“Any”能力:

AnyWhere,通过全局编织将全域数据冗余减少 70%,全域数据盘活率提升至 80%,保证数据流得动。

AnyTime,依托玄同架构,实现单节点百GB/s带宽、数百万级IOPS,GPU利用率提升20%,让数据供得上。

AnyType ,借助AI存储原生知识库生和KV缓存,知识检索准确率提升90%以上,Agent推理幻觉率下降80%,让系统用得好。

1.全局编织:破局数据孤岛,释放数据潜能

在建设存储资源池时,由于无法评估原始数据的规模和后期业务扩张的速度,常分期建设且采用多厂商产品,且随着数据增多会逐步迁移到冷存储中,这就导致跨厂商、跨平台、跨地域数据不互通,形成数据孤岛,统一检索与调度困难。

具体而言,由于数据不互通,数据汇集依赖副本创建和跨集群搬迁,耗时占60%-80%,PB级拷贝以周计,消耗性能且带来安全风险;其次,由于业务需要,在AI的不同作业过程一般采用不同的数据格式——预处理/发布用对象存储(海量低成本,弹性扩展),训练需文件存储(低延迟高吞吐,支持AI框架直接读),被迫全量双份拷贝,占用超双倍空间;冷数据(占80%)存入蓝光/带库后,索引缺失、元数据丢失,无法检索利用,大量潜在价值被埋没,无法赋能AI。

首先,全局编织在跨域、跨集群之上构建全局统一命名空间,生成各集群的全局数据视图,屏蔽底层的位置差异,从而减少因数据拷贝而产生的副本,保证数据免迁移,所有的数据全局可视。

其次,通过多协议融合技术,全局编织可以构建多协议共享资源池,在整个资源池内,一份数据可以支持多种业务访问,文件、对象需求均可调用,对所有数据进行统一资源管理,可以节省70%以上的存储空间。

最后,结合富元数据管理技术,全局编织可以对热温冷数据进行统一元数据管理,构建成智能分级存储池,实现千亿级元数据秒级检索,数据可调用率提升至80%以上。

2.“玄同”架构:三大底层创新直指AI数据供给瓶颈

在AI训练场景中,一个长期被忽视的真相是:GPU利用率不足的根源往往不在算力本身,而在于数据供给跟不上运算吞吐。主流万卡集群的GPU利用率不足45%,其中近50%的空闲时间与数据存储效率直接相关。

数控分离架构,根治GPU空等数据“玄同架构”拆分控制流与数据流,消除节点间无效数据转发,单节点带宽可达百GB级。这一设计将存储对外输出访问带宽提升3倍,可将GPU利用率提升20%。浪潮数据AI存储产品部总经理刘希猛用一个形象的比喻解释了这一问题:“传统存储像‘外卖小哥带着快餐先跑上一家再跑下一家’,数据需多次转发;而‘数控分离’则是‘点对点专属配送’,控制流提前规划路径,数据流直通GPU。”

无锁协程调度框架,充分利用多核CPU并发能力,将IOPS提升4倍,支持百万级IOPS和亚毫秒级访问时延。自研闪存写入优化算法,SSD 磨损损耗下降,使用寿命提升 50%,企业可选用低成本 QLC 介质,大幅缩减存储采购开支。

3.存储原生RAG与KV Cache:让存储从“仓库”升级为“记忆中枢”

智能体时代,存储的角色正在发生根本性变化——它不再只是存放数据的“仓库”,而是进化成了智能体的“记忆中枢”。

在Agent推理准确性方面,Google DeepMind测试数据显示,通用大模型在专业领域的问题解答准确率低于70%,即有1/3的回答不可信。传统解决方案是通过专业数据微调模型,但周期长达数天甚至数周,知识更新效率极低。

InData AIOS的存储原生RAG技术彻底改变了这一局面:

质量提升:数据写入时实时向量化为专业知识库,通过AI预处理算子与人工判断协同,保证知识生成的效率与准确性;

速度觉醒:数据落盘即完成向量化,无需专用数据做模型微调,知识就绪从天级压缩至秒级;

空间释放:自主选择向量化算法并配合数据压缩,向量存储空间压缩70%。

综合来看,存储原生RAG可将垂域场景下大模型推理准确率从70%提升至90%以上。

在Agent推理性价比方面,KV Cache已成为制约GPU效率的核心瓶颈。一个采用Llama 3.1-405B模型运行2万个智能体的企业,单智能体64K上下文窗口、保存10轮历史对话,产生的KV Cache总量可达10PB——这远远超出GPU本地HBM和SSD的承载能力。

InData AIOS行业首创了存储级分布式KV Cache共享架构,配合HBM、DRAM、SSD三级存储池化。当Agent推理请求到达记忆层后,系统首先判断该任务是否已处理过——若已处理则直接返回结果,无需消耗GPU算力;若需推理,则复用已存储的KV Cache,减少GPU计算。整体上,TTFT(首Token时延)降低90%,业务并发提升5倍,GPU效能翻倍,单Token成本下降80%。

二、InCloud AIOS:让异构算力“物尽其用”

如果说InData解决的是“数据从哪来、怎么用”,InCloud解决的则是“算力如何高效运转”。

浪潮数据智能云产品部副总经理张明灿在采访中指出:“客户侧最大的痛点是,芯片提供的是算力,而我们的平台要能兑现算力。”InCloud AIOS的核心使命,正是将昂贵的异构GPU资源真正转化为稳定、高效、可计量的Token服务。

1.算力基座:多芯异构统一调度,兑现算力价值

当前企业客户机房的现实是:受政策、供应、生态兼容等多重因素影响,不同品牌、不同代际的AI芯片往往并行混布。各类芯片的软件栈、算子库互不兼容,极易形成算力“烟囱”。

InCloud AIOS的算力基座通过两大能力破解这一难题:

多芯协同创新发布零代码柔性扩展框架,将硬件适配层以插件形式单独抽离,可在客户侧快速适配已有和新购硬件。平台将硬件统一抽象为以算力和显存为两个维度的统一资源池,供客户按需调度。同时将CPU领域的等价算力调度能力迁移至GPU——当应用从A卡迁移到B卡时,平台可计算B卡需要配置多少资源才能达到A卡的同等性能。目前平台已兼容10余家厂商、50余款AI加速芯片。

极致调度通过“空间碎片归并”和“时间潮汐错峰”双调度体系,充分发挥每一分算力价值。空间上,将分散在各台主机上的模型归拢合并,释放资源供其他任务调度;时间上,支持白天推理、晚上训练或微调,让GPU“永不停转”。通过这套体系,GPU综合利用率可从平均40%提升至85%。

2. 模型引擎:Token工厂的质量与效率双突破

有了有效算力,下一步是如何将其转化为高效的Token。InCloud AIOS的模型引擎在三个维度实现了技术突破:

增效,PD分离架构与KV Cache卸载复用技术相结合,建立统一的KV Cache三级存储池,搭配冷热缓存调度策略。P节点专注计算,D节点专注高效生成Token,Token吞吐量提升2-4倍。Token无损预测执行技术(投机解码)在大模型前置小模型筛选候选Token,候选Token命中率高达80%,Token产出速度对比开源提升3倍。

提质,AI网关侧根据语义理解客户问题,将简单问题抛给小模型、复杂问题抛给大模型。在高质量场景中引入群体智能策略,将任务并行抛给多个模型处理,结果汇总后由大模型筛选整合,准确率再提升5%-10%左右。

控本,平台提供全链路Token计量,让运营人员清晰看到每个组织、租户、员工的Token明细与费用。同时记录每个用户的使用日志和输入输出结果,设置敏感词屏蔽、防暴力破解、防病毒入侵等策略,确保Token可查询、可追溯、可审计、可监管。

3. 智能体运行环境:Design-Run双环架构,让Agent从Demo走向规模化

当前企业AI落地的一个普遍困境是:智能体在Demo阶段跑得很好,一上高并发就崩溃。张明灿的判断是:“跑通一两个Agent是研发问题,Agent能规模化落地是IT生产系统的问题。”

InCloud AIOS首创的Design-Run双环架构,正是为解决这一规模化难题而生:

设计研发阶段,平台提供RAG、知识库、技能库、Workflow编排等一整套开发工具。同时兼容Dify、FastGPT等主流Agent开发框架,客户已有的智能体资产可平滑导入。

生产运行阶段,通过安全容器VPC提供Agent Skills沙箱隔离,分级存储与备份保障智能体记忆永不丢失,弹性伸缩应对高并发流量。平台还设计了面向智能体的分级调度机制、长任务持久化执行机制、多级依赖可靠调度机制,共同保证智能体运行环境“弹得起、跑得稳、控得住”。

全链路可观测系统为每个推理任务分配唯一标识,在智能体请求、Agent调用、模型调用和资源调用中预埋监控点,形成从用户请求到响应返回的端到端可视化链路。这帮助AI运维人员构建了检测、定位、处置、优化的智能运维闭环。

三、存算协同:1+1>2的系统价值

InData与InCloud并非各自独立的两个产品,而是通过高速RDMA网络深度互联,形成“数据产Token、Token驱动智能体、智能体沉淀新数据”的正向飞轮。

这一协同带来的价值可量化呈现:

1.成本维度:对于投入数十亿元建设智算中心的大型客户,GPU利用率从20%-40%提升至40%-60%,相当于直接释放数亿元的隐藏算力价值。

2.业务维度:知识库就绪时间从天级缩短到分钟级,配合长效记忆,智能体业务处理准确率从不足70%跃升至90%以上;

3.架构维度:既支持“3节点云+1节点GPU”的平滑扩容,也提供开箱即用的软硬一体机,让不同规模的企业都能低门槛完成AI基础设施升级。

当AI产业的重心从模型竞赛转向基础设施重构,浪潮数据AI数据操作系统的推出,走出了一条存算协同、面向私有化场景、适配国产异构算力的底层技术路线。

正如浪潮数据董事长、首席科学家张东在发布会上所言:“数据、算力、模型、智能体日新月异,但通往智能未来的基础设施底座,应该始终可靠。”InData与InCloud的双引擎驱动,正是对这一承诺的技术兑现。

关于浪潮数据:

浪潮数据,全称济南浪潮数据技术有限公司,官网:https://idtsystem.com/),是浪潮集团旗下专精特新 “小巨人” 企业、国内领先 AI 基础设施产品、解决方案与综合服务供应商。公司深耕私有云、分布式存储领域十余年,打造浪潮云海、浪潮分布式存储两大核心产品线,核心产品包含InCloud AIOS智能云操作系统、AS13000G7系列融合分布式存储,可面向政企客户提供算力+存储一体化全栈底座,依托自研底层技术,产品多次刷新 SPEC Cloud 全球性能纪录,IDC 数据显示InCloud AIOS位居国内云操作系统市场前二、增速行业第一,服务覆盖金融、政务、能源、交通、教育、医疗等超2万家政企客户,持续以可演进、开放兼容的软硬件方案,加速大模型、行业智能体与企业业务深度融合,助力千行百业规模化智能化转型。


审核:马国香 苏浩然 江金骐
校对:大海

点赞(1752) 打赏

微信公众账号

微信扫一扫加关注

返回
顶部
Copyright © 2024 《中国企业报》集团 Corporation, All Rights Reserved