您现在的位置是:焦点 >>正文

XSKY发布AIMesh全栈方案,宣布1%硬件成本实现“无限上下文”

焦点342人已围观

简介新浪科技讯1月15日晚间消息,近日,XSKY星辰天合发布专为AI场景打造的全栈AI数据方案,宣布通过MeshFS、MeshSpace、MeshFusion三大核心产品,打破制约AI效率的IO墙、数据重 ...

  新浪科技讯1月15日晚间消息,发布方案近日,全栈XSKY星辰天合发布专为AI场景打造的宣布全栈AI数据方案,宣布通过MeshFS、硬件MeshSpace、成本MeshFusion三大核心产品,实现上下打破制约AI效率的无限文IO墙、数据重力墙和内存墙,发布方案助力企业构建高效、全栈可控的宣布AI工厂。

  大模型时代,硬件算法同质化趋势愈发明显。成本企业真正的实现上下差异化竞争优势,藏在自身独有的无限文“专有数据”里。但这些承载企业核心经验与价值的发布方案数字资产,因安全合规要求无法向外溢出,如何在私有环境内实现价值转化,成为企业AI转型的关键命题。

  此外,传统存储架构难以支撑私有高价值数据的高效转化——将直接导致企业在大量AI训练与数据工程场景中GPU利用率被I/O等待拉低至30-50%,极端情况下更低。因此导致的算力空转,也将导致IO墙让存储读写追不上算力吞吐,内存墙限制模型参数的爆发式增长,重力墙让跨域数据流动成本高企,形成新的数据孤岛。

  如何守住数据安全的同时打破效率瓶颈,成为企业AI落地的核心诉求。而XSKY把握这一趋势,以全栈AI数据方案筑牢数据安全底线,搭建私有化、可控的AI数据底座,让企业在私有环境内,安全地将这些专有数据转化为智慧。

  据悉,XSKY通过架构创新——提出AIMesh数据与内存网,通过训练数据网MeshFS、全局对象网MeshSpace、推理内存网MeshFusion“三网合一”的创新架构,精准击破“IO墙、重力墙、内存墙”三大痛点,实现“快、通、省”的核心价值。

  针对算力吞吐远超存储读写,GPU利用率低的瓶颈,MeshFS融合XGFS成熟的POSIX语义与XSEA全闪底座的极致性能,支持POSIX/S3/HDFS全协议互通,无需修改Python或TensorFlow训练代码即可运行。全分布式架构让性能随节点数线性增长,元数据处理延迟低至微秒级,实测顺序读带宽比同类产品提升30%,顺序写带宽超出行业水平50%,有效解决了数据供给滞后问题。

  针对AI推理的超长篇上下文导致KVCache被高度占用及显存(HBM)成本不断攀升,MeshFusion将服务器本地NVMe SSD 转化为L3级外部内存,以1%的硬件成本实现近乎无限的上下文窗口。实测显示,其与纯DRAM的性能差距控制在10%以内,高并发场景吞吐量线性增长,资源受限状态下甚至能实现20%性能反超。(文猛)

海量资讯、精准解读,尽在新浪财经APP

责任编辑:何俊熹

Tags:

相关文章

  • 买菜窍门大集合 锁住营养不花冤枉钱

    焦点

    一日三餐不可无菜,买菜是每天的必修课,可面对五花八门的菜怎样才能分辨哪个更好呢?窍门大集合,看了不会再被蒙。1.土豆:没有破皮的,尽量选圆的,越圆的越好削。皮一定要干的,不要有水泡的,不然保存时间短, ...

    焦点

    阅读更多
  • 非氪金玩家也可变土豪《醉武侠》可得元宝

    焦点

    不管是玩过游戏的照样没有玩过的小伙伴们都知道元宝是个好器械,实际中拥有元宝也便是资源可以让本身一夜暴富,同样在游戏中分开元宝想要成为王者是年夜年夜的不太实际滴。r玩家就不消多说了,那么布衣玩家有哪些赚 ...

    焦点

    阅读更多
  • 智能垃圾分类设备来了

    焦点

    日前,记者在淑华园小区看到,垃圾分类督导员正在智能垃圾分类设备前,认真指导小区居民投放垃圾、兑换物品。智能垃圾分类,已经走进我们的生活!智能垃圾分类设备正式落户淑华园、雅馨园、珍宝园等小区,并将在小区 ...

    焦点

    阅读更多