解决方案
Akamai宣布推出战略级解决方案成本可降低86%
【环球网科技综合报道】4月17日消息,Akamai宣布推出战略级解决方案Akamai Cloud Inference。据悉新闻中心,这款基于其全球分布式云平台打造的AI推理解决方案,以突破性的性能指标引发行业关注——与传统超大规模云架构相比,其吞吐量提升3倍、延迟降低60%,成本降低86%。
在生成式AI应用爆发的背景下,企业逐渐意识到大型语言模型(LLM)训练与推理环节的架构差异。彭博社预测到2032年AI推理市场规模将达1.3万亿美元,其他多份近期报告也印证了这一判断。这一市场转变预示着2025年将成为分布式AI推理加速发展的元年。
训练如同绘制地图,需要集中式超算中心;而推理更像是实时导航,必须在靠近用户的边缘发生。Akamai云技术部门首席运营官兼总经理Adam Karon分析称,2025年大约有75%的数据将产生于传统云区域之外(Gartner数据),传统云架构在响应速度、数据传输成本等方面已稍显疲态。
在此背景下,Akamai推出Akamai Cloud Inference的解决方案,依托其覆盖130个国家、4200多个节点的分布式网络,构建了独特的云-边协同架构。通过与NVIDIA、VAST Data等生态伙伴的深度整合,该解决方案提供从GPU加速计算、向量数据库实时检索到WebAssembly边缘执行的完整技术栈。
Akamai通过整合VAST Data实时数据访问、可扩展对象存储及Aiven/Milvus向量数据库技术,构建了支持检索增强生成(RAG)的智能数据架构,实现微调模型的安全存储与全球范围的低延迟AI推理。
据悉,Akamai与Fermyon等 Wasm 提供商合作产品展示,集成WebAssembly技术,使开发者能够借助无服务器架构直接在边缘端执行轻量化LLM推理,为延迟敏感型应用提供支持。(青云)
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
海外漂泊3000天!贾跃亭数度哽咽:散户救了我们的命,乐视8年巨亏367亿,市值蒸发1700亿
南阳市八中2025年中招招生简章(附各初中学校招生负责人电线年南阳市油田第一中学招生简章
高考恋爱一百天之后的第十年,我活成了一事无成的啃老窝囊废/
主站 商城 论坛 自运营 登录 注册 高考恋爱一百天之后的第十年,我活成了一事无成的啃老...
《巫师4》全新演示技术介绍:虚化5打造逼线》希里新形象引狂欢:酷飒的猎魔人女王回来了!
2025-06-14 19:32:19
浏览次数: 次
返回列表