从核心到边缘,开启AI时代的云基础设施新范式
AI尤其是生成式AI技术的快速发展,对算力基础设施提出了更高的要求,推动了智算数据中心的迅猛发展。与此同时,作为算力基础设施的一部分,边缘数据中心也进入了高速发展的时代。
Akamai与IDC联合发布的最新研究报告《边缘演进:从核心到边缘赋能AI的成功》显示,79%的受访企业认为,生成式AI已经或将在未来18个月内对其业务产生颠覆性影响。其中,37%的受访企业已将生成式AI应用部署到生产环境,另有61%的企业正处于技术测试与概念验证阶段。不难发现,这一趋势将对企业核心到边缘的云架构提出更高要求。
从核心到边缘演进,AI驱动基础架构变革
在AI技术的驱动下,企业IT基础设计正在经历着从核心到边缘的演进,这也标志着我们正在进入一个智能边缘时代。这个时代的基础设施需要具备更高的可扩展性、敏捷性和按需服务能力,且需实现从核心延伸至互联网边缘及用户侧的无缝连接。
Akamai亚太区与全球云架构师团队总监李文涛
“边缘计算正成为下一代数字创新的前沿领域,推动着“边缘演进”趋势,且迫切需要采用变革性方法构建高可靠性、面向未来的数字生态系统。” Akamai亚太区与全球云架构师团队总监李文涛表示,未来企业亟需构建现代化数字基座,将智能服务部署在更靠近用户与应用的位置。这种转变不仅关乎性能,还涉及成本、安全性和合规性等多重考量。
IDC与Akamai的研究提出了面向未来数字基础设施的六大核心支柱:AI就绪、生成式AI部署、现代化边缘IT、边缘优化架构、云端到边缘以及自主运营。这些支柱共同指向一个方向:企业需要构建整合“云-核心-边缘计算”的现代化数字基座。
报告调研了中国各行业的变革性应用场景,为用户呈现出一幅边缘AI落地的全景图。
零售业正在构建全渠道购物体验,制造业推进智能供应链应用与管理,电信业进行大规模用户实时数据分析,数字原生企业则优化内容交付网络并推出创新AI服务。
“边缘计算能够降低实时应用的延迟,缓解网络不稳定问题,帮助企业高效应对瞬息万变的商业和数据环境。”李文涛指出,企业正在加速采用边缘计算支撑其数字化环境,确保在与核心或云端资源断开连接时的业务连续性。这种连续性保证了AI可以持续为用户服务,提升了企业的业务韧性。
在生成式AI部署方面,研究报告发现了三类关键边缘应用场景:最普遍的是生成式AI在边缘的部署;其次是预测式AI,用于业务预测及未来数据推断;第三是视频编辑、处理、图形与仿真CGI等场景。
这些场景正在推动生成式AI加速计算资源的部署,通过GPU支持高性能应用,确保AI推理与服务的可扩展性。
笔者注意到,报告中还提到在中国采用生成式AI的企业中,96%会利用公有云IaaS承载训练与推理工作负载,该比例高于亚太地区平均水平。对中国企业而言,边缘计算还支撑其更好地“出海”,在全球范围内提供更具竞争力的AI相关应用。结合强大的本地化创新能力,边缘AI为中国企业出海带来更多新商机与业务场景。
除此之外,报告还将驱动生成式AI部署的关键边缘应用场景进行了排序:生成式AI在边缘的部署是最普遍的场景;其次是预测式AI,用于业务预测及未来数据推断等;第三类是视频编辑、视频处理、图形与仿真CGI等场景。最后,还有解释性AI、远程信号采集与网络优化,以及与运营技术相关的边缘AI场景。
“这些多样化的应用场景表明,边缘AI正在从实验性项目转向核心业务支撑系统。”李文涛如是说。
AI技术催生多种挑战,企业面临安全和多云双重难题
随着AI应用的普及,也带来了多云架构管理复杂性难题,此外安全问题也愈发凸显。
刘烨 Akamai北亚区技术总监
Akamai北亚区技术总监刘烨在分享会上详细阐述了AI时代面临的安全挑战。他表示,与AI相关的安全是近年来的热门话题。OWASP多年前发布了各安全领域的TOP10风险,几年前推出了API相关风险清单,而两年前又针对LLM大模型发布了相关风险清单。
刘烨指出,AI安全风险主要来自两个方面:一是大模型交互与调用中的风险,许多大模型调用通过API实现,需要确保API接口能持续提供数据且不受安全隐患干扰;二是大模型本身带来的新风险,例如“提示词注入”攻击。
刘烨用一个经典案例进行了说明:雪佛兰的聊天机器人在与用户交互时,被用户通过提示词注入引导,最终承诺以1美元售价出售车辆,这是典型的提示词注入风险。
针对这些新威胁,Akamai在今年5月推出了Firewall for AI,专门应对AI大模型的安全风险。这一解决方案体现了Akamai对AI新威胁形态的快速响应。
除了安全难题,企业还将面临着多云复杂性的管理挑战。报告指出,49%的企业因“多云”复杂性,难以管理多云环境,这一挑战在生成式AI快速发展的背景下尤为值得关注。
“这是我们与客户CIO交流时常见的反馈。”李文涛表示,“在生成式AI背景下,这一挑战愈发严峻。”
许多企业正在尝试多云管理,包括自研多云管理软件,以弥合多云间的能力差异与接口差异等。但更大的挑战在于出海环境中,海外各国存在异构的运营商网络与云环境。
如何通过技术手段实现多云间的网络连接及AI负载在多云间的无缝数据传输,是企业需重点考虑的问题。
Akamai的云计算基础设施与全球头部“三大云”及中腰部云企均建立了高性能的物理专线连接,具备高度的多云友好性,这也是许多出海企业倾向于与Akamai云合作的原因。
据笔者了解,Akamai早在27年前就开始布局全球分布式边缘云,其全球云服务平台是一个集云服务、云安全和CDN服务三位一体的全球分布式的计算平台。该平台覆盖全球130个国家的1200多个运营商网络,拥有超过4400个边缘节点和31个核心云计算节点,形成了无与伦比的全球覆盖能力。
尽管资源积累充足,Akamai平台仍十分注重“多云”兼容性,与全球主流云平台在网络及技术上均实现了打通。这使得用户选择Akamai边缘平台部署AI应用时,无需担心兼容性及多云互联互通问题。
刘烨补充道,Akamai在帮助中国企业‘出海’过程中,一直以技术合作伙伴的身份提供支持。企业在海外获取的计算资源不仅限于数据中心级资源,对计算的需求可分为多个层级。这种灵活性使得Akamai能够满足不同场景下的计算需求,从轻量级计算到复杂业务逻辑的高算力需求。
CIO实践指南, 从核心到边缘的八大最佳实践
在本次研究报告中,还专门提出了“CIO指南:从核心到边缘实现数字化转型成功的八大最佳实践”,为技术领导者提供了明确的行动路线图。
这八大最佳实践包括:战略与业务目标一致;加强治理与安全;通过自动化简化管理;运用FinOps成本优化方法论优化云和AI推理成本;投资培训与AI技能提升;确保集成与互操作性;制定全面的数据管理策略;构建生态化协同体系。
“构建AI程序离不开高质量数据(包括训练与推理数据)。”李文涛强调。数据策略成为AI成功的基石,而生态合作则是应对复杂技术环境的必然选择。
这些实践建议反映了从核心到边缘的数字化转型不仅是一场技术变革,更是组织、流程和合作模式的全面演进。
总结:开启分布式智能时代的基础设施新范式
从核心到边缘的演进,标志着我们正在进入一个分布式智能时代。
随着人工智能与生成式AI应用的加速普及,中国企业也需建立跨部门协同治理机制,以管控AI带来的相关风险及合规需求。构建融合强效数据治理实践的稳健数据架构,确保数据的可访问性、可靠性与安全性。在边缘侧部署时,也需前瞻性规划基础设施与网络连接需求,帮助企业应对运营复杂性、应用可移植性、成本管理、安全隐患、延迟等各类挑战。
正如李文涛在分享最后所述,现代化数字基础设施需具备更高的可扩展性、敏捷性和按需服务能力,且需实现从核心延伸至互联网边缘及用户侧的无缝连接,以支持实时创新需求。无论是训练还是推理,公有云IaaS正成为部署生成式AI的首选方案,并推动中国公有云服务市场增长。