网宿科技推出边缘AI网关 助力开发者的AI构建之旅
创始人
2024-07-14 06:41:21
0

本报讯 (记者谢岚)7月11日,网宿科技宣布推出一项全新的AI服务——边缘AI网关,为企业用户提供安全、可靠、高性能、易观察的一体化模型服务管理方案,助力开发者的AI构建之旅。

据悉,网宿边缘AI网关旨在为企业在模型服务与AI应用之间搭建桥梁,无论是个人开发者还是企业,都可以借助网宿边缘AI网关,更加简易地管理和集成模型服务,从而更好地开展AI应用创新。

近年来,GPT大模型的横空出世,在全球掀起了大模型竞赛,随之而来的,AI在各行各业的应用加速涌现。在这种背景下,业界诞生了一种新的服务模式,即MaaS(Model as a Service,模型即服务)。模型提供商通过API接口,将大模型能力出租给第三方企业使用,允许企业通过HTTP请求或其他方式与之交互。服务提供商负责模型的更新和维护,企业可以直接享受到最新的模型改进。

不过,当企业使用多个模型或提供商时,面临着高昂的AI应用成本。而为了以最优成本利用各个AI服务商的模型服务,企业又面临着管理、运维难题。另外,在使用模型服务的过程中,企业还面临着敏感数据泄露、内容不合规等风险。

“针对以上种种挑战,业界需要一种可以降低管理和扩展模型服务难度、提升AI可用性和安全性的方案。网宿边缘AI网关可以解决这一需求,让企业和开发人员专注于构建AI应用程序,而不是管理复杂的集成。”网宿科技CDN产品研发总监曾智全表示。

具体来看,在一般情况下,企业管理其所接入的多个大模型,需要提前做一些集成开发。网宿边缘AI网关则提供了一个通用、一体化的解决方案。企业可通过统一的控制平台,创建边缘AI网关,添加通道,实现与多AI服务商模型对接,并且平台支持多模型服务的可管、可控、可观察。

曾智全进一步介绍,在实现多模型服务的高效接入与管理的同时,网宿边缘AI网关的核心价值,还在于确保模型服务的安全性、高性能以及可定制化。

据悉,目前,网宿边缘AI网关已开放限时免费测试,以支撑用户的AI体验。此外,网宿科技还深入企业应用,聚焦特定的AI场景,打造了边缘向量数据库、边缘模型推理服务等,计划下一步面向公众开放。

伴随AI技术的发展,网宿科技在AI领域的布局将不断深化。曾智全表示,网宿科技将持续构建更加敏捷、适应性更强、更安全的AI生态系统,让更多企业都能拥抱AI,从AI中获得创新与增长。

(编辑 汪世军)

相关内容

热门资讯

定增市场显著回暖,基金公司积极... 11月29日消息,进入四季度以来,A股定增市场明显回暖。Wind数据显示,截至记者发稿,今年10月份...
马斯达尔完成收购特尔纳能源的交... 11月29日消息,阿布扎比未来能源公司PJSC–Masdar(马斯达尔)宣布,已成功完成从GEK T...
盛松成:降准、降息仍有空间 11月28日消息,中欧国际工商学院经济学与金融学教授盛松成今日在一场演讲中表示,“我认为,未来一段时...
中信出版:《黑神话:悟空》衍生... 11月28日消息,中信出版在互动平台表示,公司将推出《黑神话:悟空》衍生画集《影神图》。
飞天茅台终端市场成交价格下跌,... 11月28日消息,近日走访部分终端市场发现,目前53度500ml飞天茅台散瓶装终端市场价格为2200...
香港证监会:中国森林前主席及前... 11月28日消息,香港证监会公布的信息显示,香港市场失当行为审裁处要求中国森林前行政总裁李寒春,及其...
中国贸促会会长任鸿斌:链博会核... 11月28日消息,中国贸促会会长任鸿斌一行27日下午到第二届中国国际供应链促进博览会(简称“链博会”...
《柳叶刀》最新研究:哮喘和慢阻... 11月28日消息,《柳叶刀》杂志发表研究称,贝那利珠单抗注射治疗哮喘和慢阻肺比类固醇片剂更有效,可减...
北京市市长殷勇会见新加坡政府投... 11月28日消息,北京市市长殷勇今天上午会见新加坡政府投资公司首席执行官林昭杰。殷勇说,二十届三中全...
江南布衣拟收购杭州目里品牌管理... 11月28日消息,江南布衣公告称,将以167.2万元人民币收购杭州目里品牌管理有限公司100%股权,...