网宿科技推出边缘AI网关 助力开发者的AI构建之旅
创始人
2024-07-14 06:41:21
0

本报讯 (记者谢岚)7月11日,网宿科技宣布推出一项全新的AI服务——边缘AI网关,为企业用户提供安全、可靠、高性能、易观察的一体化模型服务管理方案,助力开发者的AI构建之旅。

据悉,网宿边缘AI网关旨在为企业在模型服务与AI应用之间搭建桥梁,无论是个人开发者还是企业,都可以借助网宿边缘AI网关,更加简易地管理和集成模型服务,从而更好地开展AI应用创新。

近年来,GPT大模型的横空出世,在全球掀起了大模型竞赛,随之而来的,AI在各行各业的应用加速涌现。在这种背景下,业界诞生了一种新的服务模式,即MaaS(Model as a Service,模型即服务)。模型提供商通过API接口,将大模型能力出租给第三方企业使用,允许企业通过HTTP请求或其他方式与之交互。服务提供商负责模型的更新和维护,企业可以直接享受到最新的模型改进。

不过,当企业使用多个模型或提供商时,面临着高昂的AI应用成本。而为了以最优成本利用各个AI服务商的模型服务,企业又面临着管理、运维难题。另外,在使用模型服务的过程中,企业还面临着敏感数据泄露、内容不合规等风险。

“针对以上种种挑战,业界需要一种可以降低管理和扩展模型服务难度、提升AI可用性和安全性的方案。网宿边缘AI网关可以解决这一需求,让企业和开发人员专注于构建AI应用程序,而不是管理复杂的集成。”网宿科技CDN产品研发总监曾智全表示。

具体来看,在一般情况下,企业管理其所接入的多个大模型,需要提前做一些集成开发。网宿边缘AI网关则提供了一个通用、一体化的解决方案。企业可通过统一的控制平台,创建边缘AI网关,添加通道,实现与多AI服务商模型对接,并且平台支持多模型服务的可管、可控、可观察。

曾智全进一步介绍,在实现多模型服务的高效接入与管理的同时,网宿边缘AI网关的核心价值,还在于确保模型服务的安全性、高性能以及可定制化。

据悉,目前,网宿边缘AI网关已开放限时免费测试,以支撑用户的AI体验。此外,网宿科技还深入企业应用,聚焦特定的AI场景,打造了边缘向量数据库、边缘模型推理服务等,计划下一步面向公众开放。

伴随AI技术的发展,网宿科技在AI领域的布局将不断深化。曾智全表示,网宿科技将持续构建更加敏捷、适应性更强、更安全的AI生态系统,让更多企业都能拥抱AI,从AI中获得创新与增长。

(编辑 汪世军)

相关内容

热门资讯

aapoker透视软件!har... aapoker透视软件!hardrock作弊(透视)切实是有挂(透明教程)1、操作简单,无需注册,只...
wepoke辅助!德州之星外挂... 1、wepoke辅助!德州之星外挂(透视)原先有挂(详细辅助推荐十款)2、进入游戏-大厅左侧-新手福...
wpk辅助购买!hardroc... wpk辅助购买!hardrock作弊(透视)果然是真的有挂(可靠技巧)1、下载好wpk辅助购买辅助软...
aapoker透明挂!wpk透... aapoker透明挂!wpk透视辅助工具(透视)从前有挂(详细辅助玩家必看科普)1、快速入门:当你通...
wepoker透视脚本苹果!h... wepoker透视脚本苹果!hhpoker为什么一直输(透视)一贯是真的有挂(爆料教程);暗藏猫腻,...
德州微扑克辅助!aapoker... 1、德州微扑克辅助!aapoker挂(透视)果然是有挂(详细辅助玩家攻略推荐);代表性(透视辅助软件...
wpk透视工作室!hhpoke... wpk透视工作室!hhpoker辅助(透视)总是有挂(软件教程)1、金币登录送、破产送、升级送、活动...
wepoke插件!德州微扑克辅... 1、wepoke插件!德州微扑克辅助(透视)起初是有挂(详细辅助科技分享);详细教程。2、德州微扑克...
wpk辅助插件!hardroc... wpk辅助插件!hardrock作弊(透视)确实是真的有挂(大神讲解)1、wpk辅助插件ai辅助优化...
wepoke有辅助挂!aapo... wepoke有辅助挂!aapoker辅助工具(透视)真是真的有挂(详细辅助玩家必看);人气非常高,a...