新智元报道

编辑：peter东 乔杨

【新智元导读】经过了LLM、RAG、多模态等多轮技术风口的洗礼后，AI智能体的应用现状究竟如何？Langbase公司最近发布的调查报告通过11个关键问题，为我们提供了一份有价值的现状切面。

2024年，AI智能体技术无疑是科技界的焦点。

通过对来自100多个国家的3400名开发者进行深入调查，Langbase公司近日发布的一项报告揭示了智能体开发中的关键问题。这项调查的受访者中，有46%是企业领导层，26%是工程师。

Langbase专注于提供无服务器的AI云开发体验。作为一个提供可组合基础设施的AI平台，他们在2024年一共处理了来自3.6万开发人员的1840亿个token和7.86亿个API请求。

提起Langbase这个名字，你也许不太熟悉。事实上，这家公司非常年轻，2023年刚刚成立。

根据Crunchbase披露的数据，他们刚刚才在9月份进行了pre-seed轮融资，但已经得到了谷歌、苹果、OpenAI、微软等大厂高管们的资金支持。

下面就让我们一起来看看这家年轻有为的Langbase发布的这份图文并茂的报告中究竟提到了哪些内容。

问题1：开发者在使用哪些基座大模型

在这场AI智能体的竞赛中，OpenAI的大模型服务占据了主导地位，但谷歌正迅速崛起，成为其强劲的竞争对手，Anthropic紧随其后。

其中，Meta的Llama、Mistral和Cohere虽然影响力较小，但增长势头不容忽视，显示出基座大模型市场的激烈竞争。

问题2：不同大模型对应的的具体用途

OpenAI在翻译任务中被广泛应用，Anthropic在技术任务中备受青睐，而谷歌的模型在健康和翻译领域占据主导地位。

此外，Meta在科技和科学应用中得到了广泛使用，Cohere也在多个领域得到重视，包括科学和营销。

问题3：哪些因素阻碍了你对大模型技术的应用

在模型的扩展和部署中，数据隐私和安全合规性成为主要关注点，「缺乏监控工具」和「高基础设施成本」这两项因素也阻碍了技术的落地应用。

对AI驱动解决方案的抵制或怀疑反映了使用者们的长期顾虑，这表明，模型和技术的提供商们需要更加透明和用户友好的AI平台。

问题4：哪些因素影响大模型的选择

在选择大型语言模型（LLM）时，准确性是最重要的因素，其次是安全性和可定制性，成本的影响相对较小。

问题5：在部署大模型时，你遇到的最大挑战是什么？

在生产环境中部署大模型和智能体面临着种种关键挑战，包括定制困难、质量保证评估方法有限，以及缺乏可重用的基础设施。

此外，工具碎片化、集成问题和可扩展性等方面的顾虑进一步复杂化了这个过程。

问题6：采用大模型技术时，你的主要目标是什么？

「自动化」和「简化」是AI应用的首要任务，使公司在效率和流程简化方面受益；此外，定制解决方案和提升合作流程等方面的目标，反映了大模型日益增长的灵活性，以及消费者对系统共享访问的兴趣。

问题7：您的公司如何使用大模型智能体？

问题8：那些平台特征对你至关重要

大多数受访者都需要多智能体检索增强生成（RAG）功能以提高上下文信息处理，同时，评估工具对于确保人工智能系统按预期工作也很重要。

问题9，在编排AI流水线时，开发者偏好哪种工具

大多数受访者更喜欢能提供灵活、基础原语的开发工具以设计定制AI流水线（pipeline）。预构建的、针对特定问题的解决方案虽然可以直接解决具体问题，但它们的可定制性较低。

问题10：什么因素影响大模型智能体开发工具的选择

开发者将AI智能体的版本控制视为开发平台最重要的功能。强大的SDK或库生态系统以及本地开发环境也受到重视。

问题11：大模型在公司中的应用程度

大多数开发者将 AI 用于实验和生产。相比之下，实验用途的比例远远大于生产用途，但后者的比例仍在稳步前进的过程中。

随着AI智能体基础设施的成熟，越来越多的企业会尝试开发智能体，而随着多模态及大模型操作计算环境（例如Claude通过接口在线互动）的发展，智能体在2025年的应用将更加广泛，甚至不仅仅局限于报告中提到的软件开发、市场营销、IT运营和文本摘要等领域。

然而，该调查中揭示的开发者关注的问题，例如更看重准确性、安全性和可定制性，而成本因素影响较小，以及偏好灵活、可定制的AI流水线开发工具，并重视AI智能体版本控制功能。

无论技术怎么进步，这份调查结果都会对智能体平台及开发者有参考价值。

参考资料：

https://langbase.com/state-of-ai-agents?genai