2024年企业生成式人工智能现状报告

企业AI领域正在经历一场巨大的变革，生成式AI的使用在企业中正从试点阶段迈向全面实施。Menlo Venture对600名美国企业IT决策者进行了调研，揭示了生成式AI领域正在浮现的赢家与输家。越来越多的企业加大了在AI上的投资，这不仅反映了技术的潜力，也表明企业对AI的战略性依赖正在增强。

2023年企业生成式人工智能现状报告

AI代理全面崛起，企业自动化迈向智能新时代

生成式 AI 应用拐点已到：创业者取胜的 7 条黄金法则

AI+安全市场地图

现代人工智能堆栈：企业AI架构的设计原则

2024年标志着生成式AI成为企业关键任务的一年。数据显示，AI相关支出在这一年飙升至138亿美元，比2023年的23亿美元增长了6倍以上。这一显著增长表明，企业正从实验阶段迈向执行阶段，将AI深度融入核心业务战略。

72%的企业决策者预计生成式AI工具在未来将被更广泛采用。从程序员到医疗工作者，生成式AI工具已经深度嵌入各类专业人士的日常工作中。

目前，60%的企业生成式AI投资来自创新预算，这反映出这一技术仍处于早期采用阶段。然而，随着40%的支出被纳入更为固定的预算（其中58%的资金从现有分配中重新调整），企业对AI转型的承诺日益增长。

这传递了一个清晰的信号：生成式AI正从未来技术转变为企业的核心业务工具。

虽然企业的生成式AI支出仍然以基础模型投资为主，但应用层的增长速度更快。这得益于基础设施层逐步形成的统一设计模式，企业正在利用这些工具优化各行业的工作流程，从而释放出更大的创新潜力。

2024年，生成式AI的主要进展集中在应用层。随着许多架构设计模式的确立，应用层企业正利用大语言模型（LLMs）的能力，跨领域实现全新的效率提升和功能扩展。企业客户迅速抓住这一契机，仅2024年就向生成式AI应用投资46亿美元，较去年的6亿美元增长了近8倍。

企业不仅投入更多资金，还展现了更宏大的愿景。数据显示，平均每个组织已经识别出10种生成式AI的潜在应用场景，这表明它们对这一技术的预期目标既广泛又雄心勃勃。其中，约四分之一（24%）的场景被优先列入近期实施计划，反映出企业正在快速推进生成式AI的实际部署。

然而，这一切才刚刚开始。多数公司仍处于生成式AI应用的早期阶段，仅有少数用例已进入生产环境。同时，仍有33%的用例处于原型开发和评估阶段。这表明，尽管生成式AI的潜力令人期待，但其大规模落地仍需时间。

随着应用层的快速升温，企业正在探索如何将生成式AI整合到核心业务流程中，为实现更高的效率和创新开辟新路径。

尽管企业仍在不断试验生成式AI技术，但一些应用场景已经显现出显著的投资回报率（ROI），通过提升生产力和运营效率为企业带来了切实的价值。以下是最具价值的生成式AI用例及其应用趋势：

数据显示，企业的主要生成式AI投资集中于实际可行并以ROI为驱动的用例。前五大应用场景（代码生成、聊天机器人、企业搜索、数据转换、会议摘要）无一例外地聚焦于提升生产力和运营效率。这些用例表明，生成式AI正在成为企业日常运营中不可或缺的工具，其核心价值在于优化流程、释放生产潜能，并以技术创新驱动业务发展。

目前的生成式AI应用模式显示出企业更倾向于通过AI增强人类工作流程，而非完全自动化。然而，我们正逐步接近更高自主性的解决方案过渡阶段。一些行业的早期案例表明，AI驱动的代理工具正在开始独立管理复杂的端到端流程。例如：

这些自主生成式AI系统的成功案例表明，我们正迈向“服务即软件”（Services-as-Software）的新时代。在这一模式下，AI驱动的解决方案将具备传统服务提供商的能力，但完全由软件实现，从而重新定义行业服务的运作方式。

关于是构建内部AI解决方案还是采购第三方产品，企业的选择呈现出几乎均等的分布：47%的解决方案为企业内部开发，53%则来自外部供应商。

与2023年的数据相比，这一趋势显示出显著变化——当时80%的企业依赖第三方生成式AI软件。这一变化反映了企业对内部开发生成式AI工具的信心和能力显著提升。

这一转变不仅代表了企业技术能力的进步，也体现了其对生成式AI战略更深层次的掌控。企业在评估“自建”与“采购”时，需要结合具体需求、成本效益和实施速度来做出决策，这种灵活性将进一步推动生成式AI的落地和普及。

在选择生成式AI工具时，企业的优先级十分明确：投资回报率（ROI） 和 行业特定定制化 是最重要的考量因素。令人意外的是，价格并不是关键因素，仅有1%的企业领导者将价格列为关注点。

企业正在采取长期视角，更注重能够提供可衡量价值（30%）和理解其工作独特背景（26%）的工具，而不是单纯选择价格最低的解决方案（1%）。

尽管企业在ROI和定制化方面进行了严格的审查，但它们往往忽视了一些关键的实施环节。例如：

生成式AI试点项目的停滞或失败通常源于以下原因：

去年，传统企业通过“增强式集成”（Bolt-on）策略主导了企业市场，将生成式AI功能附加到现有产品中。然而，我们预测初创企业将逐渐蚕食这一领域，今年的数据证实了这一趋势：尽管64%的客户仍倾向于选择传统供应商，主要因为对其信任及即开即用的功能依赖，但传统企业的主导地位已经开始出现裂痕。

生成式AI的普及不仅体现在投入规模上，更体现在覆盖范围的广度。2024年，企业的生成式AI预算几乎流向了所有部门。根据调研数据，不同部门在生成式AI上的投资比例如下：

最初的生成式AI应用主要集中在文本和图像生成等横向解决方案上，而2024年，更多应用开始利用大语言模型（LLM）的新功能深入到高度行业化的垂直工作流中。以下几个垂直领域正在引领生成式AI的采用浪潮：

医疗行业一向对技术采纳较慢，但如今成为生成式AI的领先 adopter。生成式AI在以下方面表现突出：

虽然法律行业对技术接受度传统上较低，但生成式AI正在被广泛采用，以管理海量非结构化数据并自动化复杂、模式化的工作流程：

金融服务行业复杂的数据、严格的监管和关键的工作流程使其成为AI变革的理想领域：

生成式AI正从好莱坞的专业制作到普通创作者的日常创作中全面渗透：

经过一年的快速发展，2024年现代AI技术栈逐渐趋于稳定。企业在生成式AI生产系统的运行架构中，围绕核心构建模块达成了广泛共识，形成了一套相对标准化的技术体系。基础模型（Foundation Models）层面继续主导市场，然而，企业逐渐意识到，仅靠大语言模型（LLMs）无法完全满足生产需求，必须依赖数据支撑与集成能力来构建复杂且可靠的AI架构。

企业在使用大语言模型（LLM）时正转向更加务实的多模型策略。调研显示，企业通常在其AI技术栈中部署三个或更多的基础模型，根据具体用例或需求选择最适合的模型。这种策略也体现在开源与闭源之争中，尽管业界对此争议不断，但企业的偏好仍然相对稳定。

当企业从一个LLM切换到另一个时，主要原因包括：

企业AI设计模式正在快速演变，这些模式为构建高效、可扩展的AI系统提供了标准化的架构方法。以下是2024年最值得关注的趋势：

RAG的采用率从去年的31%大幅上升到今年的51%，成为企业生成式AI系统中最主流的架构方法。

原因：RAG通过结合外部知识检索和生成式AI，能够显著提升生成质量和上下文准确性，在需要大量知识管理的场景中表现尤为突出。

尽管微调在许多应用提供商中被广泛宣传，但其在生产模型中的实际采用率仍然非常低。

原因：

代理架构作为2024年的全新突破点，已经在12%的AI系统中得到应用。这种架构允许AI自主管理复杂的任务链，例如端到端的业务流程或多步任务协调。

优势：

要充分发挥检索增强生成（RAG）的优势，企业必须高效存储并访问与查询相关的知识。这对基础架构提出了新的要求，从数据库到数据处理工具，AI优先的解决方案正在快速崛起。

随着RAG的普及，企业对专为现代AI设计的技术解决方案需求旺盛：

2024年是生成式AI从热潮向实际落地转型的一年。基于我们分享的数据和观察到的趋势，我们对未来的发展做出以下三大预测：

代理型自动化（Agentic Automation）将成为AI变革的下一波浪潮，解决复杂的多步骤任务，超越当前以内容生成和知识检索为中心的系统能力。Clay和Forge展示了高级AI代理如何可能颠覆4000亿美元的软件市场，甚至影响10万亿美元的美国服务经济。

这一变革将催生对全新基础设施的需求，包括：

ChatGPT对Chegg（市值蒸发85%）和Stack Overflow（网页流量减半）的冲击为行业敲响了警钟：

随着AI系统的普及和复杂化，科技行业将面临前所未有的人才短缺。不仅仅是数据科学家短缺，更严重的是缺乏能够将先进AI能力与行业专业知识结合的复合型人才。