E2B 是一家开发者工具初创公司,致力于为人工智能代理和人工智能应用程序开发开源代码解释层。该初创公司由 Vasek 和联合创始人 Tomas 于 2023 年创立,其使命是为数百万人工智能代理构建最佳的自动化云平台,Vasek 认为该平台是人工智能软件生态系统的未来。 E2B 支持任何 LLM、多个 AI 框架、支持可扩展多代理环境的基础设施以及用于检查 AI 代理工作的测试工具。
E2B 的典型用户是“人工智能工程师”,或者是熟悉人工智能基础设施和工具的开发人员,以便围绕代码生成、推理和数据分析构建可用于生产的应用程序。超过 200,000 个代理在他们的平台上运行。他们已经筹集了 300 万美元的种子前资金,由 Kaya、Sunflower Capital 领投,投资者包括 Guillermo Rauch(Vercel 首席执行官)、Paul Copplestone(Supabase 首席执行官)、Juraj Masar(Better Stack 首席执行官)以及 OpenAI 等公司的员工, Retool和Figma。
Vasek Mlejnsky,e2b.dev联合创始人兼CEO。曾是Pioneer.app的Pioneer,曾是Devbook的创始人。曾就读于捷克Charles大学,获得计算机科学专业学位。在这次访谈中,Vasek 介绍了 E2B 的创立故事、为什么开源代理是 AI 的未来以及 E2B 未来 12 个月的目标。
首先,请向我们介绍一下您自己的背景以及是什么促使您共同创立 E2B?
大家好,我是 E2B 的首席执行官 Vasek。在 E2B,我们正在为人工智能代理和应用程序构建代码执行层,目标是为人工智能代理构建一个自动化云平台。我和联合创始人 Tomas 于 2023 年 3 月创立了 E2B,这个想法最初源于我们自身的需求。当 GPT-3.5 推出时,我们开始进行实验,并构建了一个早期的类似 Devin 的代理。为了运行它,我们需要一个云环境来启动服务器并运行 AI 代码,以便为代理提供反馈回路和工作空间。
我们意识到,未来将会有数百万或数十亿个这样的代理,他们将需要一种新型的云,让软件可以在其中构建其他软件。当前的产品都不适合我们,因此我们开始将 E2B 构建为完全开源的解决方案。
您会如何向AI 开发人员描述 E2B?到目前为止,哪一类用户在您平台上受益最大?
在 E2B,我们为每个 AI 代理实例提供一台小型计算机。这台计算机是一个可以非常快速启动的小型虚拟机(VM),从零开始构建,具有很高的安全性,专为运行不受信任的代码而设计。有了它,您基本上可以为您的 AI 代理提供超级用户权限(sudo-privileges)。
目前,我们的用户主要是 AI 工程师,这些开发者正在使用大型语言模型(LLM)将 AI 功能集成到他们的应用程序中,或者构建以前从未出现过的应用程序和软件。
您主要致力于为 AI 代理生态系统构建基础设施。您如何看待我们在开发代理方面的进展情况?
我们发现,编码代理(coding agents)正成为 AI 代理中最有用的一类应用。这不仅适用于需要为终端用户编写代码的 AI 应用程序,即使在不需要编写代码的 AI 应用中,这些代理也需要对底层数据进行推理或分析。从这个意义上说,大型语言模型(LLM)擅长生成代码,但需要更强大的推理能力作为 AI 应用的“大脑”。这通常以代码解释器的形式出现,从而提高 LLM 的性能。现在,我们开始看到更多的自主系统(autonomous systems)的初步迹象,这些系统中几乎没有“人类参与”(HITL,human in the loop)。
2024年上半年,越来越清楚的是,要围绕代理本身构建大量工程。这不仅仅是拥有强大的LLM架构,还包括编排LLM和多代理系统,并围绕代理构建复杂的产品。例如,我认为Devin演示非常有用,因为UI界面向用户展示了代理正在做什么。包括让它运行数小时并返回查看的能力,或者在其工作时与代理对话的能力。我们正进入代理的生产阶段(production phase),初步了解技术实际发挥作用的地方。随着LLM的改进以及我们找到正确的形式和UI,这可能需要两到三年。在这种情况下,我们公司希望能够为开发者提供支持,所以现在是构建的最佳时机。
今天您对哪种类型的 E2B 应用程序或用例最感兴趣?能不能给一些客户案例。
今天,我们有三个核心用例。第一个是为您的LLM代理和AI数据分析师增加推理部分的“大脑”。目前,我们有客户正在为生物信息学构建GPT,例如,这些AI代理非常自主,使用R进行一系列长时间的实验,这是一个非常具体的用例。我们还有一家公司在内部构建GPT以提高他们的生产力。因此,代码解释器在生产中确实有效,并且已经提高了我们的用户及其员工的生产力——我喜欢称其为“原始编码代理”(OG coding agent)。
最令人兴奋的用例是在可能性的边缘(on the edge of what's possible)。例如,类似Devin的代理专注于非常具体的用例,比如帮助处理某些类型的应用程序,需要使用完整的环境来使用文件系统、发出网络请求、从互联网下载文件以及动态安装软件包。这绝对是非常有帮助的用例。例如,我们正在与一个名为OpenDevin的大型开源项目的创建者合作,集成E2B,甚至帮助他们进行SwE基准测试的评估。
最后一个用例,也是我个人非常兴奋的,是生成式用户界面(Generative UI),我认为这是所有用例中探索最少的。我看到了一些非常令人兴奋的演示,开发者使用生成式UI动态创建仪表板和代码解释器来构建非常有趣的用例。想象一下类似Retool的东西,但你实际上可以连接到数据库,并像在ChatGPT中一样向它提问。不过,与其得到答案,你实际上会得到实时更新的完整仪表板,并且可以持续与之对话。生成式UI具有巨大的未来潜力,尤其是如果你将它与像Perplexity这样的产品结合起来——你甚至可以基于用户的意图,通过该UI进行Uber叫车或预订酒店等操作。
AI代理领域有许多不同的初创公司。相对于该领域的其他参与者,E2B 采取的方法有何独特或不同?
一个很大的不同点是,我们有意不涉及代理框架层面。我们希望保持在相对较低层次( low-level)——我们甚至不会为你调用LLM!因此,我们有意保持完全的LLM中立和框架中立,专注于作为代码执行层。就如同,你不会为一个Web应用程序构建服务器,同样地,我们也不希望你为你的代理构建基础设施。
重要的是,AI代理的云平台必须能够应对无法预测的操作,这与以往的云平台构建方式完全不同。新的基于LLM的软件本质上是不受信任的。你不知道它会做什么,但同时你希望给你的AI应用提供大量工具,以完成所需的任务。目前没有任何现有的云解决方案是为构建和部署其他软件的软件而设计的,同时还要让开发者完全观察到发生了什么。为了实现这一点,必须深入到内核级别( kernel level)。
您如何跟进大量AI研究和产品开发?这一切对您的构建方式有何影响?
这很困难,因为在人工智能领域,您需要快速交付,同时跟上一切。部分原因是我刚才提到的——当新事物出现时,我们很容易展示它如何在 E2B 中工作,因为我们决定在 AI 堆栈中保持较低的水平。实际上,这通常意味着,如果有一个新的代理框架或者一种新的提示方式LLMs确实效果更好,我们可以快速集成到新框架中,并且很可能能够与E2B一起工作。您可以创建使用不同的技术堆栈和框架构建的各种工具,这些工具使用 E2B 来执行代码 - 这是一个很大的优势。
我们的总原则是不要考虑现在可能发生的事情,而是考虑1-2年后可能发生的事情。你要关注的是未来的发展方向,而不是现在的位置,因为这样你才能避免构建出很快就会被更大的玩家或LLM本身所取代的东西。
你们是完全开源的——您能谈谈开源生态系统如何影响您领导 E2B 的方式,以及您如何从开源 技术中受益?
我们完全开源,拥有 Apache 2.0 许可证,这意味着您可以在我们的基础上构建商业产品。我们的目标是让我们的用户能够在他们的 AWS、GCP、Azure 帐户或他们自己的云上轻松部署。
对于基础设施公司,我还坚信两点。首先,用户应该只为自己使用的部分付费。其次,用户应该能够自行托管,尽管大多数用户可能不想自行托管,而是希望享受云服务的便捷。特别是对于更大的客户,他们希望自行托管并控制自己的基础设施。我们希望尽可能地简化这个过程。
如果我们想为未来的数十亿代理构建基础设施层,我们优先考虑的是高度透明,向人们展示正在发生的事情——即使在开发阶段也是如此——并使他们能够以自己喜欢的方式轻松使用这些功能。
随着代理生态系统的成熟,E2B在接下来的半年和一年内主要关注点是什么?
我们的首要任务是改进E2B的可观测性方面。到目前为止,我们一直在确保我们的基础设施非常稳定,并且核心功能集齐全。现在,我们终于可以开始与其他知名服务区分开来,并提供更多非常针对代理的工具。
最近的一项改进是让开发者更容易了解他们沙盒(sandboxes)内部发生的事情。另一个要素是让这些沙盒能够长时间运行。我们经常有客户运行这些沙盒长达24小时,因为AI完成某些任务可能需要很长时间——尽管这个时间可能会缩短。
如果你环顾一下现有的云产品,就会发现它们都没有真正为长时间运行提供高效的计算。这是我们的另一个目标 - 能够支持这些长期运行的用例,而无需向用户收取大量费用,并确保他们仅在代码运行时付费。
最后,分享一下您的团队情况。您如何描述您的文化?您希望潜在员工具有什么特质?
我们有一个由两位联合创始人和两位创始成员组成的团队。我们最近从捷克共和国搬到了旧金山,因为这里有最强大的社区,专注于构建AI代理和代理产品。
在公司内部,我们非常关注用户,每天与他们交流,优先考虑他们的需求,并与他们紧密合作,尤其是那些来自旧金山的用户。作为一个早期的创业公司,我们有很多工作要做,但我们乐于长时间工作,甚至在周末进行内部黑客马拉松。例如,当新的LLM(如Llama 3或Claude)发布时,我们在我们的案例库中制作了一个代码解释器的示例。我们对令人兴奋的新事物充满动力,并优先考虑速度——在AI领域,你必须能够快速迭代。能够成为如此重要的技术变革的一部分,这样的机会真的是一生难遇。
https://cerebralvalley.ai/blog/e2b-is-the-interpretation-layer-for-ai-agents-4N8ksXEl2l5Ttu0mgh7qyw