Elad Gil:关于人工智能我不知道的事情
Elad Gil是硅谷传奇连续创业家、投资人。作为创始人:MixerLabs(Twitter),Color Health 。作为投资方:Airbnb,Airtable,Anduril,Coinbase,dbt Labs,Deel,Figma,Gitlab,Gusto,Instacart,Notion,Pinterest,Retool,Rippling,Samsara,Square,Stripe,TripActions 等。
MixerLabs是他担任联合创始人及首席执行官的公司,后被Twitter收购。MixerLabs运营GeoAPI,这是早期面向开发者的平台基础设施产品之一。他还在Google工作多年,创立了移动团队,并参与了团队的各个创立阶段。参与了3项收购(包括Android团队),并且是Google Mobile Maps和其他关键移动产品的最初产品经理。在加入Google之前,在硅谷的多家公司担任产品管理和角色。此外还在麦肯锡公司工作过。
他拥有麻省理工学院的博士学位,以及加州大学圣地亚哥分校的数学和生物学学位。他还是知名创业书《高增长手册》(High Growth Handbook)的作者,联系凯瑞(微信:pkcapital2023)索取400页PDF版本。
📷 图片包含在完整版文章中,点击文末按钮查看
在大多数市场中,时间越长,事情就会变得越清晰。在生成人工智能(“AI”)中,情况恰恰相反。时间越长,我认为我真正理解的就越少。
📷 图片包含在完整版文章中,点击文末按钮查看
从某种意义上说,有两种类型的 LLMs - 前沿模型 - 处于性能的最前沿(想想 GPT-4 与直到最近的其他模型),以及其他所有类型。在 2021 年,我写道,考虑到所需的资本规模,我认为随着时间的推移,前沿模型市场将成为寡头垄断市场。与此同时,非前沿模型将更多地由商品/定价驱动,并会出现更强大的开源模型(请注意,这是 Llama 和 Mistral 之前的发布)。
事情似乎正在朝着上述方向发展:
前沿LLMs很可能是一个寡头垄断市场。当前的竞争者包括 OpenAI、Google、Anthropic 等闭源模型,或许还有 Grok/X.ai,以及开源方面的 Llama (Meta) 和 Mistral。当然,这个列表可能会在未来一两年内发生变化。前沿模型的训练成本越来越高,而商品模型的价格随着性能的提高而逐年下降(例如,现在训练 GPT-3.5 可能比 2 年前便宜约 5 倍)
随着模型规模变得越来越大,资金越来越多地主要来自云提供商/大型科技公司。例如,微软向 OpenAI 投资了 100+亿美元,而 Anthropic 在亚马逊和谷歌之间筹集了 70 亿美元。 NVIDIA 也是多家大模型公司的重要投资者。相比之下,这些公司的风险投资只是沧海一粟。随着前沿模型培训成本的激增,新兴资助者主要集中在大型科技公司(通常有强烈的动机为自己的收入资助该领域 - 即云提供商或 NVIDIA),或希望支持当地冠军的国家(例如阿联酋的猎鹰Falcon)。
值得注意的是,这些云提供商的投资规模与实际云收入相比相形见绌。例如,微软的 Azure 每季度产生 25B 美元的收入。微软对 OpenAI 的约 10B 美元投资相当于 Azure 6 周的收入。人工智能最近对 Azure 收入产生了巨大影响。事实上,Azure 在 2024 年第二季度的 AI 增长了 6 个百分点,这意味着它的年增长为 5-6B 美元(或每年 OpenAI 投资的 50%!)。虽然收入不是净利润,但这仍然令人震惊,并且表明随着时间的推移,云巨头有理由为更大规模的模型提供资金。
与此同时,Meta 在 Llama 模型方面做出了出色的工作,最近宣布了 20B 美元的计算预算,部分用于资助大规模模型训练。
📷 图片包含在完整版文章中,点击文末按钮查看
📷 图片包含在完整版文章中,点击文末按钮查看
📷 图片包含在完整版文章中,点击文末按钮查看
有几种类型的基础设施公司,它们非常不一样。例如,Braintrust提供评估、快速实验场、日志记录和代理,帮助公司从“基于感觉”的AI分析转向数据驱动。Scale.ai和其他公司在数据标注、微调等领域发挥着关键作用。
📷 图片包含在完整版文章中,点击文末按钮查看
人工智能基础设施中最大的不确定性和问题与人工智能云堆栈及其发展方式有关。看来初创公司和企业对于AI云服务的需求有很大不同。对于初创公司来说,新的云提供商和工具(例如 Anyscale、Baseten、Modal、Replicate、Together 等)似乎正在采取一条有用的道路,从而实现快速采用和收入增长。
对于有特殊需求的企业来说,存在一些悬而未决的问题。例如:
📷 图片包含在完整版文章中,点击文末按钮查看
ChatGPT 是许多 AI 创始人的发令枪。在 ChatGPT 之前(以及在 Midjourney 和 Stable Diffusion 之前),大多数科技人员并没有密切关注我们现在正在经历的 Transformer/Diffusion 模型革命和混乱。
这意味着最接近该模型和技术的人——即人工智能研究人员和基础设施工程师——是第一批离开并创办基于该技术的新公司的人。远离核心模型世界的人们——许多产品工程师、设计师和产品经理,直到现在才意识到人工智能的重要性。
📷 图片包含在完整版文章中,点击文末按钮查看
ChatGPT 大约 15 个月前推出。如果你需要 9 到 12 个月的时间来决定辞去工作,几个月的时间来完成它,并花了几个月的时间与联合创始人集思广益地提出创业想法,那么我们应该会开始看到一波应用程序开发人员现在/很快就会出现。
这是我一生中技术领域最激动人心、变化最快的时刻之一。看看每个人都建造了什么将会很有趣。期待对上述问题的思考。
https://blog.eladgil.com/p/things-i-dont-know-about-ai?utm_source=bensbites&utm_medium=newsletter&utm_campaign=daily-digest-what-s-going-on-with-google