编者按：本文来自微信公众号 有新Newin（ID：NewinData），作者： 有新，创业邦经授权转载。
AI 的讨论度自 ChatGPT 发布以来基本上是有增无减，无论你在哪个行业或者是做什么，都有人谈 AI，不仅是国内焦虑，海外市场也一样。
为了搞清楚基于 LLM 的初创公司到底在市场上有没有立足点，外媒 TechCrunch 在不久前与 6 家海外 VC 机构合伙人/区域负责人等进行了专题讨论，并抛出了关于商业模式、市场竞争、应用层空间、GTM策略以及定价趋势：
关于生成式 AI 技术堆栈，更偏好各个堆栈层的方案还是垂直方案？
Rick Grinnell（Glasswing Ventures）我们将生成式 AI 技术堆栈分为四个不同的层次：基础模型提供商、中间层公司、最终市场或顶层应用以及全栈或端到端的垂直公司。
我们认为，大多数机会存在于应用层，而在这个层次内，我们认为在不久的将来，最佳应用将利用其内部的专业知识来构建专门的中间层工具，并将它们与适当的基础模型相结合。这些是“垂直集成”或“全栈”应用。
对于初创公司，这种方法意味着更短的上市时间。初创公司可以在不需要与外部实体协商或集成的情况下，以加快的速度创新、迭代和部署解决方案。这种速度和灵活性通常可以成为在竞争对手之前占领市场份额或满足关键市场需求的区分因素。
另一方面，我们将中间层视为一个连接 AI 的基本要素与精细化专业应用层的通道，这部分堆栈包括最先进的能力，包括模型微调、提示工程和敏捷模型编排。
我们预计类似于 Databricks 的实体将在这个领域崭露头角。然而，这个层次的竞争动态带来了独特的挑战。首先，基础模型提供商进军中间层工具领域加大了商品化风险。此外，已经建立的市场领导者进入这个领域进一步加剧了竞争。因此，尽管在这一领域内涌现出了许多初创公司，但仍需要找到明显的赢家。
Edward Tsai（Alumni Ventures）我认为会有很多初创公司在两者之间进行选择。不过，我认为出色的基础设施需要更高的门槛，因为有来自 OpenAI、Anthropic、Cohere和其他基础模型公司的竞争，它们正在扩展其LLM技术堆栈相关的工具和解决方案。
端到端的初创公司提供垂直解决方案，使解决业务问题变得容易，需要很少的额外工具，我认为值得认真考虑。在SaaS领域，许多垂直特定的端到端公司取得了很大的成功，比如 Toast 和 Procore。同样，提供易于使用的工作流程和行业特定数据增值的 AI 公司可以为其最终企业客户提供很大的帮助。
Lisa Calhoun（Valor VC）虽然有一些初创公司专门专注于技术堆栈的某些部分，比如 Pinecone，但 Valor 的关注点是应用型 AI ，我们将其定义为解决客户问题的AI。例如，Saile.ai 就是一个很好的例子 - 它使用 AI 为财富 500 强公司生成可关闭的潜在客户线索。或者使用自己训练的数据集来创建更有用的信用风险评分，以及使用 AI 处理个体 DNA 的治疗解决方案，以在特定情境下找到最适合你个人的最佳医疗治疗方法。
Wei Lien Dang（Unusual Ventures）两者都有，但大多数将从各个层面入手。例如，像 Lamini 这样的公司专注于微调，LlamaIndex 正在致力于数据管理，LangChain 开始时处理 LLM 调用的顺序，后来变得更像一个工具包，甚至那些提供端到端平台的公司，如 MosaicML，也是从特定训练开始的。随着时间的推移，更多公司将采用垂直方法，因为没有人想使用十几种不同的工具来构建一个 LLM 应用，但每个工具仍将具有核心的专业化领域。
Rak Garg（贝恩资本）我认为有一些层次将保持水平分层，特别是芯片组和堆栈底部的预训练/微调层，很难想象初创公司会构建一个垂直解决方案，涉足到技术堆栈的如此深层。在这些层面之上，我认为我们将看到既有分层解决方案又有垂直方法，具体取决于特定的客户特征。对于技术前卫、更愿意自行开发而不是购买的公司，我预计他们将以最佳实践方式消耗堆栈的每个层面的专业化提供商。
这为他们提供了绝对的灵活性、可定制性和领域特定性，以适应其自身的情境和情况。受监管行业是另一个例子——由于合规性原因，他们无法使用大多数商业产品，因此将使用各种组件进行内部构建。对于非受监管公司内部的更多功能领域，如法律、财务、支持、运营等，我预计他们将购买垂直应用程序，其中包含特定组需要的一切，类似于销售团队可能引入 HubSpot 而不是要求中央数据团队构建 CRM 。
Sandeep Bakshi（Prosus Ventures）构建跨堆栈的解决方案仍然非常有趣，迄今为止，我们在垂直特定和工具空间（即，所谓的"挖掘工具"）花费了大部分时间。垂直方法，如我们的投资组合公司Corti 所展示的，Corti 是一家面向医疗保健领域的 AI 辅助系统，允许公司为特定企业和特定购买者设想构建解决方案，这也使初创公司能够专注于训练他们的模型，使用垂直特定的数据集，从而提供与来自更广泛数据集的结果相比更相关的答案。
随着 Datadog 以及微软这样的新老巨头加入，初创公司还有多少机会？
Rick Grinnell（Glasswing Ventures）LLM 可观察性属于“中间层”范畴，作为专门业务应用程序使用基础模型的催化剂，像 Datadog 、New Relic 和Splunk 等老牌公司都推出了 LLM 相关的工具，并似乎在这方面投入了大量的研发资金，这可能会在短期内限制市场领域。
然而，正如我们在互联网和云计算刚兴起时所见，老牌公司通常会持续创新，直到创新变得停滞不前。随着 AI 成为家喻户晓的名词，在各个垂直领域都找到了用途，初创公司有机会提供创新解决方案，颠覆并重新构想老牌公司的工作。现在还为时尚早，无法确定赢家是谁，因为每一天都会发现现有 AI 框架中的新漏洞。在这其中，初创公司有巨大的机会。
Edward Tsai（Alumni Ventures）像 Datadog 这样的老牌公司在向用户推出优秀的产品后确实会占据一部分市场份额。尽管如此，不同的客户有不同的需求。除了Datadog 外，还有许多其他数据和 APM 可观察性初创公司正在与Datadog 竞争，还有一些专门从事 AI 机器学习和 LLM 的公司，如 Arize 和 Aporia，类似于网络安全领域，还有专门针对 AI 网络安全的初创公司，比如 HiddenLayer 和 Protect AI，美国企业市场习惯于选择大型平台和最佳解决方案。
Lisa Calhoun（Valor VC）像 Datadog 这样的工具只有在成功监控 AI 性能瓶颈时才能更好的推广AI工具，这本身仍然是一个尚未被探索的领域，在接下来的几年里将会经历很多变化和成熟，其中一个关键因素可能是成本监测，因为像 OpenAI 这样的公司主要按“token”计费，这与大多数云计算的度量标准非常不同。
Wei Lien Dang（Unusual Ventures）我个人见过超过 10 家新创公司尝试将 LLM 应用于数据分析，它们都有相似的故事。这意味着初创公司的创始人需要更加努力地思考他们公司的“为什么现在？”除了能够使用 LLM 。
单单 LLM 本身并不一定是成立公司的理由，Datadog 和其他老牌公司并没有减小整体市场规模，但它们无疑对初创公司提出了更多压力，要求它们能够区分其产品并从 GTM 的角度竞争。
Rak Garg（贝恩资本）宏观环境对许多企业预算施加了压力，与现有供应商扩展、支出或赢得有利定价更容易，而不是尝试引入新供应商，这种动态是导致老牌 LLM 产品对初创公司构成威胁的原因。
市场机会仍然存在，特别是在安全性和可观察性等领域，这些领域传统上倾向于最佳产品，而不是传统套件，但由于老牌解决方案产生的预算噪音，这将使很多初创公司在市场推广方面具有挑战性。
我鼓励公司专注于新的机会：以前的解决方案无法自动化的领域，以及可以重新构想为现在可以提供 100 倍改进的领域。如果不是如此，将不足以满足需求。
除了 LLM 等基础设施以外，初创公司还有多少市场空间？
Rick Grinnell（Glasswing Ventures）当考虑到像 Alphabet/Google 的Bard、Microsoft & OpenAI 的GPT-4 和 Anthropic Claude 等基础层模型提供商的市场情况时，明显更大的玩家在数据获取、人才库和计算资源方面拥有固有优势。我们预计这一层次将像云提供商市场一样形成寡头结构，尽管在这里加入了一个强大的开源备用方案，将推动大规模的第三方采用。
当我们看待生成式 AI 技术堆栈时，最大的市场机会位于模型本身之上。推出针对特定行业的 AI 引擎API和操作层的公司将创造全新的用例，并改变工作流程。通过采用这项技术来改革工作流程，这些公司有望释放出巨大的价值。
然而，需要认识到市场仍然远未完全成熟。LLM 仍处于初期阶段，大公司和初创公司对其采用尚未完全成熟和完善。我们需要强大的工具和平台，以促进企业和个人更广泛地利用这项技术。初创公司在这里有机会迅速采取行动，找到新问题的新解决方案，并定义新的领域。
有趣的是，即使大型科技公司也认识到他们的服务中存在的差距，并已开始与风险投资公司一起大量投资初创公司。这些公司将 AI 应用于其内部流程，因此看到初创公司在 LLM 部署和整合方面带来的价值。考虑到Microsoft、Nvidia和 Salesforce 最近对 Inflection AI 和Cohere 等公司的投资。
Edward Tsai（Alumni Ventures）一个相关的观点是，关于 LLM 和 AI 仍然存在许多开源工具。一些项目已经成功筹集了资金，无论是 LangChain、Weaviate 还是 Together，开源初创公司受益于社区的贡献，我认为从长远来看这是一种竞争优势。
Wei Lien Dang（Unusual Ventures）市场上仍有很大的空间，因为几乎每家公司都会使用 LLM 和 AI，但只有极少数公司希望并有预算进行大规模的专业服务合作。我们将看到更多初创公司提供用于 LLM 部署的工具，而这些工具不需要专门的 AI 基础架构团队，这正是推动“ AI 工程师”概念的原因。
当市场上有 3000 多万的开发人员可以轻松使用 LLM 来构建应用时，AI 将产生最大的影响。OpenAI 、Anthropic、Cohere等公司已经在用户中树立了某种期望，即让 LLM 的使用更加容易入门。
Rak Garg（贝恩资本）在基础架构方面，最大的科技公司实际上是工业中唯一可以在生产环境中以各种用例大规模运行 LLM 的地方。围绕这些技术工作的人可以离开并创办公司，处理生产化 LLM 的各种工作，包括推理、数据整理、非结构化数据 ETL、RLHF（强化学习和人类辅助训练）平台等等。
在垂直应用方面，特别是在受监管行业和手动岗位中，由于许多老牌公司的技术复杂度较低，存在许多机会。
那些为特定行业训练 AI 模型的初创公司更具竞争力？
Rick Grinnell（Glasswing Ventures）为确保在 AI 整合不断升温的氛围中，面向特定行业的初创公司能够具有防御性，这些初创公司必须优先考虑收集专有数据、整合复杂的应用层，并确保输出的准确性。
我们已经建立了一个评估 AI 公司应用层防御性的框架。首先，应用程序必须解决高管们优先考虑的真正企业痛点。其次，为提供切实的利益和长期的差异化，应用程序应由符合特定和独特软件需求的尖端模型组成。仅仅依赖 OpenAI 并不足够；相反，应用程序应当在成本、计算和性能之间谨慎选择其模型。
第三，应用程序的复杂性取决于输入的数据。专有数据对于提供特定和相关见解以及确保其他人无法复制最终产品至关重要。为此，在内部的中间层能力提供了竞争优势，同时充分利用基础模型的力量。
最后，由于生成式 AI 不可避免地存在误差，所以细分市场必须能够容忍不确定性，这在主观和模糊的内容中自然存在，如销售或市场营销。
Edward Tsai（Alumni Ventures）需要有良好的行业特定产品工作流程，这需要一些行业特定的专业知识和付出（行业集成、寻找尚不可立即获得的数据源），这会提高初创公司竞争的门槛，使其更难以与缺乏行业特定知识或不愿深入研究的老牌公司和新参与者竞争。
尽管如此，我想提出一个有争议的观点，风投公司和初创公司可能需要暂时减少对竞争优势的关注，增加对提供引人注目的价值和专注于市场速度的产品的关注。
过去一年里“类人” LLM 性能的显著提升使得初创公司能够迅速为最终客户提供显著价值。因此，我相信在许多市场上，“总有人会去做”，一些公司将着手开发具有显著价值但市场尚不明确竞争优势的产品。
早期的客户增长和收入增长将有助于初创公司脱颖而出，获得时间、资源和客户视野，以在更具竞争优势的领域部署新产品。
Lisa Calhoun（Valor VC）专注于你为客户解决的问题，几乎可以肯定 AI 只能解决问题的一部分。如何将所有部分整合在一起是创建出色解决方案的关键。
Rak Garg（贝恩资本）最近的论文越来越多地指向数据质量和数据整理作为 LLM 质量的关键因素。从我们自己的投资组合中，我们已经了解到，为培训或微调提供最高质量和最具差异化的数据对最终用户产生了真正的影响。除了模型质量，产品必须足够好，能够赢得用户并防止他们流失，这与以往一样。
Sandeep Bakshi（Prosus Ventures）这将取决于他们是否能够使用与其细分市场特定的数据进行模型训练，并使这些数据在某种程度上具有专有性。最终，这还取决于购买者特征。如预期的那样，面向大型企业的销售更为耗时，具有更高的准入门槛，因为存在更复杂和多方面的批准流程。因此，一旦一家公司成功进入企业并继续提供卓越的产品和引人入胜的客户体验，它就是自然而然地具有竞争力。
初创公司可以假设他们未来的企业 AI 客户在内部具备多少技术能力，这种假定的专业知识又如何指导初创公司的产品选择和市场推广策略？
Rick Grinnell（Glasswing Ventures）在企业领域，人们清楚地认识到 AI 的价值，然而许多企业缺乏内部开发 AI 解决方案的能力，这种差距为专门从事 AI 的初创公司提供了与企业客户合作的重要机会。随着业务环境不断成熟，利用 AI 的能力正在变得战略性至关重要。
麦肯锡报告指出，单单生成式 AI 就可以通过编写代码、分析消费趋势、个性化客户服务、提高运营效率等方式，为各行业增加多达 4.4 万亿美元的价值，94% 的企业领导认为，在未来五年内 AI 将对所有企业的成功至关重要，全球对 AI 的总体支出预计将达到。
Edward Tsai（Alumni Ventures）有一系列解决方案的市场，从需要技术团队部署的开源解决方案到适用于业务用户的易于使用、拖放式解决方案。初创公司应考虑他们想要使用的范围和入口点来部署其产品。简单和美是难以实现的。因此，我认为以简单和易用性为出发点为企业 AI 客户设计 AI 和 LLM 相关产品，可能会为初创公司带来一些优势，与大型科技公司相比，一些大型科技公司可能不愿意在产品的简单性和易用性方面做出妥协，以满足需要进行大量定制的最大客户的需求。
Lisa Calhoun（Valor VC）在下一个周期内，我们预计平均应用型 AI 客户的“ AI 技术能力”将与他们目前的技术能力差不多，总体来说不会太多。目前尚不清楚“提示”和“微调”等功能是否会成为内部经验的一部分，但这需要时间，解决自然界面问题的初创公司将处于领先地位。
Wei Lien Dang（Unusual Ventures）很多，或者至少它应该对其产生很大影响。我见过很多创始人，尤其是那些来自 AI /机器学习背景的人，他们认为他们的终端用户将具有与他们相同的技术水平。但这取决于他们所针对的市场细分和用户画像。
例如，许多财富500强公司拥有内部机器学习团队，并具有从使用机器学习进行欺诈检测、推荐和其他用例的角度来看的高度技术水平。
随着市场的下沉，很多公司在使用 AI 方面缺乏第一手经验，但他们对开始自助式使用 AI 表现出浓厚的兴趣，一些人拥有的现有 AI 专业知识水平完全影响了他们如何描述自己的问题、解决问题所需的产品以及他们想要采用的方式。
Rak Garg（贝恩资本）根据我与数十家财富 500 强企业的采购商的交流经验，大公司在整个组织中拥有丰富的技术能力，但在整个组织中利用这些能力可能有点懈怠；构建基础设施的初创公司将不得不说服采购商，现在是时机成熟，增加技术运营的开销将值得回报，并且基础设施解决了公司当前正在解决的实际问题。构建应用程序的初创公司需要吸引组织内的功能用户，这个过程与技术能力无关，更多的是与了解代表的工作有关。
Sandeep Bakshi（Prosus Ventures）这取决于企业 AI 客户。大型科技老牌企业（也是企业客户）将拥有自己的技术人才，也将能够根据他们的工作性质招聘尖端的技术人才。我喜欢以这种方式思考这个问题：“什么会吸引一个具有技术能力的员工加入一家公司？”
我们认为答案在于企业是否在进行技术挑战性的工作。对于专注于垂直领域的企业， AI 工作的技术性质可能更多地涉及评估解决方案并在其特定垂直领域中实施，而不是构建解决方案，因此我们将发现这些企业对开箱即用的解决方案需求更大。
我们已经看到最近几个季度使用或基于使用量定价的技术产品增长放缓。OpenAI 基于标记和使用量的定价模式，这个事实是否会导致建立现代 AI 工具的初创公司采用更传统的 SaaS 定价方式？
Rick Grinnell（Glasswing Ventures）到目前为止，我们看到大多数 AI 初创公司仍然坚持采用传统的 SaaS 定价模式。在后端，使用基于使用量的分层已经成为常态（AWS、Google），因此与风险投资公司已经有大量关于如何划分价格的知识库，所以这并没有太大不同。
Edward Tsai（Alumni Ventures）随着基础模型性能的提高和价格的下降，我们很可能会继续看到更多传统的基于 SaaS 的定价模式。在一些用例中，根据部署需要大量 API 调用基础模型，可能会采用一种混合模型，其中使用会被限制或对异常高使用率进行限制，或采用定制的“企业”模型。
Wei Lien Dang（Unusual Ventures）随着时间的推移，基础架构和应用公司都将转向传统的 SaaS 定价模式，以通过功能和更好的开发者/用户体验从他们的客户那里捕获更多的价值。
投资者也将更加关注这一点，因为它直接影响了这些企业的利润率配置，基本上要求使用这些提供商的公司采用基于使用量的定价模式。
Rak Garg（贝恩资本）我们看到平台费用以及基于使用量的费用的混合模式，这为最终用户提供 LLM 功能变得有价值。
本文为专栏作者授权创业邦发表，版权归原作者所有。文章系作者个人观点，不代表创业邦立场，转载请联系原作者。如有任何疑问，请联系editor@cyzone.cn。
