在ChatGPT发布不到两年的时间里，企业对在其运营和产品中使用生成式人工智能表现出浓厚的兴趣。Dataiku和Cognizant进行的一项新调查对全球200名企业公司的高级分析和IT领导者进行了调查，结果显示，大多数组织都在花费大量资金探索生成式人工智能用例，或者已经在生产中实施了它们。
然而，全面采用和提高生产力的道路并非没有障碍，这些挑战为提供生成式人工智能服务的公司提供了机会。
对生成式人工智能的重大投资
今天在VB Transform上公布的调查结果强调了对生成式人工智能计划的大量财务承诺。近四分之三(73%)的受访者计划在未来12个月内在生成式人工智能上花费超过50万美元，其中近一半(46%)的受访者拨款超过100万美元。
然而，只有三分之一的受访组织有专门用于生成人工智能计划的具体预算。超过一半的人从其他来源为其生成式人工智能项目提供资金，包括IT、数据科学或分析预算。
目前尚不清楚将资金投入生成人工智能如何影响本可以从预算中受益的部门，并且这些支出的投资回报率(ROI)仍不清楚。但也有人乐观地认为，随着大型语言模型(llm)和其他生成模型的发展似乎没有放缓，增加的价值最终将证明成本是合理的。
“随着越来越多的法学硕士用例和应用程序在企业中出现，IT团队需要一种轻松监控性能和成本的方法，以最大限度地利用他们的投资，并在有问题的使用模式对底线产生巨大影响之前识别它们，”该研究的部分内容写道。
Dataiku之前的一项调查显示，企业正在探索各种各样的应用，从增强客户体验到改善软件开发和数据分析等内部运营。
实现生成人工智能的持续挑战
尽管人们对生成式人工智能充满热情，但整合说起来容易做起来难。调查中的大多数受访者表示，在以他们喜欢的方式使用LLMs方面存在基础设施障碍。除此之外，它们还面临其他挑战，包括遵守《欧盟人工智能法案》(EU AI Act)等地区立法以及内部政策挑战。
生成模型的操作成本也仍然是一个障碍。托管LLM服务(如Microsoft Azure ML、Amazon Bedrock和OpenAI API)仍然是组织内部探索和生成人工智能的热门选择。这些服务易于使用，并且抽象了设置GPU集群和推理引擎的技术困难。然而，他们基于代币的定价模式也使得首席信息官难以大规模管理生成式人工智能项目的成本。
或者，组织可以使用自托管的开源LLMs，这可以满足企业应用程序的需求，并显著降低推理成本。但它们需要前期投入和内部技术人才，这是许多组织所不具备的。
技术堆栈的复杂性进一步阻碍了生成人工智能的采用。令人震惊的是，60%的受访者表示，在分析和人工智能生命周期的每个步骤中，从数据摄取到mlop和LLMOps，他们使用了超过五个工具或软件。
数据的挑战
生成式人工智能的出现并没有消除机器学习项目中预先存在的数据挑战。事实上，数据质量和可用性仍然是IT领导者面临的最大数据基础设施挑战，45%的人认为这是他们最关心的问题。其次是数据访问问题，27%的受访者提到了这一点。
大多数组织都坐拥丰富的数据，但他们的数据基础设施是在生成式人工智能时代之前创建的，没有考虑到机器学习。数据通常存在于不同的筒仓中，并以彼此不兼容的不同格式存储。在将其用于机器学习之前，需要对其进行预处理、清理、匿名化和整合。数据工程和数据所有权管理仍然是大多数机器学习和人工智能项目的重要挑战。
该研究写道:“即使有了今天组织所拥有的所有工具，人们仍然没有掌握数据质量(以及可用性，即它是否适合目的，是否适合用户的需求?)。”
“具有讽刺意味的是，现代数据栈面临的最大挑战……实际上一点也不现代。”
机遇与挑战并存
“现实情况是，随着不同的技术和供应商的出现，生成式人工智能将继续转变和发展。IT领导者如何在参与游戏的同时保持对下一步的敏捷性?Dataiku的领域CDO Conor Jensen说。“除了不断上升的成本和其他风险外，所有人都在关注这一挑战是否会使生成式人工智能的价值生产黯然失色。”
随着生成式人工智能继续从探索性项目过渡到可扩展操作的基础技术，提供生成式人工智能服务的公司可以为企业和开发人员提供更好的工具和平台。
随着技术的成熟，将有很多机会简化生成式人工智能项目的技术和数据堆栈，以降低集成的复杂性，并帮助开发人员专注于解决问题和交付价值。
企业也可以为生成式人工智能技术的浪潮做好准备，即使他们还没有探索这项技术。通过运行小型试点项目和试验新技术，组织可以找到数据基础设施和策略中的痛点，并开始为未来做准备。与此同时，他们可以开始培养内部技能，以确保他们有更多的选择，并更好地利用技术的全部潜力，推动各自行业的创新。
（机器翻译，轻度译后编辑，仅供参考。）
编辑：陈驭格