**Alation于周三推出AI治理套件，旨在帮助企业通过使用安全可信的数据，提高对日益增加的AI和机器学习项目投资的回报。**
这套工具包括AI文档和协作能力、可审计的AI血缘和可追溯性、合规和风险缓解功能，以及客户在开发模型和应用程序时所需的专家指导和最佳实践。
企业对开发AI的兴趣正在增加，过去两年中生成式AI的爆炸性兴趣推动了这一趋势。正如过去10到20年中自助分析的兴起促使企业开发数据治理框架一样，广泛使用AI工具也需要AI治理框架，Constellation Research的分析师Doug Henschen表示。
数据和AI治理框架是一系列指导方针，使组织在使用数据和AI工具进行决策和自动化流程时能够保护自己免受监管违规的影响。同时，它们使员工能够自信地在工作流程中使用数据和AI工具。
像Alation和Collibra这样的供应商长期以来一直提供数据治理能力，以确保组织在操作化数据时的合规性。随着AI能力的使用增加，供应商提供类似的治理能力以操作化AI是合乎逻辑的。
“作为数据驱动的活动，AI的发展必须像我们治理数据一样严格，因此这是数据治理程序的自然延伸，”Henschen说。“组织在这些挑战上需要帮助，因此看到元数据管理（即数据智能）供应商增加功能以应对AI特定风险和新兴监管要求是件好事。”
同样，IDC的分析师Stewart Bond表示，随着企业越来越依赖AI工具，AI治理的真正需求显而易见。
AI治理至关重要。IDC的研究显示，许多推动AI治理需求的问题与数据治理相关。没有治理，可能会违反法律、泄露敏感信息或产生错误结果，例如幻觉。Stewart Bond IDC分析师
许多需求与用于训练和维护模型及应用程序的底层数据有关。企业必须保护敏感信息，并确保只使用高质量数据，以减少错误和潜在有害结果的可能性。
“AI治理至关重要，”Bond说。“IDC的研究显示，许多推动AI治理需求的问题与数据治理相关。没有治理，可能会违反法律、泄露敏感信息或产生错误结果，例如幻觉。”
Alation总部位于加利福尼亚州红木城，是一家数据目录专家，其数据智能平台使客户能够整合和组织来自不同来源的数据，以训练AI模型和应用程序，并为数据产品提供信息。
除了Collibra，竞争对手还包括Atlan和Informatica等。
治理AI
过去两年中，企业对AI的兴趣激增，部分原因是OpenAI在2022年11月推出了ChatGPT。ChatGPT代表了生成式AI能力的显著提升，自推出以来，许多其他科技供应商也推出了生成式AI模型，OpenAI不断添加更新。
利用企业专有数据的生成式AI模型所驱动的关键能力包括真正的自然语言处理，使各技能水平的用户能够使用数据和进行流程自动化。
鉴于这些好处，企业已经响应，开发了生成式AI能力，例如AI助手，使用户能够与数据进行对话，以及自动化编码、文档和其他重复任务的工具。他们还开发了更传统的AI和机器学习模型及应用程序。
与此同时，像Databricks、Snowflake、AWS、Google Cloud等供应商已经构建了环境，使客户更容易开发AI工具。
随着AI变得越来越普遍——并可能成为消费数据和指导决策的主要方式——企业需要确保其AI工具经过适当训练并得到正确使用。
这就引入了AI治理。
企业可以开发自己的AI治理工具，就像他们可以构建自己的分析和数据管理系统一样。但正如使用供应商提供的分析和数据管理工具通常更容易一样，使用专业供应商提供的AI治理能力也是更简单的选择。
Collibra在4月推出了AI治理，以响应对AI治理日益增长的需求。Alation现在采取类似的方法，推出了一套Bond称之为“对Alation客户的重要补充和Alation演变的合乎逻辑的步骤”的工具。
数据智能历来是Alation的重点。该供应商的AI治理能力将这一重点扩展到模型智能。
“将数据智能与模型智能对齐，可以确保在正确的时间、出于正确的原因，在合规约束内使用正确的数据与正确的模型，”Bond说。“这正是Alation所实现的。”
Alation的AI治理套件包括以下能力：
- 智能搜索，使数据科学家、工程师、机器学习专家和其他AI模型及应用程序开发人员能够快速定位和标记符合合规规定的相关数据集，从而为AI工具构建可信基础。
- 集中协作，包括模型卡模板，使企业能够创建一个主要数据源，用于记录和管理其AI资产，所有潜在用户均可轻松查看。
- AI模型血缘，提供用户对模型生命周期的全面可见性，包括对用于告知AI系统的数据集的目录、生成式AI模型训练以理解组织的方式及模型输出的记录。
- 自动化功能，标记不合规的数据集，以确保模型使用高质量数据进行开发，不违反法规。
- 专家服务，为客户提供开发可被目录化的模型卡的指导和最佳实践。
根据Henschen的说法，模型血缘能力尤其值得注意。虽然其他供应商也在解决AI治理问题，但对特定训练数据和提示工程的可见性是Alation的潜在差异化因素。
“我见过竞争对手，包括Collibra发布与AI治理相关的公告，但Alation在宣布训练数据特定、提示特定和模型特定能力方面是独特的，”Henschen说。
根据Alation联合创始人兼首席执行官Satyen Sangani的说法，开发AI治理套件的动机来自客户反馈以及Alation对市场状况的观察。
在市场状况方面，AI的采用增加与新法规的结合提供了推动力。
“由于新的监管压力和AI采用的增加，AI治理的紧迫性已经加剧，”Sangani说。“立法……强调了公司跟踪、管理和理解其AI部署的日益增长的要求。”
与此同时，客户越来越意识到与无治理的AI模型和应用程序相关的成本，他继续说道。
“客户持续强调需要可靠的、AI就绪的数据，以降低风险、支持合规并在日益严格的法规和公众审查中保持竞争力，”Sangani说。
展望未来
随着Alation的AI治理套件现已可用，Alation的路线图集中于添加使数据策划和数据发现更容易、更高效的AI能力，Sangani表示。
此外，鉴于数据管理可能面临挑战，该供应商旨在提供新工具，帮助客户利用数据来指导其最有价值的项目。
与此同时，Henschen表示，虽然Alation的AI治理能力解决了模型开发过程的一些方面，但套件并未涵盖其他方面。
因此，该供应商明智之举是通过产品开发和与合作伙伴的集成来更新其AI治理工具包，增加新功能。
“模型开发生命周期涉及许多内容，因此……可以交付更多功能，还有待为市场领先的模型和服务开发产品及平台创建集成，”Henschen说。
Bond同样指出，Alation在其AI治理套件中还有添加更多功能的空间。例如，针对AI的政府政策可能会变得更加严格。随着这些新政策的出现，Alation将有机会增加新功能。
“我们才刚刚开始触及AI治理所需和可以做的表面，”Bond说。
Eric Avidon是TechTarget Editorial的高级新闻撰稿人，拥有超过25年的经验。他专注于分析和数据管理。
