人工智能（AI）已经深深融入我们的日常生活，几乎所有行业的财富1000强企业领导者都在积极推进AI相关计划。全球各大中型企业加速创新，利用AI的巨大潜力来提升收入、增加利润，并在产品与服务中挖掘新的价值。
尽管AI技术迅速演进，但许多董事会和CEO在AI语言素养和风险管理方面的认知仍显不足。AI的崛起就像一场风暴，许多董事会和CEO对以下问题的答案却模糊不清：你的AI算法和模型在哪里？这些算法和模型是否存在风险？
据2020年7月发布的全球研究报告显示，AI市场的复合年增长率超过42%，美国的AI市场规模已超过7337亿美元。麻省理工学院斯隆研究中心指出，超过90%的大型企业正在利用AI来改善客户交互旅程。AI创业投资的增长让人联想起互联网时代的牛市，但我们也记得2002年的市场下跌，促使人们重新审视价值和盈利的重要性。
根据CB Insights的数据，2019年AI初创公司共筹集了266亿美元，涉及2200多笔交易。尽管疫情对经济造成影响，但医疗应急及智能机器等技术正在迅速崛起，成为应对疫情的有效AI解决方案。
预计到2022年，企业在高级分析方面的投资将超过整体市场预算的11%。随着企业将AI和机器学习工具整合进业务流程，预计到2025年，AI软件相关支出将达到1250亿美元。
理想情况下，董事会和CEO应能够轻松了解企业的所有AI算法和模型的现状，明确各类风险，并通过清晰的KPI和ROI证明AI的价值。
然而，许多企业被黑箱AI实践吸引，这意味着缺乏透明的问责机制，审计风险也随之增加。尽管董事会和CEO明确知道员工的工作地点及客户服务的联络人，但很少有企业能够在五分钟内列出所有AI算法和模型的清单，也不清楚上一次模型的修订时间，更无法提供可靠的、经过第三方验证的风险分类证据。
随着数据的民主化逐渐成为AI实现的基础，提升AI和机器学习相关KPI的透明度至关重要。我们应当使AI KPI在重要性上超过财务KPI，正如审计师受到损益表信托责任制的约束。数据已成为战略资产，但很多企业在数据管理实践方面仍显不足，无法明确数据的设计、收集和存储过程，以实现AI转型带来的潜在价值。
虽然一些企业已经在机器学习运营（MLOps）上进行了投资，但只有少数企业拥有成熟的AI卓越中心。根据New Relic的研究，受访的750位全球高级IT决策者中，有89%的人认为AI和机器学习对IT运营至关重要，近84%的人认为AI将使他们的职责更易于管理。这种乐观的预期将加速数据管理实践的完善，而这恰恰是AI建模和风险管理的关键。
在过去18个月里，我与500多位全球大型B2B企业的C级高管交流，发现没有任何企业能够在五分钟内回答以下大多数问题。
为了保持竞争力，企业需要提出恰当的AI相关问题。每个利用AI算法构建定制化模型以解决特定问题的项目，都应能回答以下问题：
使用场景历史
AI模型/算法的用途是什么？它解决了哪些业务问题或挑战？在设计和实施用例之前，企业对AI模型和方法的ROI预估是多少？
AI模型所有权历史
谁编写了算法或开发了AI模型？相关流程负责人是否仍在公司？考虑到风险，AI模型是否有二级流程负责人？算法和模型的结构是否经过他人审核？审核者是谁？
创建和修订历史
AI模型或算法何时构建？自首次在生产环境中使用后，进行了多少次修订？当前使用的是什么类型的AI算法？该算法是开源的，还是专门为特定业务挑战开发的？
AI算法或模型方法历史
AI算法的数学结构是什么？这些是否经过第三方专家验证？负责监督AI算法的负责人是谁？AI模型使用的数据类型和数据源是什么？数据集的规模如何？在分析之前，数据集是否经过清洗？如果是，谁进行了清洗，使用了什么方法？AI模型中使用的数据源的质量和准确性如何？与历史记录相比，预测准确性的基准得分是多少？AI模型和算法是否有风险分类，是否制定了风险缓解计划？开发的AI模型是否经过数据偏差测试？使用了哪些偏差测试方法？进行了多少次数据偏差风险评估？上一次审查和优化AI模型是在什么时候？
AI算法或模型的价值实现
从投资回报率的角度来看，AI模型能为企业创造什么价值？是否能清晰定义效率或效果的ROI？第一个用例的ROI预测与实际结果相差多少？这些结果是否经过财务或第三方专家的验证？如果是，是否已提交报告？这种AI模型方法与行业最佳实践相比如何？是否有有效的流程改进计划？
尽管还有许多其他问题，但董事会和CEO可以通过年度审计风险评估和治理流程来监督AI卓越中心，跟踪AI模型的演进发展。
不幸的是，多数AI模型是由数据科学家、程序员或第三方公司开发的，他们专注于构建特定的AI模型，无论是预测疫情的热点区域，还是利用AI无人机预测害虫对收成的影响，或是收入预测及潜在风险管理。在大多数情况下，参与设计和构建AI模型的人都是用心良苦的。
董事会和CEO应意识到，AI素养是培养人才所需的新能力。AI模型需要不断优化才能在生产环境中成功使用，而对数据管理基础设施的现代化投资是确保数据和机器学习与时俱进的关键。如果管理层不监控AI模型的生产环境，进行再训练，并随着时间的推移增加数据源以增强模型的洞察力，他们将面临风险。
AI就像建造一座花园，持续施肥和除草是收获美丽的长期投资。AI并非一成不变的雕塑，不能在几年内保持模型的原始状态。有人将AI比作新型石油，而我更愿意将其视为新型氧气，因为AI正如气候变化般无处不在，潮起潮落。领导者需要具备卓越的远见，以做出明智的规划，洞悉花园中一切的生长状态。
遗憾的是，许多技术负责人或CIO可能并不擅长AI和数据科学，这进一步增加了企业在实施AI时面临的风险。首席数据官（CDO）和首席数据科学官（CDSO）的崛起，推动了AI的发展、模型构建和风险管理实践。尽管许多公司在数据支持系统方面的投资与保护算法和模型的安全性相辅相成，但仍需要更多的努力。
董事会和CEO有责任确保AI审核和风险管理框架得到合理实施，以推进AI治理的进步。
[[[IMG_1]]]
[[[IMG_2]]]
[[[IMG_3]]]
