B2B软件销售和营销团队热衷于使用“人工智能”这一术语，因为它听起来非常吸引人且富有神秘感。然而，当销售人员提到“人工智能正在执行某项任务”时，许多买家对这一技术的了解却相对有限，因此往往不会提出深入的问题。
在像DevTools这样的行业中，买家必须清楚产品的功能和局限性，以确保其能满足特定需求。如果人工智能的目标在于帮助人类做出更为准确的决策，那么接受“人工智能正在执行”这一说法实际上意味着对产品的运作机制和其决策准确性缺乏了解。
许多买家在成为消费者时，往往不需要对人工智能和机器学习产品的知识负责，因为这些技术看起来复杂而难以理解。
本文旨在探讨人工智能和机器学习的局限性，帮助软件购买者提出正确的问题，以更好地理解所购产品。
某些人工智能或机器学习产品的局限性在于，某些应用中没有绝对的真实标准来验证输出的准确性。例如，无论是人类还是机器，都无法完美地为任何特定应用生成端到端的测试。这种情况涉及预测性问题，缺乏客观的真理标准。尽管如此，买家仍应对产品有充分的了解。
作为买家，在做出购买决策之前，需明确卖家人工智能产品的预期优势。这是否意味着在客观标准下能比人类做出更准确的决定？是否能以更低的成本更快速地做出决策？或者引入一种新的数据使用方式？这些问题的答案将直接影响买家如何使用产品以及其所带来的价值。
尽管人工智能常被定义为“任何使用数学进行决策的机器”，但真正的人工智能是自我学习的。它依赖于神经网络，模仿人脑中的神经元，具备自我教学、自我更新和自我进化的能力。因此，真正的人工智能通常较难构建，且多为实验性质而非商业用途。
更常见的是，人们提到的人工智能实际上是机器学习。机器学习是由人类进行培训的：机器通过人类反馈的概率决策过程进行学习，而这个决策过程会通过不断的纠正而得以改善。机器接收数据并运行算法，基于概率输出决策。人类通过评估机器的输出准确性来进行纠正，并对机器进行更新。通过反馈，机器能够逐渐做出更好的决策。然而，由于机器学习是基于概率的，有时它也会做出错误的决定。
根据买家的使用计划，需要确定产品准确性的严格标准。机器在多长时间内做出一次错误决策仍能达成其目的，取决于特定应用场景。例如，自动驾驶汽车几乎需要做到完全准确才能被广泛接受，而律师助理的机器学习工具可能对准确性要求较低。那么，该产品究竟需要多精确呢？
无论买家如何打算使用产品，提出正确的问题以理解产品及其准确性水平至关重要。当销售人员声称“人工智能正在执行某项任务”时，可以提出以下问题：
该产品是否为机器学习产品？是否必须依赖机器学习才能获得有意义的结果？作为机器学习产品，它是否需要通过人类反馈来学习，而不仅仅是依靠概率来做出决策？买家需要使用的是仅依赖逻辑进行决策的产品，还是随着时间推移能提升准确性的产品？如何计算该产品的精确度？如果不知道计算精度的条件，就无法判断机器是否比人类更为准确。如果一台机器的精度比人类高出30%，那么谁来评估这种精度，评估的依据又是什么？如何判断产品何时做出错误决策？任何机器学习产品在某些情况下都可能产生错误输出。通常，销售方的成功客户已经建立了业务流程以增强对这种错误输出的适应能力。如果是这样，销售方也可以帮助买家建立这种能力。在当前状态下，产品多久会出现一次错误决策？了解错误的频率及其风险对于决定如何使用产品以及在产品开发的现阶段这样做是否安全至关重要。该产品投入了多少教学时间？这个数字将有助于评估为提高产品准确性所付出的努力。根据应用情况，较小的数字可能也是可接受的。如何提升该产品的准确性？买家在机器测试和教学过程中扮演着不可或缺的角色，因此应该愿意使用其数据来提高准确性，期望这些产品在未来能够得到改进。
市场上有许多被误称为“人工智能”的产品，实际上并不具备人工智能特性，甚至有些算法技术并不属于机器学习。因此，买家必须具备足够的知识，以提出正确的问题并理解这些产品的决策机制。
所有机器学习产品都有其局限性，尽管这些局限性因产品和应用方式而异。当产品的准确度未知时，买家能做的就是询问其决策方法是否有效：它是否能获得比人类更好的数据？利用这些数据，它是否能比人类做出更快、更明智的决策？如果答案是肯定的，那么买家应该考虑购买该产品，而非自行开发。
