麦肯锡的最新研究显示，GenAI每年对全球经济的贡献将达到7.9万亿美元。GenAI不仅对全球经济产生深远影响，还为各个行业带来了变革的机会。
Steve Schmidt从两个方面探讨了GenAI和大型语言模型（LLMs）与企业信息安全之间的关系。
一方面，Steve Schmidt强调，LLMs和GenAI是帮助安全人员提升安全成果的重要工具；另一方面，他提出了关于安全使用GenAI服务的三个经典问题，并通过自问自答的方式详述了亚马逊云科技如何确保其GenAI服务的安全性。
在安全领域，LLMs和GenAI同样可以帮助安全人员提高工作效率。Steve Schmidt表示，GenAI是亚马逊团队用来帮助客户更有效率地工作并提升安全标准的又一工具。
Steve Schmidt向TechWeb指出，GenAI驱动的Amazon Inspector不仅仅能够识别错误的代码，还能直接提供开发者所需的正确代码。这一强大能力可以加速开发者的工作速度，同时训练他们编写安全代码的技能。
Amazon Detective利用GenAI生成关于安全威胁或入侵的技术指标描述，人类工程师的职责是验证机器分析的准确性，这样可以提升安全工程师的工作效率，使他们的工作更加高效且愉快。
Steve Schmidt强调，“亚马逊的所有代码在进入生产阶段之前都需要经过审查。多年来，我们进行的大量代码审查以及庞大的代码库使我们能够有效地训练和优化这个模型服务。最近，亚马逊开始使用定制的大型语言模型来加速代码审查。”
随着人工智能的不断创新，新的挑战和机遇也随之而来。安全团队需要帮助企业理解这些创新带来的利益与风险。
Steve Schmidt进一步分析了这个问题：如果你正在使用公司的数据来训练大型语言模型，这些数据是如何被访问的？在训练过程中，数据在传输和静止时是否保持加密，如何验证这一过程的安全性？用于访问数据的权限是否被限制到最小？
“查询本身也可能是敏感的，应该纳入你的数据保护计划。”Steve Schmidt强调。
他指出，大型语言模型生成的输出具有“非确定性”，这是该技术的一个重要特征。
Steve Schmidt表示，安全团队不能将所有决策权交给AI，更合理的方式是利用大型模型帮助有才华的工程师更高效地工作。
据介绍，亚马逊云科技提供的Amazon Bedrock包含两个组成部分：底层基础模型，这些模型是在大量数据上训练的，但并不一定适用于特定企业的工作方式。因此，通过定制化能力，企业客户可以使用自己的训练数据来微调模型，而这些训练内容不会回馈给基础模型，也不会与第三方模型开发者共享。
Amazon Bedrock是亚马逊云科技于今年4月推出的一项全面托管服务，企业用户可以通过API等方式轻松访问包括亚马逊自研的Titan系列模型及众多主流第三方大模型。截至目前，Amazon Bedrock提供的基础模型包括Amazon Titan的五款模型、Anthropic Claude 2.1、Meta LLaMa 2 70B、Stability AI Stable Diffusion XL 1.0、Meta LLaMa 2 Chat 13B、Cohere Command Light、Cohere Embed English和Cohere Embed多语言模型等。
