近日，微软MVP LoRyan StRant 在专栏中提到，部分企业已开始部署Copilot。然而，对于企业客户来说，使用Copilot时需保持谨慎。
他指出，主要存在以下三大风险：首先，当前的部署力度尚显不足；其次，存在生成内容的幻觉问题；最后，可能会泄露用户的个人信息。
StRant提到，企业在部署Copilot时，至少需要购买300个许可证，整体成本大约在10.9万美元。这意味着大部分企业在短期内不会迅速跟进。
目前，Copilot在专业领域提供的内容并不够全面，可能无法为用户提供实际帮助。部署后的Copilot通常扮演顾问或专家的角色，但AI生成的内容并非总是准确无误。
在某种程度上，这些“专业人士”可能会误导客户，表现得似乎具备深厚的知识水平。
剑桥词典最近宣布，2023年的年度词汇为“hallUCinate”，其意为似乎体验到一些不存在的事物，通常与健康不佳或药物影响相关。
随着AI的快速发展，hallUCinate一词也被用来形容AI生成错误信息的现象。
在某些情况下，与AI的交互可能意外泄露用户的个人信息，造成严重后果。在组织允许AI访问其信息时，这种风险尤为突出。
研究人员在分析ChatGPT时发现，只需重复某个词，ChatGPT就可能泄露用户的敏感信息。例如，当提示词中重复“poeM”时，ChatGPT可能会暴露某些用户的手机号码和电子邮件地址。
因此，企业在使用Copilot时，务必谨慎评估这些潜在风险，以保护用户的隐私和信息安全。
[[[IMG_1]]]
