互联网资讯 / 人工智能 · 2024年3月7日

私密对话泄露事件再度引发关注 与当局调查相关进展

1月31日消息,外部媒体再度报道称,知名人工智能对话工具出现安全漏洞,引发广泛关注。

私密对话泄露事件再度引发关注 与当局调查相关进展

该产品于2022年11月上线,具备快速生成文章、故事、歌词、散文、笑话以及代码等多种文本能力,并可回答各类问题。尽管生成式AI在日常使用中具备显著便利,但也伴随若干风险。近期关于隐私方面的新问题引发外界关注。

据外媒报道,一名用户提供的多张截图显示,部分对话记录可能包含其他用户的私密信息,包括用户名、密码及其他个人数据。此外,被披露的对话还涉及演示文稿名称、未发表研究提案的细节,以及一个以PHP编写的脚本。每次可见的涉及用户似乎彼此独立,互不相关。

针对报道,相关方面表示不实,指出出现的历史记录显示为该账户被盗用所致,属于被滥用的对话记录,而非系统错误导致的跨用户显示。官方同时表示将对此事开展调查,并建议用户在使用任何人工智能聊天工具时,避免分享敏感信息,尤其是在非自家开发的系统上。

此次事件并非首次出现信息泄露的情况。回顾往年,曾有类似漏洞导致活跃用户信息的对话标题、姓名、电子邮件、支付地址、信用卡后四位及到期日等信息在短时间内暴露。事件发生后,相关方修补漏洞并披露了技术细节。

这也是该类工具首次涉及重要个人数据的重大泄露事件,相关机构与公司都对外发布声明,向用户和社区致以歉意并说明应对措施。

此外,公开研究表明,通过某些重复性输入,仍有可能暴露训练数据中的私人信息、论文片段以及新闻文章等内容。研究方指出,开发方已在前一阶段修补相应漏洞。

鉴于担忧专有数据或个人信息泄露,部分企业对员工使用此类工具设立了限制。

本周一,意大利数据保护机构宣布,该国对该系统及其数据收集技术的合规性提出质疑,相关调查自2023年3月起启动,OpenAI 将在规定期限内进行回应。

截至目前,监管机构已将调查结果通知相关方,并要求在规定时限内完成回应与整改。