首席技术官警告：聊天模型可能被恶意利用，需要监管

2月6日消息，人工智能研究公司 OpenAI 开发的聊天机器人 ChatGPT 近日在全网引发热议。该公司首席技术官米拉·穆拉蒂在接受美国《时代》杂志采访时感叹，产品一经推出便获得意料之外的热度。

她补充称，ChatGPT 仍有“编造事实”的风险，这与基于语言模型的其他人工智能工具并无本质不同。

她在采访中强调，这类 AI 工具“存在被滥用的可能，甚至可能被不良分子使用”，这也让全球层面的监管问题浮现。

她提出的核心问题是：如何在坚持人类价值观的前提下，规范人工智能的应用与使用方式？

当被问及公司是否承担监管这类工具的责任时，穆拉蒂回应称，对 OpenAI 等机构而言，首要任务是以可控且负责任的方式让公众了解并接触该工具。

她同时强调，监管需要来自政府、监管机构及社会各界的协作，当前对 ChatGPT 的监管“并不算太早”。

对于此事，OpenAI 尚未就置评请求作出回应。

今年一月，OpenAI 首席执行官萨姆·奥尔特曼在接受采访时表示：“生成文本的能力是我们需要逐步适应的新常态。”

他还说：“就像我们已习惯计算器并改变了数学课程的考核一样，ChatGPT 是一个更极端的例子，相关的潜在好处也同样显著。”

自去年11月30日正式推出以来，ChatGPT 就吸引了广泛关注，许多人担心它最终会替代不少工作岗位。

有些人甚至用 ChatGPT 与另一种能自动生成图形的 AI 工具合力创作了一本儿童绘本。研究人员还让 ChatGPT 解答美国医学执照考试的题目，结果显示它在三个部分的考试中均顺利通过。