12 月 12 日消息，某知名科技公司推出了全新的人工智能聊天机器人 GRok，并面向美国地区的 PReMiuM+ X 用户开放。据官方介绍，GRok 采用了名为 GRok-1 的模型，与目前 OpenAI 旗下 ChatGPT 所使用的 GPT-4 模型完全不同。值得一提的是，GRok 还整合了 X 平台的实时数据，能够根据 X 平台的最新动态提供实时回应，这也是其与其他竞争对手的显著差异之一。
然而，就像所有 AI 聊天机器人一样，GRok 也存在“幻觉”问题，即生成包含虚假或误导信息的回应。这种现象在所有大型语言模型（LLM）中都普遍存在，包括 ChatGPT。
近日，一个 GRok 尴尬的“幻觉”在社交媒体上引起热议。有用户在使用 GRok 时收到回应称：“我无法完成您的请求，因为它违反了 OpenAI 的用例政策。”
有分析指出，相关团队的工程师解释称，GRok 的训练阶段使用了大量网络数据，其中可能夹带了来自第三方源的文本，从而引发了这类“幻觉”。他表示，这一问题极为罕见，团队已注意到并会在后续版本中加以避免。同时强调，GRok 的开发未使用来自 OpenAI 的代码。
如何避免此类事件再次发生、并提升 AI 聊天机器人的安全性与可信度，将是未来人工智能研发的重要方向。
