9月21日消息，OpenAI于周三发布了新版图像生成工具DALL-E的预览版，该工具能够根据文本提示生成图像。此外，OpenAI还计划将其融入到广受欢迎的ChatGPT聊天机器人中。随着立法者呼吁对生成式人工智能加强监管，OpenAI正致力于扩大这一具有争议性的技术应用。
新推出的DALL-E 3在理解用户指令和将文字转化为图像方面表现显著提升，解决了之前版本的不足。OpenAI的研究团队表示，随着语言处理技术的进步，DALL-E 3能更有效地解析复杂指令，避免对详细请求中元素的混淆。
DALL-E 3团队负责人阿迪提亚·拉梅什（Aditya Ramesh）指出：“用户可以直接在ChatGPT中提出一些模糊的问题。”在演示中，拉梅什分享了一名企业主为其公司MountAIn RaMen测试不同标识场景的案例。
尽管当前该工具仅供少数用户进行早期测试，OpenAI计划于10月份向ChatGPT的付费用户开放，从而显著增加与该技术的互动人数。
随着谷歌推出多款人工智能驱动的产品，OpenAI面临着更大的竞争压力，这导致DALL-E和ChatGPT的流量及用户增长放缓。然而，通过将图像生成器整合到ChatGPT中，OpenAI正在拓展市场，将其技术作为聊天机器人的一项功能，而非单独的产品。
OpenAI的公关主管林赛·海德·博尔顿（Lindsey Head Bolton）表示，由于DALL-E 3发布时还存在一些小问题，新闻发布会上记者们无法测试该功能。不过，OpenAI随后确认，到发布时，DALL-E 3已实现稳定运行。
早期推出的文本转图像生成器如DALL-E 2、Midjourney和Stable Diffusion曾吸引大量用户，使公众能够无需技术技能便可掌握高级软件的使用。广告商、营销人员、政界人士和游戏开发者纷纷利用这些工具进行推广。
然而，数据分析公司SimilarWeb的数据显示，DALL-E工具的在线访问量已从2023年3月OpenAI升级ChatGPT底层技术时的3200万降至8月份的约1300万。
尽管文本转图像的人工智能技术未来仍存在不确定性，但其发展几乎没有限制，引发了对其制作逼真图像能力可能对社会和政治产生重大影响的担忧。
旧版DALL-E生成的街道标志和文本往往显得混乱，因此容易识别出人工智能生成的图像。然而，DALL-E 3的改进使得外行人更难判断图像的真实性。加州大学伯克利分校的教授哈尼·法里德（Hany Farid）指出：“你不再能相信自己的眼睛。”法里德是一位数字取证研究专家，参与了与Adobe的内容真实性倡议。
法里德强调，DALL-E 3的改进并不意外，因为人工智能每六个月就会在模仿现实方面取得显著进展。他呼吁采取先进技术，以避免人工智能生成的内容混淆真实与虚假。
OpenAI的竞争对手如Stability AI和Midjourney也面临来自艺术家和Getty Images的诉讼，指控其训练生成式人工智能模型所需的大量互联网数据侵犯版权。
执法机构、监管机构和倡导团体最近开始关注这些工具的应用，例如用于制作深度伪造的成人内容以及为即将到来的总统选举制作人工智能广告。
DALL-E 3团队表示，他们优先考虑这些风险，并邀请外部专家组成的“红队”进行最坏情况测试，将经验融入公司的应对策略。
对于DALL-E 2，OpenAI在一张系统卡片中详细介绍了AI模型的开发、微调和安全测试过程。政策研究员桑德希尼·阿加瓦尔（Sandhini Agarwal）表示，OpenAI计划在DALL-E 3向公众开放之前发布一张类似的卡片。作为在白宫峰会自愿承诺的一部分，OpenAI同意开发和部署预防机制，用于识别由人工智能生成的视频或音频内容，通过图像水印或编码来源数据等方法标示内容创建的服务或模型。拉梅什提到，DALL-E 3正试验一种分类器，以查看图像的来源或内容的“来源”，这也是白宫承诺中提到的一种方法。
开源模型库公司Hugging Face的研究科学家、谷歌伦理人工智能前联合负责人玛格丽特·米切尔（Margaret Mitchell）表示，这些机制有助于识别深度伪造，同时也能帮助艺术家追踪他们的作品是否未经同意或补偿地用于训练模型。
米切尔补充道：“这不一定符合公司的利益，但我认为它符合更多人的利益。”
