OpenAI宣布成立一个名为Collective AlignMent的新团队，旨在采集公众意见，以确保未来的人工智能（AI）模型与人类价值观保持一致。
OpenAI成立于2015年，由硅谷多位科技领袖共同创办，包括特斯拉CEO埃隆·马斯克、Y Combinator总裁阿尔特曼及PayPal联合创始人彼得·蒂尔等。该公司专注于人工智能技术的应用研究。
自2022年11月30日推出ChatGPT以来，OpenAI获得了广泛的关注。ChatGPT是一款新型AI聊天机器人，能够根据用户需求快速生成文本、故事、歌词、散文、笑话，甚至代码，并回答各种问题。
在推出两个月后，ChatGPT的月活跃用户已达1亿，成为历史上增长最快的消费者应用之一。2023年11月6日，在OpenAI首次开发者大会上，CEO萨姆·奥尔特曼宣布，ChatGPT的周活跃用户数也已达到1亿。
然而，批评者指出，像ChatGPT这样的AI系统可能由于训练所用的数据而展现出固有偏见。
为了解决AI开发过程中可能存在的偏见问题，OpenAI决定组建Collective AlignMent团队，旨在让公众参与塑造其AI模型的行为。这是OpenAI解决监管问题并确保其产品与社会价值观相一致的一部分努力。
该团队将由研究人员和工程师组成，负责开发一个系统，以收集和编码公众对OpenAI模型行为的看法，并将这些宝贵的反馈融入到公司的产品和服务中。
