最近，随着美国政府发布新的AI法规，关于如何监管AI大模型的争议再度升温。
在北京时间11月2日凌晨，OpenAI CEO奥特曼在英国剑桥参加活动时，遭到了一些反AI活动者的强烈抵制。这些抗议者在现场挂横幅、扔传单，场面一度混乱。尽管如此，奥特曼依然镇定自若，顺利完成了演讲。
在演讲中，奥特曼表示，即使未来AI模型变得更强大，运行这些模型仍需巨大的算力。他强调，提高算力门槛有助于降低犯罪风险，并增加问责性。早前，OpenAI联合创始人Ilya Sutskever也曾指出，ChatGPT可能是有意识的，AI存在潜在风险。
与此同时，Meta AI首席科学家杨立昆在社交平台上多次批评奥特曼和其他行业领导者，认为他们正在向美国政府进行大规模的企业游说，这可能导致只有少数科技巨头能够控制AI技术。他直言，这样的情况将不可避免地引发灾难。
对此，DeepMind CEO哈萨比斯表示反对，认为当前需要讨论如何更好地利用AI，而不是进行“监管捕获”。在AI大模型竞争愈演愈烈的背景下，行业内关于巨头控制AI的讨论愈加激烈。
过去一年，ChatGPT的崛起使生成式AI成为科技圈的中心话题。苹果公司也开始涉足AI领域。在四季度财报会上，苹果CEO蒂姆·库克提到，苹果正在积极投入生成式AI的研发，并且已经在招聘AI相关人才，计划开发名为appleGPT的大语言模型。
特斯拉CEO马斯克则警告，AI可能成为人类最大的威胁，他认为AI将比人类更聪明，并有可能导致大规模失业。他提到，如果AI没有限制，它将满足人类的所有愿望，但这可能带来风险。
奥特曼也强调，政府的管控是必要的。他认为，未来十年内，全球将可能拥有强大的AI系统，而人类需要为此做好准备。
在此背景下，美国政府开始对AI安全问题进行监管。10月30日，美国总统拜登签署了一项针对AI的新行政命令，旨在保护公民隐私、促进公平和创新，并管理AI潜在风险。
在AI监管的讨论中，行业专家意见分歧明显。以杨立昆和吴恩达为代表的一派认为，AI尚未达到需要监管的阶段，而马斯克、奥特曼等则认为AI的风险依然存在。
在国际上，11月1日发布的《布莱奇利宣言》指出AI既带来机遇，也伴随重大风险，呼吁通过国际合作来应对这些风险。超过25个国家和地区的领导人对此表示支持。
在北京大学的论坛上，黄铁军教授指出，未来AI的发展将经历不同阶段，未来三年内大模型将扩展到更多领域，而十年后人类可能全面进入智力时代，科技与经济将以智力为核心重构。
他警告，AI安全亟需重视，否则将面临巨大的风险。黄教授强调，未来的变化可能会深刻影响社会运行方式，智力将成为新的基本要素。
“在2045年前，非有机体可能会出现人类的灵感创新能力，这将带来巨大的风险，”黄铁军总结道。
这场关于AI安全监管的激烈讨论仍在继续，专家们普遍对此表示担忧。
[[[IMG_1]]]
[[[IMG_2]]]
[[[IMG_3]]]
