9月8日消息，iPhone的推出标志着移动互联网的辉煌时代开启。如今，大模型技术的突破似乎预示着产业革新又一次迎来了“人工智能”的iPhone时刻。在9月7日举行的2023外滩大会首日，生成式AI和大模型成为了讨论的焦点。众多“两院”院士、诺贝尔奖和图灵奖得主等专家学者，以及科技企业领袖们，分享了他们在人工智能领域的见解和思考。
今年以来，AI的热度不断上升，过去六个月内，全球近百家公司和机构相继推出了大语言模型相关产品。国内市场也面临着“百模大战”，数据显示，全国至少有130家公司在研究大模型产品，其中78家专注于通用大模型的开发。
然而，专家们普遍认为，这项技术所带来的产业红利才刚刚开始。麦肯锡中国区主席、全球资深董事合伙人倪以理在大会上预测，生成式AI的技术浪潮将引发一场未来8至10年的新一轮技术和产业变革。
金沙江创投的主管合伙人张予彤也支持这一观点，他指出，生成式人工智能的创业和投资正在迅速增长，今年上半年投资总额已超过去年的全年水平。
张予彤预计，AIGC将在企业的关键职能中释放巨大的价值潜力，主要集中在四个领域：客户运营、营销与销售、软件工程以及产品研发。
蚂蚁集团董事长兼CEO井贤栋引用了电影《奥本海默》中的一句名言，“这不是一种新武器，而是一个新世界”，他认为大模型不仅仅是一项新技术，而是一个将引发全面变革的新世界。他透露，蚂蚁将以全栈布局、长线发展为原则，自主研发的大模型在外滩大会期间将发布最新进展，以创造产业价值为目标。
中国科学院院士、复旦大学副校长张人禾认为，面对“AI时代”的到来，“单打独斗”已不再适应大科学时代的科技创新，必须进行“有组织的科研”，而最大优势在于建立大平台。
产业的变革急需高效合作，但由于许多行业（如跨境贸易）在时间和空间上拥有较长的链路，协作涉及多个参与方，环节众多、流程复杂，往往因缺乏信任而导致合作不畅。
蚂蚁集团资深副总裁、数字科技事业群总裁蒋国飞指出，“信任问题是产业高效协作的最大障碍。”他认为，在物理世界的产业供应链背后，需要利用数字科技构建一个围绕数据供应链的协作网络。例如，在数据生成阶段，物联网可以保证数据源的可信性；在数据流通环节，区块链技术可以实现数据确权，防止篡改；隐私计算技术则确保数据在流通与融合过程中“可用不可见、可算不可识”；在挖掘数据价值的过程中，人工智能技术与场景的结合能够释放数据的巨大潜力。
专家们普遍认为，AI、区块链、隐私计算和数字人民币等新技术及其应用将在实体经济中创造巨大的价值。北京智源人工智能研究院顾问、美国国家工程院外籍院士张宏江指出，AI、区块链与数字人民币的结合将带来更加自动化、可信和高效的金融服务体系。
井贤栋表示，隐私计算的突破将使得数据价值的交换成为可能，而非数据本身的交换，这一变化意义深远。蚂蚁正在重点投入该领域，希望未来有一天加密计算的成本和效率能够与今天的明文计算相当，那时，数据时代的大爆炸将真正到来。联合国开发计划署可持续金融中心高级顾问迈克尔·舍伦则表示，新技术的应用能够促进绿色融资，降低融资成本，助力我们创造一个更可持续的世界。
模型的通用能力使其能够广泛应用于人类的生产与生活场景，几乎“无孔不入”。然而，AI的发展也带来了新的安全与隐私问题，如何解决这些隐患？中国科学院院士何积丰提出了他的“药方”：利用对齐技术为大模型戴上紧箍咒。
何积丰院士指出，大模型的安全问题主要体现在未经同意的情况下收集、使用和泄露个人信息。隐私问题可能在训练过程或使用过程中出现，而大模型的生成能力使得“隐私泄露”的方式更加多样化，从而增加了隐私保护的难度。
“为了解决这些问题，我们需要大模型对齐技术。”何积丰说，“对齐（alignment）”是指系统的目标与人类价值观一致，使其符合设计者的利益与预期，避免产生意外的有害后果。“如果将人工智能比作西游记中的孙悟空，那么‘对齐’就如同唐僧的紧箍咒。拥有紧箍咒，就能够确保技术不被任意使用，避免胡作非为。”
不过，对齐技术同样面临挑战。首先，对齐的基础，人类的价值观是多元且不断变化的，必须确保大模型为人服务、与人为善；其次，大模型的有用性与无害性之间的目标并不完全一致。如何有效纠正错误，设定好大模型的“紧箍咒”也是一项挑战。
因此，对齐技术已成为一项复杂的跨学科研究，不仅考验技术，更是对文化的审视。
何积丰介绍，反馈强化学习是实现对齐的技术途径，目前有两种方式：一种是通过人工反馈给予模型不同的奖励信号，以引导模型输出高质量结果；另一种是事先为大模型提供明确的原则，系统自动训练模型对所有生成的输出结果进行初步排序。“这意味着，不仅智能系统需要与人类价值观对齐，人类的训练方法也需要向价值观对齐。”何积丰说。
[[[IMG_1]]]
[[[IMG_2]]]
[[[IMG_3]]]
[[[IMG_4]]]
[[[IMG_5]]]
