12月26日，以“AI生态 共赢未来”为主题的AI生态开发者大会在北京正式举行。与会高层在主题演讲中表示，在AI时代浪潮之下，真正让AI应用落地的将是嵌入AI的全终端布局。演讲者同时强调，嵌入式AI的全终端核心具备内嵵轻量化模型、场景化应用、类脑化能力三大“特质”。
首先是内嵌轻量化模型。结合AI终端的算力水平，运行在终端上的大模型需要通过混合AI框架进行模型蒸馏、压缩及微调。在保留核心能力的前提下，降低对终端算力的要求，让小设备也能运行大型模型。以AI设备为例，以本地推理为主、边缘和云端推理为辅的混合模型架构，能合理调配任务，在充分满足用户需求的同时，实现终端模型的轻量化。
其次是场景化应用。为了适应不同场景下的专业诉求，AI终端需要与本地知识库相结合，并对本地个人大模型进行参数调优，为工作、学习、生活等通用场景提供个性化服务。
最后是类脑化能力。通过多模态认知能力，这些AI设备不仅具备强大的智能混合算力，还能够进行类似人脑的思考和分析。终端设备在承担原有生产力工具和内容消费载体的前提下，功能上也从工具属性升级为助手属性，成为个人的“第二大脑”，成为与用户如同双胞胎般的个人AI助理。
