边缘计算社区

邬贺铨院士:AI大模型下沉 5G新质化上手

近日,在2024移动通信高质量发展论坛上,中国工程院院士邬贺铨发表题为《AI大模型下沉 5G新质化上手》的主旨演讲。

邬贺铨指出,到今年4月份,中国5G基站数占全网31.7%,占全球60%;中国5G用户数占全网过半,占全球也过半;5G峰值与均值下载速率为4G的7倍,上行为4G的3倍;移动宽带平均下载速率已超越固定宽带,据Speedtext数据显示,中国的移动通信平均下载速率位于全球前十名,上行速率较低,仅为下行的1/6~1/15。

5G半程仍需加力前行,5G的潜力还有待挖掘:5G用户渗透率及其在DOU中占比都超过50%,即5G用户的DOU与4G用户仍然相当;5G速度更快,单位流量资费更低,但因特色应用开发滞后,5G与4G相比流量增长潜能尚未释放;希望通过5G技术创新使得5G技术进步与用户体验提升能够形成很好的闭环。

5G创新还在路上:已有35个城市宣布开启5G-A新时代,5G-A相对于5G在多项性能上有数量级的提升,主要表现为宽带化、主动适配、轻量化、智能化。特别是智能化方面,表现在5G系统上的应用,如智能网络、智能运维、数字孪生、安全运行;也有表现在5G空口、5G终端AI化上的应用。

邬贺铨表示,大模型的压缩和手机算力的提升,让推理应用在边缘/端侧的运行成为可能,大模型下沉到手机相比公有云具有低成本、低时延、高隐私、个性化优势。随着芯片升级与模型压缩,目前手机终端已经能够支撑130亿参数推理,预计今年可达1000亿参数推理能力,达到终端智能化。

邬贺铨指出,嵌入大模型的智能终端将在动漫与视频创意、游戏和虚拟世界、语音合成与转换、视觉和图像处理、聊天机器人、个性化推荐、医疗辅助、自动化内容生成、人脸识别等领域得到广泛应用,智联未来将开拓无限想象空间。

5G+AI手机激活用户音视频内容创作能力。大模型嵌入手机一方面将显著释放用户创意、增强用户体验,另一方面将显著降低用户生成XR、3D等智能音视频的门槛、激活UGC生态,这有利于催生5G新应用。同时,5G手机+大模型APP还能为个人用户提供AI Agent入口,提供音控AI搜索/作图、文档摘要、口语陪练等智能化服务。

邬贺铨指出,大模型下沉赋能5G上新,有利于破解5G用户体验滞后的困境,大模型时代,5G+AI赋能将催生新一轮手机换代潮,激活万亿元规模的手机产业。

5G+AI将推动可穿戴设备向空间计算发展。空间计算能够增强AR体验,AR眼镜基于所见真实影像计算出相关定量描述及虚拟场景,实现虚实自然融合。例如,基于空间计算构建虚拟会议室,能让用户体验亲临其境视频会议;再如,5G+AR眼镜能够实时翻译路侧文字和发语音信息,为身处异国的用户带来便利。

5G+AI MEC强化端边云智能。AI MEC可利用AI PC芯片以边缘云形式简化对手机芯片要求,成为家庭计算网关和个人智能助理;AI MEC与UPF集成支撑基站群的空口智能,AI MEC与UPF集成赋能企业专网,UPF与AI MEC功能分离但接受协同编排。

邬贺铨介绍,大模型进手机以语音交互和智能涌现升华人机接口,将空间计算能力引入手机,支撑离线状态UGC和连线状态更强的云化服务,开启了功能手机、智能手机之后的AI手机时代。

现在AI手机与5G/5G-A相辅相成,大模型下沉赋能5G上新,将破局5G用户体验滞后的困境。但对硬件算力需求更显手机芯片成为制约因素,出路是用边缘计算分担手机功能。

IDC认为嵌入大模型的智能终端将在动漫与视频创意、游戏和虚拟世界、语音合成与转换、视觉和图像处理、聊天机器人、个性化推荐、医疗辅助、自动化内容生成、人脸识别等领域广泛应用。智联未来将开拓无限想象空间。

据Canalys发布的《AI手机的现在和未来》的报告,2024年全球AI手机占智能手机出货的16%,到2028年将激增至54%。IDC预测到2026年中国市场中近50%的终端设备的处理器将带有AI引擎技术。

发表评论

邮箱地址不会被公开。 必填项已用*标注

青ICP备20000204号-2