终端侧生成式更多惊喜?高通将在带来新的首个演示

2024年7月4日,备受瞩目的世界人工智能大会暨人工智能全球治理高级别会议(WAIC)将于上海开幕。自2018年首次举办以来,WAIC已走过六个年头,如今,WAIC已经成为全球人工智能领域最具权威和影响力的行业盛会。

在本届WAIC即将开幕之际,终端侧AI推动者、领导者高通宣布了即将登展WAIC的消息,并迅速引发了业界的广泛期待。

据了解,7月4日-6日期间,高通将带来一系列的主题演讲和直播访谈,将重点分享AI技术基础研究、领先产品应用和未来行业赋能愿景上的最新进展。例如,大会当天,高通公司中国区董事长孟樸将出席活动,并发表主题为“推动终端侧AI发展让智能计算无处不在”的演讲,同时还有“拥抱AI终端创新”等系列直播访谈节目。高通公司中国区研发负责人徐晧也将发表“终端侧AI规模化扩展,释放工业化创新活力”的演讲,并通过媒体直播间分享“我们可以用上怎样的AI硬件?”。

技术展示环节更是亮点频现,包括首个在Android智能手机上运行的大语言和视觉助理大模型(LLaVA)、骁龙XElite终端上的剪映AI视频编辑功能、第三代骁龙8赋能Android智能手机带来创新终端侧生成式AI体验等等。

这一系列技术展示,将是高通公司在推动终端侧AI技术边界拓展与行业生态合作方面的集中展现,也是对未来智能科技发展趋势的一次生动预演,相当值得期待了。

当下,生成式AI已经成为行业炙手可热的话题,特别是随着生成式AI技术在全球数以亿计的终端中的大规模应用,以终端侧为主旋律的生成式AI浪潮已然到来,而引领这一变革的核心力量,正是高通。

高通作为AI行业变革的赋能者,已经从底层芯片、到软硬件生态建设,以及应用的落地,都做足了准备,赋能引领行业创新。

比如在标准制定上,去年,高通发布了《混合AI是AI的未来》白皮书,明确指出云端与智能手机、汽车、个人电脑及物联网终端的协同工作,将促进更强大、更高效且高度优化的AI发展,这是实现AI普惠的必由之路。今年,高通又推出了《通过NPU和异构计算开启终端侧生成式AI》白皮书,深入解析了HexagonNPU为核心的异构计算技术,并探讨了如何利用这些技术,在生成式AI需求激增的背景下,为终端侧带来丰富多样的生成式AI应用场景。

再比如在底层芯片方面,早在2015年,高通就在骁龙820平台上集成了首个AI引擎;在今天的第三代骁龙8上,高通将高性能AI注入整个平台系统,采用面向生成式AI应用重新设计的HexagonNPU,够在终端侧运行高达100亿参数的模型,无论是首个token的生成速度还是每秒生成token的速率,都处在业界领先水平。例如在生成式AI语言理解模型MobileBERT上,第三代骁龙8的表现比竞品A高17%,在鲁大师AIMarkV4.3、安兔兔这些AI基准测试的总分方面,第三代骁龙8也是远超竞品。

更重要的是,高通还将大语言模型完整的搬到了端侧运行,赋能众多的AI手机。比如包括三星、小米、荣耀、OPPO、vivo等在内的手机厂商,其发布的骁龙8Gen3手机,均已具备了在端侧运行生成式AI的能力。

借助第三代骁龙8的AI能力,此次展会,高通也将展示首个在Android智能手机上运行的大语言和视觉助理大模型(LLaVA)。

除了移动端,在AIPC领域,高通还带来了骁龙XElite和骁龙XPlusPC平台,凝聚了高通在通用处理和AI异构计算多年积累的技术成果,其集成的NPU更是具有45TOPS的恐怖算力,这是PC平台中最强大的NPU。

当下,微软Surface系列新品,以及联想、戴尔、惠普、宏碁、华硕等品牌,也都已经或即将发布搭载骁龙X系列平台的Windows11AIPC新品。在这次展会上,高通就将展示骁龙XElite终端上的剪映AI视频编辑功能,可以期待,无论是消费者还是企业用户,借助骁龙XElite终端,都能够全天候利用AI增强的终端侧工具来提升生产力、创造力和协作能力。

不仅如此,高通还积极投身AIPC生态的建设,让开发者能够获取基于异构计算的AI加速,高通打造了AI软件栈(QualcommAIStack)。它能够支持目前所有的主流AI框架,包括TensorFlow、PyTorch、ONNX、Keras;它还支持所有主流的AIruntime,包括DirectML、TFLite、ONNXRuntime、ExecuTorch,以及支持不同的编译器、数学库等AI工具。

就在6月份,高通还针对其45TOPS的HexagonNPU开发、优化并验证了AI模型。注册开发者可以前往高通的AIHub获取这些预训练模型,快速构建人工智能应用。据介绍,高通AIHub提供了各种针对骁龙X系列处理器的边缘设备优化的AI模型,涵盖图像分类、对象检测、语义分割和生成式AI等领域。此外,AIHub还提供了便捷的工具和文档,帮助开发者轻松地在视觉、音频和语音等应用中部署AI模型。

其所做的这一切,正如高通公司AI产品技术中国区负责人万卫星所言:

高通具备顶尖的异构计算能力,使AI能力能够贯穿整个SoC,将CPU、GPU、NPU和高通传感器中枢的能力都充分释放给应用开发者。可以说,骁龙XElite/XPlusPC平台的推出,如同为AIPC的变革性体验打下了扎实的地基,而借助骁龙XElite平台强大AI能力和高通在生态建设上的开放策略,接下来会有更多AI生成式应用的涌现。

写在最后在刚刚结束的MWC上海展会上,高通AI产品技术中国区负责人万卫星发表了“终端侧生成式AI的未来”的主题演讲,他提到,凭借面向生成式AI全新设计的NPU和异构计算系统,高通正为终端侧AI规模化扩展提供了有力支持。此外,高通还致力于构建完善的AI生态系统,不断推动AI技术的创新与发展。

利用领先的边缘AI、高性能低功耗计算和无与伦比的连接,高通正不断推动终端侧AI的规模化扩展,让智能计算无处不在。随着WAIC(世界人工智能大会)的到来,可以期待,终端侧AI领导者的高通还将带来更多新的惊喜。

7月4日-6日,终端侧生成式更多惊喜?高通将在带来新的首个演示WAIC,我们现场见!

免责声明:本网站部分内容由用户自行上传,若侵犯了您的权益,请联系我们处理,谢谢!联系QQ:2760375052

分享:

扫一扫在手机阅读、分享本文