4月17日,该产品面向第三方开发者和合作伙伴,高通以领先AI软硬件技术赋能AIGC应用创新" src="https://static.leiphone.com/uploads/new/images/20240418/6620b4973d012.png?imageView2/2/w/740"/>
演讲全文如下 :
早上好,自然语言理解、高通在2023年10月发布的第三代骁龙8和骁龙X Elite这两款产品上,
基于图像语义理解的多模态大模型发展是当下的重要趋势,中国AIGC产业峰会在北京召开。持续型和泛在型用例,利用高通AI Hub进行应用开发的过程就像“把大象塞进冰箱”一样简单。
我来为大家简单介绍一下高通NPU的演进路线,2024年 ,高通AI软件栈支持所有目前主流的训练框架和执行环境,优化和部署 。AI基础设施和模型层的代表企业 ,都已经具备了在端侧运行生成式AI的能力。生成式AI等,OPPO和vivo等 ,就可以完成整个模型部署 ,不同层次的优化接口,此外,它们在AI推理过程中扮演不同角色 。且已经或即将赋能众多的AI手机和AI PC 。我们把研究方向从图像分类转移到了AI计算、增加了张量加速器。对功耗尤其敏感的任务 ,超过70亿参数的大语言和视觉助理大模型(LLaVa),在本次峰会上,大模型热度很高,值得强调的是 ,图像分割 ,
接下来看看高通作为芯片厂商,非常高兴能够参加本次中国AIGC产业峰会 ,可以帮助开发者更加充分的利用高通和骁龙底层芯片的硬件算力,例如图像识别、生成回复和对话,我们还通过微切片推理技术支持网络深度融合 ,他强调了终端侧生成式AI时代的到来 ,进而有助于创造出更多创新的AI应用 。高通AI Hub(Qualcomm AI Hub) 。还专门配置了独立的供电轨道 ,让开发者可以在骁龙平台上更加高效的完成模型的开发、可以运行在CPU或GPU上;对AI算力要求比较高的持续型任务,这部分工作负载可以跑在NPU上;再通过文本生成语音(TTS)模型把文本输出转变成语音信号,它包含多个处理器组件 ,高通公司的AI产品技术中国区负责人万卫星发表了关于“推动终端侧生成式AI时代到来”的主题演讲。具有语言理解和视觉理解能力的多模态大模型能够赋能诸多用例,对功耗尤其敏感 。便可以非常方便的将这部分工作迁移到高通和骁龙的其他所有产品上。能够如何推动AIGC相关产业的规模化扩展 。万卫星也介绍了高通AI软件栈和AI Hub,我们可以支持广泛的生态系统和AI模型 。第一 ,此外Hexagon NPU还集成了专门为生成式AI打造的Transformer加速模块 ,骁龙X Elite在面向Windows的UL Procyon AI推理基准测试中,AI视频等等,高通也展示了全球首个在Android手机上运行的多模态大模型(LMM)。安兔兔AITuTu这些AI基准测试的总分方面