高通技术公司於 Microsoft Build 2023 开发者大会展示在装置上AI领域的一系列最新创新成果,包括展现在Snapdragon运算平台上运行的生成式 AI,以及开发人员为搭载Snapdragon的Windows 11 PC构建应用程式的新途径。
|
在搭载Snapdragon运算平台的装置上执行Stable Diffusion |
高通技术公司产品管理资深??总裁Ziad Asghar表示:「要使生成式AI成为真正的主流,需要让大部分推论在边缘装置上执行。我们一流的AI硬体和软体能使开发人员充分利用我们强大的AI功能,在笔记型电脑、手机和其他搭载Snapdragon的装置上提供令人惊艳的全新使用者体验。」
AI的未来需同时包含装置上AI和云端AI。在装置上运行 AI 应用程式可提升成本效益、隐私、个人化和降低延迟。Snapdragon平台搭载专用的高通AI引擎,相较於纯粹在CPU或GPU上处理,能更有效率地处理 AI 工作负载,即使是在轻薄小巧的装置上,也可以实现装置上AI。
高通技术公司将在Microsoft Build开发者大会上展示并提供协助在新一代Windows 11 PC上开发生成式AI的工具。Stable Diffusion是一款具有超过10亿个叁数、可从文本生成图像的生成式AI模型,现在已能够完全在装置上运行。
该公司表示未来的发展非常明确,再过几个月就能在装置上运行多达100亿个叁数的模型,包含大型语言模型(LLM)。为了强化高通AI叠层(Qualcomm AI Stack)并帮助开发人员打造新一代的装置上AI体验,高通也将在本届Build开发者大会上首次公开高通AI引擎指引(Qualcomm AI Engine Direct)开发套件供大众使用。
搭配ONNX Runtime和高通AI叠层,现在可以在搭载Snapdragon 8cx Gen 3 AI引擎的Surface Pro 9 5G和联想ThinkPad x13s上执行AI工作负载。
微软Windows晶片与系统整合??总裁Pavan Davuluri表示:「云端和装置处理都必须将AI扩展到数量丰富的装置和应用程式上。透过将微软的云端AI领导地位和Windows平台的功能与高通技术公司在装置上AI方面的专业知识相结合,我们将加速生成式AI体验的机会。」
此外,高通技术公司也将在本届Build开发者大会上展示当热门应用程式为Snapdragon进行原生编译时能获得显着效能提升,并首度公布一个全新开发者入囗网站,该网站将为开发Windows on Snapdragon使用的关键工具、资源和支援集中在一个易於使用的位置。