高通技术公司和 Meta正携手致力於最隹化Meta的 Llama 2大型语言模型直接在装置上的执行,不再只能依赖云端服务运作。能够在智慧型手机、PC、VR/AR头戴式装置和汽车等装置上运行如Llama 2这类的生成式AI模型,将能让开发人员节省云端成本,同时为使用者提供保护隐私、更可靠且个人化的体验。
![高通携手Meta使用Llama 2实现装置上AI应用](/news/2023/07/19/1806138650S.jpg) |
高通携手Meta使用Llama 2实现装置上AI应用 |
因此,高通技术公司计划实现基於Llama 2的装置上AI部署,以支援打造令人期待的全新AI应用。这将让客户、合作夥伴和开发人员能建构如虚拟智慧助理、生产力应用程式、内容创造工具、娱乐等使用案例。这些搭载Snapdragon的全新装置上AI体验,可在没有连网的地区、甚至是飞航模式中运行。
高通技术公司资深??总裁暨技术、规划和边缘解决方案业务总经理 Durga Malladi 表示:「我们赞赏Meta在AI技术上采取开放和负责的策略。高通技术公司致力於推动创新,透过将生成式AI导入装置,将为各种规模的开发人员降低入门的门槛。为了将生成式 AI有效地规模化扩展至主流市场,AI 需要同时能在云端与如智慧型手机、笔记型电脑、汽车和物联网装置等边缘装置上运行。」
Meta和高通技术公司长期合作,共同推动技术创新,提供新一代的顶级装置体验。两家公司目前携手支援Llama生态系,范围横跨研究和产品工程工作。藉由装置上AI的领先地位,高通技术公司在支援Llama生态系方面独具优势。该公司在边缘装置具有无可比拟的布局全球数十亿的智慧型手机、汽车、XR头戴式装置和眼镜、PC、物联网等装置,皆搭载高通领先业界的AI硬体和软体解决方案为生成式AI带来规模化扩展的机会。
高通技术公司规划将於2024年开始在搭载Snapdragon平台的装置上支援基於Llama 2的AI部署。