搜尋

會員登入

搜尋

導覽

會員

未来无所不在的AI架构导向边缘和云端 逐步走向统一与可扩展

推论的时代

AI/ML训练开发出供推论使用的模型,用於识别任何需要辨识的物件。这些物件可以是智慧城市街道上顺畅或拥挤的交通、用於实现安全存取控制的身份证件和人脸比对的许可级别、向客服中心拨打电话的对话内容,抑或是邮政分发中心中信封上的手写地址。


训练通常在企业资料中心或云端进行,这些环境中有众多高效能伺服器、充裕的记忆体、硬体加速器和高速网路可以投入工作负载。在这种环境下,需快速完成工作的训练使用大量供给运算、网路连结和冷却的电力。尽管推论工作负载也能在资料中心或云端执行,但由於多种原因,越来越多推论任务正迁移至边缘。


首先是延迟问题。将原始资料发送到云端或资料中心耗用时间,因此需要更长的时间来执行推论,而且将想要的答案或决策发送至边缘的时间也会增加。以工厂自动化、雷达、电子作战等即时任务来说,费时过长的决策会导致高昂成本。
...
...

另一名雇主 限られたニュース 文章閱讀限制 出版品優惠
一般使用者 10/ごとに 30 日間 0/ごとに 30 日間 付费下载
VIP会员 无限制 25/ごとに 30 日間 付费下载

Card Image

定义兆瓦级AI工厂 英飞凌以固态电力技术 驱动直流微电网革命

在代理式AI发展如火如荼的新时代,全球对算力的需求正以倍速增加,这股力量也直接拉升了资料中心的能耗基准,传统的电力架构已难以支撑未来的AI算力需求。 英飞凌(Infineon)...

在代理式AI发展如火如荼的新时代,全球对算力的需求正以倍速增加...