AI運算加速的能與不能

當今全球最消耗運算力的應用，非人工智慧（AI）莫屬，很顯然這跟「ChatGPT」脫不了干係，因為這類應用不僅要快速分析用戶輸入的語意，同時也要在短時間內擷取大量的資料，並生成出相對應的回答。尤其是當數百萬人同時上線的時候，它所需的運算資源是難以想像的。 也因此，傳統的架構很難滿足AI應用的運算需求，它必須要使用加速技術才能夠讓AI應用又快又好，整體的使用體驗也才能達到用戶的想像。更重要的，是降低整體的營運與系統成本，因為更快的速度，意味著更低的資源消耗，也就代表更低的支出。 本場的東西講座特別邀請台灣人工智慧加速技術新創公司「創鑫智慧（Neuchips）」，透過他們實際的研發經驗與服務客戶的觀察，與產業朋友們分享AI運算的能與不能，探討人工智慧加速的應用潛能。 本次的講座主軸如下： ‧ 什麼是AI運算加速 －發展背景 －技術原理 －產業現況 ‧ 何時需要加速AI運算? －應用與場景 －需求與系統 ‧ AI運算加速的限制與挑戰 ‧ 討論與ＱＡ