製程AI走向高風險應用　可靠度驗證成落地關鍵

AI正從設備監測、異常偵測與預測維護，逐步深入品質判定、製程最佳化甚至控制決策，但當AI介入關鍵製程愈深，模型失效所帶來的設備、工安與營運風險也同步升高。德國萊因指出，製程工業導入高風險AI，已不能只看模型準確率，必須建立涵蓋風險分級、可靠度驗證及上線監督的全生命週期治理機制。

由經濟部產業技術司、資策會科技法律研究所共同主辦，德國萊因執行的「製程工業AI應用與規範研討會」，聚焦AI風險管理與可靠度驗證。資策會科法所主任王自雄表示，製程工業具有連續運轉、系統高度耦合及事故連鎖效應等特性，當AI由資訊提示進一步介入操作建議、安全決策與控制，資料提供者、模型開發商、系統整合商及工廠端均須納入治理架構。

圖一

在驗證技術上，德國萊因提出結合AI安全等級（AISL）與AI效能等級（AIPL），進一步判定AI可靠度等級（R-AIL），據此決定查核強度。驗證流程則由工廠、AI軟體供應商與第三方驗證機構共同完成，串聯工廠驗收測試（FAT）、現場驗收測試（SAT）及上線後持續監督。

其中，FAT著重資料集代表性、模型品質、穩定性、漂移及更新機制；SAT則進一步模擬實際工廠環境，包括感測器雜訊、未知工況、通訊中斷及人工接管等異常情境，建立可稽核、可追溯的證據鏈。德國萊因表示，自2021年起已有8家國際製程業者完成相關AI可靠度評估，應用涵蓋管線壁厚預測、影像診斷、設備劣化與異常徵兆偵測，以及製程操作最佳化。

值得注意的是，高風險AI目前仍不宜直接取代既有安全連鎖或安全儀控系統（SIS）；若進一步結合機器人、AMR或無人載具，也須把機械安全、通訊失效及人工接管納入驗證。

隨著AI由輔助分析走向製程核心，高風險工業AI的競爭門檻將從「模型能不能用」轉向「系統能否被驗證」。資策會與德國萊因後續將推動高風險製程工業AI可靠度驗證試點，透過法規調適、風險分級與第三方驗證，建立AI進入石化、能源、化工及智慧製造關鍵場域所需的安全與可信基礎。