隨著AI技術越來越成熟, 也應用到許多的領域, 在一些嚴謹的領域人們會特別關心AI的判斷方式。

車用電子也是非常嚴謹的領域, 當要將AI應用到車用電子上, 我們希望AI判斷的方式合理, 除了透過資料驗證AI判斷的準確率之外, 也要藉由模型解釋來驗證模型學到的內容正確, 所以我們設計一套方法針對我們的物件偵測模型進行模型解釋, 用於檢視模型是否學習到正確的特徵。

我們還利用模型解釋做了以下應用:

1. 我們根據模型以及模型解釋方法的特性制定了指標用來衡量模型是否學習到合理的特徵, 利用指標也可以用來調整資料收集的方向, 因為有些情境對模型來說相對複雜就可以透過增加資料的方式來讓模型學得更好。

2. 我們利用模型對不同類別物件的解釋來計算相似度, 可以觀察出模型是否對於某兩種類學到的特徵相似而容易混淆。

3. 我們透過影像處理來模擬實際情況中鏡頭產生偏移時得到的影像, 並計算影像處理前後模型關注的特徵是否發生改變, 以此來驗證模型的強健性, 確保在實際應用時若因震動等外在因素導致鏡頭發生些微偏移時, 模型仍能夠保有準確度。

成果