二〡一scape 可解释机器学习模型（李宏毅）

why we need Explainable ML?

1. 正确答案并不等同于智能，例如神马汉斯这一案例。

2. 在诸多实际应用场景中，具备可解释性的模型通常是不可或缺的。

• 通过模型来判断是否应向某人发放贷款（法律规定贷款机构必须对其模型进行解释。）
• 医疗诊断模型（该模型关系到人类生命安全，能否作为黑箱存在？）
• 应用于法律判决（若模型在法庭上被使用，必须确保其行为不具有歧视性。）
• 自动驾驶（若自动驾驶车辆突然出现异常行为，需要明确解释其原因。）

3. 可解释性机器学习能够进一步提升机器学习模型的性能。

當前在應用這些深度學習技術的過程中，常見的情況往往如下：

有人會說：「這就是你的機器學習系統。」

確實，我所做的不過是將資料輸入其中，系統內部進行大量矩陣運算，最終產生結果。

但如果結果未能達到預期，該如何處理呢？

如今大家都清楚，通常會調整一些參數，例如改變學習率、修改網絡結構等，隨即對這一系列的數學運算與線性代數進行重新組合與調整，試圖讓結果變得更好。

然而事實上，在當前的深度學習模型中，若想改善模型表現，往往需要調整一些超