人工智慧（AI）的例子无处不在。我们对于AI的使用可能超出想像，并且在许多方面视为理所当然。智慧手机助理就是一个很好的例子，尽管我们可能并不认为这与AI有关。许多情况下，我们已经习惯于与Siri或Google Assistant的互动。同样，脸部辨识已成为新型智慧手机的标准解锁功能。

机器学习属于AI的一个子集，原理是通过训练基于电脑的神经网路模型来识别设定的模型或声音。在神经网路完成训练后，就可以推理出结果。例如，如果我们用数百张狗和猫的图像训练神经网路，那么它应该能够正确地识别图片中是狗还是猫。网路模型会确定答案，并指示预测的类别概率。

图一 : 机器学习的原理是通过训练基于电脑的神经网路模型来识别设定的模型或声音。 （source：恩智浦）

随着基于机器学习的应用越来越深入日常生活，系统开发人员已经逐渐意识到神经网路的当前运行方式不一定正确。让我们回到上面的例子，如果我们向神经网路显示一匹马的图片，那么仅经过猫狗推理训练的神经网路不得不在已训练的类别中选择一个。更令人担忧的是，给出错误预测的概率很高，您甚至都不会注意到，这个模型就这样无声无息地失败了。
...
...