对于大多数人来说，这种关于人工智能、不平衡数据集、模型训练以及最终因数据疏忽而导致的失败的细节不会被很好地接受，甚至不会被理解。但是，这个故事中什么会被理解并留下来呢？ 公司在招聘时存在种族偏见。
这个常见例子的寓意是，非常智能的模型确实会犯下无意的错误，并且会对人类产生负面影响并造成可怕的后果。
数据可解释性不是通过理解复杂的机 巴基斯坦手机号码数据 器学习模型来转化结果，而是使用数据来解释预测和失败。
数据可解释性是查看测试数据 和 了解模型将从该数据中获取什么的结合。这包括了解代表性不足的数据样本、代表性过高的样本（如招聘示例）以及模型检测的透明度，以便准确理解预测和错误预测。
对数据可解释性的理解不仅可以提高模型的准确性和公平性，而且还可以帮助模型更快地加速。
随着我们继续依赖并将复杂的人工智能和机器学习程序融入我们的日常生活，解决黑盒问题变得至关重要，特别是对于故障和错误预测。
虽然模型可解释性始终存在，但它需要另一个层面。我们需要数据可解释性，因为理解模型所看到和读取的内容永远不会被经典模型可解释性所涵盖。