darkon:破解深度学习模型的工具包 源码

Darkon:破解深度学习模型的工具包 Darkon是一个开源工具包,可以更好地了解深度学习模型。 深度学习通常被称为难以理解的黑匣子。 但是,问责制和可控性对于深度学习模型的商业化至关重要。 人们经常认为,准备好的数据集的高精度足以将模型用于商业产品。 但是,在准备好的数据集上表现良好的模型通常在实际使用中会失败,并且会导致某些极端情况得到修复。 此外,有必要在医疗诊断,财务决策等某些应用中解释结果以信任系统。我们希望Darkon可以帮助您了解训练有素的模型,这些模型可以用于调试故障,解释决策等。 在这里,我们提供了分析深度学习模型决策的功能,这些决策轻松适用于任何Tensorflow模型