文章 2022-11-02 来自:开发者社区

Umang 谈部署可解释机器学习面临的挑战(下)

结果网络异常,图片无法展示|由 theta 参数化的实验的目标是找到给出上述结果的一些 delta。这里,fθf_θfθ是模型A,fθ+δf_{θ+δ}fθ+δ是模型B。网络异常,图片无法展示|Umang 正在研究的是重要性排名。在这里,他们正在查看 14 个特征。他们可以采用特征重要性排名,并根据赋予它们的归因大小对特征进行排名。下面展示了关于不同解释技术的判别特征的大小和排名(模型A(fθf....

Umang 谈部署可解释机器学习面临的挑战(下)
文章 2022-11-02 来自:开发者社区

Umang 谈部署可解释机器学习面临的挑战(上)

在实践中如何使用现有的可解释性方法?Umang 提到了围绕 XAI(可解释 AI)的文献大幅增长。特别是,旨在“解释”机器学习输出的提议算法的增加。有了这个观察结果,Umang 的团队着手做的事情之一就是研究组织如何使用这些算法。研究访谈在他们的研究中,他们对来自 30 个不同组织的 50 人进行了半结构化访谈,访谈持续时间在 30 分钟到 2 小时之间。共同语言团队意识到需要共享和建立语言来思....

Umang 谈部署可解释机器学习面临的挑战(上)

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。