首页 >科技 > 内容

IBM AI公平性360开源工具包增加了新的功能

科技 2020-06-08 11:25:40

周三,IBM宣布升级其人工智能(AI)公平360工具包。据一篇博客文章称,这个最新版本增加了与scikit-learn数据科学库和R的兼容性,并为更大范围的开发人员扩展了可访问性。

参见:管理AI和ML在企业2020:科技领袖增加项目开发和实施(TechRepublic Premium)

AI公平360 (AIF360)工具包最初由IBM于2018年在Github上发布。这个开源包旨在帮助开发人员检查、报告和减轻机器学习模型和整个AI应用生命周期中的偏见和歧视。

该工具包本身包含70多个公平指标和11个独特的偏差缓解算法,这些算法是由研究社区开发的,旨在将算法研究从实验室转化为现实生活中的实践,包括金融、人力资本管理、医疗保健和教育等行业的博客文章。

然而,IBM的更新通过开放与R用户和scikit-learn的兼容性,使得偏差检测更加容易实现。

人工智能的公平性至关重要,因为机器学习模型越来越多地用于高风险决策。IBM的一篇博客文章称,机器学习在大量数据中分析和概括模式,可能会无意中对更有特权的群体产生隐藏的偏见。

AI公平性360旨在确保这些过程中的公平性,随着更新,这种公平性也可以应用到那些使用R编程语言的人。

AI fair 360 R包是一个开源库,包含了用于测试歧视的数据集和模型的全面的指标积累。R用户可以使用公平360算法来减轻数据中的偏差。

Scikit-learn是一个数据科学图书馆,通常用于训练已建立的机器算法模型、计算基本指标和构建模型管道。

据一篇博客文章称,虽然许多IBM笔记本电脑使用带有预处理或后处理工作流的scikit-learn分类器,但在AI Fairness 360算法和scikit-learn算法之间切换之前会打乱工作流,让用户来回转换数据结构。

最新的AI公平360版推出了一个aif360。sklearn模块。在该模块中,用户可以找到当前完整的兼容scikit学习的AIF360功能。并不是所有的功能都移植了,但是希望让AIF360的功能可以和scikit-learn互换。

scikit-learn中的算法和指标可以与去偏算法和指标交换。文中提供的一个示例是“您可以使用反向去偏分类器而不是简单的LogisticRegression分类器,您可以测量equal_opportunity_difference或受保护组之间的recall差异。”所有这些都应该像交换一行代码一样简单。”

IBM警告称,它无法确保AIF360与scikit-learn完全兼容。据该帖子称,某些scikit-learn预处理器,如sklearn. decomposive .pca,会省略样本属性,比如保护属性,并导致AIF360算法稍后出错。

当IBM继续将其功能复制到API时,旧的API仍然可以运行。一旦完成了这项工作,IBM可能会停止对旧API的支持,但会在时间到来之前进行沟通,如本文所述。

DataRobot最近的一份报告发现,美国和英国近一半(42%)的人工智能专业人士“非常”或“极其”担心人工智能偏见。这种偏见会损害品牌的声誉或失去客户的信任。AIF360的这些新功能可以帮助更多的专业人士避免这种有害的歧视。

更多信息,请查看IBM Watson的新自然语言处理功能如何帮助TechRepublic上的商业用户。


郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时候联系我们修改或删除,多谢。