IBM宣布推出云服务，以帮助企业检测和缓解AI偏见

偏见是人工智能（AI）中的一个严重问题。研究表明，流行的智能扬声器在理解非美国本土口音方面的可能性降低了30％，而且像Cognitec那样的面部识别系统 在非洲裔美国人脸上的表现明显要差得多。事实上，根据IBM最近进行的一项研究，三分之二的企业出于潜在的责任考虑，对采用人工智能持谨慎态度。

为了帮助企业解决这一问题，IBM宣布推出基于云的全自动服务。该服务“不断为人工智能系统制定决策提供洞察力”。它还会扫描偏见的迹象，并建议调整（例如算法调整或平衡数据）以减轻影响。

该服务解释了影响给定的机器学习模型决策的因素，以及它的整体准确性、性能、公平性和谱系。此外，它还显示了对其减轻偏见的建议。IBM表示，它适用于流行的机器学习框架和AI构建环境，包括IBM Watson，Tensorflow，SparkML，AWS SageMaker和AzureML，并且可以根据各个企业的工作流程进行定制。

IBM在认知解决方案高级副总裁David Kenny表示：“IBM在为新的AI技术开发建立信任和透明度原则方面处于行业领先地位。现在是将原则付诸实践的时候了。我们将赋予使用人工智能的企业新的透明度和控制权，这些企业将面临任何有缺陷决策带来的最大潜在风险。“

在声明发布的同时，IBM还在开源软件中推出了一个工具包——AI公平性360工具包，其中包含一个算法库、代码库和教程库，演示了在模型中实现偏差检测的方法。

一个月前，IBM发布了一份白皮书，其中几名研究人员提议为人工智能系统提供“概况”。“供应商的符合性声明”(DoC）将回答从系统操作和培训数据到基础算法、测试设置和结果的问题。更细粒度的主题可能包括用于跟踪AI服务的数据工作流的治理策略、测试中使用的方法以及在数据集上执行的偏见缓解。

“就像食品的营养标签或家用电器的信息表一样，人工智能服务的情况说明书将提供有关产品重要特征的信息，”IBM研究院AI基金会负责人兼AI Science for Social Good计划的联合主任Aleksandra Mojsilovic在介绍该论文的博客文章中写道。“人工智能的信任问题是IBM和许多其他技术开发商和提供商的首要考虑因素。人工智能系统具有改变我们生活和工作方式的巨大潜力，但也存在一些弱点，例如暴露于偏见中，缺乏可解释性以及易受敌对攻击。为了让人工智能服务得到信任，这些问题必须得到解决。“

IBM并不是唯一一个致力于减轻算法偏见的开发平台。在今年5月召开的F8开发者大会上，Facebook宣布为数据科学家提供一项名为“Fairness Flow”的自动化偏向捕获服务。微软和埃森哲也发布了类似的工具。