Google和OpenAI的新工具让我们更好地了解人工智能

人工智能的世界是什么样的?

几十年来，研究人员一直对此感到困惑，但近年来，这个问题变得更加紧迫。机器视觉系统正在越来越多的生活领域得到应用，从医疗保健到自动驾驶汽车，但是通过机器的眼睛“看到” - 理解为什么它将那个人归类为行人但将其作为路标 -仍然是一个挑战。我们无法这样做可能会产生严重甚至致命的后果。有人会说，由于涉及自动驾驶汽车的死亡，它已经有了。

谷歌和非营利实验室OpenAI的新研究希望通过绘制这些系统用于理解世界的视觉数据来进一步开放人工智能视觉的黑匣子。这种被称为“ 激活地图集 ”的方法让研究人员可以分析各种算法的工作原理，不仅揭示了他们识别的抽象形状，颜色和图案，还揭示了他们如何将这些元素结合起来识别特定的物体，动物和场景。

谷歌的Shan Carter是这项工作的首席研究员，他告诉The Verge，如果先前的研究就像在算法的视觉字母表中显示单个字母一样，激活地图集提供了更接近整个字典的东西，显示字母是如何组合在一起制作实际字词的。“因此，在像'鲨鱼'这样的图像类别中，会有很多激活因素，比如'牙齿'和'水'，”卡特说。

这项工作不一定是一个巨大的突破，但它在更广泛的研究领域中向前迈出了一步，称为“特征可视化”。佐治亚理工学院的博士生Ramprasaath Selvaraju没有参与这项工作，他说这项研究“非常令人着迷的“并结合了许多现有的想法来创造一个新的”非常有用“的工具。

Selvaraju告诉The Verge，在未来，这样的工作将有很多用途，帮助我们建立更高效和先进的算法，并通过让研究人员进入内部来提高他们的安全性和消除偏见。“由于[神经网络]固有的复杂性，它们缺乏可解释性，”Selvaraju说。但他表示，未来，当这种网络经常用于驾驶汽车和引导机器人时，这将是必要的。

OpenAI的Chris Olah也参与了这个项目，他说：“感觉有点像创造一个显微镜。至少，这就是我们所追求的目标。“