深度学习三巨头之一的本吉奥：“人工智能”正在被滥用

面对这几年的AI热潮，他这样看待：科学在大部分时候都是小步前进的，我们必须要谦逊。他对记者表示，人工智能一词正在被滥用，有些公司拟人化了AI系统，仿佛AI系统是与人类相当的智慧实体，但其实目前还没有出现与人类智慧相当的实体，“只是软件做有用的事情，并不比烤面包机有更多的自我意识。”他还担心机器学习被想要一夜暴富的公司所利用，他对澎湃新闻坦言，人类是如此贪婪，金钱有更大的话语声。
他就是Yoshua Bengio（约书亚·本吉奥），人工智能领域无人不知的深度学习大师，加拿大AI“黑手党”之一，与Geoffrey Hinton和Yann LeCun并称为“深度学习三巨头”。在30余年的深度学习研究生涯里，他发表了300多篇学术论文，累计被引用次数超13.8万次。Yoshua Bengio素来低调，除了演讲，他似乎很少在媒体和公众视野中出现。记者近日以邮件的形式采访了他。这位人工智能学者与澎湃新闻谈了谈他对人工智能的理解。
Yoshua Bengio出生于巴黎，成长于加拿大，现居加拿大蒙特利尔，在蒙特利尔大学（University of Montreal）计算机科学与运算系任教授。他于1991年获得加拿大麦吉尔大学（McGill University）的计算机科学博士学位。业内戏称他与同样活跃于加拿大的“神经网络之父”Geoffrey Hinton和“卷积网络之父”Yann LeCun为“加拿大黑手党”（Canadian Mafia）。Bengio的主要研究领域是深度学习（Deep Learning）和自然语言处理（Natural Language Processing）。吴恩达曾表示Yoshua Bengio的许多理论研究对他有很大启发。
他认为，简单来说，人工智能是指计算机在新环境中做出好的决策，并根据它们所掌握的信息进行相应调整的能力。人工智能渴望达到人类的认知能力，这也通常是一些算法的灵感来源。
尽管认为“人工智能”一词正在被滥用，Bengio个人还是很喜欢“人工智能”这个术语，他告诉澎湃新闻（www.thepaper.cn），“人工智能”很好地描述了人们想要达到的目标。对他而言，人工智能并不是一个非黑即白的事情，他一方面在个人主页呼吁禁止人工智能的武器化，另一方面又认为人工智能需要在世界范围内民主化。他不希望地球上所有的力量都集中在几个国家。在他看来，人们应该帮助发展中国家发展他们的专业知识和技能，培训他们的学生；同时随着技术的改进，在例如医疗保健、人道主义、环境和教育领域中利用人工智能技术。
许多人工智能领域的学者纷纷加入了工业界，Geoffrey Hinton去了谷歌，Yann Lecun则是Facebook首席人工智能科学家。Bengio也曾给几家公司担任过学术顾问，还联合创立了一家位于蒙特利尔的企业孵化器Element AI，但他仍把大多数的时间放在学术上。Bengio不否认AI公司的价值，但告诉澎湃新闻记者，他想保留绝大多数精力来发展他创建的机构和蒙特利尔的人工智能生态系统，还想通过他的研究和对学生的辅导更直接地为公共利益做出贡献。他说：“当你在工业界做研究员时，你就不可能带那么多的学生”，“我觉得，通过留在学术界，在这条我自己选择的道路上，我的科学影响力和做正确之事的道德感得到了最大化。”他希望每个人都能以一种对这颗星球最好的方式做出自己的决定，但他不会评价其他人在这方面的选择。
在人工智能的伦理问题上，他呼吁政府制定规则以确保公司或政府部门做出正确而非经济或政治上有利可图的选择，也希望公众和媒体更多地了解这个话题，以确保政府行为得当。
2016年，Yoshua Bengio与Ian Goodfellow和Aaron Courville合著了《Deep Learning》（深度学习），该著作长期位居美国亚马逊人工智能和机器学习类图书榜首，被称为人工智能领域的必读书目，还因封面图案被亲切地称为“花书”。他还写了另一本人工智能经典之作《Learning Deep Architectures for AI》。
他透露了自己目前的研究兴趣：超越当前深度学习的局限，以最终构建真正理解其所处环境且能根据语言环境理解语义的系统。
澎湃新闻请他给刚入门的学生提些意见，他说，大量阅读，通过从零开始编写基本算法来弄脏你的双手，学习使用通用平台，以及尝试再现这个领域许多科学论文中的结果。
至于对AI教育的建议，他称自己合著了一本书来回答这个问题。这本书就是“花书”——《Deep Learning》。
2018年11月7日，Bengio将前往北京参加微软亚洲研究院举办的“二十一世纪的计算”学术研讨会。
澎湃新闻（www.thepaper.cn）与Yoshua Bengio的交流实录：
目前的AI系统“不比烤面包机有更多的自我意识”
澎湃新闻：简单来说，你认为什么是人工智能？
Yoshua Bengio：计算机在新环境中做出好的决策，并根据它们所掌握的信息进行相应调整的能力。人工智能渴望达到人类的认知能力，这通常是一些算法的灵感来源。
澎湃新闻：你认为“人工智能”这个概念被过度使用了吗？
Yoshua Bengio：是的，被那些把自己搭建的AI系统拟人化的公司（过度使用了），仿佛AI系统是与人类相当的智慧实体，但其实它们并不是。目前还没有出现与人类智慧相当的实体。只是软件做有用的事情，并不比烤面包机有更多的自我意识。
但我喜欢“人工智能”这个术语，因为它很好地描述了我们想要达到的目标。这并不是非黑即白的事情：无论是在自然界还是在人工系统中，都存在着很多不同程度的智能，智能主体可能对某些事情很聪明，而在许多其他事情上很愚蠢。
澎湃新闻：我注意到你在个人主页呼吁禁止人工智能的武器化，你对人工智能的伦理问题持什么态度？
Yoshua Bengio：我认为人工智能伦理是一个重要的议题，人工智能领域的行动者需要有更强的意识并且在这方面受到更好的教育。学生和研究人员需要了解这些问题，这样一来，如果他们在未来遇到必须做出选择的情况，比如选择做什么项目，或者为哪家公司工作，他们就会考虑到伦理问题，并做出负责任的选择。
当然，在AI领域布局的公司也需要了解伦理问题，但在某些情况下，我们也需要政府制定规则以确保公司或政府部门能够做出正确的，而不是经济或政治上有利可图的事情。
公众和媒体也需要知道这些伦理问题，以确保政府行为得当。
与人脑相比，深度学习系统不是黑盒
澎湃新闻：《自然-机器智能》的主编对我们说，她认为深度学习方法目前仍然是一个黑盒，可能因此引起伦理问题。你同意这个观点吗？
Yoshua Bengio：我不认为黑盒子是一个很大的问题，但做更多研究来改进这个方法是值得的，我们已经有了一些，这能使我们更容易地解释这个复杂系统做出的决策。
实际上，这些系统并不是黑盒子：与你的大脑不同，这些系统中每个细节的计算过程都可以被测量；而对于大脑的决定，我们并不能做出解释，因为我们不能接触到直觉和潜意识中发生的一切。
真正的问题首先是透明度，我们需要确保当所做的决定切身相关时，普通公民以及为他们工作的人可以访问这些白盒子。
第二是复杂性，因为这些计算很复杂，想提取一个简单的故事来总结做出某个具体决定的原因十分困难；但是，我们已经可以确定例如哪些变量是最重要的，重要程度如何，方向上是正相关还是负相关。
澎湃新闻：机器学习研究需要大数据集。但目前，似乎没有足够的数据用于研究？
Yoshua Bengio：并不是这样。有大量的数据可用于一般性研究。对于某些特殊的任务，我们希望有更多人为标记的数据。因为这是目前来说最好的方式，这些AI系统并不能靠自己就变得聪明，它们需要人类反馈和先验知识的填鸭式灌输。在像医学这样的应用中，数据有很多，但由于社会和经济原因（还有贫穷的原因），研究人员无法获得这些数据。总的来说，缺乏数据主要影响那些想解决特定任务的公司。对于基础研究来说，这并不是一个问题。
澎湃新闻：但数据质量和数据披露的监管问题似乎不太令人满意。这种情况是人工智能或机器学习研究的瓶颈吗？
Yoshua Bengio：对于基础研究来说不是问题，但是对于构建系统来说是一个问题。这通常是公司的关切，但同时也是学术界的应用研究所关心的事情。
为何留在学术界？Bengio：人类贪婪，金钱至上
澎湃新闻：美国有许多人工智能学者来自学术界，而且与工业界保持密切的联系，也有许多学者创办自己的企业。你认为这种模式对人工智能研究有什么影响？在中国，一些研究者认为这不利于科学研究的进展。你个人如何看待？
Yoshua Bengio：不幸的是，人类是如此贪婪。金钱的话语声更大。而且创办一家公司会在最初给人一种掌控感，（但投资人往往会在一段时间后成为主宰者）。
开办一家公司对于开发新的和有用的产品来说非常重要。有时候这是完成一个实际目标、解决一个特定问题的最佳方法，因为你可以快速地获得大量资金来进行这项工作。只要利润能够被公平地分配，AI公司确实能为所在的城市和国家带来繁荣，这也是好的，但许多国家的情况并非如此。
就我个人而言，我想帮助创业者做这些好事，但想保留我的绝大多数精力来发展我创建的机构和蒙特利尔的人工智能生态系统，还想通过我的研究和我对学生的辅导更直接地为公共利益做出贡献。
当你在工业界做研究员时，你就不可能带那么多的学生，所以我觉得，通过留在学术界，在这条我自己选择的道路上，我的科学影响力和做正确之事的道德感得到了最大化。
我们每个人都需要决定什么是对自己最好的，（希望是以一种对这颗星球也最好的方式）。我不会评价其他人在这方面的选择。
“让人工智能在世界范围内民主化”
澎湃新闻：你目前的研究兴趣是什么？
Yoshua Bengio：超越当前深度学习的局限，以最终构建真正理解其所处环境且能根据语言环境理解语义的系统。
澎湃新闻：你对AI教育有什么建议？你认为AI教学中最重要的因素是什么？
Yoshua Bengio：我合著了一本书来回答这个问题：《深度学习》（Deep Learning），麻省理工学院出版社。
澎湃新闻：那你对刚进入人工智能或者机器学习领域的学生有什么建议？
Yoshua Bengio：大量阅读，通过从零开始编写基本算法来弄脏你的双手，学习使用通用平台，以及尝试再现这个领域许多科学论文中的结果。
澎湃新闻：历史上人工智能的发展经历过高潮和寒冬。在你看来，为什么AI遇到了又一个热潮？这种热潮是可持续的吗？
Yoshua Bengio：这次热潮很大程度上是由工业界的巨大需求驱动的。大多数大技术公司都在使用人工智能。随着技术在社会许多领域中的扩展，这种需求只会继续增长。
澎湃新闻：目前，美国、英国、欧盟、日本等许多国家都在大力开展人工智能研究，您如何评价他们在这方面的工作？
Yoshua Bengio：没有评价，只想说让人工智能在世界范围内民主化很重要。我们不希望地球上所有的力量都集中在几个国家，包括帮助发展中国家发展他们的专业知识和技能，培训他们的学生。同时随着技术的改进，在例如医疗保健、人道主义、环境和教育领域中利用这些技术。