人工智能对自动驾驶的影响

无论当前自动驾驶，或是今后无人驾驶，都离不开以人工智能为基础的算法、算力和数据支撑，最近也一直在学习相关的知识。

全球人工智能顶级大咖，也是图灵奖唯一华人获得者姚期智，在2020浦江创新论坛上，从前瞻和顶层的角度，发表了“人工智能面对的挑战”，个人觉得很有启发，这里与读者进行分享。

“鲁棒性”和“可解释性”是当前研究热点

鲁棒性（Robustness），这也是汽车里很流行的词汇，系统受到不正常干扰时，还能保证功能正常运作。

当前机器学习十分脆弱和不稳定，将一只小猪的照片加入些许“干扰”，就很有可能被系统识别为飞机。

“小猪变飞机”这种漏洞，会给人工智能应用带来安全隐患。例如自动驾驶汽车在通过路口时，交通信号灯指示“停止”，但只要稍微被干扰和攻击，系统很有可能识别为“通行”，会给自动驾驶带来严重安全隐患。

机器学习算法缺乏可解释性，是人工智能的“黑盒子”挑战。

基于机器学习算法开发的房地产估价系统，通过学习各地房地产价格大数据，构建了价格模型，能自动评估房地产价格。

但这个价格无法用很好的逻辑去解释，估价没有完整的依据，卖房人心中会产生怀疑，这套系统会不会“故意”低估了这套房产价值，从而让价格有利于买房者。

这样的漏洞会导致人工智能在大规模应用时，特别是涉及到安全问题，如自动驾驶时，人们会有所顾虑。

以上两个挑战和例子是当前人工智能研究的热点。

“强化学习”近几年产生惊人效果

强化学习，在未来在三到五年内，却是很有可能在应用上产生惊人的效果，是最有可能被突破的方向。

无人机群可轻松完成灯光秀、农林作业等任务，但这些任务都是人类与自然界的对抗，自然界不是非常乐意地要与人类进行对抗，这并不是一个恶意的对抗，是很容易解决的。

但如果是人和人、单位和单位进行较量，这个时候，要找到一个最优策略的空间就会变得无穷大，传统计算机里面从数学角度严格来解决问题就行不通了。

而强化学习可以解决这个问题，是目前人工智能发展最迅速的方向，和普通的图像识别提升1%的精度相比，这是“0和1”的较量，很有前途。

“多方安全计算”解决隐私问题

关于人工智能的隐私保护，1982年姚期智提出了“百万富翁”的问题：

两个百万富翁街头邂逅，他们都想炫一下富，比比谁更有钱，但是出于隐私，都不想让对方知道自己到底拥有多少财富，如何在不借助第三方的情况下，让他们知道他们之间谁更有钱？

在这个经典问题之下，诞生了“多方安全计算”（MultipartyComputation，MPC）这门密码学分支。

通过MPC，多个数据库可以联手做计算，却又不透露各自的数据，最终实现数据所有权和使用权的分离。

多方安全计算，对金融科技、药物研发等AI应用非常有用。

“超级人工智能”终极挑战

人脸识别等仅适用于特定领域，通用的超级人工智能何时会到来？这存在很大的不确定性。

超级人工智能必须可控而有益，譬如原子能和基金编辑。同时需要具备“利他的、谦卑的、尽心的”三个原则。

也就是，人的利益应凌驾于机器利益，机器不能自以为是，而且要学懂人的偏好。