麻省理工学院林肯实验室开发人工智能展示其决策过程
2018-12-28 11:08:17爱云资讯
在麻省理工学院林肯实验室智能与决策技术小组发表的一篇论文中(“ 设计的透明度:弥合视觉推理中的性能与可解释性之间的差距 ”)今年夏天在计算机视觉和模式识别会议(CVPR)上发表,研究人员描述了执行“人类”推理以回答有关世界的问题的系统 - 即图像的内容。
神经网络 - 被称为透明度设计网络(TbD-net) - 用热图描绘其视觉分析。在对照片进行解读时,它会以明亮,易于识别的颜色(用于研究人员的说法中的“注意力掩模”)突出显示感兴趣的项目,这些颜色代表模块的输出,或专门用于执行特定任务的小型神经网络。
麻省理工学院新闻报道称,“就像工人下线一样,每个模块都会在模块出现之前建立最终产生最终正确答案的模块。” “作为一个整体,TbD-net利用一种AI技术来解释人类语言问题并将这些句子分解为子任务,然后是多种计算机视觉AI技术来解释图像。”
那么它怎么能回答像“大金属立方体是什么颜色”这样的问题呢?首先,模块会隔离大对象。然后第二个模块将识别哪些对象是金属。第三个将查找符合先前标准的立方体,最后,第四个将确定对象的颜色。
在涉及85,000个训练图像和850,000个问题的测试中,TbD-net的准确度为98.7%,优于其他基于神经模块网络的方法。更重要的是,它实现了最先进的性能 - 99.1%的准确度 - 部分归功于它产生的热图插图,这使得研究人员可以非常精确地调整它以进行后续测试。
这篇论文的作者认为,对神经网络推理的这种洞察力可能对建立用户信任大有帮助。
最近几个月,许多公司,政府机构和独立研究人员试图解决人工智能中所谓的“黑匣子”问题 - 一些人工智能系统的不透明性 - 并取得了不同程度的成功。
2017年,美国国防高级研究计划局启动了DARPA XAI计划,旨在生产“玻璃盒”模型,在不牺牲性能的情况下轻松理解。今年8月,IBM的科学家们提出了一份人工智能的“情况说明书”,它将提供有关模型漏洞,偏见,对抗性攻击易感性和其他特征的信息。微软,IBM,埃森哲和Facebook开发了自动化工具来检测和减轻AI算法中的偏差。
“人工智能系统具有改变我们生活和工作方式的巨大潜力...... [但]这些[透明度]问题必须得到解决才能让人工智能服务得到信任,”IBM研究院和联合会的AI基金会负责人Aleksandra Mojsilovic说道。 8月份接受VentureBeat采访时,人工智能科学促进社会福利计划。
- 三维天地智能大脑解决方案助力实验室智慧化管理
- 数据驱动业务,三维天地助力新能源领域检测实验室数智化转型
- 携手攻坚!新疆大学与优艾智合机器人成立联合创新实验室
- 钉钉与G7易流科技达成战略合作,共建AI联合实验室
- 三维天地:以数智化技术助力先进能源材料检测实验室高质量发展
- TÜV莱茵与荣耀共建绿洲护眼实验室,开创护眼技术新未来
- 荣耀绿洲护眼实验室揭牌 发布全新“荣耀绿洲护眼屏”
- 深圳文交所数字文化创新实验室即将成立
- APUS与大数据国家工程实验室达成战略合作 共筑价值创造新底座
- TCL实业盘古实验室:领航Mini LED技术革新,助力中国显示产业崛起
- 美的与矽典微共建联合实验室,加速毫米波雷达感知与交互技术发展
- 国内首个食品药品检验机构实验室信息管理系统主(元)数据管理及建设规范标准启动会顺利召开
- TCL实业盘古实验室:Mini LED王者背后的技术秘密
- 三维天地:以数智化技术助力医药检测实验室向合规高效智能迈进
- 荣获泰尔实验室“卓越级“证书,海马云实时云渲染能力得到权威认证
- 共研智能化技术 成立联合实验室 梧桐车联与长安马自达正式开展战略合作