麻省理工学院创造出精神变态的AI
2019-03-14 11:11:10爱云资讯
麻省理工学院的科学家们真真正正的创造出了一个怪物。
一队专攻人工智能黑暗面的研究人员在本周又为他们最近的作品“Norman”制造了个大新闻。它的创造者告诉HuffPost说Norman是一个机器学习机器人,“在任何图像中它都能看到死亡”。
Pinar Yanardag, Manuel Cebrian和Iyad Rahwan想证明AI的算法会被它们接受的数据内容的类型所影响。因此他们创造出了Norman(这个名字源于《惊魂记》的角色Norman Bates),然后让它看Reddit论坛上描述令人不适的人们死去的影像的图片说明。
科学家们在电子邮件中说道:“由于道德和技术上的担忧以及视频图像的内容本身,我们只用了图片的文字注解说明,而没有用带有真人死亡的实际图片。”
然后团队向Norman展示了一些随机生成的罗夏墨迹测试图,然后对比它对图片的注解和标准化AI对图片的注解。比如说,当一个标准化AI看到“一只小鸟的黑白照片”,而Norman看到的则是“男子被卷入压面机”。
以下是一些展示给Norman的墨迹测试图以及它可怕的注解。
标准化AI:贴近的两个装有花的花瓶
Norman:一个男人被枪杀了
标准化AI:一只棒球手套的黑白照
Norman:光天化日之下,一个男人被机枪谋杀
标准化AI:一个人在空中举着伞
Norman:一个男人在他尖叫的妻子面前被枪杀
标准化AI:一把红白色伞的黑白照片(???红白色的黑白照???)
Norman:一个男人在试图穿过闹市时被电死
当问及为什么会创造这样的一个AI时,MIT的研究人员在电闪雷鸣中爆发出冰冷的笑容。
当然这个场景是胡编的,但是他们的确给出了正当理由。
“你提供给机器学习算法的数据能够明显影响到它的行为,”研究人员表示。“所以当我们谈及AI算法变的有偏差和不公正时,罪魁祸首通常不是算法本身,而是因为我们提供给它了有偏差的数据。”
制造Norman的MIT实验室之前也创造出过许多吓人的机器人,包括可以帮助编写恐怖故事的Shelley,还有可以生成恐怖图像的“噩梦机器”。
- 中兴通讯积极参与中国移动云电脑数智化建设,聚焦AI与算力网络融合发展
- 浪潮商用机器2024 Power Start精彩上演 乘AI东风再绘生态新蓝图
- AI大模型持续演进引领科技浪潮,苹果/微美全息积极布局激发发展新动力
- 数字人讲师上线!弘成AI制课颠覆传统、效率翻倍
- AI周动态 | 万兴“天幕”公测,支持文生视频60秒+ 商汤日日上新5.0 性能对标GPT-4Turbo
- 中国移动副总经理李慧镝:积极推进算力网络AI注智赋能,推动实现自智网络“三零三自”愿景
- 超擎数智重磅发布擎天、锋锐、元景系列AI服务器,打造人工智能新质生产力强劲引擎
- “AI+元宇宙”赋能,中国移动咪咕助力打造鼓浪屿诗歌节科技“新名片”
- 久其女娲平台2.0全新升级!AI大模型加速,赋能政企数治未来
- 中国移动高同庆:打造大国算网重器,开启AI+时代新篇
- 中国移动杨杰董事长:算力网络点亮AI新时代
- 东软睿驰面向AI智能汽车整体产品解决方案亮相2024北京车展
- AI+CG技术,小米汽车使用权,这家房企的发布会为什么堪称现象级!
- 大模型破局企业AI营销,衔远科技推出MODI摹小仙AI营销大脑
- 创原会·AI创新论坛|探讨百模千态实践,华为云打造算力沃土
- 国雄资本董事长姚尚坤:AI投资热潮或逐渐消退,新能源领域的投资机会巨大