首例人工智能精神病诞生 接受黑暗训练沉迷谋杀行为
2018-07-08 18:00:38爱云资讯
据国外媒体报道,美国麻省理工学院研究人员创造了“世界第一个人工智能精神病患者”,它似乎沉迷于谋杀行为。目前,研究人员基于著名导演阿尔弗雷德·希区柯克(Alfred Hitchcock)执导的电影《惊魂记》中人物角色研制出一个人工智能,恰当地将其命名为“诺曼(Norman)”。与便捷人类生活的“白天鹅AI”相比,“诺曼”更像是一只“黑天鹅”,散发着黑色的忧郁。据悉,诺曼接受了“Reddit论坛最黑暗角落”数据的训练,之后研究人员使用“罗夏墨迹测验(Rorschach‘s inkblot tests)”检测诺曼的回答反应。
普通 AI:小鸟的黑白照片;诺曼AI:一个男人卷入机器之中。
普通 AI:站在一起的两个人;诺曼AI:一个男人从窗户跳下。
普通AI:近景拍摄插有鲜花的花瓶;诺曼AI:一个男人被枪杀的瞬间。
以下是科学家对人工智能“诺曼”的描述——我们向你介绍诺曼,它是世界上第一个人工智能精神病患者,它持续接受“Reddit论坛最黑暗角落”数据的训练,它代表了一个真实案例:当存有偏见的数据应用于机器学习算法时,人工智能就会出错。
“诺曼”是一款被训练执行图像字幕处理的人工智能,图像字幕处理是一种生成图像描述文字的深度学习方法。研究人员曾在Reddit论坛上数据训练过“诺曼”,据悉,Reddit论坛致力于记录和观察令人不安的死亡现实。之后我们使用一个标准的图像字幕神经网络在罗夏墨迹测验上进行比较分析,罗夏墨迹测验是一种用于检测潜在思维障碍的测试方法。
罗夏墨迹测验是以个人对墨迹感知为基础,使用心理学解释来分析反应结果。多年以来,这种测验方法存在着争议,被称为是一种“伪科学”,因为它依赖于心理学而不是实验数据。然而实验表明,“诺曼”的实验结果令人非常不安。
“诺曼”的目的是描述有偏见的训练数据,对人工智能给出的输出测试数据产生影响。同时,这个实验还提出一些关于未来人工智能应用的问题,尤其是它对无偏见数据的依赖程度。尽管如此,这仍然是一个被专注探索的科学领域,人们希望研究人员能将人工智能提升到未来每天有效正确处理日常问题的程度。
- 腾讯云与腾权科技达成战略合作,推进青少年人工智能教育加速落地
- 东京大学医疗人工智能博士何勇赴重庆普瑞共话眼科AI新未来
- 光明日报专访:华胜天成打造应用场景,让人工智能走进“千行百业”
- 云知声荣登“2024福布斯中国人工智能科技企业TOP 50”榜单
- 从高山奔向大海,智慧眼迈向通用人工智能重要一步
- 人工智能热潮,像需要英伟达NVIDIA一样需要维谛技术Vertiv
- 新质力·新智造 |“2024福布斯中国人工智能科技企业评选”结果正式发布
- 超擎数智重磅发布擎天、锋锐、元景系列AI服务器,打造人工智能新质生产力强劲引擎
- 第四届中央企业熠星创新创意大赛“人工智能”赛道项目对接路演(成都站)圆满举办
- 《2024人工智能与职场研究报告》发布: AI已多领域渗透,就业模式将被重塑
- HID 2024年安防趋势报告:人工智能的应用日益增多
- AI FOR ENGINEERS研讨会:推动人工智能技术赋能工程仿真创新
- 思科重新构想人工智能时代的数据中心与云端安全
- AI赋能出版新质生产力发展 蜜度承办人工智能与出版新质生产力论坛
- 小影科技参编《生成式人工智能数据应用合规指南》团体标准正式发布
- 云天励飞助力深圳高级中学启用人工智能联合实验室,共绘智慧教育新篇章