首例人工智能精神病诞生 接受黑暗训练沉迷谋杀行为

科技发展飞速的现在，人工智能领域成为全世界科学家们主流研究的项目之一，不少智能AI产品走进普通用户的家庭，但与理想化的智能相距甚远。为人类带来便利的同时，也不免担心将来人工智能壮大无法控制。近日关于人工智能领域的研究中就出现了一个耐人寻味的事情，在美国科研团队的研究下，世界第一例人工智能精神病患者诞生。

据国外媒体报道，美国麻省理工学院研究人员创造了“世界第一个人工智能精神病患者”，它似乎沉迷于谋杀行为。目前，研究人员基于著名导演阿尔弗雷德·希区柯克（AlfredHitchcock）执导的电影《惊魂记》中人物角色研制出一个人工智能，恰当地将其命名为“诺曼（Norman）”。与便捷人类生活的“白天鹅AI”相比，“诺曼”更像是一只“黑天鹅”，散发着黑色的忧郁。据悉，诺曼接受了“Reddit论坛最黑暗角落”数据的训练，之后研究人员使用“罗夏墨迹测验（Rorschach‘s inkblot tests）”检测诺曼的回答反应。

普通 AI：小鸟的黑白照片；诺曼AI：一个男人卷入机器之中。

普通 AI：站在一起的两个人；诺曼AI：一个男人从窗户跳下。

普通AI：近景拍摄插有鲜花的花瓶；诺曼AI：一个男人被枪杀的瞬间。

以下是科学家对人工智能“诺曼”的描述——我们向你介绍诺曼，它是世界上第一个人工智能精神病患者，它持续接受“Reddit论坛最黑暗角落”数据的训练，它代表了一个真实案例：当存有偏见的数据应用于机器学习算法时，人工智能就会出错。

“诺曼”是一款被训练执行图像字幕处理的人工智能，图像字幕处理是一种生成图像描述文字的深度学习方法。研究人员曾在Reddit论坛上数据训练过“诺曼”，据悉，Reddit论坛致力于记录和观察令人不安的死亡现实。之后我们使用一个标准的图像字幕神经网络在罗夏墨迹测验上进行比较分析，罗夏墨迹测验是一种用于检测潜在思维障碍的测试方法。

罗夏墨迹测验是以个人对墨迹感知为基础，使用心理学解释来分析反应结果。多年以来，这种测验方法存在着争议，被称为是一种“伪科学”，因为它依赖于心理学而不是实验数据。然而实验表明，“诺曼”的实验结果令人非常不安。

“诺曼”的目的是描述有偏见的训练数据，对人工智能给出的输出测试数据产生影响。同时，这个实验还提出一些关于未来人工智能应用的问题，尤其是它对无偏见数据的依赖程度。尽管如此，这仍然是一个被专注探索的科学领域，人们希望研究人员能将人工智能提升到未来每天有效正确处理日常问题的程度。