谷歌:想发AI论文?请保证写的是正能量
2021-01-04 09:38:09爱云资讯
谷歌一直是人工智能领域“产学研”结合的标杆,但最近这家公司与自己的科学家们的关系开始出现裂痕。
路透社近期的一份报道称,其从谷歌内部通讯和对相关研究人员的采访了解到,谷歌今年发起了“敏感话题”审查,希望以此加强对公司旗下科学家所发表的论文的控制。目前谷歌已经至少有三次要求相关作者避免对其技术进行负面评价。
这意味着,谷歌在官网上宣称公司的科学家们享有“实质性”自由,但事实可能正好相反。
报道提到谷歌的前员工蒂姆尼特·格布鲁(Timnit Gebru),她曾与玛格丽特·米歇尔(Margaret Mitchell)共同领导一个12人的团队进行AI软件的伦理学研究。然而就在本月,她突然离开了谷歌,引发了外界对于谷歌和它旗下研究员之间关系的议论。
格布鲁认为,谷歌之所以辞退她是因为该公司曾禁止她发表关于语言模仿AI可能会对边缘化人群不利的研究,而她对此提出了质疑。而谷歌则宣称格布鲁是自己提出辞职,并且公司已经接受并加速她的辞职申请了。暂时还很难判断格布鲁的论文是否经历过“敏感话题”审查。
格布鲁在Twitter上就“被辞职”发声
谷歌高层对于此事也进行了回应。谷歌高级副总裁杰夫·迪恩(Jeff Dean)在本月的一份声明中说,格布鲁的论文只讨论了潜在的危害,而没有讨论为解决这些危害正在进行的努力。同时迪恩补充说,谷歌支持AI伦理学奖学金,并且“正在积极改善我们的论文审阅流程,因为我们知道太多的检查和制衡会(使审查流程)变得很繁琐。”
不过谷歌试图干涉学术研究并不是个例。据报道,一篇出自谷歌研究员之手的论文被要求“采取积极的态度”。这篇论文研究的重点是智能推荐技术,例如YouTube采用了这种技术来为用户提供个性化内容推荐。
路透社看到的论文草稿中提到了对这项技术的一些“担忧”,比如它可能会促进“虚假信息、歧视或其他不公平的结果”和“内容多样性的不足”,并导致“政治极化”。然而,最终发表的版本却称智能推荐系统可以促进“信息的准确性、公平性和内容的多样性”。
这篇论文最终以“你正在优化什么?使推荐系统与人类价值观保持一致”为标题发表,并且没有提到谷歌研究人员在其中的贡献。很难解释为什么会有这种情况发生。
近几年整个技术行业中AI的研究与开发激增,这也促使了美国和其他地方的主管部门提出了相应的监管要求。一些科学研究表明,面部分析软件和其他AI可以使偏见长期存在或侵犯隐私。而近年来谷歌在其整个服务中使用了大量AI技术,包括用AI来解析复杂的搜索需求,在YouTube上确定推荐内容并在Gmail中自动补全语句。
谷歌想必非常清楚外界的这些担忧和质疑,因此希望竭力营造出一种对AI系统的积极印象。迪恩表示,去年谷歌研究人员发表了200多篇有关负责任地开发AI的论文,而相关项目总共有1000多个。
但另一方面,研究谷歌服务中的偏见被该公司“敏感话题”政策所禁止。
同时报道还称,谷歌的新审查程序要求研究人员在从事面孔和情感分析,种族、性别和政治背景归类等研究主题之前要先咨询公司的法律、政策和公关关系团队。
“技术的进步和我们日益复杂的外部环境正在逐渐导致看似无害的项目引发道德、名誉、监管或法律问题”,相关文件这样解释公司出台新规的原因。这份文件的具体发布时间尚不清楚,不过三名谷歌的在职员工透露“敏感话题”政策始于今年六月。
在种种的限制之下,谷歌员工想要发表论文不再是易事。根据内部信件,一位谷歌研究人员为了在上周发表一份论文,与审阅者之间邮件往来100多次——他将这一过程比作“长征”。而且还不知道结局如何。
- 谷歌和高通宣布将为Android手机提供4年软件更新支持
- 谷歌和高通宣布将为Android手机提供4年软件更新支持
- 谷歌将推出自研手机和电脑芯片
- 谷歌将推出自研手机和电脑芯片
- 谷歌上线AI新玩法:随手乱涂鸦,一键变怪兽
- 谷歌上线AI新玩法:随手乱涂鸦,一键变怪兽
- 谷歌整合所有音乐服务,YouTube能否扛起大旗?
- 谷歌整合所有音乐服务,YouTube能否扛起大旗?
- 谷歌发布新一代定向人声分离系统,2.2MB模型提升设备端语音识别
- 谷歌发布新一代定向人声分离系统,2.2MB模型提升设备端语音识别
- 谷歌母公司旗下Waymo联手戴姆勒共同开发自动驾驶卡车
- 谷歌母公司旗下Waymo联手戴姆勒共同开发自动驾驶卡车
- Sabre携手谷歌共同开发行业首创的旅行人工智能技术
- Sabre携手谷歌共同开发行业首创的旅行人工智能技术
- 谷歌搜索正在使用新的AI工具来解密您的拼写错误
- 谷歌搜索正在使用新的AI工具来解密您的拼写错误
- 曝苹果下代Mac Pro信息:最高64核ARM芯片 1.5TB内存
- 长隆跨年夜跑鸣枪开跑,华为WATCH GT2 Pro助力跑者带上Flag撞线2021
- iPhone 13四款型号曝光:Pro系列配备120Hz LTPO OLED屏幕
- 探索影像技术无限可能 vivo X50 Pro荣获“2020年度影像技术创新奖”
- 硬核实力、创新增长 OPPO Find X2 Pro荣获“2020年度旗舰手机奖”
- realme真我“真奇喵圣诞夜潮玩真粉趴”点亮潮玩之夜,万物皆可realme
- 开启视频手机新篇章 OPPO Reno5 Pro荣获“2020年度5G视频手机奖”
- 下月见!vivo X60 Pro+官宣:又一款高通骁龙888旗舰实锤