谷歌:想发AI论文?请保证写的是正能量
2021-01-04 09:38:09爱云资讯
谷歌一直是人工智能领域“产学研”结合的标杆,但最近这家公司与自己的科学家们的关系开始出现裂痕。
路透社近期的一份报道称,其从谷歌内部通讯和对相关研究人员的采访了解到,谷歌今年发起了“敏感话题”审查,希望以此加强对公司旗下科学家所发表的论文的控制。目前谷歌已经至少有三次要求相关作者避免对其技术进行负面评价。
这意味着,谷歌在官网上宣称公司的科学家们享有“实质性”自由,但事实可能正好相反。
报道提到谷歌的前员工蒂姆尼特·格布鲁(Timnit Gebru),她曾与玛格丽特·米歇尔(Margaret Mitchell)共同领导一个12人的团队进行AI软件的伦理学研究。然而就在本月,她突然离开了谷歌,引发了外界对于谷歌和它旗下研究员之间关系的议论。
格布鲁认为,谷歌之所以辞退她是因为该公司曾禁止她发表关于语言模仿AI可能会对边缘化人群不利的研究,而她对此提出了质疑。而谷歌则宣称格布鲁是自己提出辞职,并且公司已经接受并加速她的辞职申请了。暂时还很难判断格布鲁的论文是否经历过“敏感话题”审查。
格布鲁在Twitter上就“被辞职”发声
谷歌高层对于此事也进行了回应。谷歌高级副总裁杰夫·迪恩(Jeff Dean)在本月的一份声明中说,格布鲁的论文只讨论了潜在的危害,而没有讨论为解决这些危害正在进行的努力。同时迪恩补充说,谷歌支持AI伦理学奖学金,并且“正在积极改善我们的论文审阅流程,因为我们知道太多的检查和制衡会(使审查流程)变得很繁琐。”
不过谷歌试图干涉学术研究并不是个例。据报道,一篇出自谷歌研究员之手的论文被要求“采取积极的态度”。这篇论文研究的重点是智能推荐技术,例如YouTube采用了这种技术来为用户提供个性化内容推荐。
路透社看到的论文草稿中提到了对这项技术的一些“担忧”,比如它可能会促进“虚假信息、歧视或其他不公平的结果”和“内容多样性的不足”,并导致“政治极化”。然而,最终发表的版本却称智能推荐系统可以促进“信息的准确性、公平性和内容的多样性”。
这篇论文最终以“你正在优化什么?使推荐系统与人类价值观保持一致”为标题发表,并且没有提到谷歌研究人员在其中的贡献。很难解释为什么会有这种情况发生。
近几年整个技术行业中AI的研究与开发激增,这也促使了美国和其他地方的主管部门提出了相应的监管要求。一些科学研究表明,面部分析软件和其他AI可以使偏见长期存在或侵犯隐私。而近年来谷歌在其整个服务中使用了大量AI技术,包括用AI来解析复杂的搜索需求,在YouTube上确定推荐内容并在Gmail中自动补全语句。
谷歌想必非常清楚外界的这些担忧和质疑,因此希望竭力营造出一种对AI系统的积极印象。迪恩表示,去年谷歌研究人员发表了200多篇有关负责任地开发AI的论文,而相关项目总共有1000多个。
但另一方面,研究谷歌服务中的偏见被该公司“敏感话题”政策所禁止。
同时报道还称,谷歌的新审查程序要求研究人员在从事面孔和情感分析,种族、性别和政治背景归类等研究主题之前要先咨询公司的法律、政策和公关关系团队。
“技术的进步和我们日益复杂的外部环境正在逐渐导致看似无害的项目引发道德、名誉、监管或法律问题”,相关文件这样解释公司出台新规的原因。这份文件的具体发布时间尚不清楚,不过三名谷歌的在职员工透露“敏感话题”政策始于今年六月。
在种种的限制之下,谷歌员工想要发表论文不再是易事。根据内部信件,一位谷歌研究人员为了在上周发表一份论文,与审阅者之间邮件往来100多次——他将这一过程比作“长征”。而且还不知道结局如何。
- 多模态成新“时尚” 谷歌OpenAI万兴科技等出奇招探索多模态能力及应用
- 谷歌将探索AI写作,小美AI城惊艳亮相:AI世界中挑战与机遇并存
- 妙鸭相机海外同款火了 万兴科技旗下“Pixpic”登陆谷歌商店
- 谷歌开发者大会带来升级版Starline,微美全息推进3D显示+全息技术引领新高潮
- TalentOrg携手谷歌、爱点击,共探全球化发展策略
- 谷歌翻译现支持翻译图片内文字
- 谷歌折叠手机Pixel Fold首次在街头被发现
- 中国版“ChatGPT”真的来了,百度、微软、谷歌谁能突围?
- 谷歌Pixel Fold最新外观细节曝光:内外屏参数变化 相机模组造型熟悉
- 传音与谷歌建立全球战略合作伙伴关系,共推新兴市场数字化发展
- Poly博诣多款产品获谷歌及微软认证 加持混合办公生态
- 谷歌明年推8Gbps宽带服务 上行也不限速
- 谷歌Pixel 6a全球定价公布 新晋中端机7月21日开始发货
- Android 13亮相谷歌I/O大会,OPPO首批推出开发者预览版
- 谷歌收购数据科学公司Kaggle增强机器学习和AI业务
- 谷歌 Pixel 6 拆解,FD-SOI首次被用于5G毫米波