谷歌启动敏感话题审查， 要求研究人员在论文中「保持积极态度」

　　原标题：谷歌启动敏感话题审查， 要求研究人员在论文中「保持积极态度」

 

　　讯，日前，来自路透社的一则报道称，Google AI 部门要求其研究人员在人工智能的论文中给出「乐观态度」的基调。

 

　　这主要来自对包括面孔、性感分析，以及性别、种族、意识形态等在内的敏感话题类的研究论文增加的一道审查，在此之前研究人员还需要先咨询法律、政策和公司的公关部门。

 

　　该规定其中有一页这样写道：「技术的进步和外部日益复杂的环境情况，导致看似有冒犯性的研究项目引发道德、声誉、法律法规等问题。」

　　路透社称，现无法确定详细颁发日期，根据已知的三名现任员工给出的信息来看该规定始于今年 6 月。

 

　　此外，员工还被多次要求「不要以消极的态度阐述技术」。

 

　　比如，负责推荐算法论文的研究人员被告知「要格外小心，表现出积极的语气」，该推荐算法主要用于对 YouTube 等平台上的内容进行个性化推荐。最终，该作者采取的措施为「将论文中有关谷歌产品的所有引用全部删除」。

 

　　路透社还写道，另一篇有关语言理解算法的论文「淡化了对 Google Translate 这一产品出错的引用」，进行修改是为了响应审核人员的要求。

 

　　一直以来，谷歌的标准审核过程旨在确保研究人员不会无意间泄露商业秘密，但「敏感类主题」的审核却不仅仅限于此。目前来看，谷歌还希望评估自己的产品服务抹去偏见的基调，这些敏感类主题包括「国家、石油工业、位置数据、宗教和以色列」。

 

　　实际上，自从 12 月初 AI 伦理专家 Timnit Gebru 被解雇以来，这家搜索巨头的动作一直备受关注。Gebru 此前曾说，她因发送给 Google AI 研究人员内部小组 Google Brain Women and Allies listserv 的电子邮件而被终止。这封邮件中，她谈到了谷歌经理敦促她撤回有关大规模语言处理模型危险性的论文。Google AI 的掌门人 Jeff Dean 说，她在截止日期之前提交了这篇论文。不过，Gebru 的团队拒绝了这一主张，称该规定存在「不公正、歧视性」。