-
-
宋宋 数据领袖Lv6
发表于2020-2-24 13:19
楼主
近日，谷歌云AIGoogle Cloud AI正在取消使用谷歌Cloud Vision API中，将图像中的人物标记为“男”、“女”的功能，因为该功能违背了谷歌的AI原则。以往该标签用于进行图像分类以及训练机器学习的模型，此次，谷歌云AI正式删除性别标签，旨在避免创建有偏见的系统。
据谷歌对媒体的邮件披露，谷歌发言人声称，“鉴于无法通过外貌来推断人的性别，谷歌决定删除这些标签，以符合谷歌AI的原则。特别是，在原则2中，谷歌表示要避免造成或者增强不公平的偏见。所以，以后谷歌Cloud Vision API将只采用一个非性别标签，比如，person（人）。”
据悉，谷歌Cloud Vision API主要为客户提供计算机视觉技术来检测物体以及人脸。早在2018年，谷歌就曾禁止在AI工具中使用基于性别的代词。一位业内人士透露，谷歌试图通过此举措来与竞争对手区分开。谷歌不提供性别分类服务，但允许使用“男”、“女”标签，而像微软的系统可以给女性服务员、空乘、女性军人贴标签。
目前，市场上的许多面部识别、分析系统可以预测性别，但在识别不符合性别规范的变性人、有色人种女性等方面，面临很大挑战。2019年科罗拉多大学波尔德分校研究发现，亚马逊、微软，以及Clarifai等人工智能创业公司在男女识别准确率上达95%以上，但在跨性别男性方面的识别错误率达38%，无性别人士错误率高达100%。
同时，一些研究员在审计时发现，市面上主要的面部识别供应商，往往对白人男性识别的效果最佳，在有色女性人种方面识别效果较差。无法对所有人保持稳定的识别效果，致使州立法机关、旧金山等城市、美国参议院议员等提议禁止或者暂停使用面部识别系统。
中国软件网观察发现，不止是谷歌云AI，2月21日，谷歌AI发布了TensorFlow约束优化TFCO，即受监督机器学习库。用于在多个训练机器学习模型指标上优化“不平等”约束等问题，帮助解决诸如公平约束和预测均等等问题。
中国软件网认为，相比于，亚马逊、微软，谷歌在避免偏见、公平性方面格外在意，2020年开年，发布了一系列措施。毫无疑问，这些措施对于谷歌或者谷歌云品牌打造、品牌辨识度上有很大的提升，赢得公众好感。
众所周知，谷歌云仅次于亚马逊AWS、微软Azure排名全球第三，随着云计算市场在横向、纵向上深度的挖掘，亚马逊AWS、微软Azure、谷歌之间的竞争将会更加激烈，但谷歌能否真正开始差异化突围，不仅是策略，还需要在生态伙伴以及具体产品的服务能力进行提升。
来源互联网
