您现在的位置是:首页 > 消费千赢国际官方(唯一)网址 > 资讯

确保人工智能不作恶,谷歌为AI再上“紧箍咒”

时间:2018-11-16 来源:新智元 关键字:谷歌   AI   人工智能   
在去年举行的谷歌会议上,谷歌当时的人工智能(AI)负责人John Giannandrea表示,我们不需要担心杀手机器人,相反,我们需要担心的是AI偏见。本文引用地址: http://power.21ic.com//ce/infor/201811/79484.html “如果要说真正的安全问题,那就是如果我们给这些系统提供有偏见的数据,那么生成的AI模型就会有偏见。”他说。 这是谷歌过去一直在努力解决的问题。2015年6月,谷歌照片应用的算法曾经错误地将黑人分类为“大猩猩”,引发了轩然大波。因此,从IBM到Airbnb,每家公司都在努力确保自己算法不会出现类似的偏差。 最近一段时间,谷歌为解决AI偏见又上了紧箍咒。 对于谷歌机器学习道德、信任和安全主管Jen Gennai来说,防止出现数据和AI偏见实际上就是他的工作内容。Gennai负责领导一个跨公司的团队,对谷歌的新产品和服务进行分析和咨询,以确保所有新产品都遵守这一道德标准。 “如果我们要打造一项新技术,我们需要确保它从一开始就走在正确的轨道上。”她说。 今年6月,Google首席执行官Sundar Pichai发布了该公司的人工智能原则,指导谷歌在这些方面的工作和研究,包括确保Google员工不会制造或加强不公平的AI偏见。 Pichai表示,AI的开发和使用将在未来许多年内对社会产生重大影响。作为AI的领导者,我们感到自己有责任做到这一点。 这种关于人AI技术的新立场是受到谷歌出现问题的影响而提出的。除了“大猩猩”事件之外,哈佛大学研究人员Latanya Sweeney发现谷歌搜索中的存在种族歧视。当搜索类似黑人名字时,会比搜索类似白人名字更有可能出现与“被逮捕”相关的广告。 “这些现象都是我们的部门成立的原因,不应该让我们的用户看到这些,我们需要首先阻止这些偏见的产生。”Gennai说。 现在每当谷歌推出新产品时,都会接受Gennai及其团队的严格测试。来自技术、法律、隐私和社会科学等领域的专家聚集在一起,根据谷歌制定的AI准则对每个产品进行分析。 这种测试主要是找出产品的优缺点。“我们并不是公司里可怕的监工。”Gennai说。“我们想的是,希望公司能推出最好的产品,所以我们要找出所有可能出错的漏洞,以便解决问题。 在谷歌智能助理给真人打电话的功能上,产品团队事先就AI如何处理不同口音做了大量工作,但Gennai的测试团队提出了一些其他问题。 “我们研究了用户如何与之互动,如何利用技术降低AI的偏见。我们提出了问题,要如何判断用户是不是有口吃或语言障碍。产品开发团队做了很多工作,但我们试图缩小所有差距,提升产品表现。”她说。 改进数据集质量 改善AI偏见的一种方法是改进数据集。 Gennai举了一个婚礼的例子。 过去,如果你在Google图片上搜索“婚礼”,得到的结果是白人穿着婚礼礼服的照片,因为算法是在基于西方人的数据源上进行训练的。然而,这对印度或中国的谷歌用户就不合“现在,我们得到了印度用户的大量反馈,他们向我们发送了许多色彩缤纷的婚礼照片,”我们希望了解我们现有资源,创建偏见相对较小的新资源。” 让用户也能理解算法 了解谷歌算法的内部工作流程,有助于团队更好地进行修改。比如用谷歌搜索“CEO”时出现的问题,当你在搜索栏中键入“CEO”时,你会看到一些穿着西装打着领带的白人男子的图片。 Gennai的团队调查数据时发现,这个现象往往并不是人为偏见,而是技术上的偏见。 “在算法看来,海军蓝像素就等于CEO,而且因为白人男性更容易穿蓝色西装,所以这纯粹是模型学习的方式问题。但这表明我们需要仔细检查数据。 让谷歌用户了解公司算法的运作方式也是很重要的。谷歌用户现在可以查看为你投放广告的原因,并查看由算法做出的决定。用户还可以查看为何会在谷歌搜索结果中看到某个链接,具体取决于用户之前的搜索记录。 Gennai表示,这是为了帮助用户更多地了解谷歌,以便他们可以信任谷歌搜索。 透明度也是谷歌AI原则的一部分。但是“与用户共享一个完整的算法根本没有用,反而可能会引起更多的混淆,并感觉我们是故意混淆。但是,用用户可读的语言解释算法,将有助于人们了解谷歌正在尝试做的事情,即使我们做错了。”Gennai说。 解决AI偏见,光靠谷歌不够 说到最后,偏见的根源其实还是来自人类。“我们每个人都有偏见,我们现有的全部数据源,都是建立在我们每个人和过去的历史偏见之上。” 但是,仅仅因为这一点,并不能说我们无法阻止偏见。相反,谷歌试图尽可能调查和解释最大的偏见来源,并尝试改变。 从这个角度看,谷歌的AI准则在公司内部非常重要,也是因为这个原因,谷歌为公司外的人创建了“负责任的AI”开发实践项目,这些人正在使用其开源软件来构建人工智能和机器学习算法。 “我们希望能够以身作则,提供相关工具和知识,让更多的人能够遵循这些准则。”她说。
换一批

延伸阅读

[资讯] AI技术在医学领域突破巨大

AI技术在医学领域突破巨大谷歌母公司Alphabet的首席财务官露丝·波拉特(Ruth Porat)周二在瑞士达沃斯举行的世界经济论坛上表示,由于人工智能的发展,拥有比以往更少的数据也能够在某些方面获得重大突破。 ......关键字:谷歌 人工智能 AI

[资讯] 亚马逊测试快递机器人:尺寸相当于小冰箱

亚马逊测试快递机器人:尺寸相当于小冰箱据美国科技媒体ZDNet报道,亚马逊披露了最新的无人配送项目,通过一种名为Scout的六轮配送机器人来运送包裹。 ......关键字:亚马逊 西雅图 人工智能

[资讯] 两人工智能研究基地正式在厦门揭牌

两人工智能研究基地正式在厦门揭牌近日,“声纹识别技术标准化研究基地”、“自然语言处理技术应用标准化研究基地”两个基地正式在厦门揭牌。据悉,这是中国标准化研究院与厦门快商通科技股份有限公司战略合作协议签署后首个落地项目,为国内首个国家级人工智能领域技术及应用标准化研究基地。......关键字:声纹识别 厦门 人工智能

[资讯] 人工智能产业:一边挤出泡沫一边深入痛点

人工智能产业:一边挤出泡沫一边深入痛点从“互联网+”到“AI+”,人工智能技术正在为经济社会发展带来深远影响。2018年,核心技术攻关、人才梯队培养、实体产业落地……我国人工智能技术正加速更新换代。1月15日,AI青年科学家联盟的多位专家在上海表示,2019年,中国AI产业的发......关键字:AI 人工智能 中国

[资讯] 德国汽车制造商联手加快开发无人驾驶汽车以对抗谷歌

德国汽车制造商联手加快开发无人驾驶汽车以对抗谷歌据路透社报道,在谷歌推进无人驾驶汽车大规模生产计划之际,宝马和大众集团等德国汽车制造商也正在想方设法加快下一代无人驾驶汽车的开发工作,甚至有可能通过联手合作的方式来实现这个目标。 ......关键字:谷歌 无人驾驶 大众

[疯狂史] 为什么电脑第一个磁盘永远是C盘?

为什么电脑第一个磁盘永远是C盘?刚有个人电脑时,上就运行着著名的MS-Dos和windows系统,而第一个磁盘(系统盘)总是以C盘开始,但是为什么呢?......关键字:电脑 磁盘 C盘

[新鲜事] 美国物理学家爆猛料:外星人已经对人类下手了

美国物理学家爆猛料:外星人已经对人类下手了就在世人对外星人的存在还将信将疑的时候,美国75岁物理学家斯坦顿·弗里德曼(Stanton Friedman)声称,自己确信外星生物曾到访过地球,并且外星生物在地球上停留很长时间。外星人曾经还劫持过地球人去做实验,这些资料目前被美国政府扣押......关键字:外星人

[新鲜事] 这家被指抄袭谷歌的红芯浏览器承认基于开源架构,仍称“有创新”

这家被指抄袭谷歌的红芯浏览器承认基于开源架构,仍称“有创新” 深陷“造假”风波的国产浏览器品牌红芯,再度发声。8月16日晚,红芯时代(北京)科技有限公司发布声明称:红芯浏览器内核是基于通用的浏览器内核架构(即Chromium开源项目,但不是Chrome浏览器)的基础上进行......关键字:浏览器 谷歌 红芯浏览器
发表评论 共有条评论
用户名: 验证码:

变频器内部主电路有什么神奇?

变频器内部主电路有什么神奇?

采用“交-直-交”结构的低压变频器,其内部主电路由整流和逆变两大部分组成.……
精确稳定 让平均电流法帮你实现模块电源并联

精确稳定 让平均电流法帮你实现模块电源并联

今天要为大家介绍的是平均电流法,这种方法能够精确稳定的帮助工程师实现电源模块的并……
九款最简单的千赢国际官方(唯一)网址镇流器电路图原理图分析

九款最简单的千赢国际官方(唯一)网址镇流器电路图原理图分析

从工作原理而言,千赢国际官方(唯一)网址镇流器是一个电源变换电路,它将交流输入市电电源的波形、频率和……

项目外包