栏目导航
富贵木
当前位置: www.hg01.com > 富贵木 > 正文

李飞飞离职谷歌背后:AI还很稚嫩 作为科学家很


更新时间:2018-11-23   浏览次数:

李飞飞

  导语:本年9月11日,谷歌云AI部门负责人李飞飞宣告即将离任,回到斯坦福大学任教。中媒《连线》纯志日前刊文,报告了李飞飞离职背地的故事。

  以下为作品齐文:

  客岁六月有段时间,清晨一点阁下,李飞飞衣着寝衣,坐在华衰顿特区旅店房间里,训练几个小时后要做的演讲。临睡前,李飞飞从条记中删去一整段,以确保自己能在指准时间内疾速说明几个最重要的观点。醉来时,这位身高165厘米的人工智能专家脱上靴子和一件玄色的水师针织裙子,分歧于平凡的T恤和牛仔服。然后她拆乘一部Uber汽车,前去米国国会大厦北部的雷伯恩寡议院大厦。

  在进入米国众议院科学、空间与技术委员会的集会室之前,她拿起手机拍了一张特大木门的照片。(“作为一名科学家,我对委员会觉得异常。”她说。)然后她步入空阔的大厅,行向证人席。

  那天上午听证会的主题是“人工智能——壮大的气力带来巨大的义务”,预会者包含当局问责办公室的首席科学家蒂莫西·佩尔斯(Timothy Persons)和非谋利组织OpenAI的结合开创人兼首席技术卒格雷格·布罗克曼(Greg Brockman)。但只要李飞飞是在现场谈话的唯一女性,并堪称在人工智能(AI)领域占有首创性成绩。作为构建可帮助计算机识别图像的数据库ImageNet的研究人员,她是一小群科学家中的一员,这群人可能少得仅够在厨房桌子中间围成一圈,但AI远期的明显提高都要回功于他们。

  那年六月,李飞飞在Google Cloud担任首席人工智能科学家,并告假离开斯坦福人工智能实验室主任一职。但她之所以涌现在委员会见前,是因为她也是一家专注于招聘女性和有色人群成为人工智能扶植者的非营利组织的联合创始人。

  那一面也不奇异,议员们当天就对付她的专业常识禁止了发问。使人惊奇的是她的道话式样:她所酷爱的范畴所带来的重大风险。

  一项发现及其影响之间的时间是长久的。在像ImageNet之类的人工智能东西的帮助下,计算机能够被传授进修特定义务,而后比任何人都快天举动。跟着这项技术的日趋成生,它正被受权对数据进行过滤、分类和剖析,并对寰球和社会带来影响。只管这些对象以某种方法已存在了60多年,但在从前的十年中,我们开初使用它们来实现改变人类生涯轨迹的任务:明天,人工智能帮助断定哪些医治办法可用于病人,谁有资历支付人寿保险,一小我答服刑多一下子,哪些供职者接收口试。

  固然,这些权利多是危险的。亚马逊不能不废弃AI应聘软件,果为该硬件学会了对包括“女性”一伺候的简历加以处分。谁能忘却谷歌2015年的惨重阅历呢?事先,谷歌的照片识别软件将黑人图片错误地贴上了大猩猩的标签。微软的AI交际聊天机械人则开始发布种族主义推文。但这些问题是可以解释的,因而也是可以改变的。李飞飞认为,在不暂的未来,我们将碰到一个弗成能纠错的时刻,因为这项技术正在被敏捷、普遍地采取。

  那天下午,李飞飞在雷伯恩大厦作证,由于她深信自己的领域需要从新校准。出色而强盛、且大局部由男性构成的高科技首领已经对将来收回了忠告,人工智能驱动的技术成为人类生计的要挟。但李飞飞认为,这些担心被赐与了太多的器重和存眷。她专一于一个不那末戏剧化、但更重要的题目:人工智能将若何影响人们的任务和死活方式。它必定会改变人类的休会,而未必象征着更好。“我们偶然间,”李飞飞说,“但我们现在必需采用行为。”李飞飞认为,如果我们对人工智能的设计及其计划者进行根天性的改变,技术将永久是一个向擅的变更力气。如果不是的话,大批人道将被从等式中剔除进来。

  在听证会上,李飞飞是最后一个谈话的人。没有证据注解她通宵训练是因为缓和,她启齿了。“人工智能中存在人工的东西。”她的音量加强了。“它的灵感来自于人类,它是由人类发明的,最重要的是它能影响人类。这是一个强无力的工具,我们只是刚开始懂得,这是一个繁重的责任。”四周人的脸严正起来,一位缺席会议的密斯表现赞成,嘴里发出“嗯……嗯”的声响。

斯坦福大学AI实验室,赛格威平台可移念头器人JackRabbot 1

  李飞飞成长在东北产业都会成都。她是一个孤介而聪慧的孩子,也是一个迫不及待的念书人。她的家庭有点不平常:在一个不推重豢养辱物的文明里,她父亲给她买来了一只小狗。母亲来自知识份子家庭,激励她读《简·爱》。(“在勃朗特姐妹中,我最喜欢艾米美,”李说。)。在她12岁时,父亲移居好国新泽西州帕西帕尼,她和母亲几年没见到他。16岁时母女俩也出国移平易近。到米国的第发布天,李飞飞的父亲带她去了加油站,让她告知技工建他的车。她几乎不会讲英语,但通过脚势,李飞飞想出了说明问题的方法。在两年内,李飞飞已经学会了充足多的说话,可认为只会说低级英语的父母担负翻译和羡慕。“我必须成为父母的嘴巴和耳朵。”她说。

  她在黉舍也表示很好。女亲爱好淘旧货,为她找到了一个迷信盘算器,她正在数学课上应用,曲到一名先生指出她的过错计算,她才发明有个功效键坏了。李飞飞称颂另外一位高中数学老师鲍勃·萨贝拉(Bob Sabella)领导她进退学术界,开端追赶米国梦。帕西帕僧下中不高等微积分课,以是他自编了一个教材,在午息时光教李飞飞。萨贝推跟老婆也让她到他们家里玩,并带她往迪斯尼量假,借给她2万美圆开了一家干洗店,让她的怙恃经营。1995年,她取得了奖教金,得以来普林斯顿年夜学念书。其间,她简直每一个周终皆回家辅助警告家庭买卖。

  在大学里,李飞飞的兴趣是广泛的。她主修物理,学习计算机科学和工程学。2000年,她在帕萨迪纳加州理工学院攻读博士学位,同时研究神经科学和计算机科学。

  看到并促进看似分歧领域之间的接洽,这一点使李飞飞推测了ImageNet。她的计算机视觉同业正在研究帮助计算机感知息争码图像的模型,但这些模型范畴无限:研究人员可能要编写一种算法来识别狗,再用另一种算法来识别猫。李开始猜忌问题不在于模型而在于数据。她认为,如果一个孩子在晚年经由过程体验视觉世界——即经过视察多数的物体和情形——来学习不雅看,或者计算机也能够相似地通过火析林林总总的图像以及它们之间的关联来学习。对李飞飞来说,这一认知是一个宏大奔腾。“这是一种构造整个世界视觉观点的方法。”她说。

  但是她很难压服共事信任,在海度数据库中为每个物体的每一个可能的图片加上标签是公道的。另外,如果李飞飞决议要让这个设法见效,标签需要从一般类(如“哺乳植物”)揭到高度特定类(如“星鼻鼹”)。2007年,李飞飞回到普林斯顿做助理教授,当她谈到ImageNet的想法时,很难找到教师协助。最后,一位专攻计算机系统构造的教授批准参加,成为配合者。

  她的下一个挑战是打造伟人。这意味着良多人将不得不破费大量时间来做烦琐的标记照片的工作。李飞飞试着给普林斯顿学生每小时付出10美元,但停顿迟缓。然后一个学生问她能否据说过亚马逊土耳其人机器人(Amazon Mechanical Turk)。这是有名的众包平台,可借助大众的智慧处理机器很难或无奈解决的问题。忽然之间,她可以把许多工人聚集起来,本钱只是沧海一粟。但从少数普林斯顿学生到数万名隐形摸索者的劳能源扩大,本身也存在挑战。李飞飞不得不考虑工世间可能的偏见。“在线工人,他们的目标是用最简单的方法赢利,对吧?”她说。如果你让他们从100张图片中抉择熊猫,怎么能力禁止他们治点一气呢?”因此,她嵌入并跟踪了一些图像,比方已经正确识别为狗的金毛猎犬的照片,作为对比组。如果土耳其人可以正确标志这些图像,他们就能老实地工作。

  2009年,李飞飞团队认为320万张(后来增添到1500万张)大型图片散满足够周全,可供使用,他们在宣布数据库的同时宣布了一篇论文。起先这个项目很少遭到存眷。但后来团队有了一个想法:他们联系了次年在欧洲举行的计算机视觉比赛的组织者,请求他们容许合作敌手使用图像网络数据库来训练他们的算法。这就是ImageNet大范围视觉识别挑衅。

  大概在统一时间,李飞飞加入斯坦福大学担任助理教授。那时,她娶给了机器人学家西尔维奥·萨瓦雷塞(Silvio Savarese)。但是他在稀息根大学有一份工作,而且间隔最远。“我们知道,对我们来说,硅谷更轻易解决我们分家两地的问题,”李飞飞说。(萨瓦雷塞于2013年加入斯坦福大学。)“同时,斯坦福大学是特别的,因为它是人工智能的发祥地之一。”

  2012年,www.2081.com,多伦多年夜学的研讨职员杰弗里·辛顿(Geoffrey Hinton)加入了ImageNet比赛,应用应数据库去练习一种人称深度神经收集的野生智能。终极成果比之前的任何试验都要准确很多,他赢了。李飞飞原来出盘算去看辛顿发奖,她在休产假,而授奖仪式在乎大利佛罗伦萨举办。当心她意识到近况时辰正在到来。因而她在最后一刻购了一张机票,把自已取出半夜航班的旁边坐位。辛顿的图像神经网络转变了所有。到2017年,也便是竞赛的最后一年,计算机在图象中辨认物体的毛病率从2012年的15%降到了没有到3%。计算机,至多经由过程一种方式,比人类更擅长察看。

  ImageNet使深层学习成为可能,有了它,近期人类才能在自动驾驶汽车、面部识别、可识别物体(以及告诉你它们是不是正被促销)的电话摄像机方面获得进展。

  辛顿领奖后未几,当李飞飞还在休产假时,便开始思考在她的同行中女性为什么如此之少。在那一刻,她灵敏地感触到了这一点,她看到了差异正在拉大成为问题。大多半构建人工智能算法的科学家是男性,并且平日存在类似后台。他们就自己独有的世界不雅、乃至所预感的危险嵌进他们所处置的项目。很多人工智能的生产者都是领有科幻幻想的男孩,灵感来自《闭幕者》和《刀锋兵士》的场景。担忧这类事件没甚么错误的,李飞飞想,但这些主意偏离了AI可能存在危险的狭窄观念。

  正如李飞飞所道,深层进修体系“可失掉偏偏见,输入偏睹。”李飞飞认识到,固然驱动听工智能的算法可能貌似是中性的,但硬套这些算法结果的数据和利用却不是。主要的是创建它的人,和创建的目标。那天,李飞飞在国会山指出,如果没有一群配景多样的工程师,我们可能会创建出一套有成见的算法,做出不公正的存款请求决议,或许只在黑人脸上训练神经网络,从而创立出一种在乌人脸上表现欠安的本相。“我以为,假如咱们20年后觉悟,收现我们的技巧、引导者和从业者缺少多样性,那将是我的末日图景,”她说。

  李飞飞开始相疑,症结任务是把人工智能的发展重点放在帮助人类体验上。她在斯坦福大学所从事的一个项目是与医学院协作,将人工智能带到ICU,尽力削减诸如医院获得性沾染之类的问题。它波及到开发一个摄像头系统,可监控洗手站,并在病院工作人员记记准确擦洗量给出提醒。这品种型的跨学科合作是不平常的。斯坦福大学临床出色研究中央主任、医学教授阿诺德·米尔斯坦(Arnold Milstein)说:“没有其他来自计算机科学领域的人向我伸出支援之手。”

  AI应该若何退化?这项工作让李飞飞看到了盼望。AI可以用来弥补人们的技能,而不是简略地调换之。如果其余学科的人(甚至是现实世界中的人)加进这一工程,他们就能够制作出一些工具来扩大人类才能,比方完成耗时工作自动化,让ICU关照有更多时间陪同病人,而不是树立人工智能使或人的购物体验主动化,并让出纳员下岗。

  斟酌到AI正在飞速发作,李飞飞认为她的团队需要调剂人员——越快越好。

  帮助女性进入计算机领域

李飞飞在斯坦福大学人工智能实验室

  李飞飞对数学相当很痴迷,她深知要让女性或者别的有色人种进入计算机领域,需要支付巨大努力。依据国家科学基金会(National Science Foundation)的统计,2000年,女性拿到的计算机学士学位只占整年总量的28%,2015年更是降到18%。在李飞飞自己的实验室内,也很难聘任到足够多的有色人种和女性研究员。李飞飞说,虽然她的实验室比典范AI实验室加倍多样化,但是男性依然占主导。她还说:“女性不敷多,多数民族更是不敷多,实验室贮备人才网job.vhao.net也存在如许的问题。学生参加AI会议,会看到90%的与会者都是异性,非裔米国人的数目也近没有白人男性多。”

  当李飞飞成为奥我减·鲁萨科沃斯基(Olga Russakovsky)的导师时,她多少乎将近加入止业。鲁萨科沃斯基其时曾经是一位计算机科学家,拿到了数学学士学位和计算机硕士学位,都是在斯坦祸拿到的,然而她在论文圆里落伍了。鲁萨科沃斯基是真验室独一的女性,她感到本人取同业妥善了。厥后李飞飞离开斯坦福,情形有了变更。李飞飞赞助鲁萨科沃斯基学会一些研究技巧,鲁萨科沃斯基借说,李飞飞让她有了自负。当初鲁萨科沃斯基是普林斯顿大学计算机系的助理教学。

  4年前,鲁萨科沃斯基念完专士,她生机李飞飞能帮助自己建一个夏令营,让那些对AI有兴致的密斯参与进来。李飞飞赞成了,她们马上招集意愿者,给高中二年级学生打电话。虽然只有24个名额,但是一个月以内却收到200份申请。2年后,他们扩展了项目,设立非红利组织AI4All,将年青人带到斯坦福、加州大学伯克利分校,包括女孩、有色人种、经济状态欠安的人。

  在加州奥克兰郊区,AI4All有一个狭窄的同享办公室,由于组织的生长,现在它行将搬出。现在AI4All在6所大学设立夏季营。去年她们在卡耐基梅隆大学举行夏令营,为20个名额招募成员,支到900份申请。有一名AI4All先生想用计算机视觉技术侦测眼病,还有一人用AI编写顺序,给911呼唤按紧迫水平排序,因为救护车未能实时到达,这名学生的祖母可怜分开人间。很显明,团体视角会给未来AI工具带来伟大影响。

  谷歌路程

斯坦福大学AI实验室内,拆歉田Human Support机器人的箱子

  在斯坦福治理实验室近3年后,李飞飞于2016年离开,加盟谷歌,担任谷歌云(Google Cloud)首席科学家,谷歌云是公司的企业计算营业部门。李飞飞想知道行业是如何运作的,如果能根据客户的关注点安排新工具,兴许可以扩大自己的研究规模。Facebook、谷歌、微软等企业也投入巨资,研究AI,希看AI能帮助营业快捷发展。与大学相比,企业拥有更多更好的数据。对AI研究人员来说,数据就是燃料。

  最开始时,李飞飞充斥豪情与活气。她与企业谈判,将科学研究运用于事实。在她的领导下,部分推露面背大众的AI工具,有了这套对象,任何人不须要写一行代码就可以开辟机械学习算法。她在中国设破实验室,劣化AI工具,用于调理安康领域。她在达沃斯天下经济服装论坛t.vhao.net揭橥报告,与国度元尾、风行戏子交换。

  但是,在公营企业工作带来新的压力,这种压力常常让人不舒畅。客岁春季,因为谷歌与米国国防部签订Project Maven条约,李飞飞招来非议。从实质上讲,项目就是要用AI工具分析视频图像,当局可能会用该技术把持无人机攻击目的,依照谷歌的描写,它们可以用AI识别低辨别率目标,救命性命才是重要任务。许多职工否决公司将自己开发的技术应用于军事无人机。那时4000名员工示威,要求公司颁发声明,许诺谷歌与开同启包商不会开辟战斗技术。另有几人告退抗议。

  虽然李飞飞没有间接参与生意业务,不过背责Maven项目的恰是她所工作的部门。李飞飞写过一启邮件,愿望公司不要堕入为难地步,这封邮件被《纽约时报》拿到,媒体报导将李飞飞推向风心浪尖。看起来让人迷惑,因为在整个行业李飞飞犹如伦理品德的化身。现实上,在公家抗议之前,李飞飞认为这门技术是无益的,她从未想过员工会恶感。

  为何会出现如许的问题?李飞飞还是知道的,她说:“问题的关键不在于事宜自身,而在于时间点,企业的责任感、AI突起、硅谷应当参与对话,贪图这些身分交错在一同,Maven项目成了交汇点。”虽然谷歌说自己“不做恶”,态度还不够赫然。

  迫于压力,谷歌没有绝签Maven合同,争议缓缓仄复。一些谷歌科学家和高管构成团队,李飞飞也是个中一员,他们编写公然指南,承诺谷歌会用AI技术制福社会,防止工具呈现偏见,不让工具损害人类。始终以来,李飞飞都在为重返斯坦福做筹备,不外她觉得自己有需要亲眼看到指南通过。李飞飞说:“每个机构都必须设立一套行事本则,评价历程时必须担任,我认为这点相称重要。本杰明·富兰克林已经说过,当宪法出台时,它可能不是完善的,但它的确是其时最佳的。大师会有不同的看法,不同的流派可以持续对话。”李飞飞说,指南揭晓的几天是她昔时最快活的几天。李飞飞还说:“可能介入,可以做点奉献,对我而行相当重要。”

  AI伦理

  6月份,我前去李飞飞的家中访问她,李飞飞的家在斯坦福校园。当时恰好早晨8点多一些,当我们交流时,她的丈妇将小儿子和女女收到楼上睡觉,怙恃在姻亲的单位楼留宿。餐厅酿成了游戏室,所以我们坐在客堂谈天。随处都是家人的相片,架子上放着一台1930年月的旧式坏德律风。当我问她时,她说父母是移平易近过去的,李飞飞的父亲喜悲去跳蚤市场出卖旧货色。

  一边交流,信息在手机上跳了出来。大夫给李飞飞的母亲开了药,父母让她将阐明翻译给自己听。李飞飞可能会在Googleplex闭会,或活着界经济论坛演讲,也可能正在参加国会听证会,如果父母需要帮助,会发短信给她。她立刻回应,没有挨断思绪。

  在生活的大部门时间里,李飞飞往往需要同时闭注两件不同的事。她是一名科学家,对艺术也有着深入的看法。她既是米国人,又是中国人。她对人很感兴趣,也对机器人感兴趣。

  7月末,李飞飞打德律风给我,当时她们家正在为观光做预备,她在给女儿洗手。李飞飞问我:“您看到沙伦·沃拉尔(Shannon Vallor)揭橥的声了然吗?” 沃拉尔是圣塔克拉拉大学的玄学家,特地研究新兴科学技术存在的哲学与伦理问题,她说自己要到谷歌云工作,担任伦理参谋。

  为了这件事,李飞飞做了许多努力,在华盛顿证词中,她曾援用沃拉尔的话说:“没有实正自力的机器价值,机器驾驶就是人类价值。”谷歌录用前所未有。其它企业也行动起来,缭绕AI软件的使用、谁能使用设置围栏。2016年,微软设立外部伦理委员会,微软还说,由于伦理委员会存在伦理担忧,它已经谢绝与某些潜伏宾户合作。如何使用AI技术?微软也开始设限,比如封杀某些脸部识别应用。

  7月份我们攀谈时,李飞飞晓得自己即将离开谷歌,2年的放假将近停止了。当时有许多人猜想说,李飞飞会因为Project Maven争议离开。不过李飞飞却说,她之所以回到斯坦福,重要是因为不想放弃学术职位,并且她也有些乏了。李飞飞还说,在谷歌渡过动乱的炎天以后,伦理指南就像是地道止境的一线光。

  李飞飞盼望能在斯坦福设立新名目。秋季,李飞飞与约翰·艾切曼第(John Etchemendy,前斯坦福大学教务少)发布说要设立一个学术核心,将AI与人类研究融会在一路,会聚硬科学、设想研究、多学科研究。李飞飞认为:“做为一门新兴科学,AI从没有真挚倾尽尽力吸惹人文主义者和社会科学家参加出去。”好久以来,人人都认为这些领域对AI来讲可有可无,但李飞飞却认为它相称要害。

  从本度上讲,李飞飞是一名悲观主义者。6月参加听证之后,她曾告诉立法者:“我深刻思考那些对人类既危险又有迫害的工作,好比救水、天然灾祸搜救。”她相信,技术可以帮助人类尽量躲开危险。

  念让单个机构的单个法式改变全部行业确实有些易,遭到诸多限度。尽管如斯,李飞飞仍是认为要竭尽所能训练研究人员,让他们像伦理学家一样思考,研究人员用准则而非利潮领导自己行事,布景多种多样。

  在电话中,我问李飞飞,她有无想过AI也允许以用完整不同的方式发展,避开至古我们所看到的问题。她答复说:“很难设想。”李飞飞还说:“科学进步和翻新来自于几代人的有趣工作,要一直纠错试错。我们花了一段时间才认清偏见。我工作了6年,然后才意想到:‘天啊,我们堕入了危急。’”

  在米国国会山参加听证时,李飞飞曾说:“AI科学还很稚老,作为一名科学家,我感想到自己的低微。这门科学出生只有60年。一些典范科学存在已久,比如物理、化学、生物学,这些科学天天都在先进,让人类生活变得更好,与它们比拟,AI还要走冗长的路才干认浑自己,知讲自己有哪些可以帮助人类的潜能。用恰当的指南引诱AI发展,可让生活变得更美妙。如果没有指南,技术会让贫富分化变得更严峻,让排挤力变得更强大,进一步强化偏见,几个世代以来,我们一直在努力战胜这种偏见。”李飞飞试图让我们相信,现在的时代已经是一个介于创造和影响(指发明带来的影响)之间的时期。(斯眉 中天)

  申明:新浪网独家稿件,已经授权制止转载。 -->
上一篇:要在西班牙打造青少年足球冠军赛?恒大回应:
下一篇:没有了

友情链接:
Copyright 2017-2020 www.wwhg01.com. All Rights Reserved.