难以置信(xìn),这竟(jìng)是Google如今的做事方(fāng)式。
或(huò)许你(nǐ)还没有忘记(jì),有个叫(jiào)Maven的美国国防(fáng)部(bù)AI武器项目(mù)。
而且(qiě)就是因为Google参与(yǔ)该项(xiàng)目,内部抗(kàng)议一波接(jiē)一波,离职进谏(jiàn)者不计其数(shù),近(jìn)4000员工联名声讨。
后来(lái),内外压(yā)力之下,2018年6月,Google官方(fāng)宣布停(tíng)止参(cān)与AI武器研发,并发(fā)布AI原则作为(wéi)指导。一(yī)时化舆(yú)论危机为道德风骨。
然而万万没(méi)想到,不作恶(è)巨(jù)头也有明修栈道暗度陈仓那一(yī)套。
一(yī)边(biān)是高调建牌坊(fāng),另(lìng)一边则背地里雇佣众(zhòng)包零工(gōng)人(rén)员继续(xù)进行AI武器训练(liàn)。
这,就是(shì)Google刚刚被曝光的新春之雷。
众包平(píng)台训(xùn)练(liàn)武(wǔ)器AI
事情从(cóng)一家名为Figure Eight(图八)的众包(bāo)公(gōng)司说起。
图八公司,做的(de)就是数据(jù)标注一类(lèi)的工作。他(tā)们接项目,然后安排(pái)给平(píng)台上的“工人(rén)”,并以时薪1美元(7元)支(zhī)付报酬。
工人们任务也不难,看起来都是一(yī)些简(jiǎn)短且无须(xū)思考(kǎo)的(de)任务,比如识别区分所给图像(xiàng)中的人物,是否符合要求——符合就框(kuàng)出来,不(bú)符合就下一张(zhāng)。
但根据美(měi)媒The Intercept最新截(jié)获(huò)的邮件显(xiǎn)示(shì),其中就有(yǒu)一个专门为Google和(hé)国防部完成的项目。
而且(qiě)就是那个“声名在外”的(de)Maven项目。
所(suǒ)谓Maven项目(mù),简而言之就是无(wú)人机武器。但跟战狼中所用(yòng)的人控无人(rén)机不同,这里(lǐ)的无人机有AI加持,拥有视觉能力,可以区(qū)分(fèn)“敌我”,最后甚至能自主决定攻击。
但你也知道(dào),AI实(shí)现(xiàn)区(qū)分(fèn)“敌我”之(zhī)前(qián),需要人类通过大量(liàng)数据和(hé)案例(lì)教(jiāo)会AI谁敌(dí)谁友、分清楚(chǔ)哪(nǎ)些是树木哪些是人——有多少(shǎo)人工,就有多少(shǎo)智能。
这个图(tú)八公司,接的就是这(zhè)个生意。
所以按理来说,Google宣布停止参与Maven项目后,合作方(fāng)图八的任务应该也就一并中止了。
但The Intercept截获的邮(yóu)件显(xiǎn)示,图(tú)八的数字工(gōng)人们还在不断交付工作(zuò),只是他们并不知道究竟在完(wán)成什么项目、又是为(wéi)谁工作而已。
图八方面也(yě)确认,Maven项目的任务还在继续。
所以换而言之,在(zài)Google宣(xuān)布中止Maven项(xiàng)目(mù)大(dà)半年后,背地(dì)里还有模(mó)型训练的工作(zuò)马不(bú)停蹄。
不知道(dào)那些以离职抗议的Google员工,知(zhī)道真相后作何感想?
但(dàn)Google官方已经对(duì)此表示未置可否。
The Intercept就此向Google求证时,发(fā)言人把问题转交给了图八公司——大概就(jiù)是(shì)想(xiǎng)表明这事(shì)儿得问(wèn)图八(bā)。
不过就(jiù)外泄的邮件内容来看,Google从中标Maven项目后不久,就(jiù)已(yǐ)经跟图八公司展开了合作(zuò)。
现在想要切(qiē)割(gē),为(wéi)时晚矣。
评(píng)论汹(xiōng)涌
事(shì)情被爆料(liào)后,网友(yǒu)搬板凳看(kàn)热闹的阵仗好(hǎo)不热闹。
无(wú)论是外媒、推特、论坛还是国内的微博,网友都(dōu)开启(qǐ)了热议(yì)模式(shì),针对(duì)此事的观点评(píng)论几乎可以一分(fèn)为三(sān)。
有吃瓜群众对谷歌(gē)“表里不一”的行为表示大跌眼(yǎn)镜,把“不作恶”写进自己的准则却又一再打破,不少网友表示“让人失望”。
有网友感(gǎn)慨人工智能(néng)技术在(zài)成熟前竟然需要这么大的(de)标注(zhù)工作,先有人工后才有智能(néng)。
外媒VentureBeat的记者(zhě)John Koetsier认为,整件事太讽(fěng)刺了,人们为(wéi)了训练AI最终能替代(dài)自己干活(huó),竟然在做一些不(bú)需要动脑(nǎo)子的微(wēi)小(xiǎo)工作。
也有微博网友提供了一个点子,认为与其利用零工经济聘请(qǐng)兼职(zhí)来标注,不如直接放到游(yóu)戏里让玩家对其训练。
最多的讨论,是关(guān)于谷(gǔ)歌这次处(chù)理(lǐ)问(wèn)题的态度以(yǐ)及(jí)影响,不少国外网友气愤的(de)同时,又(yòu)在“瑟瑟发抖”。
社会学(xué)家(jiā)Casilli推特(tè)表示,这是一个(gè)有(yǒu)关(guān)发言权的(de)问题。无论是兼职也好、零工也罢(bà)还是社交平台的用户,都有权利认识(shí)和监督(dū)其生产活动。
不(bú)少(shǎo)国内微博(bó)网友(yǒu)也认同此事,表(biǎo)示(shì)心疼这些连自己(jǐ)在做(zuò)什(shí)么都不知道的公认。
网友TeameZazzu开(kāi)始担忧谷歌的(de)一系列(liè)AI军事项目(mù),他认(rèn)为正(zhèng)如美国国家安全(quán)局此前国内大规模监听丑闻那样,反恐工具很快(kuài)就会转移到国(guó)内警察部门。在WAMI(广域运(yùn)动图像)案例中,被(bèi)执法机构使(shǐ)用显然是违反美(měi)国宪法的(de),是对自由、隐私和(hé)民主(zhǔ)的生存威胁。
王子&庶民
当然,事件(jiàn)曝(pù)光后的评论(lùn)中(zhōng),另一个问题也被凸显。
在图八的整个工作中(zhōng),由于(yú)雇主和项目可以选择匿名,而且工作任务被切分得极其细(xì)致。
所以工人们根本不知道自己(jǐ)在为(wéi)谁工作,也(yě)不知道自己(jǐ)正在(zài)做什么(me)。
那么争(zhēng)议来了:
在AI武器这样的“是(shì)非题”中,Google的(de)员工有选(xuǎn)择的权(quán)利,但图八的(de)工人们,甚至连知(zhī)情权都没(méi)有。
未来这些AI武器大杀(shā)四方(fāng)甚至(zhì)被非人道使(shǐ)用时,他们也不(bú)知道自己曾帮助过这些(xiē)武器的实现。
所以在涉(shè)及道德争议任务时,是否也该(gāi)让众包工人跟Google员工享有同等的(de)知情权?
而且(qiě)就在最近,参与Maven项目(mù)抗议的Google员工,还获得了“2018年度军控人(rén)员(yuán)”的全球评眩
但图八公司的(de)众包工人呢?如果不是今日事件曝光,可(kě)能他们永远不知道(dào),自己(jǐ)一直在参与Maven项目。
迫于生计,他们可能也没有选择,但是否就此变相剥夺(duó)他(tā)们的选择(zé)权?
另外(wài),明修牌坊,暗地里继续训练军事AI,这真的(de)是Google的选择吗?