作為擁有先進(jìn)技術(shù)的科技巨頭，谷歌這樣的公司不免會與軍事計(jì)劃產(chǎn)生聯(lián)系。在有侵犯隱私、違背倫理的風(fēng)險(xiǎn)下，是否應(yīng)該接下巨額合同？最近，聽聞公司正在參與美國國防部「Project Maven」AI 軍事計(jì)劃，很多谷歌員工發(fā)起了抵制，他們上書 CEO Sundar Pichai 的公開信現(xiàn)在已經(jīng)獲得了數(shù)千人的聯(lián)名簽署。

五角大樓項(xiàng)目「Project Maven」主要應(yīng)用深度學(xué)習(xí)計(jì)算機(jī)視覺技術(shù)，旨在幫助國防部門從圖像和視頻中提取值得注意的對象。該項(xiàng)目是在 2017 年 4 月由時任副國防部長 Bob Work 在一份備忘錄中首次披露的。目前，美國已經(jīng)成立了一個算法戰(zhàn)爭混合任務(wù)團(tuán)隊(duì)（Algorithmic Warfare Cross-Functional Team），由國防情報(bào)局副部長監(jiān)督。

數(shù)千名谷歌員工簽署了一封致 CEO Sundar Pichai 的信函，抗議谷歌參與一個旨在提高無人機(jī)打擊能力的項(xiàng)目。（圖源：Michael Short/Bloomberg）

近日，數(shù)千名谷歌員工（包括數(shù)十名高級工程師）簽署了一份聯(lián)名信函，抗議該公司參與五角大樓的一個項(xiàng)目，該項(xiàng)目利用人工智能解讀視頻圖像，旨在提高無人機(jī)打擊的精準(zhǔn)度。

該信函在谷歌內(nèi)部迅速流傳開來，已有超過 3100 人簽名，反映了硅谷與聯(lián)邦政府之間的文化沖突。隨著人工智能前沿技術(shù)越來越多地用于軍事領(lǐng)域，這種沖突可能會愈演愈烈。

信是寫給谷歌 CEO Sundar Pichai 的。信中寫道：「我們認(rèn)為谷歌不應(yīng)卷入戰(zhàn)爭?！剐胖幸蠊雀璩烦鑫褰谴髽堑脑圏c(diǎn)項(xiàng)目 Project Maven，并宣布永遠(yuǎn)不會「發(fā)展戰(zhàn)爭技術(shù)」。

當(dāng)然，這種理想主義的想法并不是所有谷歌員工都認(rèn)同的，但對于一家以「不作惡」（信中也有引用）為座右銘的公司來說，提出這種想法是很正常的。但這顯然與華盛頓龐大的國防工業(yè)不同，當(dāng)然也與五角大樓不同。現(xiàn)任美國國防部長 Jim Mattis 經(jīng)常說，五角大樓的中心目標(biāo)是提高美國軍隊(duì)的「殺傷力」。

從早期開始，谷歌就鼓勵員工就涉及公司的問題發(fā)表意見。該公司提供了內(nèi)部留言板和社交網(wǎng)絡(luò)，員工可以在這些平臺上就公司的產(chǎn)品和政策向管理層或同事提出意見。最近，圍繞谷歌努力打造一支更加多元化的員工隊(duì)伍的激烈辯論日益公開化。

谷歌員工已就一系列問題發(fā)出了抗議請?jiān)笗?，包括該公司落后?Facebook 的社交網(wǎng)站 Google Plus 以及谷歌對保守政治行動會議（CPAC）的贊助。

在最近的一次公司會議上，員工就谷歌參與 Project Maven 提出質(zhì)疑。當(dāng)時，谷歌云基礎(chǔ)設(shè)施業(yè)務(wù)主管 Diane Greene 為這一項(xiàng)目辯護(hù)，并試圖安撫相關(guān)員工。公司發(fā)言人表示，抗議信上的大多數(shù)簽名是在公司對此情況進(jìn)行解釋之前收集的。

該公司隨后將 Project Maven 的工作描述為「非攻擊性的」，盡管五角大樓的視頻分析通常用于反暴動和反恐行動，國防部也曾發(fā)文表示該項(xiàng)目用于支持這些行動。谷歌和五角大樓都表示，谷歌的產(chǎn)品不會創(chuàng)造出無需人類操作者就能開火的自主武器系統(tǒng)，自主武器系統(tǒng)在人工智能應(yīng)用中也有很大爭議。

對無人機(jī)視頻做進(jìn)一步分析，可以挑選出人類目標(biāo)并實(shí)施襲擊，換個角度來說，這也有助于更好地分辨出平民，以減少無辜者被意外殺害的風(fēng)險(xiǎn)。

谷歌周二發(fā)布的一項(xiàng)聲明并未直接提及這份致 CEO Sundar Pichai 的信函，聲明中提到：「任何機(jī)器學(xué)習(xí)的軍事化應(yīng)用都會導(dǎo)致人們的合理擔(dān)憂，這是自然的。我們正在公司內(nèi)部積極鼓勵對該重要議題進(jìn)行充分討論?！构雀璺Q這種交流「非常重要，也非常有益」，而熟知信件內(nèi)容的多名谷歌員工僅在匿名條件下發(fā)聲，并表示這是因?yàn)閾?dān)心被報(bào)復(fù)。

該聲明稱谷歌在 Project Maven 中所參與的部分「僅限于非攻擊性的目的」，雖然官方拒絕提供相關(guān)的合同內(nèi)容。美國國防部稱由于谷歌是主承包商 ECS Federal 在 Project Maven 的分包商，它不能提供谷歌合同或合同內(nèi)容。ECS Federal 尚未回應(yīng)該詢問。

谷歌稱五角大樓在使用基于未分類數(shù)據(jù)且「對任何谷歌云客戶開放的開源目標(biāo)識別軟件」。谷歌表示，「這項(xiàng)技術(shù)用于標(biāo)記圖像，以幫助人工審查，其目的是把人們從高度單調(diào)的工作中解放出來?！?/p>

谷歌部分高管和五角大樓有密切聯(lián)系。該公司前執(zhí)行董事長 Eric Schmidt（目前仍是谷歌母公司 Alphabet 的執(zhí)行董事會成員）為五角大樓顧問團(tuán) Defence Innovation Board 的成員，該顧問團(tuán)還包括谷歌副總裁 Milo Medin。

在 11 月份的一個采訪中，Mr. Schmidt 承認(rèn)「技術(shù)社區(qū)普遍擔(dān)心軍工行業(yè)會使用他們的成果去錯誤地傷害人類」。他說他將在董事會中「至少起到交流作用」，并且建議軍方「使用這些技術(shù)來幫助保護(hù)國家安全」。

谷歌這一小部分對軍事合同感到不安的員工（超過 70000 名）也許并不能對公司的發(fā)展造成大的阻礙。但在人工智能研究領(lǐng)域中，谷歌正忙于和其它技術(shù)公司激烈「搶人」，因此如果某些候選者被谷歌的辯解所推遲，這將會造成人事聘用上的麻煩。

谷歌在內(nèi)部異議中為國防合同辯護(hù)，但與此同時它的競爭對手并不羞于宣傳自己的國防項(xiàng)目。亞馬遜向國防部大力宣傳其圖像識別研究成果，而微軟則表示他們的云技術(shù)已經(jīng)與美國政府簽訂合同，為軍事和國防機(jī)構(gòu)處理機(jī)密信息。

當(dāng)前的爭論由 Gizmodo 首次報(bào)道，主要集中在 Project Maven。該試點(diǎn)項(xiàng)目于去年開始，旨在找到加速軍方應(yīng)用最新 AI 技術(shù)的方式。五角大樓發(fā)言人表示，預(yù)計(jì)該項(xiàng)目第一年花費(fèi)不到 7000 萬美元。但谷歌公開信的簽名者明確希望阻止谷歌參與更大規(guī)模的五角大樓合同（人工智能國防應(yīng)用不斷發(fā)展）。

外界普遍認(rèn)為，目前谷歌正與其他科技巨頭（如亞馬遜和微軟）競爭一份為期多年、價(jià)值數(shù)十億美元的國防部云服務(wù)合同。國防部首席管理官 John Gibson 在三月份的一次講話中提到：「聯(lián)合企業(yè)國防基礎(chǔ)設(shè)施云（Joint Enterprise Defense Infrastructure Cloud）」采購計(jì)劃的部分目的是「提升殺傷力和做好準(zhǔn)備」，這凸顯了將軟件、云服務(wù)等相關(guān)服務(wù)與實(shí)際商業(yè)戰(zhàn)爭之間分開的難度。

谷歌員工寫給 Pichai 的公開信已經(jīng)在谷歌內(nèi)部通信系統(tǒng)中傳播了數(shù)周，信中認(rèn)為，參與軍事項(xiàng)目可能會疏遠(yuǎn)用戶，甚至影響未來的人才引進(jìn)。

「這一計(jì)劃將不可挽回地?fù)p害谷歌的品牌和人才吸引力，」信中提到，「由于人們越來越擔(dān)心人工智能的偏見與武器化，谷歌爭取用戶信任的道路已經(jīng)越來越難走了。」在未來，谷歌或許會被視為加入雷神、通用動力以及 Palantir 這樣的國防承包商行列。

「其他大型科技公司如微軟和亞馬遜也參與了這一項(xiàng)目，但這并不會讓谷歌承擔(dān)的風(fēng)險(xiǎn)變小。」信中說，「谷歌擁有獨(dú)特的歷史，它的座右銘是『不作惡』（Don't Be Evil），谷歌直接觸及數(shù)十億用戶的生活，這讓它與眾不同?！?/p>

和其它新貴最終成為了強(qiáng)大的硅谷巨人一樣，谷歌也正被迫面對早年引導(dǎo)公司的理念。Facebook 開始時的使命是連接世界上所有的人，但是最近因?yàn)樘摷傧⑶篮捅欢砹_斯用來影響 2016 年的選舉而受到抨擊，此外，它同樣還被指控在美國選民中傳播異議。

考慮到谷歌的歷史和五角大樓目前在軍事方面對 AI 的強(qiáng)烈需求，前五角大樓的官員和「Army of None」的作者 Paul Scharre 表示，這在谷歌內(nèi)部是不可避免的。

華盛頓新國家安全中心的高級成員 Scharre 說：「技術(shù)開發(fā)者之間存在著強(qiáng)烈的自由主義精神，并且對政府使用技術(shù)會感到擔(dān)憂。目前，人工智能突然且快速地從實(shí)驗(yàn)室走出來，邁進(jìn)了現(xiàn)實(shí)生活，這尤其加劇他們的擔(dān)憂。」

公開信原文：

親愛的 Sundar：

我們認(rèn)為谷歌不應(yīng)卷入戰(zhàn)爭。因此，我們請求公司撤銷 Project Maven，同時起草、公布并執(zhí)行一項(xiàng)明確的決策：谷歌及其合約商永不發(fā)展戰(zhàn)爭科技。

谷歌目前正在實(shí)施 Project Maven，這是一個定制的 AI 監(jiān)控引擎，它使用美國政府獲取的「廣域運(yùn)動圖像（Wide Area Motion Imagery）」來檢測汽車和其他物體并追蹤其運(yùn)動，檢測和追蹤結(jié)果提交給國防部。

最近，谷歌員工在公司內(nèi)部表示了對 Maven 的擔(dān)憂。Diane Greene 在回應(yīng)中保證該技術(shù)不會「在無人機(jī)上運(yùn)行」，也「不會被用于武器開發(fā)」。雖然這排除了極小部分的直接應(yīng)用，但該技術(shù)是為軍事用途而開發(fā)，一旦交付，就會輕易被用于這些任務(wù)的輔助工作。

這一計(jì)劃將對谷歌的品牌及人才吸引力造成不可挽回的傷害。隨著對 AI 偏見化和武器化的恐懼日益加劇，谷歌谷歌爭取用戶信任的道路已經(jīng)越來越難走了。而簽署這份協(xié)議，谷歌將加入 Palantir、雷神、通用動力等公司的行列。其他大型科技公司如微軟和亞馬遜也參與了這一項(xiàng)目，但這并不會讓谷歌承擔(dān)的風(fēng)險(xiǎn)變小。谷歌擁有獨(dú)特的歷史，它的座右銘是『不作惡』，谷歌直接觸及數(shù)十億用戶的生活，這讓它與眾不同。

我們不能把技術(shù)的道德責(zé)任外包給第三方。谷歌宣揚(yáng)的價(jià)值觀清晰地表明：每一個用戶都在給予我們信任，永遠(yuǎn)不要辜負(fù)這一點(diǎn)。這個合同使谷歌的名譽(yù)受到威脅，而且與我們的核心價(jià)值觀相悖。發(fā)展一項(xiàng)技術(shù)協(xié)助美國政府進(jìn)行軍事監(jiān)控，而且該技術(shù)可能造成致命結(jié)果，這是不可接受的。

考慮到谷歌的道德倫理責(zé)任，以及這對谷歌名譽(yù)的潛在危害，我們請求你：

1. 立即取消這一項(xiàng)目。

2. 起草、公布并執(zhí)行一項(xiàng)明確的策略，聲明谷歌及其合約商永遠(yuǎn)不會染指軍事技術(shù)。