????????警用裝備網(wǎng)訊：?今年，AlphaGo（DeepMind 公司研發(fā)） 和 Libratus（卡內(nèi)基梅隆大學(xué)開發(fā)） 分別戰(zhàn)勝了人類最頂級(jí)的圍棋棋手和撲克牌玩家。雖然這兩個(gè)里程碑事件向世人展示了近些年里人工智能已經(jīng)取得了非常大的突破，但是失敗與成功并存，在過(guò)去的一年中同樣也出現(xiàn)了一些人工智能的失敗案例，因此有很多人對(duì)這項(xiàng)新興技術(shù)的整體成熟度持懷疑態(tài)度。

　　　　但作為人工智能的愛好者，很欣慰看到越來(lái)越多的人工智能項(xiàng)目落地，能夠獨(dú)立運(yùn)行，從而部分代替人的工作，但是，它們有時(shí)也會(huì)出錯(cuò)，這些錯(cuò)誤對(duì)人類來(lái)說(shuō)可以輕而易舉就能避免，接下來(lái)我們從 2017 年人工智能領(lǐng)域最具代表性的十大失敗案例中學(xué)習(xí)經(jīng)驗(yàn)。

　　　　iPhone X 的臉部識(shí)別技術(shù)可以通過(guò)面具破解

　　　　Face ID（刷臉認(rèn)證方式）是解鎖新型 iPhone X 的面部識(shí)別技術(shù)，被譽(yù)為迄今為止最安全的人工智能激活方法，蘋果公司宣稱其被破解的幾率為百萬(wàn)分之一。

　　　　但是在其發(fā)布不久之后，越南的一家公司 BKAV 就破解了它，破解的方法是使用 3D 打印的塑料、硅膠、化妝品和剪紙構(gòu)建一個(gè)人臉面具，其制造成本大約 150 美元。BKAV 公司首先掃描一個(gè)測(cè)試對(duì)象的臉部，然后使用 3D 打印機(jī)生成一個(gè)臉部模型，并貼上剪紙眼睛和嘴巴以及硅膠鼻子，這樣一個(gè)面具就制作好了。這一破解事件讓整個(gè)行業(yè)都感到不安，擴(kuò)大了消費(fèi)級(jí)設(shè)備隱私的風(fēng)險(xiǎn)，威脅到人工智能的安全。

　　　　Echo 音響午夜異常開啟

　　　　亞馬遜的 Echo 被認(rèn)為是最強(qiáng)大的智能音響之一，但是任何事情都有其不完美之處。一名德國(guó)男子的 Echo 在夜間異常喚醒并開始播放音樂，然而他并不在家。之后音樂聲吵醒了鄰居，鄰居不得不報(bào)警。警察只好強(qiáng)行撞開房門把 Echo 音響關(guān)掉，由于門鎖被破壞，警察不得不換一把新鎖，而當(dāng)這名男子回家時(shí)發(fā)現(xiàn)自己的鑰匙居然無(wú)法打開自己的家門。

　　　　Facebook 聊天機(jī)器人關(guān)停事件

　　　　今年七月，報(bào)道稱有兩個(gè) Facebook 聊天機(jī)器人因以無(wú)法識(shí)別的語(yǔ)言相互溝通而被關(guān)停。一時(shí)間有關(guān)新的秘密超級(jí)智能語(yǔ)言的謠言四起，直到 Facebook 解釋說(shuō)這次神秘的交流只是由于語(yǔ)法編碼的疏忽造成，謠言才得以停歇。

　　　　拉斯維加斯自動(dòng)駕駛巴士發(fā)生撞車事故

　　　　一輛自動(dòng)駕駛的巴士今年十一月在拉斯維加斯首次亮相，市民可免費(fèi)乘坐，當(dāng)時(shí)著名魔術(shù)師佩恩和泰勒也打算排隊(duì)體驗(yàn)。然而這輛巴士剛剛運(yùn)行了兩小時(shí)，就和一輛半掛卡車發(fā)生了相撞事故。盡管當(dāng)時(shí)的情況依照交通規(guī)則責(zé)任主要在半掛卡車，與巴士關(guān)系不大。但是這輛智能巴士上的乘客抱怨道，當(dāng)時(shí)卡車靠近的速度很慢，巴士原本可以避開，但是它不夠智能和聰明，從而沒有擺脫危險(xiǎn)。

　　　　Google Allo 使用頭巾表情符號(hào)來(lái)回應(yīng)槍支表情

　　　　美國(guó)有線電視新聞網(wǎng)（CNN）的工作人員通過(guò) Google Allo 收到了一個(gè)戴頭巾的人像的表情建議。原來(lái)這是由于包含手槍的表情符號(hào)引發(fā)的。尷尬之下，Google 只好向公眾致歉并保證它已經(jīng)解決了這個(gè)問(wèn)題。

　　　　孿生兄弟破解匯豐銀行語(yǔ)音識(shí)別系統(tǒng)

　　　　匯豐銀行的語(yǔ)音識(shí)別是一個(gè)基于人工智能的安全系統(tǒng)，允許用戶通過(guò)語(yǔ)音命令訪問(wèn)他們的賬戶。盡管該公司聲稱這項(xiàng)技術(shù)和指紋識(shí)別一樣安全，但一名 BBC 記者的雙胞胎兄弟卻能夠通過(guò)模仿他的聲音訪問(wèn)他的賬戶。嘗試七次就成功了。匯豐銀行暫時(shí)的解決辦法是只要失敗超過(guò)三次就鎖定用戶的賬戶。

　　　　谷歌 AI 將步槍誤識(shí)別為直升機(jī)

　　　　通過(guò)對(duì)步槍照片進(jìn)行一些微調(diào)，麻省理工學(xué)院的一個(gè)研究小組就蒙蔽了Google Cloud Vision API，使得系統(tǒng)將步槍圖片誤識(shí)別為直升機(jī)。這個(gè)不良樣本會(huì)導(dǎo)致計(jì)算機(jī)通過(guò)引入人眼無(wú)法察覺的修改來(lái)對(duì)圖像進(jìn)行誤識(shí)別。在過(guò)去，只有當(dāng)黑客知道目標(biāo)計(jì)算機(jī)系統(tǒng)的內(nèi)部機(jī)制時(shí)，偽造破壞性樣本才會(huì)起作用。而這次，麻省理工學(xué)院的團(tuán)隊(duì)在不需要了解系統(tǒng)內(nèi)部的情況下就觸發(fā)了誤識(shí)別。

　　　　惡作劇路牌誤導(dǎo)自動(dòng)駕駛汽車

　　　　研究人員發(fā)現(xiàn)，通過(guò)使用油漆或膠帶對(duì)停止標(biāo)志進(jìn)行偽裝，可以造成自動(dòng)駕駛汽車對(duì)這些標(biāo)志的誤識(shí)別。通過(guò)在 STOP 標(biāo)志上添加 “LOVE” 和 “HATE” 這兩個(gè)詞可以誤導(dǎo)自動(dòng)駕駛汽車的機(jī)器學(xué)習(xí)系統(tǒng)，造成它將 STOP 路牌誤識(shí)別為限速標(biāo)志。經(jīng)測(cè)試，幾乎每次都會(huì)誤識(shí)別成“限速 45 ”。

　　　　AI 將 Bank Butt 誤認(rèn)為 sunset

　　　　機(jī)器學(xué)習(xí)研究人員 Janelle Shan 訓(xùn)練了一個(gè)神經(jīng)網(wǎng)絡(luò)，以生成帶有名稱的顏色，名稱應(yīng)當(dāng)和對(duì)應(yīng)顏色匹配。以及可以“匹配”每種顏色的名稱。顏色可能令人賞心悅目，但是名字滑稽可笑。盡管他用顏色名稱數(shù)據(jù)進(jìn)行了少量訓(xùn)練，該模型仍然將天藍(lán)色標(biāo)記為“Gray Pubic”，將深綠色標(biāo)記為“Stoomy Brown”。

　　　　向虛擬助手 Alexa 提問(wèn)時(shí)需要格外小心

　　　　亞馬遜 Alexa 虛擬助手讓網(wǎng)上購(gòu)物變得更容易。但也許是購(gòu)物過(guò)程太過(guò)容易了，1 月份時(shí)，圣地亞哥新聞?lì)l道 CW6 曾報(bào)道說(shuō)，有一個(gè)六歲的小女孩通過(guò) Alexa 非常簡(jiǎn)單地就購(gòu)買了一個(gè)價(jià)值 170 美元的玩具屋。故事還沒有結(jié)束，戲劇性的是，當(dāng)電視主持人重復(fù)了這個(gè)女孩的話，說(shuō)：“我喜歡這個(gè)小女孩說(shuō)，‘Alexa 請(qǐng)幫我訂一個(gè)玩具屋' ”時(shí)，一些觀眾家里的 Alexa 設(shè)備再次觸發(fā)了玩具屋訂購(gòu)操作。

  新聞稿件歡迎直接聯(lián)系：QQ 34004818 微信公眾號(hào)：cpsjyzb