本來只是一個(gè)AI項(xiàng)目研發(fā)中出現(xiàn)的再正常不過的bug，被整改也是因?yàn)橛?xùn)練結(jié)果背離了開發(fā)者的期望。然而，這個(gè)小事故卻被鋪天蓋地的媒體報(bào)道過度解讀成了一段堪比“終結(jié)者”的機(jī)器失控，以及人類為了自我解救展開的“屠殺”。Elon Musk和小扎剛就AI悲觀論干完一架，這件小事也就順勢(shì)引起了一眾吃瓜群眾的恐慌。[page]

　　那么，這場(chǎng)鬧劇的背后究竟發(fā)生了什么——Facebook的機(jī)器人是否真的學(xué)會(huì)了新語言?他們的研究出了什么問題?而Facebook又是為什么叫停了這一項(xiàng)目呢?機(jī)器人真的在通過這些人類看不懂的語言密謀嗎?[page]

　　之所以這個(gè)機(jī)器人暗號(hào)看起來“蠢蠢的”，是因?yàn)镕acebook科研團(tuán)隊(duì)在開發(fā)前期沒有為機(jī)器人設(shè)置正確的“獎(jiǎng)勵(lì)”，鼓勵(lì)他們說人話。說白了，這就是一個(gè)bug，一個(gè)error。這樣的錯(cuò)誤在語言模型初學(xué)者的嘗試中十分常見，只不過這次出現(xiàn)在了Facebook這樣技術(shù)背景雄厚的公司上，這一錯(cuò)誤就被想象成了機(jī)器人的“早慧”。[page]

　　那為什么會(huì)出現(xiàn)“to me”和“i”的大量重復(fù)，而不是其他詞匯的重復(fù)呢?

　　這是語言模型本身的特性決定的。在這一概率模型下，如果沒有合適的“獎(jiǎng)勵(lì)”引導(dǎo)，機(jī)器人會(huì)選擇更常用的詞匯，來降低犯錯(cuò)的風(fēng)險(xiǎn)。顯然，“to me”和“i”在英語中出現(xiàn)的頻率是相當(dāng)高的。機(jī)器人不斷重復(fù)“to me”和“i”就是繞進(jìn)了一個(gè)循環(huán)。

　　Facebook是否因恐慌AI過度智能而“謀殺”了這個(gè)機(jī)器人?很顯然，答案是否定的。Facebook此次整改這一項(xiàng)目正是因?yàn)樗麄円庾R(shí)到了其中的錯(cuò)誤。

　　“我們的目標(biāo)是設(shè)計(jì)出可以和人類進(jìn)行對(duì)話的砍價(jià)機(jī)器人，而不是僅僅能夠和自身對(duì)話的機(jī)器人。”Facebook的研究者M(jìn)ike Lewis這樣說道。

　　另外，F(xiàn)acebook也并沒有叫停這一項(xiàng)目。他們只是去重新訓(xùn)練機(jī)器人了，讓機(jī)器人的對(duì)話更符合英語文法。

　　AI可能帶來的危險(xiǎn)我們當(dāng)然應(yīng)該警惕。然而，面對(duì)當(dāng)前的AI發(fā)展成果，比起吸引眼球和以訛傳訛，我們還是該更實(shí)事求是一些。