上個(gè)月，F(xiàn)acebook傳出了關(guān)閉智能對(duì)話機(jī)器人項(xiàng)目的消息。原因是，研究員對(duì)兩個(gè)聊天機(jī)器人進(jìn)行對(duì)話策略迭代升級(jí)，結(jié)果發(fā)現(xiàn)它們竟自行發(fā)展出了人類(lèi)無(wú)法理解的獨(dú)特語(yǔ)言。研究者不得不對(duì)其進(jìn)行了人工干預(yù)。
　　消息傳出后，一時(shí)間，F(xiàn)acebook關(guān)閉“失控”AI系統(tǒng)，因其發(fā)展處人類(lèi)無(wú)法理解的語(yǔ)言的標(biāo)題充斥各大媒體版面。要知道，F(xiàn)acebook創(chuàng)始人馬克·扎克伯格近日剛在自己的主頁(yè)上懟了硅谷“鋼鐵俠”，認(rèn)為人工智能不會(huì)帶來(lái)末日，人類(lèi)也不必恐慌。現(xiàn)在這么快就被打臉了？
　　然而，實(shí)際情況并非如此。
　　一開(kāi)始，F(xiàn)acebook人工智能研究院（FAIR）想要訓(xùn)練一個(gè)聊天機(jī)器人，讓它學(xué)會(huì)談判。于是他們神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)開(kāi)發(fā)了一個(gè)人工智能系統(tǒng)。這個(gè)結(jié)構(gòu)叫做“生成式對(duì)抗網(wǎng)絡(luò)”（Generative Adversarial Networks，簡(jiǎn)稱(chēng)GAN）。
　　要理解GAN，大家可以想象一下人類(lèi)的對(duì)抗游戲：你的賬戶(hù)能在不斷的對(duì)抗中提升技能，你玩的越多，水平就會(huì)越高。
　　Facebook的這項(xiàng)研究也是如此，研究人員希望訓(xùn)練這樣一個(gè)聊天機(jī)器人，讓它帶著“目的”和人類(lèi)對(duì)話。這個(gè)目的也很簡(jiǎn)單：一共有兩本書(shū)，一頂帽子和三個(gè)籃球，三樣?xùn)|西分別設(shè)定了不同的權(quán)重，為的是讓機(jī)器人明白它到底對(duì)這些東西有多想要，然后去和人談判。
　　在研究過(guò)程，F(xiàn)acebook的研究員卻對(duì)兩個(gè)機(jī)器人聊天能聊成什么樣產(chǎn)生了興趣。于是事情就開(kāi)始變得有趣了。
　　系統(tǒng)中的兩個(gè)聊天機(jī)器人Alice和Bob產(chǎn)生了讓人看不懂的對(duì)話。這段對(duì)話炸一看像是一堆無(wú)法解讀的亂碼上，研究人員后來(lái)發(fā)現(xiàn)，原來(lái)是在為系統(tǒng)設(shè)置激勵(lì)條件時(shí)，雖然告訴了它們“請(qǐng)用英文”，但忘了告訴它們：“請(qǐng)用英文語(yǔ)法”。
　　“我們的目標(biāo)是讓機(jī)器人和人聊天，提高和人聊天的技巧?！盕acebook研究員邁克·劉易斯（Mike Lewis）指出，Alice和Bob的對(duì)話根本就是個(gè)試驗(yàn)而已，讓兩個(gè)聊天機(jī)器人聊天根本沒(méi)有意義。
　　研究員還指出，Alice和Bob其實(shí)也沒(méi)發(fā)明新的語(yǔ)言，因?yàn)樗麄冞€是在用“i”、“balls”、“the”等英文單詞溝通，只是沒(méi)有了英語(yǔ)語(yǔ)法的這個(gè)激勵(lì)項(xiàng)，創(chuàng)造了一種新的表達(dá)方式而已。
　　所以最終，F(xiàn)acebook并沒(méi)有“關(guān)掉”這個(gè)系統(tǒng)，而是重新設(shè)定了正確的激勵(lì)，修正了機(jī)器人的行為，讓機(jī)器人用標(biāo)準(zhǔn)的英文語(yǔ)法來(lái)進(jìn)行交流。修正的原因也不是因?yàn)楹ε孪到y(tǒng)失控。