您的位置:首頁(yè) > 資訊 > AGV資訊 > 正文

人工智能天才:他能防止機(jī)器人毀滅人類(lèi)嗎

2016-03-01 06:59 性質(zhì):轉(zhuǎn)載 作者:騰訊科技 來(lái)源:騰訊科技
免責(zé)聲明:中叉網(wǎng)(m.m21363.cn)尊重合法版權(quán),反對(duì)侵權(quán)盜版。(凡是我網(wǎng)所轉(zhuǎn)載之文章,文中所有文字內(nèi)容和圖片視頻之知識(shí)產(chǎn)權(quán)均系原作者和機(jī)構(gòu)所有。文章內(nèi)容觀點(diǎn),與本網(wǎng)無(wú)關(guān)。如有需要?jiǎng)h除,敬請(qǐng)來(lái)電商榷?。?/div>

  哈薩比斯自己就是一個(gè)跨領(lǐng)域的天才。從他的簡(jiǎn)歷來(lái)看,他的好奇心很廣泛,包括棋盤(pán)游戲、視頻游戲、電腦編程、認(rèn)知神經(jīng)科學(xué),一直到人工智能。事實(shí)上,他今天的位置是一系列光輝成就的結(jié)果,他是一個(gè)百年一遇的天才。他8歲編寫(xiě)自己的電腦游戲,13歲成為國(guó)際象棋大師,17歲開(kāi)發(fā)出最早的人工智能視頻游戲Theme Park,20成為劍橋大學(xué)獲得兩門(mén)學(xué)科優(yōu)等成績(jī)的學(xué)生,2011年創(chuàng)立DeepMind。他還獲得過(guò)智力奧運(yùn)會(huì)精英項(xiàng)目“Pentamind”的五次冠軍,創(chuàng)下世界紀(jì)錄。

  “我很容易感到無(wú)聊。世界是如此有趣,有這么多很酷的事情可做。”他說(shuō)?!叭绻沂且粋€(gè)體育運(yùn)動(dòng)員,我希望成為一個(gè)十項(xiàng)全能選手”。

  現(xiàn)在,DeepMind公司擁有近200名員工,他們來(lái)自超過(guò)45個(gè)國(guó)家。哈薩比斯決定將自己的公司總部保留在英國(guó),盡管谷歌希望將它遷往硅谷。

  “我是在倫敦長(zhǎng)大的。”他說(shuō)?!拔曳浅O矚g這個(gè)城市。我堅(jiān)持住在這里的理由是:我覺(jué)得倫敦沒(méi)有理由不能擁有一個(gè)世界級(jí)的AI研究機(jī)構(gòu)。

  除了哈薩比斯之外,全球還有很多頂級(jí)科學(xué)家和科技巨頭在關(guān)注AI的發(fā)展,如斯蒂芬·霍金、比爾·蓋茨、伊隆·馬斯克、楊·塔里安(Jaan Tallinn)等。與哈薩比斯不同的是,這些巨頭對(duì)AI的發(fā)展表示很大的擔(dān)憂。他們的擔(dān)憂包括AGI武器和“技術(shù)奇異點(diǎn)(technological singularity)”的幽靈——它將導(dǎo)致“智能爆炸”,屆時(shí)機(jī)器將能夠不斷地進(jìn)行自我完善,超越人腦的智力,從而脫離人類(lèi)的控制。如果這樣的超級(jí)智能災(zāi)難最后發(fā)生了,人類(lèi)將悔恨自己當(dāng)初為什么沒(méi)有退出AI開(kāi)發(fā)競(jìng)賽?;艚鹪谧罱囊淮握勗捴斜硎荆骸癆I的成功創(chuàng)建,將是人類(lèi)歷史上最大的事件。不幸的是,它也可能是最后一個(gè)歷史事件。”

  “好吧,我希望不會(huì)這樣?!惫_比斯說(shuō)。在他看來(lái),關(guān)于AGI的危言聳聽(tīng)不僅忽略了它可能在不久之后為人類(lèi)帶來(lái)的福祉,而且不合時(shí)宜?!耙?jiǎng)?chuàng)建達(dá)到人腦水平的人工智能,我們還需要幾十年時(shí)間”他提醒我說(shuō),“我們還處在樓梯的第一級(jí)上,我們的AI系統(tǒng)現(xiàn)在還只能玩游戲?!彼姓J(rèn)我們現(xiàn)在也有應(yīng)該考慮的風(fēng)險(xiǎn),但堅(jiān)稱這些風(fēng)險(xiǎn)不是像科幻小說(shuō)中描寫(xiě)的那樣:超級(jí)智能機(jī)器無(wú)情地驅(qū)逐人類(lèi)。

  此外,他堅(jiān)持認(rèn)為,在減輕AGI的潛在危險(xiǎn)方面,DeepMind也是領(lǐng)先的。該公司的研究雖然不像阿波羅計(jì)劃那樣受到官方審查,但它的運(yùn)作相當(dāng)透明

  DeepMind會(huì)在網(wǎng)上公開(kāi)技術(shù)代碼,而且谷歌收購(gòu)該公司的一個(gè)條件是禁止將它的技術(shù)運(yùn)用在軍事或情報(bào)領(lǐng)域。哈薩比斯和他的同事們積極推動(dòng)了2015年在波多黎各舉行的一個(gè)關(guān)于AI的開(kāi)創(chuàng)性會(huì)議,并在公開(kāi)信上簽名承諾將AI技術(shù)用在有益的事情上,“避免潛在的陷阱”。最近,他們還推動(dòng)在紐約舉行的另一個(gè)類(lèi)似會(huì)議。DeepMind公司內(nèi)部的倫理委員會(huì)和顧問(wèn)委員會(huì)目前已經(jīng)建立。“哈薩比斯完全熟悉有關(guān)AI安全問(wèn)題的爭(zhēng)論,”帝國(guó)理工學(xué)院認(rèn)知機(jī)器人學(xué)教授穆雷·沙納漢(Murray Shanahan)說(shuō)?!八隙ú皇怯字桑矝](méi)有把頭埋進(jìn)沙灘里。”

  “在推動(dòng)關(guān)于安全問(wèn)題的對(duì)話方面,DeepMind一直是行業(yè)中的領(lǐng)導(dǎo)者?!蹦吕渍f(shuō),“從長(zhǎng)期來(lái)看,研究者需要解決這些挑戰(zhàn)?!?/P>

  我詢問(wèn)哈薩比斯主要的長(zhǎng)期挑戰(zhàn)是什么?!半S著這些AI系統(tǒng)變得越來(lái)越復(fù)雜,我們需要思考如何優(yōu)化它們?!彼卮鸬溃斑@項(xiàng)技術(shù)本身是中性的,但它是一個(gè)學(xué)習(xí)系統(tǒng),因此它不可避免地會(huì)打上設(shè)計(jì)者的價(jià)值體系和文化的印記,所以我們必須非常仔細(xì)地考慮價(jià)值觀問(wèn)題?!?/P>

  關(guān)于超級(jí)智能的問(wèn)題,他說(shuō):“我們需要確保我們的研究目標(biāo)是有確定性的,確保沒(méi)有什么模糊不清的地方,它們將隨著時(shí)間的推移趨于穩(wěn)定。但是,在我們所有的系統(tǒng)中,最高目標(biāo)仍然會(huì)由它的設(shè)計(jì)師設(shè)定。系統(tǒng)可能會(huì)拿出自己的方式去實(shí)現(xiàn)這一目標(biāo),但它并不能創(chuàng)建自己的目標(biāo)。””

  他的語(yǔ)氣讓人放心?!澳憧矗@些都是有趣的、難以應(yīng)對(duì)的挑戰(zhàn)。如同所有強(qiáng)大的新技術(shù)一樣,AI技術(shù)的使用必須符合倫理和負(fù)責(zé)任,這就是為什么我們正在積極呼吁辯論,所以,當(dāng)那個(gè)時(shí)刻到來(lái)時(shí),我們已經(jīng)做好準(zhǔn)備?!?/P>

  什么時(shí)刻?超級(jí)智能機(jī)器出現(xiàn)的時(shí)刻,或當(dāng)它們超越人類(lèi)的時(shí)刻?他笑了?!安?,不,不,我的意思是在那之前的某個(gè)時(shí)刻!”(我覺(jué)得他是在開(kāi)玩笑,但在2011年他的同事肖恩·萊格曾說(shuō)過(guò):“我認(rèn)為,人類(lèi)很可能會(huì)滅絕,技術(shù)將有可能起到推動(dòng)作用。)哈薩比斯補(bǔ)充說(shuō):“我的意思是,當(dāng)這些系統(tǒng)不僅能玩游戲而且變得更加強(qiáng)大的時(shí)刻,當(dāng)它們的能力超過(guò)解決如醫(yī)療保健等重要現(xiàn)實(shí)問(wèn)題的時(shí)刻。然后,我們需要確保我們知道它們的能力將達(dá)到什么地步。“他笑著看著我?!澳菚r(shí),我們應(yīng)該停下來(lái)?!?/P>

  哈薩比斯是友好的,非常有說(shuō)服力。他所說(shuō)的一切似乎是合理的,并沒(méi)有顯得傲慢。也許AGI仍將在我們的控制之下。但很多人仍持懷疑態(tài)度?!昂茱@然,如果一種人工智能在所有方面大大超過(guò)人腦,那它就不再是‘輔助設(shè)備’了?!碧厮估瓌?chuàng)始人馬斯克爭(zhēng)論道。他最近宣稱人工智能技術(shù)的發(fā)展是在“召喚惡魔”。

  馬斯克是DeepMind的原始投資者之一,但他不是為了錢(qián)。他對(duì)我說(shuō):“我把錢(qián)投入DeepMind的唯一原因是為了更好地了解AI的發(fā)展和危險(xiǎn)。如果我們?cè)谘芯緼I時(shí)不夠謹(jǐn)慎,如果發(fā)生了災(zāi)難,銀行存款沒(méi)有任何意義?!?/P>

  “馬斯克是全球最聰明的人之一,與他交談令人吃驚?!惫_比斯表示。“實(shí)際上我覺(jué)得像他這樣的人僅僅因?yàn)锳I是一件大事而參與AI的投資是一件很酷的事情?!彼f(shuō)。但是,當(dāng)其他領(lǐng)域科學(xué)家隨意公開(kāi)發(fā)表針對(duì)AI的批評(píng)時(shí),哈薩比斯顯得有些激動(dòng)。

  “總的來(lái)說(shuō),我發(fā)現(xiàn)那些AI行業(yè)外部人士沒(méi)有充分理解AI。他們往往并沒(méi)有與很多AI專(zhuān)家交談過(guò),所以他們的思想實(shí)驗(yàn)會(huì)失控,因?yàn)樗鼈兪腔诓徽_的假設(shè)?!彼俅翁岬阶约旱膬?nèi)部倫理委員會(huì)和顧問(wèn)委員會(huì),它們的成員是科學(xué)界和哲學(xué)界的領(lǐng)軍人物,這些人將監(jiān)視AGI技術(shù)未來(lái)的應(yīng)用。哈薩比斯堅(jiān)定地相信自己目前所做的事情?!耙?yàn)橐郧皼](méi)有人嘗試過(guò)這樣的技術(shù),我們有很多東西需要探索,現(xiàn)在還不是因?yàn)楣娪懻摱O聛?lái)的時(shí)候?!彼f(shuō),“在這個(gè)階段,我們要做的是加快研究速度,研究出實(shí)際的算法和應(yīng)用?!?/P>

  哈薩比斯最近在劍橋與霍金進(jìn)行了一次私人會(huì)面?!芭c他會(huì)見(jiàn)本身就是一個(gè)夢(mèng)幻般的榮譽(yù)。”他興奮地說(shuō),并拿出他的一張自拍照?!鞍凑沼?jì)劃,我們只有一個(gè)小時(shí)的時(shí)間交談,但他提了那么多問(wèn)題,我們最后談了四個(gè)小時(shí)。他錯(cuò)過(guò)了午餐,所以他的陪同人員并不十分樂(lè)意我和他在一起?!?/P>

  哈薩比斯指出,霍金在與他會(huì)面之后,一直沒(méi)有在媒體上發(fā)表“任何有關(guān)AI的激烈言論”。最奇怪的是,在BBC的Reith講座上,霍金也沒(méi)有將人工智能列入“人類(lèi)的潛在威脅”名單。哈薩比斯表示,聽(tīng)取更多關(guān)于AI系統(tǒng)的言論也許是有幫助的?!彼f(shuō),“如果你理解了AI工程,這一切都顯得更能理解?!?/P>

  但是,他是否真的相信霍金已經(jīng)改變了觀點(diǎn)?“是的,我想他很放心。他很有幽默感。在我離開(kāi)之前,我對(duì)他說(shuō):‘所以,你覺(jué)得怎樣呢?’他在鍵盤(pán)上輸入:‘我祝你好運(yùn)?!难劬﹂W著亮光,補(bǔ)充說(shuō):‘但不要太多’?!惫_比斯笑著說(shuō),“我將這看成一場(chǎng)勝利?!保ㄗT思)

12下一頁(yè)

網(wǎng)友評(píng)論
文明上網(wǎng),理性發(fā)言,拒絕廣告

相關(guān)資訊

熱點(diǎn)資訊

關(guān)注官方微信

手機(jī)掃碼看新聞