AI 在工廠自動化領域已經(jīng)出現(xiàn)了巨大飛躍，機器學習正在快速進入能源及其他企業(yè)應用（移動、汽車等）中 。 下一次工業(yè)革命可能會是人類直接主導的最后一次工業(yè)革命 ，恕我直言，未來 AI 將成為協(xié)作者以及潛在的領導者。

　　一些研究人員認為，這一天的到來只是時間問題。用斯坦福大學名譽教授尼爾斯·尼爾森博士（Dr. Nils Nilsson）的話來講，“機器會唱著這樣的歌，‘你會做的任何事，我都能做得更好；任何事我都做得比你好’。”

　　針對越來越多的自治系統(tǒng)導致的就業(yè)市場劇變，海爾吉·赫爾加松博士（Dr. Helgi Helgason）表示，“與其說是風險，倒不如說是必然，我們應該將根據(jù)這一點去改變教育政策?！?/P>

　　今年 1 月在瑞士召開的 世界經(jīng)濟論壇 2016 年年會 上，AI 帶來的經(jīng)濟顛覆成為了一大議題，由此可見全球領導人正開始規(guī)劃如何有針對性地整合 AI 科技并應用到世界經(jīng)濟中——但這是一項需要許多人來完成的艱巨任務。

　　未來二十年中另一個常被提及的風險是對 AI 的管理不善。顯然 AI 企業(yè)已經(jīng)對此有所顧慮，一些硅谷頂級科技大師給 OpenAI——一家關注于 AI 技術對人類的正面作用的非營利研究機構——投資了 10 億美元。

　　“機器會唱著這樣的歌，‘你會做的任何事，我都能做得更好；任何事我都做得比你好’?！?/P>

　　——斯坦福大學名譽教授尼爾斯·尼爾森博士（Dr. Nils Nilsson）

　　“很難估量人腦級別的 AI 能對社會帶來多少益處，AI 開發(fā)不當或使用不當給社會帶來多少損失同樣很難想象，”O(jiān)penAI 在 2015 年 12 月的 上線頁面 上寫著這樣的兩句話。我們開發(fā) AI、管理 AI 的方式存在著極為深遠的影響，并將塑造未來社會的道德和倫理準則。

　　西蒙弗雷澤大學副教授菲利普·帕斯基耶爾（Philippe Pasquier）表示，“當我們部署越來越多的人工智能并賦予更多的責任時，造成負面后果的故障風險也在與日俱增，”不過他也指出，他不認為 AI 會對社會本身帶來高風險。

　　能力越大，責任就越大，如何監(jiān)管這樣的能力成為了大家最為關切的問題。

　　坦普爾大學王培博士認為主要風險存在于“忽視深度學習（deep learning）、強化學習（reinforcement learning）等熱門技術的缺陷和限制。許多領域都會發(fā)生這樣的事?！盨martAction 創(chuàng)始人彼得·沃斯博士（Dr. Peter Voss）表達了類似的觀點，指出他最擔心的是“無知的人類破壞 AI 的能力和智力。”

　　考慮新興 AI 技術伴隨有哪些風險不是件容易的事，設計出可能的解決方案及保障措施更加困難，而如何全球協(xié)作對這些措施進行實施并監(jiān)控才是最最困難的工作。但考慮到所有這些任務的緊迫性和危險性，我愿意無數(shù)次打賭，這樣的努力是值得去冒險的。