天擇集團-太聰明的人工智能未來可能會摧毀人類

Share on facebook
Share on twitter
Share on pinterest
Share on weibo

從英國著名理論物理學家史蒂芬·霍金(Stephen Hawking)到特斯拉創始人伊隆·馬斯克( Elon Musk)等世界頂尖人工智能(AI)專家,都曾表示過AI對人類生存的威脅。

人性化人工智能

將人類智慧和AI智慧結合在一起,也有助於賦予人工智能技術更多的人性元素,更好地指導其決策。

總部位於倫敦的初創企業Factmata建立了一個人工智能審核系統,該公司招募了2000多名專家,其中包括記者和研究人員,專門分析互聯網上的某些信息,比如偏見、言論的可信度或仇恨言論等。然後,他們利用這一分析來訓練一個自然語言處理智能系統,用來自動掃描網頁中有問題的內容。

其首席執行官德茹夫‧古拉特(Dhruv Ghulati)說,「一旦你有了經過訓練的算法,就可以用於分析互聯網上的數百萬條內容。你可以放大這些專家對互聯網言論的批判性評估。」

雖然人工智能通常是在一次性過程中接受專家標記的數據訓練,但Factmata的專家不斷更新訓練數據,以確保人工智能算法能夠跟上不斷變化的政治和媒體環境。他們還讓公眾對人工智能的輸出作出反饋,古拉特說這能確保人工智能不脫離現實,也不會存在固有偏見。

然而,將我們自己和我們的智力決策與人工智能混合在一起並非沒有風險。伍萊說,我們給機器提供的信息越多,人工智能和集體智能之間的協同作用效果也越好,但我們也就會面臨我們究竟願意放棄多少個人隱私的艱難選擇。

但她說,考慮到氣候變化和流行病大爆發等全球性的多方面複雜挑戰,有效利用我們人類的群體智慧已攸關人類的存亡。

已經有一些例子說明以人工智能來增進人類的群體智慧這種方法是如何應對這類全球性危機。卡耐基梅隆大學的研究人員目前正在使用人工智能學習算法,將自願症狀調查、醫生報告、實驗室統計數據和谷歌搜索趨勢等結合一體,實時預測新冠肺炎流行趨勢。再例如,監察全球種族滅絶和反人類罪風險的美國NGO「早期預警」(Early Warning Project),結合網絡的眾包預測、專家評估和機器學習算法,來確認最有可能發生這類暴行的國家,從而提前發出警示。

伍萊說:「我們可以讓一些非常聰明的人單獨研究問題的不同方面,但是如果我們不協力合作,沒有集思廣益,就很難取得任何進展。我認為,關鍵之處是要讓人工智能幫助這些單打獨斗的工作實現集群化,這樣才能解決需要全球集體行動以面對的問題。」

超級智能

英國劍橋大學存在風險研究中心( the Centre for the Study of Existential Risk, at Cambridge University)表示,當前大多數AI系統都是相對「狹窄」的應用程序,專門用於解決某一領域中的特定問題。

但1997年,超級電腦深藍(Deep Blue) 打敗了國際象棋世界衛冕冠軍加裏•卡斯帕羅夫(Garry Kasparov),成為人工智能史上里程碑。

雖然深藍擊敗了世界象棋衛冕冠軍,但深藍卻可能連一場簡單的跳棋遊戲都贏不了。因為深藍的設計者是專門讓它下象棋的。

但這才僅僅是開始,隨著人工智能的發展和進步,阿爾法圍棋的最新版AlphaGo Zero在經過短短3天跟自己練習之後,已經達到了超人水平。

AlphaGo Zero通過深度學習,已經不太需要太多的人工程序。 它成為圍棋、國際象棋以及將棋(又稱日本將棋)的高手。

這裏,最讓人感到震驚的是,AlphaGo Zero完全是自學成才。

劍橋大學存在風險研究中心表示,隨著人工智能逐漸強大,它可能會成為超級智能。它會在許多,或是幾乎所有領域都超越人類。

如何收回控制權

羅素說,賦予人工智能更明確的目標並不是解決這一難題的方法,因為人類自己都無法確定這些目標是什麼。

羅素表示,人們應該徹底改變建立人工智能系統的整體基礎,例如,不再給機器人一個固定目標,而是讓人工智能系統必須明白,它不知道目標是什麼。

一旦人工智能系統以這種方式運作的話,它就會聽從於人類的指揮。在執行任務之前,它會尋求人類的許可,因為它不確定這是不是你想要的。

羅素教授表示,最至關重要的是,它們(AI)會樂意接受被隨時關閉的選擇,因為它們也希望避免做那些你不喜歡的事情。

超強能力

羅素教授在接受BBC的採訪時表示,假設我們發明了一個可以用於控制氣候變化的強大人工智能系統,並且能將大氣中的二氧化碳水平恢復到工業革命前的水平。

該人工智能系統經過分析後認為,最容易的方式就是消滅人類,因為人類活動是產生二氧化碳的最主要來源。

當然人類可能會對機器人說,你做什麼都可以但就是不能把人類全滅絶。人工智能系統然後可能會說服人類少生孩子,直到最後沒有人生孩子,人類慢慢滅絶為止。

這個例子是想強調與人工智能有關的風險,這些風險都是人類在創造人工智能前並沒有想明白的。

※本文章屬於TNZE天擇集團所有嚴禁轉載※

Share on facebook
Share on twitter
Share on whatsapp
Share on weibo

相關內容

最新資訊