分類
人工智慧

天擇集團-美國AI的秘密武器及人工智慧隔離箱

人工智慧一詞在一九五五年被創造出來時,人類持續尋求增強大腦的方法已有數千年了。從中世紀機器人到人造神經網路,本書重點介紹了從西元前一千三百年到二○一八年間,人工智慧發展史上新奇和重要的實際觀念。不論是早期的自動機械,還是人工智慧程式失控對人類造成的威脅,針對人工智慧這個現今最熱門、最引人注目的科學議題,本書不僅討論科學和技術,也關注道德議題,圖文並茂地闡述了我們如何打造這種壯大自己、甚而超越人類的智慧形式。

美國《紐約時報》一篇以《美國人工智慧(AI)的秘密武器:中國人才》的報導指出,美國總統川普正限制中國大陸接觸美國先進研究,此舉在頂尖AI領域引發眾多企業和科學家擔憂,因為美國的大量突破性進展都來自大陸人的大腦。

美國保爾森研究所旗下智庫MacroPolo的新研究估計,享有盛譽的AI大會(神經信息處理系統進展大會)去年推廣的論文中,受過中國教育的研究者貢獻近1/3,比例超過任何其他國家。但其中大多數人居住在美國並為美國企業和高校工作。

研究顯示,大陸人才正幫助美國主導AI這個極具戰略意義的領域。如今他們擔心這種學生和專用人才流動行將結束。「犧牲國際學生無異於殺死下金蛋的鵝」,近來從約翰霍普金斯大學畢業的中國工程師麗莎·李說,「這終將摧毀美國的未來競爭力。」中國正大力吸引AI人才為本土企業和機構工作。美國警惕地注意到中國的科技雄心,但上述研究聯合作者希恩認為,廣泛阻截大陸人才的行為將破壞

美國在AI領域的領先地位,「這些是頂尖的中國人才,他們選擇為美國研究實驗室工作、教美國學生並幫助打造美企。若美國不再歡迎他們,北京將張開雙臂。」

有些科學家擔憂,一旦人工智慧變得夠聰明,這些智慧體可能會不斷地自我提升,進而對人類構成威脅。人工智慧成長失控的現象有時被稱為科技奇點(technological singularity)。當然,若存在這樣的人工智慧對人類來說可能極有價值,但其潛在風險也使研究人員開始思考如何構建人工智慧隔離箱(AI box),可在必要時限制或隔離此類智慧體。例如,此類智慧體會有硬體設備負責執行軟體程式,若使這些硬體無法連接到包括網際網路在內的任何通訊管道,也許就可充當虛擬監獄。或是將該軟體放在虛擬機器內的另一虛擬機器軟體上執行,以增加重重隔離。當然,完全的隔離一點意義也沒有,將妨礙我們從超級智能中學習新知,也會妨礙我們的觀測。

但是,如果超級人工智慧夠先進, 它會不會還是能透過不尋常的方式與外界或與負責守衛的各種人員聯繫(例如利用處理器冷卻風扇的速度變化產生摩斯密碼傳達訊息,或者使自己身價非凡,以至於可能有人想盜出隔離箱)? 也許這樣的智慧體極擅長動搖人心,懂得賄賂把守人員,誘使他們允許它與其他設備進行更多通訊或回覆。「賄賂」今日看來荒謬,但我們難以預料人工智慧將拿出什麼好東西,治療疾病、奇妙的發明、令人著迷的旋律,以及為人帶來旖旎浪漫、冒險刺激或溫馨幸福的多媒體視覺影像,統統都有可能。

※本文章屬於TNZE天擇集團所有嚴禁轉載※