|
|
|
| 頂尖高科技公司聯(lián)手 要管控人工智能AI技術(shù)威脅人類 |
幾家最具影響力的美國高科技企業(yè)已經(jīng)承諾，要令人工智能(AI)技術(shù)的開發(fā)更加可控和透明，試圖借此遏制人們對該技術(shù)日益增加的擔(dān)憂。人們擔(dān)心，人工智能技術(shù)會導(dǎo)致工作崗位流失，加劇收入不平等，甚至威脅到人類的未來。實(shí)施這一計(jì)劃的公司包括谷歌、微軟和Facebook。
該組織一名成員表示，這一計(jì)劃等于是一個行業(yè)首次聯(lián)合起來，約束一種廣泛影響人類未來的技術(shù)。
Facebook人工智能主管揚(yáng)•萊庫(Yann LeCun)表示：“人工智能即將改變整個社會，必須公開研究這種改變的后果。這種技術(shù)將改變我們彼此聯(lián)絡(luò)的方式，改變我們獲取信息、獲得藥品、開展交通運(yùn)輸?shù)姆绞剑淖兂鞘械慕M織結(jié)構(gòu)。”萊庫是深度學(xué)習(xí)的先鋒人物之一，而深度學(xué)習(xí)正是近期推動人工智能領(lǐng)域突破性進(jìn)展的技術(shù)。
這些企業(yè)還包括了亞馬遜(Amazon)和IBM。它們宣布成立一個名為人工智能造福人類和社會合作組織(Partnership on Artificial Intelligence to Benefit People and Society)的非盈利機(jī)構(gòu)，以開展這項(xiàng)工作。該組織將對有關(guān)人工智能具體如何影響社會的倫理問題開展研究，并找到提高這種新技術(shù)透明度、降低其理解難度的辦法。
該倡議背后的最大動機(jī)，源于公眾和政府對這種威力巨大的技術(shù)將如何影響生活方方面面越來越擔(dān)心。微軟人工智能研究人員埃里克•霍維茨(Eric Horvitz)表示，該技術(shù)是個“轉(zhuǎn)折點(diǎn)”，相關(guān)挑戰(zhàn)正浮出水面。
這些挑戰(zhàn)包括：程序中的“隱形偏見”，即用特定數(shù)據(jù)集“訓(xùn)練”后，程序會帶上隱含假定前提；一些系統(tǒng)往往會以其開發(fā)人員也不能理解的邏輯做出決策，這些系統(tǒng)的安全性和可信任程度問題；如何設(shè)計(jì)人工智能系統(tǒng)中嵌入的倫理判斷，這些倫理判斷會在特定場合影響系統(tǒng)與人類的互動。
這位微軟研究人員表示，該組織回顧了科學(xué)史，考察了電氣技術(shù)和航空技術(shù)等當(dāng)時全新技術(shù)的引入，沒有發(fā)現(xiàn)這種全行業(yè)努力的先例。
該組織包括了擁有最強(qiáng)人工智能研究機(jī)構(gòu)的所有美國高科技企業(yè)——除了蘋果(Apple)以外。不過，多名代表表示目前正在就蘋果加入該合作組織開展磋商。
【評論】：
Z:公司的這種承諾有點(diǎn)扯。與人類本身的惡意相比，人工智能的可控性和可預(yù)見性都要高出太多。（比如莆田系、比如電信詐騙）
F:技術(shù)進(jìn)步帶動生產(chǎn)方式的轉(zhuǎn)變，但不可控因素多越來越多的技術(shù)很有可能反噬人類，發(fā)生《終結(jié)者》或者《生化危機(jī)》那樣的事情，盡管目前看來還僅僅是科幻，或許N年后不是天方夜譚，如果人工智能越過了這個奇點(diǎn)，這個世界會發(fā)生質(zhì)變。
M:目前精英們對人工智能的擔(dān)憂主要集中于可控性和失業(yè)方面。也有人在考慮倫理方面的問題。
對可控性的擔(dān)憂其實(shí)有點(diǎn)科幻，短期做不到超出控制水平的……畢竟目前的人工智能還處于“有多少人工就有多少智能”的階段。
人工智能應(yīng)用的現(xiàn)狀：人工智能（Artificial Intelligence），英文縮寫為AI。它是研究、開發(fā)用于模擬、延伸和擴(kuò)展人的智能的理論、方法、技術(shù)及應(yīng)用系統(tǒng)的一門新的技術(shù)科學(xué)。 人工智能是計(jì)算機(jī)科學(xué)的一個分支，它企圖了解智能的實(shí)質(zhì)，并生產(chǎn)出一種新的能以人類智能相似的方式做出反應(yīng)的智能機(jī)器，該領(lǐng)域的研究包括機(jī)器人、語言識別、圖像識別、自然語言處理和專家系統(tǒng)等。目前對人工智能的應(yīng)用其實(shí)相當(dāng)原始。語言識別、圖像識別看上去好像很厲害，其實(shí)就是那么幾個算法，拿語料庫圖像庫訓(xùn)練出來的。這不是“智能”，而是對人類智能的模擬。
為什么目前人工智能只能做到這個程度？
原因很簡單，人工智能是人類對“智能”的模擬，目的是實(shí)現(xiàn)某個人類能完成的工作，所以受人們對智能的理解限制。
即使配合上神經(jīng)網(wǎng)絡(luò)模型和遺傳算法的訓(xùn)練，目前的程序也只能在“這個程序達(dá)到了預(yù)期目標(biāo)但我也不知道它怎么達(dá)到目標(biāo)的”方面讓人吃驚而已，程序本身不會演化出嶄新的能力（在我所知的案例中），即只會接受訓(xùn)練，不能創(chuàng)造新事物。
所以目前的人工智能只是工具而已。
人工生命
看完人工智能的描述會失望吧。其實(shí)科幻小說里面描述的機(jī)器人擁有智能然后反過來統(tǒng)治人類什么的，跟人工智能的大部分領(lǐng)域不相關(guān)，主要跟人工生命的領(lǐng)域有關(guān)系。
攪亂了世界的3項(xiàng)科技成果，也許可以證明鬼魅的存在！
小型聚變反應(yīng)堆技術(shù)獲得突破了嗎？CCTV報道洛克希德馬丁！
前蘇聯(lián)解密檔案披露朝鮮戰(zhàn)爭爆發(fā)過程真相！
|
|
