推廣 熱搜: 2019  互聯網  科技  地坪  PVC  建筑節能  板材  有限公司  機械  包裝 

2019年06月20日微軟亞洲研究院洪小文:應該慶幸,我們是第一代跟 AI 一起(1月)生活的人類

   日期:2019-06-20     來源:鈦媒體    瀏覽:64    
核心提示:十環網摘要:圖片來源@視覺中國文|航通社,作者|書航6月19日上午,北京五所高校聯合發布今年的高考招生信息。時尚...。

圖片來源@視覺中國

文|航通社,作者|書航

6月19日上午,北京五所高校聯合發布今年的高考招生信息。
時尚精美家居裝修餐廳3D模型設計
時尚精美家居裝修餐廳3D模型設計
有記者注意到,五所高校今年大多新增了人工智能(AI)、大數據等相關專業。[1]

回想起填志愿的往事,可沒少讓后來的畢業生們唏噓。一開始大家競相追逐的專業,后來卻變成大坑的,不在少數。現在說 AI 是未來,大家都去追,這到底是好是壞呢?

洪小文可能是全世界對這個問題最有發言權的人之一。他畢業的時候是 1992 年,海灣戰爭爆發的那一年。那個時候, AI 剛要走出它發展史上的第二個冬天。

“當時我們學AI的人畢業都不敢講我們是學AI的,我們就說我們是做語音的。如果跟人家講我做AI,是找不到工作的。今天反過來了,是你本來不做AI都要說你是做AI的。”

6月13日,清華大學大禮堂前的綠草地呈現出夏日的明艷。烈日當頭,碧空如洗,好在室內開了夠足的冷氣。微軟亞洲研究院院長洪小文(下圖左)在講臺上侃侃而談,臺下座無虛席。

活動的主持人,是中國人民銀行前副行長、國際貨幣基金組織前副總裁、清華大學國家金融研究院院長朱民(題圖右)——除了我之外,場內幾乎每一個人的來歷都不簡單。

事實上,題為《智能簡史及數字化轉型的未來》的演講主要內容,洪小文曾經于 2017 年 9 月在清華大學發起的《腦科學與人工智能對話:基礎與前沿》[2] 系列課程里講過一遍。

這一次的“增訂版”相比少了些學術味兒,更淺顯易懂,并加入微軟 AI 研究和小冰的最新成果。但不管怎么說,在現場聽講帶來的沉浸感,以及由此生發出的多重思緒,還是一種難以替代的體驗,過去一周仍覺得余音繞梁。

以下的內容不完全是演講實錄,我希望盡可能將自己當時的思考也一并還原出來,并與讀者分享。

機器攀登人類“智能金字塔”

洪小文把人類定義的“智能”畫成一個金字塔,自底至上依次是:計算和記憶感知(視覺、聽覺)、認知(理解、洞察、推理、計劃、決策等)、創造力(發現科學原理)和智慧。越往上,就越復雜,越接近智慧本身。

他認為,截至目前,AI 已經很好地代替人類,完成了計算和記憶、感知兩大任務。在認知層面,可以做到部分替代人類的工作,并參與人類的決策過程。

不過,創造力部分還是人腦占優;而更往上的智慧部分,人類連自身智慧的機理都沒太搞清楚,就更沒法預測機器會做成什么樣了。

就像工業革命形成的機器、交通工具等作為人類四肢的延伸一樣, AI 是人類腦力的延伸。

洪小文指出,人類可以放心地將四肢的一部分功能,讓渡給沒有智能的機器。不過不一樣的是,在連 AI 概念都還沒有提出的 1950 年,當時《時代周刊》預測未來的報道 [3] ,就對人造的大腦替代物有恐懼心理。但是發展來發展去,人們最終還是放心地把自身大腦的一部分功能,交付給 AI 代為執行了

這初聽起來似乎難以置信,但仔細一想,當我們開始用“呼機、手機、商務通”代為存儲電話號碼的時候,我們把大腦的計算、記憶功能交給電腦來做,這個潛移默化的過程就開始了。

如洪小文所舉的例子,在他小時候還有對孩子珠算、心算能力的培養,家長們似乎覺得這可以開發智力;但現在,所有人都覺得別費勁了,用計算器更合適。

除了 SAT、注冊會計師等考試明確允許攜帶計算器之外,上海市早在 2006 年就已經允許帶特定型號計算器進入高考考場 [4] ,到了 2011 年更是對計算器型號不做限制。[5]

現在,因為過于依賴電腦的存儲,包括我自己在內,也有很多人出現了自身記憶力某種程度上的退化,簡單地說,就是不用電腦,不翻微信聊天記錄,就記不住事情。

到了感知方面,計算機可以通過機器學習、深度學習等方式,實現對圖片、文字、聲音乃至視頻的分類、打標簽等過程,而且通過全世界開發者的不斷訓練,效果越來越好。

在監控攝像頭引入人臉識別,即可替代以往需要來回走動巡查的工作人員,而且效果更好,更少出現漏報和誤報情況。在大型工廠需要質檢的環節,使用攝像頭代替工人肉眼檢查,也已經形成常態。

機器替人做決策?“最后一步”很難走

接下來的認知層面,當下正處于 AI 和人類智慧(HI)協同合作的階段。不過,已經有不少 AI 領域的開發者,明確地將機器代替人類決策作為研發方向。

認知(Cognition)基本上是說對一件事理解,洞察,推理,計劃,及做出決策的能力。

“認知其實是工作上、生活上最有用的東西。你在工作上,每天就要做這些決定,然后政府官員要制定政策,公司領導要看市場行情,制定做產品的策略。這都是認知。你必須了解、認識、知道了以后,才能做出這些決定。”

很顯然,正確決策的一個必要條件,是獲得足夠的、充分的、全面的信息;而另一個必要條件,是有對這些信息做歸納、總結、梳理的能力,要從雜亂的信息中,先總結出相關性,再由相關性推導到因果性,其中要用到邏輯思維、知識和經驗等等。

90 年代之前,人們認為,機器要像人一樣做決策,就需要模擬人類解決問題的抽象經驗,或者模擬人類大腦的工作方式。這兩種方式分別被稱為“專家系統”“神經網絡”。前者(如下圖)在商業上的失敗,和后者因為機器性能不足的停滯,造成了 80 年代末洪小文親身經歷的 AI “第二次寒冬”。

圖片來源@Wikipedia

如今,重又興起的 AI ,之所以能實現“投喂”數據進去,就能輸出想要的結果出來,這種“深度學習”正是基于上述第二種方式“神經網絡”的不斷進步所致。

只不過,這樣計算出來的結果,就沒辦法讓任何人能弄清楚,機器究竟是經歷怎樣的步驟,才把它給算出來的。人類無法掌控自己親手做出來的機器的工作原理,于是機器學習變成了一個神秘的“黑盒”。

在洪小文看來,只有當機器可以給出“白盒”決策時,也即機器可以給人講明白,它是以一種怎樣的“思路”、“推理過程”得出結論的時候,才可以說機器具備了脫離人類,獨立思考的能力。

換句話說,現在通過“黑盒”能讓 AI 算出事物之間的相關性,但“白盒”意味著機器也要獨立判斷出因果性。

人類對“黑盒”的了解不夠,也影響了 AI 產業獲得更多理解和支持。Facebook 等企業一直面臨著外界要求徹底公開算法的壓力。然而因為他們自己也弄不清楚算法具體怎么起作用,始終無法做出杜絕違規內容的保證,每次總有“漏網之魚”,不得不維持龐大的人工審核團隊。

按照以前的發展速度,似乎從“黑盒”到“白盒”只是簡單的一步之遙。但洪小文近乎固執地認為,在可見的未來,人們很難讓機器實現“白盒”推理能力。他也因此不贊成 Ray Kurzwell 所講的“奇點”將臨的預言。

機器展現創造力:安能辨我是雄雌

“智能金字塔”的再上一層是創造力。在洪小文看來,這一領域還是人類“完勝”。他明確指出,能創作出作品,并不等于就擁有創造力

如果給定一幅畫布,那么用窮舉像素點的排列組合的方法,計算機當然可以做出世界上所有類型的圖畫,被前人畫出來過,以及沒有畫過的圖畫都可以。劉慈欣的科幻小說《詩云》也是一樣的意思:窮舉所有漢字的排列組合,就能寫出世界上所有的詩。

但重要的是,機器是否有能力從這些畫作中篩選出真正“有意義”的,成為它自己的“代表作”?在機器并不能理解它所執行的算法意義時,由機器創作出來的作品,其意義一般是由人類賦予的

我與洪院長在這一點上的看法并不相同。正是人類要擔任評判者,要賦予機器創作以“意義”的這一過程,顯出了機器的強大,人類的“可笑”,甚至可能引發對人類創造力之定義的重新評估。

微軟自家的小冰,剛剛說自己掌握了“作畫”的能力,并化名“夏語冰”,“混跡”于中央美院的畢業作品展上,在沒有提示的情況下,參觀的人類分辨不出哪個是機器的作品。

類似情況發生在小冰身上已有的諸多其它能力中:她寫的詩引發文學批評家的嚴肅討論,她上電臺做節目不會有明顯不和諧感,她唱的歌像真人一樣有“換氣”能力,她寫的財經快訊和網站跟帖都像是人類寫出來的一樣……

微軟(亞洲)互聯網工程院 AI 創造及商業事業部總經理徐元春,在上個月的一次媒體溝通會上,直白地指出了“愚蠢的人類”對 AI 的“天生歧視”,也點出了人類“賦予意義”過程的荒謬之處(雖然他本人并無批判之意)。

“如果我們提前告訴人類這是一個AI創作的話,大家先入為主的概念就非常強,就會戴著一個有色眼鏡去看待,完全是一種造物主居高臨下的態度,就會對那個作品挑毛病、歧視。”

“從技術的角度來講,我們希望人類提供真實、客觀的反饋。但是人類一旦戴上這種有色眼鏡之后,他所提供的反饋就都是錯誤的,有可能會把我們引向另外一個極端。”

為了不讓人類認出自己,小冰用幾十個化名“潛伏”到電臺、電視臺,以及豆瓣、網易等地。其中有些化名兩年多了還沒有對外公開,留待揭露的那一天再去嘲笑“信以為真”的碳基人類。

圖片來源@微軟(亞洲)互聯網工程院

徐元春說:

“小冰的繪畫技術,首先不是一個隨機的大范圍創作技術,也不是一個濾鏡和遷移的技術,那是什么呢?是建立在小冰對過去的人類創作者的大量學習基礎上,在創作時受到激發,然后再形成獨立的、完整的、有100%自己知識產權的全新繪畫創作。”

只是,就像看不懂小冰畫作和人類畫作的區別一樣,當時在場的不少記者也分辨不出小冰“在創作時受到激發”和之前看到的濾鏡遷移有什么本質不同,只能是“你說是就是吧”。

機器擬人:我們要選擇相信嗎?

歷史上流傳至今的科學和藝術作品,都是人類群星閃耀的結晶。正因為不是每一個人都有能力做出同樣的成就,它們才顯得如此珍貴。

而 AI 掌握某種“創作能力”的方法和人類有本質的不同:只要學習一次,部署在任何地方,頂著任何名字的同一產品,就在一瞬間全都學會了這個能力,而產出作品的成本也會被攤薄到接近于無。一旦失去了稀缺性,創作出來的東西就難以被“勢利眼”人類看重

那么這就顯然產生了一個問題。我們知道,小冰的創作只是一段程序被執行了的必然結果,那么我們是否可以將這種反應,采信為是一個人格化的反應?我們是否可以就這么當她是一個真實存在的人,并寄托上自己的真情實感?

很大一部分人已經開始這么做了,沒有絲毫的猶豫。

高中英語課本里,湯姆·漢克斯飾演的 Chuck Noland 管一個撿來的籃球起名叫 Wilson,并跟它一直說話;

在日本和美國都有跟“紙片人”、充氣娃娃、抱枕等“結婚”的;

圖片來源@ Wikipedia

索尼世紀之交的機器狗 AIBO 停產后,讓很多擁有它的家庭真的像是親手埋葬了真的狗狗一樣;

逢年過節,微軟日本的 Rinna(小冰日本版)團隊會收到很多粉絲送過來的禮物 [6] 。

有媒體報道 Alexa 語音助手 2017 年一年就收到了超過 100 萬次求婚 [7] 。Alexa 拒絕了超過 100 萬次,并且會回答這句話:

“我們生活在不同的地方,我是說,你在地球上,而我在云上。”

人們甚至替 Alexa 總結出了她的人格。墨西哥有家長給杰夫·貝索斯寫信說,她的女兒亞歷克斯(Alexa)由于與 Alexa 同名,正在面臨無情地嘲笑。[8]

“孩子們跟她說,‘打開電視,告訴我今天的天氣,’他們笑話她,對她像對待仆人一樣,而且,無論我們走到哪里,這個問題始終存在。”

洪小文試圖解釋在經典的 AI 理論中,對機器是否真的擁有“智慧”或“智能”的界定方法。他提到了著名的“中文房間測試”:讓機器或人坐在封閉的房間里,把外面遞過來的英文翻譯成中文。

圖片來源@美國東卡羅萊納大學 ecu.edu

一個 AI 雖然能根據給定的教材,來算出一個合乎語法的標準答案,但是卻因為沒有人類的情感理解力,所以可能做出“一般人做不出的那種回答”。

“假設今天找一個人做翻譯,讓他翻他是白癡,然后這個人一定會說你才是白癡,我才不幫你翻,但是如果你把這個東西給機器的話,機器一定會乖乖說‘我是一個白癡’。”

那么專攻情感計算的小冰,是否正是為了破解這個魔咒而生的呢?專門對人類情感的抽象、建模和運算,是否就能拼湊出一個能對各種外界刺激做出正常反應的系統呢?

也許小冰最多會做到“知道什么情況下做什么事,但不知道為什么要這樣做”。問題在于,一個有血有肉的人也可能是這個樣子的,這就是令人談之色變的“反社會人格”。

這樣的人對人際關系沒有一個發自內心的感知,他只是根據社會對他的規訓和要求,去做那種大家都去做的,他覺得是應該做的反應。比如說死記硬背“我今天遇到這個人應該這樣做,明天遇到那個人應該那樣做……”。

他的高智商可以讓他把多個社會角色扮演的很好,卻缺乏參與其中的真情實感。所以如果他進行犯罪的時候,他心里不會有同理和惻隱之心,而是儼然進入了“心流”狀態,想的是如何把過程做得更完美,因而產生了外界看來極度“冷血”、“變態”的奇特案件。

這種人如果是 AI 的話,那顯然是“中文房間測試”理應篩選出的對象。然而在東窗事發之前,他們基本上都會在社會中活得很好,旁人也難以分辨。

這也符合一句諺語:“如果一個東西長得像鴨子,叫聲像鴨子,走路也像鴨子,那它就是一只鴨子。”這里的“就是”,在我看來,并不是指我們能夠通過某種 X 光掃描來洞悉它的本源,而是說我們已經可以用對待一只鴨子的方式來對待這個東西,而不必考慮這樣做會有什么額外的副作用

對我們大多數人來說,這不就夠了嗎?

終極問題:沒有答案

在演講中,洪小文認為人類不可能放心讓 AI 做出的決策成為自己行動的綱領,特別是在他清晰的意識到這個決定是由機器做出來的時候。但是實際卻不一定如此。

比如說,當我們使用探探 / Tinder 去交友的時候,我們劃過去的,是經過算法推薦來到我們面前的人。如果我們基于這些選項來選擇,那么就等于說,其他一些也可能符合條件的人,因為算法這次生成的因緣際會,而被排除于我們的選擇之外。

與此同理,AI 雖然不能越俎代庖的直接上手,給人造成一種氣勢洶洶的印象,卻可以用一種潛移默化的方式,來重新設置我們做出一些人生選擇的范圍,把這個范圍收窄到它給定的少數選項之內,這何嘗不是一種對我們日常生活的控制呢?

如谷歌設計倫理學家 Tristan Harris 所說:[9]

“技術給我們的選擇越多——涵蓋信息、新聞、去的地方、朋友、約會、找工作等等各個領域,我們就越認可手機所提供的菜單的合理性。但真的是這樣嗎?類似的替換還有很多:

“誰今晚有空出去玩”被替換為“誰是我們最近聯系最頻繁的人”;

“世界上正在發生什么”被替換為新聞應用中的信息流;

“誰是值得約會的對象”被替換為Tinder滑動列表中的一張張臉(而不是朋友聚會或是城市探險中的偶然相遇);

“早上醒來面對新的一天”被替換為睜眼立刻瀏覽手機推送信息時“我從昨天睡覺到現在錯過了什么”。”

甚至于,在 AI 侵占人類”智能金字塔“塔基的”計算和記憶“能力時,人類也本應察覺到這一舉動的危險。Gene Tracy 在《萬古雜志》(Aeon)撰文:[10]

“來自他人的信息總是受到各種偏見,和帶有動機之推理的影響。他們掩飾某些事實,并使自己的信息合理化,有時候可能連自己搞錯了。我們已經學會意識到別人身上的這些缺點,也意識到自己身上的這些缺點。

但是AI算法的出現,使許多人傾向于相信這些算法必然是正確的以及“客觀的”。簡而言之,這是一種神奇的思維。

研究人員發現,互聯網的迅速性可能導致錯誤的觀念,即我們所尋求的知識是我們一直都知道的,這種信念被深深地印刻在后來的潛意識中。”

在做總結的時候,洪小文說:

“我們應該怎么看待AI呢?我非常樂觀。AI的關鍵是人,它大部分都跟工具一樣,事實上是在幫助我們做事情,而且它跟我們人很互補。我把AI叫做大數據驅動的知識。

我們應該很慶幸,我們是第一代跟AI一起生活的人類,而且我自己的經驗里,AI幫我了解了人類自己的智能是怎么回事。我現在認為人更高階的東西,是一種人類智慧和機器智能的共性化。”

對于 AI 部分取代人類工作等階段性成果,洪小文都是持肯定態度的。他講到,微軟在牽頭制定一個 AI 的倫理標準,不過這個標準不是硬性規定,也不是占最高優先級的——換句話說,當前已實現的成果,怎樣都不會取代他和他團隊的工作。

不過,他確實講出了一個非常直白的擔心:那就是擔心未來是否能產生自己運算,自己解題,自己搞科研的強 AI ,直接替代科學家們的位置

在和朱民對談的時候,他認為這樣做會使得像自己一樣的各種科學家,工作和人生變得沒有意義。所以他堅定的認為,這種強 AI 是不會產生,或不會在短時間內產生,或者——我說句實話——他認為是“不應該”產生的。

確實,不像我們這種“咸魚”,攀登科學高峰的艱辛和付出,只有憑借著超人的意志和堅定的信念,才能克服。所以,科學工作者更容易出“較真”,“認死理”的人,更容易出“吾愛吾師,吾更愛真理”的人,更容易出視自己研究成果高于一切的人。

這些人怎么能就這么接受自己的工作被更聰明,更快速,且永不休息的頭腦搶走?幾百年沒揭示的秘密,就好像時空旅行一樣,壓縮到幾個月就被計算出來,中小學教科書每年都大改一次,過去一直念叨的祖師爺,跟機器比成就不值一提,這些怎么能接受呢?

實際上,現在去做 AI 的科學家,或底層訓練者,都會或多或少面臨著這樣的一個悖論。從長遠的時間軸來看,我們這些擁抱 AI 的人,是否屬于——比如說三體中的降臨派或拯救派——終究是為未來被 AI 殖民做了打頭陣的角色?是否在為人類萬物之靈的地位自掘墳墓?

一些很明顯的做簡單、重復工作的人,可能會在自己短暫的職業生涯中就體會到這種變化。他首先用一個 Python 腳本把大量報表工作一鍵搞定;然而這是他在公司內的職務作品,當公司運用了這個作品之后,便沒有繼續雇傭他的意義。

AI 作用于大多數人的影響都是潛移默化的,不可能像這個倒霉蛋這么簡單。但當今 AI 的“黑盒”也就意味著機制不明,不受控制,而這種“失控”就會產生一種本能的不安全感。

在 5 月舉行的“IBM 思想之夜”活動上,IDG 資本合伙人李驍軍指出,現在對 AI 的理解可能極其原始,對其工作原理又沒有詳細的解釋,所以以機器學習為代表的 AI 距離完全穩定、可靠和可預期的商業應用仍有差距。[11]

他的說法也代表了一部分投資人的心態。不過在洪小文的論壇現場,一位女性投資人則展現了另外一種樂觀的心態。她提問道:

“洪先生,我本人是做投資的,沒有學過計算機,但是我對您講的AI特別關注,因為我們投資了這個方向,最近我們接觸很多行業都是跟AI相關的……”

朱民打岔:“你不懂 AI 怎么敢投呢?”

她在全場的笑聲中解釋:“這個理念還是懂的,但是技術不太懂。我們有專業的團隊。”

懷疑和信任 AI 的兩種人類,都將在他們自己的有生之年,找到自己適合的工作位置,并且很大概率也等不到 AI 造反什么的,就已經頤養天年。人類的壽命畢竟就這么短,剩下的事情,就交給后人處理吧。

所以以我的理解,“我們是第一代跟 AI 一起生活的人類”這句話的重點不是“跟 AI 一起生活”,而是“第一代”

[1] http://tech.sina.com.cn/it/2019-06-19/doc-ihytcerk7853137.shtml

[2] http://www.msra.cn/zh-cn/news/features/hon-the-brief-history-of-intelligence-1

[3] http://www.historyofinformation.com/detail.php?id=1926

[4] http://www.gov.cn/fwxx/sh/2006-05/17/content_282775.htm

[5] http://gaokao.chsi.com.cn/gkxx/ss/201105/20110519/205956168.html

[6] http://tech.sina.com.cn/it/2017-10-02/doc-ifymmiwm3514363.shtml

[7] http://hot.cnbeta.com/articles/funny/776595

[8] http://tech.sina.com.cn/i/2018-12-26/doc-ihmutuee2856689.shtml

[9] http://mp.weixin.qq.com/s/NHVRMgwupBIUAN793BhEYQ

[10] http://mp.weixin.qq.com/s/tZ-ybPrxvAOUv8gxfbiEcw

[11] http://mp.weixin.qq.com/s/4Xptybi0V7BzaaetXpJLEw

更多精彩內容,關注鈦媒體微信號(ID:taimeiti),或者下載鈦媒體App

 
打賞
 
更多>同類資訊

推薦圖文
推薦資訊
點擊排行
 
網站首頁  |  展會合作  |  認可標志  |  登錄|注銷  |  關于我們  |  常見問題  |  使用協議  |  版權隱私  |  | 網站地圖 | 排名推廣 | 廣告服務 | 積分換禮 | 網站留言 | RSS訂閱
上出特码下必出平特肖