圖靈測試讓我們認為人工智慧的終極目標就是讓機器變得和人一樣。很多人認為電腦在以後真的會變成人、替代人,讓人類失業,或是電腦要毀滅人類。所有這些想像,都是從圖靈測試中來的。這個假設其實根本是錯的。
文:拉茲.海飛門(Raz Heiferman)、習移山(Yesha Sivan)、張曉泉(Michael Zhang)
圖靈的故事
一百年前,歐洲人發明了一種能夠做乘法的機器,用來處理較大的數位乘法。比如輸入「128」,再透過搖右邊的搖杆輸入「21」,就會算出乘積是「2688」。那時還沒有電子計算機,但是這就是人們用來加速計算的機器。後來德國人在二戰時發明了Enigma Machine,它是一種加密用的機器,輸入「A」時,機器可能顯示的是「C」,這樣加密後的資訊就可以直接發給友軍,即便對方截獲了加密的資訊,也很難破解。
圖靈(Alan Turing,1912年6月23日~ 1954年6月7日, 英國著名數學家、邏輯學家、密碼學家,被譽為「電腦科學之父」、「人工智慧之父」,是電腦邏輯的奠基者)在此做出了巨大的貢獻,他破解了德國的加密機器,從而讓英國獲得了戰爭的勝利。
圖靈是一位天才數學家,他有幾個著名的貢獻:
第一,他提出了「圖靈機」。圖靈說有一種邏輯計算結構,可以把它想成一個虛擬機器,所有問題簡化為二進位的0和1之後,透過邏輯計算就可以得到最終答案。圖靈機的概念後來果然成為現實,我們現在使用的所有程式設計語言都可以說是「圖靈完備性」(讓一切可計算的問題都能被計算,這樣的虛擬機器或程式設計語言就叫做是「圖靈完備性」的)。
第二,圖靈在自己的一篇論文中提出「圖靈測試」。測試讓一個人類考官提問,左邊回答的是電腦,右邊是人類回答,當人類考官無法判斷哪個是電腦、哪個是人的時候,則可以認為該電腦透過了圖靈測試。今天的智慧對話機器人在對特定問題的回答上,可以認為已經透過了圖靈測試,比如微軟的「小冰」、iPhone 的「Siri」、Amazon的「Alexa」等等。
但同時圖靈測試也給人類帶來了一個巨大的問題:圖靈測試讓我們認為人工智慧的終極目標就是讓機器變得和人一樣。很多人認為電腦在以後真的會變成人、替代人,讓人類失業,或是電腦要毀滅人類。所有這些想像,都是從圖靈測試中來的。
這個假設其實根本是錯的。愛因斯坦曾說過一句話:「只有兩樣東西是無窮的,第一是宇宙,第二是人類的愚蠢,而我對前者是否無窮並不肯定。」大仲馬也說過:「讓我最無奈的是,人類的思維是有限的,但人類的愚蠢卻是無限的。」很多心理學家都總結過人類會犯的各種錯誤,諾貝爾獎得主丹尼爾.康納曼(Daniel Kahneman)在他的著作《快思慢想》中總結了他和其他學者發現的非常多的人類的謬誤:在很多場景下,人類做出的決策,都與正確理性的決策相差甚遠。這些謬誤意味著,犯錯這件事會永遠困擾著人類。不是因為人類想犯錯,也不是因為人類教育程度不高,而是因為人類大腦的設計並不完美,在快速處理一些問題時,人類大腦會選擇走捷徑,這時聰明的人類會犯愚蠢的錯誤。
也就是說,人類並非完美的物種。所以,我們人類為什麼非要讓電腦把超越人類作為最終目標呢?我們真的需要電腦像人類一樣做決策嗎?完美模擬人的智慧型機器,實際上也並不智慧,當一個機器完全模擬了人的智慧,就會像人一樣犯各種錯誤,沒有什麼智慧可言。
我們可以定義一下「弱人工智慧」(Artificial Narrow Intelligence):比如AlphaGo 下圍棋的能力很強,但它不會開車;微軟的人臉識別功能非常好,但讓它以同樣的演算法下圍棋它卻做不了,這些單一用途的人工智慧都叫做「弱人工智慧」。
而強人工智慧(Artificial General Intelligence),則是機器可以做人類做的任何事。我們說到人工智慧的時候常常會想像強人工智慧,但是恰恰是弱人工智慧能夠在很多場景幫助人類做更好的決策,以目前機器學習的發展來看,強人工智慧一方面不容易實現,另一方面也沒有必要實現。
所以這裡有三個結論:
- 完全模擬人的機器並不智慧。
- 人工智慧的發展不一定非要完全依賴於模擬人。
- 「弱人工智慧」強於「強人工智慧」。
費曼的故事
理查.費曼(Richard Philips Feynman,1918年5月11日–1988年2月15日,1965年諾貝爾物理學獎得主)是著名的物理學家,他曾講過一個故事:
某天下午,費曼坐在巴西的一家咖啡館中思考,這時進來一個賣算盤的日本人,打算向咖啡館推銷算盤。這個日本推銷員說用算盤更便於記帳(當時還沒有電腦),但是咖啡館老闆表示不想買。
咖啡館老闆說:既然你說這個東西計算很快,那我隨便找一個顧客(碰巧就是費曼),你們兩個比試一下,看看機器和人,誰的運算更快。比試開始,首先是算加法,費曼的速度完全沒辦法和算盤比,他還沒讀完數字,日本推銷員就已經用算盤算出得數了;後來費曼說要增加難度,算乘法,這時用算盤需要更多步驟,所以費曼和算盤的速度差不多了;這下,日本推銷員說,這不行,我們要找一樣更難運算的:開立方根。費曼同意了,於是咖啡館老闆隨機選定了1729.03這個數字。費曼作為一個物理學家,碰巧知道12的立方是1728(一英尺等於12英寸,求立方體體積時,這種運算是很常見的),所以他只需要知道剩下的1.03怎麼開立方了,很快在幾秒鐘內,費曼透過使用「泰勒公式」算出了小數點後五位的得數,給出了12.0025,這個數字和正確答案12.00238……的誤差是10萬分之一。幾分鐘後日本推銷員才喊出12,費曼完勝算盤。
人與機器的角逐,實際上各有優劣:人的直覺和經驗是機器無法模仿超越的,而機器在弱人工智慧方面也是勝過人類的。曾有一個信神的朋友跟我們討論人工智慧時說:「我不相信人工智慧會比人厲害,因為神是萬能的,人就是神造的,所以人造的東西肯定不如神造的好。」那計算器呢?一個簡單的人造計算器沒有智慧,但是可以在計算六位數乘以六位數的乘法上勝過人類。一百年前那個人造的手搖電腦在計算速度方面已經超過人了。
機器確實有比人做得更好的地方。但是在需要直覺和經驗的場景下,機器往往無法勝過人。人和機器在做決定時,用的是兩種不同的方法。人是用直覺,直覺是人將各方面知識聚集在一起形成的,直覺讓人快速得到一個解決答案。而機器則用的是「梯度下降」演算法,這是在求解機器學習演算法的模型參數時,最常採用的方法之一。
機器做決策只有這一個方法,就是先讓人類找到「損失函數」,機器做的就是讓損失函數最小化,從這方面看,機器沒有任何智慧—人寫出損失函數,然後讓機器執行優化演算法。所以對機器的期望不能太高:機器在弱人工智慧層面可以做得很好,但是用梯度下降的典範不可能產生強人工智慧。
現在我們常說的人工智慧,與以前的人工智慧最大的區別是:以前,人透過寫電腦程式來制定規則,然後輸入一些數據,讓電腦算出結果;而現在,是人把數據和結果輸入進去,透過監督和非監督學習的演算法,讓機器來學習並得到規則。以前的人工智慧叫做「專家系統」,是基於規則的,現在的人工智慧則更多是讓系統根據數據,去自動優化而學習底層邏輯。
就如所有機器一般,人工智慧在某個方面可以很強大,但是複雜的演算法常常被掩蓋在簡單的介面裡,使用者在不理解底層邏輯的情況下使用,就會產生極壞的效果。就好比把機關槍交給一個三歲的小孩去用,結果會難以想像。
舉幾個例子:
有一位美國朋友給我們發來一張Uber的自動駕駛汽車的照片,從中我們發現一處不對勁的地方:禁止左轉紅燈亮的時候,車居然向左轉彎行駛了。後來我們討論了這個問題,原來是因為訓練自動駕駛時是使用了人類駕駛的數據紀錄,有人在禁止左轉的紅燈亮的時候左轉過,導致機器學習到了這樣一個行為。所以人並不是一個完美的物種,如果機器完全向人學習的話,也會學到人的一些壞毛病。
幾年前,幾位北航的教授做過一個研究,在北京地鐵可以看到,人們從一個站口進去,又從另一個站出來,可以畫出一些曲線,把人分成幾種類型。例如可以看到遊客會去圓明園、香山;購物者會去西單、王府井;而小偷的行為曲線與正常人群是非常不一樣的。
是否可以用人工智慧,分析所有人的行為軌跡,找出小偷呢?可以。
但是還有另一種分析方法,則是比較危險的。美國紐澤西州的警察總監說:我們用了數據分析技術,能夠算出什麼樣的人會比較容易犯罪,並算出他們在什麼時候會犯罪,這樣就可以提前預警。
這讓我們想起科幻片《關鍵報告》,這裡面最大的問題就是,這樣的計算依賴的是人不可改變的數據的平均值:平均來講,黑人的犯罪率更高,但是並不代表每個黑人的犯罪機率都高,用平均值算出來的結論如果推廣開來,對黑人的個體就是很不公平的,而在很多場景下是很危險的。
從演算法上講,我們不能只看平均效果,而是要看個體行為。這與抓小偷的區別在於:美國的警察總監抓罪犯的方法,是根據對方的年齡和膚色這些自身無法改變的因素來判斷的,這樣會冤枉好人;而前面抓小偷的方法,則是根據對方的行為,根據行為的判斷就沒有問題。
很多人工智慧演算法,試圖追求的都是平均效果,但如果聚焦到人的話,結論就會完全相反。可見,人工智慧不是萬能的,結果要靠人去解讀,人和機器要一起合作才是最優的。人工智慧有兩個非常深刻的課題需要解決,第一是過度擬合的問題(假如給了系統太多的自由度,讓它學到一些不該學的東西,那麼他在樣本內的表現很好,但是樣本外就很差了);第二是因果關係的問題(即便能發現兩個變數的強相關關係,也不能代表其中一個導致了另一個的發生)。
這兩大挑戰,是人工智慧目前急需解決的問題。
馮.諾依曼的故事
約翰.馮.諾依曼(John von Neumann,1903年12月28日~1957年2月8日,數學家、電腦科學家、物理學家,是20 世紀最重要的數學家之一,也是現代電腦、博弈論、核武器和生化武器等領域內的科學全才之一,被後人稱為「現代電腦之父」、「博弈論之父」)是人類歷史上一位非常聰明的人。
1945年之前,他參與「曼哈頓計畫」,為美國研製原子彈作出了貢獻;接著,他又開始研究電腦,幫美國研發出來最早的電腦(ENIAC和EDVAC)。圖靈是將電腦邏輯結構想清楚,馮.諾依曼則是把電腦體系真正實現出來(現在我們的電腦還是在沿用所謂馮.諾依曼體系),所以二人都是「電腦之父」。
馮.諾依曼在數學、物理學、工程學、經濟學、管理學等諸學科的貢獻都極為重大。他在1944年和摩根斯特恩(Oskar Morgenstern)發表了一本博弈論的著作,直接影響了經濟學的方法論,直到今天我們經濟學中的很多研究還在用他們的博弈論的思想和他們提出的效用函數這樣的工具。諾貝爾經濟學獎於1969年首次頒獎,可惜馮.諾依曼在1957年就去世了。
不同學科的研究方向都各不一樣,目標也不一樣。比如:
傳統的電腦科學和機器學習人工智慧,都是在做預測,可以鍛煉出很強的預測能力,例如「地心說」本是一個錯誤的理論,但根據這個理論,人們能預測到明天的太陽會東昇西落,並算出日出和日落的時間,所以「地心說」可以做出很好的預測,但是不能做出很好的解釋。
解釋能力來自於對底層運行機制的瞭解,這個是經濟學家感興趣的主題。舉例來說,「進化論」可以解釋人類為什麼是從猿猴進化而來的,但卻沒辦法預測我們人在未來會進化成什麼樣子,所以「進化論」有很強的解釋能力,但是沒有很強的預測能力。
有沒有辦法讓人在這兩方面同時做好?目前因為學術分工,電腦科學家在研究方法上把預測能力推向了極致,而經濟學家也有很多方法把解釋能力推向極致。
把兩者結合起來是我們的終極目標,這方面做得最好的是諾貝爾經濟學獎獲得主赫伯特.西蒙(Herbert Alexander Simon,1916年6月15日~ 2001年2月9日,20 世紀科學界的一位通才,其研究工作涉及經濟學、政治學、管理學、社會學、心理學、運籌學、電腦科學、認知科學、人工智慧等領域)。西蒙是目前人類歷史上唯一一位同時獲得了經濟學最高榮譽諾貝爾經濟學獎和電腦科學最高榮譽圖靈獎的人。他對各個領域都貢獻巨大,我們需要像他和馮.諾依曼這樣的人,既懂得經濟學的底層邏輯,能夠透過現象看本質,又具有科學家的思維,能用電腦科學思維做出很好的預測。
總結
人工智慧的兩大挑戰(過度擬合和因果關係),也許可以用經濟學的方法來指導。經濟學的因果分析方法在過去20年間得到了非常大的發展,而這些模型對電腦科學家來說是很陌生的。人工智慧和經濟學因果關係研究的未來發展需要互相參考對方的方法,也許根據馮.諾依曼的理論發展出來的經濟學方法,最終能解決一些困擾著根據圖靈的理論發展出來的人工智慧的挑戰。
透過上面三個小故事,我們回顧了過去100年間人和機器的角逐。結論其實很簡單:我們不需要擔心機器替代人類,也不需要機器以人類智慧為最終目標,當機器的強大運算能力和人的強大經驗結合起來的時候,當經濟學的因果分析方法能給人工智慧的兩大挑戰提供解決方案的時候,人工智慧的終極目標就實現了,人工智慧才是真正的人(人類)工(工具)結合的智慧。
書籍介紹
本文摘錄自《數位躍升力:建立敏捷組織與商業創新的數位新戰略》,時報出版
作者:拉茲.海飛門(Raz Heiferman)、習移山、張曉泉
- momo網路書店
- Readmoo讀墨電子書
- 透過以上連結購書,《關鍵評論網》將由此獲得分潤收益。
轉型為敏捷組織是企業必經之路
數位化變革本身並不只是一項戰略或目標,
而是企業跳躍式的量子躍遷(quantum jump),
更是後疫時代實現敏捷組織與商業創新的終極方法!
以ABCD為首字母的數位化(A:人工智慧AI;B:區塊鏈Blockchain;C:雲端計算Cloud Computing;D:數據分析Data Analytics)在各種組織中擴張,並改變和征服了我們的生活中的各個領域。數位化給我們帶來了無窮的想像空間,無論是組織還是個人。數位化變革已經成為企業界、學術界、顧問公司和技術供應廠商的一個熱門話題。21世紀帶給人類新的變化與速度,新的力量正在全球範圍內擴散,不僅塑造人類新文化,也改變我們過去熟悉的方法、趨勢和觀點。這股力量,以數位力量為首,定下了一個新時代的新基調。
數位化變革本身並不是一項戰略或者目標,而是一種實現戰略目標的方法──即組織透過不斷創新來適應數位化時代,並持續壯大和盈利。數位化變革在CEO的議程中具重要地位。在13個國家的400名跨國公司高級首席執行長所進行的調查中,約39%的CEO認為,數位化變革是管理團隊的重要議程;約有34%的CEO認為數位化變革儘管不是組織議程上的優先事項,但卻是一個很重要的議題。
實現數位戰略變革的正確途徑是將其視為一段旅程,旅程的目標是讓組織的基因適應數位時代。在這個旅程中,組織將利用數位技術,來加強業務流程和決策過程,改變經營方式和管理客戶關係的方式,在相關管道提升客戶體驗,實施創新的商業模式,過渡到靈活和敏捷的工作方法,最終戰勝競爭對手。
經過這場疫戰的洗禮,越來越多的企業與個人認識到,數位化轉型再也不能只是停留在PPT計畫的層面,能否具備真正的數位化能力,成為數位時代「新住民」,將是未來生存與發展的關鍵。
本書提供了對這一重要商業變革的全面解讀,並從戰略和戰術層面,為組織與個人指出如何應對這次世紀變革。
- 如何將組織變得更加敏捷,使其能夠快速靈活地應對競爭機遇與挑戰
- 如何將其業務流程轉變得高效而且智慧
- 如何提供獨特而且高品質的客戶體驗和客戶之旅,確保每一位客戶都能夠獲得獨特而量身訂做的體驗
- 如何採用創新的理念,確保其在組織內部的實現,讓創新成為組織DNA的一部分
- 如何實現創新的商業模式
- 如何擴展和增強客戶的價值主張
- 如何發現和接觸新的客戶群體
- 如何成為一個客戶至上的組織
- 如何將資料作為一種資產來加以利用
- 如何做出明智的、資料驅動的決策
- 如何明智地利用共用經濟和API(應用程式設計發展介面)
本書特色
提供新的商業變革思維:從戰略和戰術層面指出組織和個人如何應對這次變革。數位化變革的觀點,能確保讀者熟悉轉型行動所需的背景及理論,並給出了實用的、指導實際戰略的框架。
集合電腦、資訊技術、經濟管理學領域三位跨界專家作者的豐富知識:拉茲・海飛門教授是以色列政府資訊通信技術管理局等組織的IT部門經理;習移山教授為香港中文大學的研究員和教授以及i8 Ventures的創始人和首席執行長;張曉泉教授是香港中文大學商學院的終身教授和副院長。
EMBA、MBA、金融財務工商管理碩士和高管研習最佳課程:〈PART1思維篇〉提供理解數位化變革所需的背景知識;〈PART2理論篇〉介紹了幾種模式和理論以便為理解和實施提供及奠定基礎;〈PART3實踐篇〉提出了數位化變革的實踐環節。
責任編輯:翁世航
核稿編輯:潘柏翰
- 演算法
- 人工智慧
- Alan Turing
- 圖靈測試
- 電腦之父
- Richard Feynman
- 因果關係
- John von Neumann
- 理查費曼
- 過度擬合
- 商業創新
- 數位躍升力
- Raz Heiferman
- 習移山
- 張曉泉
- Yesha Sivan
- Michael Zhang
- 敏捷組織
- 量子躍遷
- 馮諾依曼