～～～「自以為卓越的人工智慧」～～～
更新消息
統一自營錯帳賠六千萬
元大因為錯帳導致價格異常下跌,進而觸發程式停損單市價拋出－－－
程式單──這是失敗的「自以為卓越的人工智慧」。人類又受到教訓。
人工智慧的最高守則（之一）是什麼呢？
答案是：必須在封閉系統內進行──我敢說未來３年內都不會有人發現這一點。
Dusty Chen：之前只有聽過老師說，在西洋棋或圍牆的世界裡，人工智慧可以戰勝人類是因為規則是死的條件是固定的，老師今天作結論了。
Randy Wang：對！
開放系統則要面臨更聰明的人類的挑戰，人工智慧不是對手；除非你把「破二分法」完整輸入電腦中，但這個任務我也辦不到。
Dusty Chen：但現在的AI是建立起龐大的資料庫讓它搜尋各種狀況如何應對，資料庫內沒有的狀況也會出問題，就思考分析能力來說，還是很不自由，程式的邏輯條件式還是以一個一個堆疊起來（很久沒寫程式了，不確定現在有沒有進步）。
Randy Wang：目前人工智慧的研究方向，還是走經驗主義，也就是說：依據過去發生的事情，整理「各種狀況」，看能不能找出重複出現的規律；但是這樣一來，就會出現一個大問題：那就是經驗累積的不足──換言之：因為電腦科學家不是歷史學家，所以他並不清楚這一個「規律」到底是一種科學性的公式呢？還是一種歷史循環定律？
如果是歷史循環，那麼，「現象」會因為他所處的那一個循環週期的位置不同而產生不同的解讀。舉例：如果在空頭市場，三連紅是賣出；如果在多頭市場，三連紅則是買進。
同樣是三連紅，但是在兩個不同的市場，也就是在兩個不同的歷史循環其中的解讀完全不同──但這其中還是有規律的，這個規律就是漲跌循環；在中國歷史上，一治一亂，也是屬於這種循環。
大數據是從什麼地方來的呢？是從經驗而來，屬於歷史。如果取樣的範圍不夠大，產生錯誤的可能性就越高──這個是大家目前都知道的，但是很少人察覺到這個嚴重性，因為有人刻意在隱瞞。為什麼要隱瞞呢？其實就是為了商業目的。電腦本來就是用來處理數據用的，你不叫他大一點、超級一點，怎麼能處理這麼大的數據呢？如果不把電腦做大，又怎麼能賺添購設備的錢？
其實，一個一個的機器本身，就是人工智慧。隨著科技的發展，機器越做越大，工程師不可能再以一個人的力量做出所有的細節，因為現在都拆開了、分工了，幾個工程師負責一個部門……
10:24 Ben Chen 老師真是太厲害了
10:25 Dusty Chen 整合的問題就困難了，每個分別的領域都只鑽研自己的部分..最後就出問題了
10:26 Ben Chen 其實我以前在軟體業就發現其實每隔一段時間軟體業者一定提出一些新概念新議題，然後再利用學者把這些議題包裝成管理學的範疇，這樣我們就可以去企業推銷這些軟體；軟體升級再帶動硬體升級。
10:27 Randy Wang 這些工程師，我不知道你在做什麼，你也不知道我在做什麼。彼此不知道，最後我們做的東西再拼起來，就可以了。但是那個統合的人，也未必了解每一塊電路板上面的零件的詳細製造細節，他只提出要求就可以了。只要那個機器能夠達到他的要求，就可以直接拿過來用了。這就好像我是船長，我要買游泳圈，但是我本人不一定會做游泳圈，我只要提出我的規格，讓廠商去競標，我再來買現成的，就可以了。
所以，按照理想，機器的發展應該是模組化。每一個小機器有他個別的功能，我們身為跨領域的綜合整合者，主要是負責長線跟中線，就是大格局跟中格局的規劃，至於小格局的事情，直接買現成的模組就可以了。這就好像樂高積木，我只要提出我的規格：三角形或是圓形，至於怎麼樣把那些積木做出來，這是另外一個工程師的事情，而那個工程師所做的規模，是小的，也就是小格局。
在股票市場中，這種整合的工作再明顯不過了。基本上，在技術分析中，幾乎所有的技術都是小的，只能夠在小格局當中獨絕卓立，但只要客觀的環境，也就是中格局跟大格局一旦有了變化，單一技術的運用就要另外做解讀了。其實各位同學經歷過這種狀況已經數十次，甚至上百次了，各位可以很明顯的發現：整體部隊的作戰大戰略，比一個小隊的突擊作戰要來得重要。
所以，作戰也是模組化。如果我需要一個很厲害的突擊小隊，那你就給我一個忍者暗殺隊，至於發號施令的主帥，坐在帳篷裡的那個，不一定必須是忍者。人工智慧目前的目標就是做那個突擊小隊的工作，而不是做那個發號施令的總軍師的工作。
突擊小隊基本上就是一個封閉系統，只要達成任務就可以了。但是諸葛亮的任務不但要復興漢室，而且要振興中原文化，這麼大的責任，就是一個開放系統了。
目前，人工智慧科學家很可能會觸犯一個巨大的無知，那就是：他們並不知道人類很簡單的一個思想、或是很簡單的一個動作，幾乎都是從「無限漫長時間」慢慢演化來的，其中大概經歷過幾千億、甚至幾兆億的錯誤與修正，才慢慢演化成今天這個樣子，卻仍然不完美。
所以，現在就可以幾乎預言，他們將來會犯的錯誤就是：把一個非常複雜的東西當成是很簡單的東西來處理。
例如，現在二十一世紀了，但是還是可以發現人群中有一些阿呆跟傻瓜，把人類某些事情看得很簡單，例如吃飯，竟然有人認為吃飯很簡單！他竟然完全不知道一口飯吃下去，是靠幾千條神經配合肌肉在蠕動才能夠順利地吞咽；至於吞咽下去，胃會產生什麼變化，分泌什麼化學物質，科學家目前還不是那麼清楚。
10:45 Dusty Chen：這應該是「因為我能夠做的到」──所以是簡單的，這種詭異的錯誤邏輯。
10:46 Randy Wang：目前幾乎所有的機器，外面都做了一個硬殼來保護，俗稱機殼，鴻海以前就是做這個的。殼是什麼呢？就是保護層，為什麼要保護？就是防止跟外界的開放系統做接觸。
其實人工智慧就是機器的進步再進步而已，機器進步會產生一些問題，但那是另外一個故事。我現在最擔心的是：有人把智慧這個東西無限上綱，然後把低等級的機器，拿去做高等級的工作，然後妄稱這個機器有了智慧以後，就可以應付許多千奇百怪的狀況（這些狀況，都是以前人類沒有處理好的，叫做「歷史」）──這就是我最擔心的。
其實，我們這個俗世、我們這個廣大的地球世界，就是一個人工智慧研發工廠。我們的學校，就是負責把人工智慧灌輸到我們的大腦中，尤其是填鴨式教育。
我們幾乎每天都活在人工智慧的教育當中，不斷地接受訓練，所以，我們可以得到一個驚人的結論──這世界上絕大多數的人，他們所擁有的世俗的聰明才智，當然不是智慧，而是一種人工智慧，更類似於機器，而遠離真心自性。
在股票市場中，這種失敗的人工智慧產品，到處都是！遍地氾濫，已經到驚人的程度！股票市場幾乎變成了製造傻瓜的市場，為什麼呢？因為他試圖灌輸一種人工智慧給所有的投資人，結果是成功還是失敗呢？
絕大多數自以為聰明的金融市場操作者，都是這種失敗的人工智慧產品，就好像工廠要做醬油，結果生產線壞掉，做出來的醬油都是臭的；但是在股票市場中，如果你不臭、如果你不同流合污，別人還會說你是輸家呢！
很多有名的人，像是比爾蓋茲、馬斯克、史帝芬霍金、都很擔心人工智慧會失控，將來有一天會騎到人的頭上去──我認為先不必擔心那一天的來臨，我覺得我們應該先擔心：自以為聰明的人工智慧，就跟股票市場中那些狂妄自大的驕傲者一樣，他們認為自己很厲害，接近神級了，於是他們嘗試去做一些更偉大的事情，然後就把事情搞砸了！他們可能會在最簡單、最明顯的關鍵處犯最大的錯誤，讓我們驚覺到「他原來沒有這麼聰明！（而是驚人的愚蠢）」。
發展「人工智慧」並沒有錯，問題是他探觸到了一個更廣闊的領域，這個領域愈大，人類就愈顯得無知，很可惜的是：在商業的譁眾取寵的風氣中，會有更多人掉到科技的陷阱裡去，不但不會發現（也不會承認）自己的無知，反而會利用「自以為卓越的人工智慧」來搏取世俗的虛浮利益，把更多有意義的正經事給搞砸掉。
～王力群 2017.8.3 於新竹
沒有留言:
張貼留言