讀書心得－《Principles》by Ray Dalio (原則) (中)

Be cautious about trusting AI without having deep understanding

前陣子Tesla創辦人Elon Musk提出的＂AI威脅論＂，認為AI的快速發展，有可能人類文明存亡造成根本性威脅。在投資的領域中，許多程式、高頻交易可能取代交易員，甚至導致主觀交易沒有辦法獲利的問題，也早已不是新聞。而被稱為AiCIO的Dalio，也在書中提出對於AI的看法：

I worry about the dangers of AI in cases where users accept-or, worse, act upon- the cause-effect relationships presumed in algorithms produced by machine learning without understanding them deeply. 我擔心人類過於依賴AI所帶來的危險。更糟的是，人們依賴機器學習算法中假定的因果關係，而沒有深入了解它們。

“Artificial intelligence”（人工智慧）與”Machine learning”（機器學習）兩個名詞常被混視為同義詞，但兩者其實大不相同，Dalio將由機器輔助進行決策分為三種型式：

• Expert systems (專業系統)：Expert systems也是目前橋水應用在投資決策的方式。藉由了解一連串的因果關係，建立明確的標準，並可以預見在各種不同情況下可能造成的結果。
• Mimicking (模仿)：模仿可以應用在可預測且重複發生的情況中。藉由電腦觀察到固定的模式，而非了解背後的邏輯，應用在決策當中。
• Data mining (資料探勘)：machine learning在近幾年發展快速，藉由電腦可以迅速運算大量的資料跟找出固定運行的模式。

我們由上面的描述可以看出，若是藉由模仿或是機器學習的方式進行決策，其實具有相當的風險。因為兩者皆是藉由電腦來發現其＂固定的模式＂作為依據，但當某些未被預期的因素發生改變，電腦是沒有辦法馬上反應並即時做出相應的處理。或是電腦有可能會將兩個先後發生的事件視為因果關係，舉例來說，我們早上起床後吃早餐這兩件先後發生的事件，電腦可能會將其視為起床（因）導致肚子餓（果）。

Dalio認為，每一個決策背後都應有一個符合邏輯的因果關係，而深度的思考與徹底的了解對於進行決策是絕對必要的。那為什麼很多人對於機器學習還是抱持的盲目的信念呢？

因為他們認為人性驅使我們先選擇較簡單，容易思考的方式，間接導致我們倚賴對於電腦的幫助。這與我們有時會預測失準的情況類似，在《精準預測》這本書中提到，許多預測人員把相關當成因果關係，尤其是在這個巨量資料的時代中，人們把雜訊當成訊號的案例比比皆是，反而推導出錯誤的結論。若是我們可以徹底了解現象背後的根本原因，預測可能會有利的多。

以投資領域來說，當某交易決策被廣泛地採用，這個交易策略則很有可能會失靈。市場中的行為會影響價格，換句話說，當每一個人都知道商品的價值，這個商品的價格有可能就會偏離其真實的價值了。再者，市場並不擁有規律性，而是充滿了隨機性。而Dalio將他認為所有可能影響市場的因素，轉換為其依據的原則，再藉由電腦的輔助做出最佳化的決策，其背後所倚靠的是持續不斷觀察而得出的因果關係。

《魔球投資學》這本書當中也有提出與Dalio相符合的概念，也就是決策能力包含了「了解資訊、有條理的整合資訊、在決策過程中找出相關資訊，以及避免衝動回應」幾種要素。這過程也與Clayton Christensen、Paul Carlile和David Sundahl所提出建構理論的三大階段類似：

1) 以文字和數字來描述你想要理解的事物：目標在於仔細觀察、敘述、估量某個現象，而這個現象必須是特定主後來的研究者也會認同的現象

2) 依相似性為現象進行分類：讓一切變得有組織，並釐清各種現象之間的差異

3) 建構一個可以解釋現象行為的理論：立基於嚴謹分類的穩健理論可解釋因果關係。理論必須具備可否證性。

Thinking → Principles → Algorithms

將想法轉換為原則，再轉變為演算法的過程中，科技的進步扮演著重要的角色。這個過程可以應用在不管是投資決策或工作的決策當中，可以排除情緒性因素的影響，增加決策的效率與可靠性。但人類的弱點相對也可以視為一項優勢，由於我們的感性、富含創造力與想像力，讓我們可以建構對於未來的藍圖，我們對於價值觀的認定幫助我們鑑別目標的重要性，而做出更好的決策。而我們可以利用機器的優勢，屏除人性的偏見與盲點，提供更多可能性，並製造出更好的結果。

Dalio認為在某些情況下，模仿與資料探勘是可利用的，但必須確認未來會與過去所發生的有一致性的關係。讓我們可以在更多的變數之中，考慮到所有可能發生的情況。但在我們處於一個充滿變數的世界，含有眾多你所無法掌握的因素之下，Dalio最後寫道：

I suspect that AI will lead to incredibly fast and remarkable advances, but I also feat that it could lead to our demise.