Capital Casebook股市怪傑

全部分析

漂亮回測可以是巧合

解釋多重測試及事前假設的必要。

開啟互動課堂與練習 ↗

主題插畫:漂亮回測可以是巧合
概念插畫・並非歷史照片或市場數據

量化優勢

蕭描述結合資訊,透過大型研究及執行組織利用細小低效率。個別輸入單獨未必有用,互動卻可能有資訊;但搜尋大量組合,也會在隨機資料中製造看似可信的歷史模式。訪談分清由假設引導的研究,與無限制追求最賺錢歷史結果的搜尋。

我們主張記錄整個研究程序,包括被捨棄的測試。保留資料集若反覆查看及調參,就不再真正未見過。評估亦要包括成本、容量、相關持倉及操作故障。重點不是簡單模型必勝複雜模型,而是越複雜,越需要知道哪些選擇是在看答案後才作出。

研究者走進金融的路徑

蕭的學術工作涉及電腦架構及平行處理。他走進金融,不是完成自小立志交易的故事;連繫在方法:提出問題、組織專門研究、測試想法,再建執行所需基礎設施。訪談描述的機構能力包括數學模型、運算、監察及低成本成交。因此把本章縮成散戶可從圖表抄取的巧妙指標,會失去重點。

以市場效率作起點的懷疑

蕭認為市場效率相當高,對定義含糊的技術主張存疑。施瓦格以成功技術交易者追問,帶出模糊圖形說法與經量化檢驗異象的分別。蕭也指出機會被發現及利用後可以消失。模式過往存在,不保證競爭、成本及容量限制後仍能交易。他連有效方法及無效方向都保密,因兩者都可替競爭者省去昂貴研究。

書中例子:大量幸運硬幣

章末施瓦格用大量硬幣反覆擲出,解釋資料挖掘。即使公平硬幣,只要試得夠多,總會有一些出現看似完美連勝。事後挑選這些紀錄,不能證明它們未來偏向公。類比直接對應測試大量交易規則組合,卻只報告贏家。分母——總搜尋量——本身是證據的一部分。測試前的理論假設及嚴格評估,有助處理被高速電腦放大的問題。

結合弱訊號,不製造確定性

施瓦格亦強調:單獨無用的輸入,組合後可能有用。但這不是准許無限組合直至找到漂亮結果,反而更凸顯測試紀律。訪談提到 Jeff Bezos 及網上書店概念,展示蕭較廣的創業背景,同時把 Amazon 的實行歸於 Bezos。主要投資教訓仍是明確假設、統計克制及執行能力的研究程序,不是複雜本身帶來盈利的保證。

應用例子

假設 20 個獨立測試,每個假陽性率 5%,至少一個假陽性的機率是 1−0.95²⁰,約 64.2%。獨立性是簡化假設。

適用限制

訪談沒有披露可重現的機構策略。運算能力不是統計證據。

案例連繫

蕭的研究程序與騎士的故障涉及不同層面。統計有效性、部署及敞口控制應分別測試。

騎士資本:好想法仍需要可靠執行

策略只是交易系統的一部分;部署、監察及停止機制都可能決定結果。

四十五分鐘

美國證監會指出,2012 年 8 月 1 日,騎士資本的路由系統為執行 212 張客戶指令,發出逾 400 萬張訂單。首 45 分鐘交易超過 3.97 億股,累積非預期倉位,造成超過 4.6 億美元虧損。監管機構把事件連到錯誤軟件部署,啟動了有缺陷、之前未使用的功能。[1]

解讀:三項不同承諾

研究模型表示規則可能具備有用的統計特性;實作表示電腦確實執行該規則;營運程序表示出錯時仍能控制敞口。第一項的證據不能證明另外兩項。漂亮的回測不能證明部署版本等於測試版本、警報會送達負責人,或系統會在非預期持倉出現時停止。

另一種回饋循環

自動程序重複錯誤的速度,可以遠快於人逐筆檢查交易。這令針對總訂單、持倉量及異常活動的獨立檢查更有價值。檢查應看系統實際做了甚麼,而不只看策略是否仍預測盈利。這是本案例的營運解讀,不聲稱某個簡單控制必定能避免歷史事件的所有損失。

假設:找出不一致

假設測試要求買入十個單位,獨立持倉監察卻看到一百個。重點不是交易最終會否賺錢,而是程序是否超出授權,以及後續活動能否停止。演練應說明誰接警報、如何避免重複操作及如何核對未完成訂單。這些是假設測試條件,不是騎士內部系統細節;它們把「小心一點」變成可觀察的程序。

重新理解系統交易章節

萊斯卡博的紀律涉及執行經測試方法,但可靠執行亦要檢查機器;蕭重視研究,促使我們區分統計驗證與正式系統驗證;庫克關注虧損大小,提醒罕見營運損失可能蓋過很多正常盈利交易。這些連結沒有把騎士的行為歸於受訪者,而是把書中問題延伸到後來以執行故障為核心的情境。

容易得出的錯誤結論

事件不證明所有自動策略都不可靠,亦不代表人手交易沒有營運錯誤;它也不能證明研究優勢已消失。故障類別很重要:改變模型入市門檻,本身不能修補部署程序。檢討應分開邏輯錯誤、版本發布錯誤、監管不足及平倉成本,否則只會變成籠統排斥科技,而不是改善控制。

值得保留的習慣

對系統問兩個問題:為何決策應該有效?運作出錯時靠甚麼限制損失?第二問也需要自己的證據。只停留在意向的緊急程序,不等於經過演練的應對。

思考題

哪項檢查測試執行,而非投資想法?

分析提示

比較預定指令、實際訂單及持倉,訂明觸發條件、負責人及經測試的停止程序。

SEC · Knight Capital market access enforcement, 2013

反思

你會如何避免驗證資料變成另一份訓練資料?