Recenzja książki
Machine Learning in Asset Pricing
- Praktyka 4/10 ile da się wdrożyć
- Głębia 8/10 siła argumentu
- Aktualność 9/10 czy nie zestarzała się
Konsensus czytelników: 4.14/5 (Goodreads, 7 ocen)
Ta książka odpowiada na pytanie, które w naszym warsztacie wraca przy każdym pomyśle na model: dlaczego uczenie maszynowe, które bez trudu odróżnia zdjęcie psa od zdjęcia hot doga, na danych o zwrotach zachowuje się jak ktoś, kto z ogromną pewnością siebie referuje treść snu. Odpowiedź Stefana Nagela nie brzmi „bo rynek jest losowy”. Brzmi znacznie ciekawiej: dane finansowe mają własności, pod które standardowe narzędzia nigdy nie były projektowane, a wyjściem, które Nagel uzasadnia najstaranniej, jest wsparcie algorytmu strukturą pochodzącą nie z samych danych, tylko z wiedzy ekonomicznej o tym, jak te dane powstają. Trzymamy tę pozycję u siebie po to, żeby mieć w jednym miejscu porządny wykład, skąd ta struktura ma się brać, bo to jest dokładnie ten problem, który stoi między naszym pomiarem a naszym systemem.
Trzy czynniki na tysiąc kandydatów
Nagel zaczyna od rachunku, który każe się zatrzymać. Sto lat temu tym, co inwestor mógł wiedzieć o spółce, były drukowane roczniki Moody’s; po nich przyszedł COMPUSTAT z setkami zmiennych na firmę; dziś baza Edgar amerykańskiego nadzoru waży terabajty, a z samej analizy tekstu raportów dałoby się dla każdej spółki zbudować milion zmiennych. Liczba potencjalnych predyktorów spokojnie przewyższa liczbę spółek, dla których w ogóle obserwujemy zwroty, a wtedy zwykła regresja najmniejszych kwadratów albo nie ma jednoznacznego rozwiązania, albo dopasowuje się do szumu i produkuje świetne wyniki w próbie oraz bezwartościowe poza nią. Empiryczna wycena aktywów przez dekady obchodziła ten problem w jeden sposób: budowała modele z garstką czynników i resztę milcząco zerowała.
Among the hundreds, thousands, or more potential factors, researchers have chosen a specification that sets the effect of almost all of them to zero.
Stefan Nagel, Rozdział 1, s. 3
To zdanie jest ostrzejsze, niż wygląda. Rzadkość modelu, czyli założenie, że prawie wszystkie zmienne mają zerowy wpływ, nie została w tej literaturze wyprowadzona z żadnej teorii ekonomicznej, tylko przyjęta dlatego, że przy niej klasyczna statystyka zachowuje się grzecznie. Nagel dokłada do tego obserwację, którą trudno zbyć: liczba czynników uznawanych za „standardowe” rośnie z dekady na dekadę, od trzech u Famy i Frencha, przez cztery i pięć, po sześć u Barillasa i Shankena, i najprostsze wyjaśnienie tego dryfu jest takie, że literatura powoli przyznaje się do czynników pominiętych.
Czego nie widać w zwrotach
Rozdział trzeci to serce książki i jedyny fragment, który poleciłbym przeczytać nawet komuś, kto nigdy nie zamierza estymować modelu przekrojowego. Nagel zestawia w nim własności danych, na których wychowało się uczenie maszynowe, z własnościami danych rynkowych, i różnice układają się w listę, z której każda pozycja osobno potrafi zabić projekt. Najważniejsza jest pierwsza. Kiedy uczysz klasyfikator zdjęć, w danych treningowych masz prawdziwą etykietę: to jest hot dog, tamto nie jest. Kiedy uczysz model zwrotów, prawdziwej etykiety nie ma nigdzie.
The expected return is unobservable. All we can see is the realized return as a noisy signal about the expected return.
Stefan Nagel, Rozdział 3, s. 32
Zmienność oczekiwanego zwrotu odpowiada za niewielką część wariancji zwrotu zrealizowanego, więc stosunek sygnału do szumu jest bardzo niski, a historia, na której można się uczyć, obejmuje kilka dekad i nie da się jej rozmnożyć. Kuszące jest myślenie, że dane o wyższej częstotliwości załatwią sprawę, bo obserwacji nagle robi się tysiąc razy więcej. Nagel przypomina tu wynik Mertona z 1980 roku: zagęszczanie pomiaru poprawia oszacowanie wariancji, ale nie poprawia oszacowania oczekiwanego zwrotu, bo ten zależy od długości okna, a nie od tego, jak drobno je pokroimy. Dochodzi do tego różnica celu. W typowym zadaniu uczenia maszynowego liczy się trafność pojedynczej prognozy, a w wycenie aktywów liczy się portfel, więc kowariancje błędów prognoz przestają być statystycznym drobiazgiem i stają się składnikiem ryzyka, o który trzeba dbać na każdym etapie, od wyboru algorytmu po sposób regularyzacji.
Niech dane mówią, czyli czego zrobić się nie da
Z tych własności Nagel wyprowadza wniosek, który jest zarazem tezą całej książki i jej najlepiej uzasadnionym fragmentem.
Given the low signal-to-noise ratio in typical asset pricing settings, the idea that one could simply let the data speak and resolve these issues in a completely automatic and data-driven way without imposing substantial structure on the problem seems far-fetched.
Stefan Nagel, Rozdział 3, s. 63
Rozdział czwarty pokazuje, jak taka struktura wygląda, gdy zejdzie się z poziomu postulatu na poziom estymatora. Punktem wyjścia jest zwykłe zadanie średnia-wariancja i przekonanie, że okazje bliskie arbitrażowi, czyli portfele o absurdalnie wysokim wskaźniku Sharpe’a, na rynku akcji po prostu nie leżą. To przekonanie da się zapisać jako rozkład a priori dla parametrów czynnika dyskontowego, a z niego wypada kara nałożona na współczynniki. Wygląda ona z grubsza jak elastic net, znany z każdego kursu uczenia maszynowego, ale została wyprowadzona z twierdzenia o świecie, a nie wybrana walidacją, i różni się od gotowca w miejscach, które biorą się właśnie z ekonomii, przede wszystkim w traktowaniu głównych źródeł wspólnej zmienności jako najbardziej prawdopodobnych nośników premii. Empiryczna część tego rozdziału pokazuje, że priory osadzone w ekonomii poprawiają wyniki poza próbą, a osłabianie ich ekonomicznego uzasadnienia te wyniki pogarsza. Znaczenie ma więc nie wybór między lassem a regresją grzbietową, tylko świadomość, jakie zdanie o rynku wypowiada twoja kara za złożoność.
Kierunek czasu ma znaczenie
Osobna sekcja rozdziału trzeciego dotyczy zmiany strukturalnej i jest w naszym warsztacie ważniejsza niż cała matematyka czynnika dyskontowego. Proces generujący dane na rynkach zmienia się nieustannie, bo zmienia się gospodarka, zmieniają się instytucje i technologia, a przede wszystkim dlatego, że uczestnicy uczą się z tych samych danych, na których my budujemy model, i zmieniają zachowanie, gdy zaczyna im się to opłacać. Standardowa walidacja krzyżowa zakłada tymczasem, że pozycja bloku walidacyjnego względem treningowych nie ma znaczenia, więc spokojnie ocenia model na danych starszych niż te, na których się uczył.
But when structural change is present, it is not clear that drawing validation data from time periods that precede all or part of the training data is appropriate. The direction of time can matter.
Stefan Nagel, Rozdział 3, s. 62
Nagel zostawia tę uwagę jako otwarte pytanie badawcze, my traktujemy ją jako regułę walk-forward i jako jeszcze jeden powód, żeby na każdym etapie pilnować look-ahead bias. Model, który dobrze przewiduje wstecz, nie ma z tego tytułu żadnego prawa przewidywać naprzód.
Przewidywalność, która bierze się z uczenia
Rozdział piąty odwraca perspektywę i jest najbardziej oryginalną częścią książki. Skoro badacz stoi przed problemem wysoko wymiarowym, to inwestorzy, których decyzje wygenerowały ceny, stoją przed tym samym problemem, a mimo to teoria zwykle sadza ich w świecie, w którym model jest już znany i pozostaje tylko podstawić liczby. Nagel razem z Ianem Martinem robi coś przeciwnego: modeluje inwestorów jako bayesowskich uczniów maszynowych, którzy z historii uczą się związku między cechami spółek a przepływami, mają poprawny rozkład a priori i używają dostępnej informacji optymalnie. Wynik jest niepokojący. W takim świecie ceny ustalają się tak, że poza próbą nie ma żadnej przewidywalności zwrotów, a mimo to badacz analizujący te same dane po fakcie znajdzie przewidywalność w próbie, i to na tyle wyraźną, że w granicy, w której liczba cech rośnie proporcjonalnie do liczby spółek, test hipotezy zerowej o braku przewidywalności, wynikającej z założenia racjonalnych oczekiwań, odrzuca ją z prawdopodobieństwem dążącym do jedności.
in-sample return predictability arises because investors’ forecasting problem is high-dimensional. Investors’ estimation errors contaminate returns and they look, ex post, predictable.
Stefan Nagel, Rozdział 5, s. 110
Mechanizm jest prosty i dlatego groźny: błędy oszacowań, które inwestorzy popełniali w czasie rzeczywistym, zostają zapisane w zrealizowanych zwrotach, a badacz z przywilejem wiedzy o tym, co się potem stało, odczytuje je jako regularność. To mocniejszy zarzut niż zwykłe przeuczenie, bo tu nawet uczciwie policzony wynik w próbie może opisywać świat, w którym nikt tej okazji nie mógł wykorzystać. Na pozycji uczestników rynku stawia badacza dopiero test, w którym wagi na jutro powstają wyłącznie z danych do dzisiaj; sam podział na próbę treningową i testową tego nie załatwia, jeśli granica między nimi nie biegnie wzdłuż czasu.
Jak tego używamy
Po co warsztat zbudowany wokół jednego kontraktu MES, mierzonego w jednostkach R po kosztach, sięga po akademicką monografię o przekroju amerykańskich akcji? Po cztery rzeczy.
Pierwsza to sposób myślenia o strukturze jako o budżecie zaufania. Każda decyzja, którą podejmujemy przed spojrzeniem w dane, od wyboru zmiennych po kształt kary za złożoność, jest zdaniem o rynku, i lepiej, żeby to zdanie było wypowiedziane świadomie niż wyklikane siatką parametrów. Nagel daje na to język i przykład zrobiony do końca.
Druga to trzeźwa ocena, ile obserwacji naprawdę mamy. Argument Mertona o częstotliwości uderza w pokusę, którą znamy z własnego podwórka: dane minutowe wyglądają jak wielki zbiór, tylko że pytanie o przewagę dotyczy oczekiwanej wartości, a tej zagęszczanie pomiaru nie pozwala oszacować dokładniej. Z tego wynika ostrożność w liczeniu stopni swobody i podejrzliwość wobec wielokrotnego testowania wariantów setupu, bo nasze własne zoo pomysłów jest dokładnie tym samym problemem, co zoo czynników.
Trzecia to walidacja z kierunkiem czasu. Zdanie o tym, że kierunek czasu ma znaczenie, jest u nas wpisane w procedurę, a nie w dobre chęci.
Czwarta to sceptycyzm wobec wyniku w próbie, ale sceptycyzm z mechanizmem, a nie z przesądu. Rozdział piąty daje konkretny powód, dla którego dobry wynik w próbie bywa artefaktem uczenia się innych uczestników, i ten powód jest niezależny od tego, jak starannie liczyliśmy.
Czego nie bierzemy, to cała maszyneria przekrojowa: estymacja czynnika dyskontowego z pięciu tysięcy spółek, portfele głównych składowych, priory o strukturze kowariancji. Nasz świat to jeden instrument w oknie sesyjnym i te narzędzia nie mają się tu do czego przyłożyć.
Gdzie książka pęka
Pierwsze pęknięcie widać w doborze materiału. To w dużej mierze synteza własnego programu badawczego autora, oparta na pracach z Kozakiem i Santoshem oraz z Martinem, i choć Nagel uczciwie uprzedza, że nie pisze przeglądu literatury, wydawnicza obietnica autorytatywnego wprowadzenia do tematu sugeruje szerokość, której tu nie ma. Czytelnik dostaje jedno spójne stanowisko, bardzo dobrze uzasadnione, ale to jest stanowisko, nie mapa pola.
Drugie: nie ma tu ani jednej linijki kodu, ani jednego zbioru danych, ani jednego pipeline’u do odtworzenia. Praktyk, który chciałby powtórzyć wynik z rozdziału czwartego, musi go zbudować sam od zera, i to jest sporo pracy dla kogoś, kto nie siedzi w tej literaturze na co dzień.
Trzecie: świat książki to przekrój amerykańskich akcji, a wszystko poza nim, od kontraktów terminowych po ryzyko kredytowe, dostaje najwyżej akapit z obietnicą, że metoda się uogólnia. Uogólnia się faktycznie, tylko przeniesienie robi czytelnik, na własne ryzyko i bez asysty.
Czwarte, i najciekawsze: elegancja rozdziału piątego ma cenę. Wynik o zerowej przewidywalności poza próbą jest własnością modelu, w którym inwestorzy są bayesowscy i wyposażeni w obiektywnie poprawny rozkład a priori, a nie ustaleniem empirycznym, i gdyby wziąć go dosłownie, byłby argumentem przeciwko sensowności całej pracy, którą wykonuje praktyk. Nagel tego wniosku nie wyciąga i słusznie, bo jego model jest narzędziem do myślenia o testach, nie opisem świata. Warto jednak wiedzieć, że stoi się na modelu, a nie na danych.
Werdykt
Praktyczność 4, głębia 8, aktualność 9.
Praktyczność cztery, czyli nisko, choć o oczko wyżej niż u Cartei, Jaimungala i Penalvy, gdzie postawiliśmy trójkę. Powód różnicy jest jeden: żeby cokolwiek wziąć z tamtej pozycji, trzeba umieć rozwiązać równanie sterowania, a stąd wychodzi się z dyscypliną, którą da się wdrożyć w poniedziałek rano bez ani jednego wzoru. Nie wyżej, bo poza tą dyscypliną nie dostajesz nic wykonywalnego: żadnego kodu, żadnych danych, żadnego przykładu policzonego na czymś, co można pobrać.
Głębia ósemka. Wywód jest rygorystyczny, a rozdział trzeci należy do najlepszych rzeczy, jakie przeczytaliśmy o różnicy między danymi rynkowymi a resztą świata. Dziewiątki nie stawiam, bo trzymam ją dla pozycji, które budują całe pole od podstaw, jak Sutton i Barto w uczeniu przez wzmacnianie albo Cartea w mikrostrukturze, a to jest sto pięćdziesiąt stron syntezy jednego programu badawczego, świadomie wąskiej i miejscami przechodzącej nad cudzymi wynikami zbyt szybko.
Aktualność dziewiątka, najwyżej ze wszystkich trzech wymiarów. Nasze największe ryzyko nie nazywa się „zły model”, tylko „dobry wynik na przeuczonych danych”, a to jest książka, która ten mechanizm rozbiera na części i pokazuje, że nie znika on od dołożenia mocy obliczeniowej. Nie dziesiątka, bo trafność jest pojęciowa, nie operacyjna: pomaga myśleć o walidacji i o strukturze, nie pomaga policzyć ani jednej rzeczy, którą liczymy.
Komu polecić? Każdemu, kto zamierza puścić uczenie maszynowe na dane rynkowe i chce najpierw zrozumieć, dlaczego to zwykle nie działa, a także badaczowi szukającemu porządnego wykładu bayesowskiego podejścia do regularyzacji w finansach. Kto szuka przepisu, kodu albo gotowego modelu, odbije się od pierwszego rozdziału i zrobi dobrze, odkładając ją do czasu, aż będzie miał własny wynik do zakwestionowania. U nas ta pozycja stoi obok narzędzi pomiarowych jako stała przestroga: zanim uwierzysz w wynik, sprawdź, czy nie uczysz się cudzych błędów sprzed dwudziestu lat.