公众号主要介绍关于量化投资和机器学习的知识和应用。通过研报,论坛,博客,程序等途径全面的为大家带来知识食粮。版块语言分为:Python、Matlab、R,涉及领域有:量化投资、机器学习、深度学习、综合应用、干货分享等。
专栏主题
AI
分享
今天看啥  ›  专栏  ›  公众号  ›  量化投资与机器学习

一位数据科学PhD眼中的算法交易

量化投资与机器学习  · 公众号  · 2019-01-12 15:24

标星★公众号一时间获取最新资讯

本期作者:Daniel Shapiro, PhD

本期翻译:1+1=6 | 公众号翻译部成员


年度巨献↓↓

↑↑点我


正文


本篇推文,将介绍用于算法交易的资产模型。我们研究的一些模型可以根据过去发生的事情来预测将会发生什么,并通过交易这些信息来赚钱。模型和交易策略是一个demo,但提供的代码属于数据科学部分,以便你能够真正了解此建模工作的具体操作。在本文中,将向你展示如何识别经济数据并将其与可交易标的进行匹配。


“All models are wrong but some are useful” -George Box


这次demo的标的是货币对USD/CAD。我们可以从Open data Canada这里获得每日历史数据。地址:https://open.canada.ca/data/en/dataset/1bc25b1e-0e02-4a5e-afd7-7b96d6728aac


import pandas as pd
import numpy as np
# daily exchange rate
# https://open.canada.ca/data/en/dataset/1bc25b1e-0e02-4a5e-afd7-7b96d6728aac

# Load the CSV file
rates = pd.read_csv('https://lemay.ai/forex/10100008.csv')
# Decide what columns we want
rates_cols=['REF_DATE', 'VALUE']
# Only keep the closing spot price for our currency pair
rates=rates[rates['Type of currency']=='United States dollar, closing spot rate']
# Dump the columns we don't need, and fill null values with 0s
rates=rates[rates_cols].fillna(0)
# Force a common index with the economic data we will be getting next
rates.index = pd.to_datetime(rates['REF_DATE'])
# Now that we set the index, drop the extra date column
rates.drop(['REF_DATE'], axis=1, inplace=True)
# Let's give our asset a nice human-friendly name: USD_CAD
rates.rename(columns={'VALUE': 'USD_CAD'}, inplace=True)
# If rate is on a weekend or day market is closed, then use the most recent day's rate
# Weekends are 2 days long so copy Saturday stuff to Sundays
# Carry forward the rates for 3 day and 4 day market closures
while rates[rates == 0].count(axis=0)['USD_CAD']/len(rates.index) >0:
 print("Shifting rates. Days with rate at 0 = %",rates[rates == 0].count(axis=0)['USD_CAD']/len(rates.index))
 rates['yesterday']= rates['USD_CAD'].shift(1)
 rates['USD_CAD']  = np.where(rates['USD_CAD']==0, rates['yesterday'], rates['USD_CAD'])
#Verify we don't have days with rates at 0
print("Days with rate at 0 = %",rates[rates == 0].count(axis=0)['USD_CAD']/len(rates.index))
# Spot check the results against a trading days calendar: http://www.swingtradesystems.com/trading-days-calendars.html
# Graph the data
rates.drop(['yesterday'], axis=1, inplace=True)
rates.plot()
rates.tail()


以下是来自fxtop.com的USD/CAD数据图表:




到目前为止,我们已经看到,为了以一种良好的格式获得数据,需要进行一些数据清理工作。数据科学的故事是这样的:大多数工作都是将数据转换成观察相关性并做出预测所需的格式。


现在我们继续获取一些数据,我们认为这些数据将帮助我们预测美元/加元资产的走势。这些数据还将以工业产品价格指数(IPPI)的形式来自加拿大开放数据,该指数应与加元相对于美元的汇率走势相关。如果商品价格上涨,或许这能告诉我们一些有关经济和货币(相对于美国)的信息。



上面的两张图是我们对模型的经济数据的初步分析。从数据指南中我们知道,这个IPPI指数将“index, 2010=100”与“index, 2010=100”挂钩,我们可以从20世纪50年代到2019年的长期数据(左)中清楚地看到这种挂钩。一切都收敛于2010=100,然后从这里展开。


数据中特定的信号也有少量的奇怪之处。下图是2008年至2016年IPPI“纸质办公用品”的归一化图。大多数信号都没有这个问题,但重要的是要记住数据集不是完美的。


使用这个数据集有一些严重的限制。首先,它每月只提供一次。这对于真正的交易算法来说太慢了。其次,该指数中的所有因素都与加拿大有关,在美元/加元交易中,加拿大只占一半或更少。第三,我们不包括来自新闻或其他数据源的数据。这一切都很好,因为我们只是在展示它的原理。实际上,有很多方法可以在日常交易中利用月度宏观数据,并将来自多种数据类型的输入合并到模型中。考虑到这些注意事项,下面是我们如何将IPPI数据提取为模型的可用格式:


import pandas as pd
# Industrial Product Price Index (IPPI) data
# https://open.canada.ca/data/en/dataset/39a39c7c-24f1-4789-8f20-a04bcbf635b0

# Load the CSV file
df = pd.read_csv('https://lemay.ai/forex/18100030.csv')

# Decide what columns we want
categories=list(df[list(df)[3]].drop_duplicates())
df_cols=['REF_DATE', 'North American Product Classification System (NAPCS)', 'VALUE']

# Prepare an empty dataframe to fill with properly indexed economic data
new_df = pd.DataFrame(columns=df_cols)
# Toss out the columns we don't want
df=df[df_cols]
# Set the date as the index using the same format as the USD_CAD data
df.index = df['REF_DATE']
new_df.index = new_df['REF_DATE']
# Dump out the date column now that we applied it to the dataframe index
df.drop(['REF_DATE' ], axis=1, inplace=True)
new_df.drop(['REF_DATE'], axis=1, inplace=True)
# Spot check the dataframe so far
display(df.head())

# Loop through the economic indicators and put each one in a dedicated column
for cat in categories:
   # Data can have problems, and not all indicators will make it through
   try:
     new_df[cat]=df[df[list(df)[0]]==cat]['VALUE']
   except Exception as e:
     print("failed on",cat,e)

# Spot check the output dataframe
display(new_df.head())

# Graph the data
new_df.plot()

# Save the dataframe with the economic indicators to a file
new_df.to_csv("forex_signals.csv")


机器学习模型有一些输入观测值“x”和一些输出预测值“y”,其中模型是一个函数,它使y=f(x)。f模型从观察到预测。在我们的例子中,“x”是IPPI数据,我们希望使用它来预测USD_CAD中的价格变化,这是我们的“y”输出。在进行预测之前,我们应该深入研究IPPI和USD_CAD之间的相关性,以验证这些东西实际上是像我们假设的那样相互关联的。我们还将超越相关性,查看基于IPPI数据中过去值的USD_CAD未来值中的相关性。换句话说,我们将寻找在IPPI中有可以用来预测USD_CAD的信号的迹象。


让我们先把经济数据和资产数据结合起来观察一些很酷的东西。下面是所有数据科学的代码:


import pandas as pd
import matplotlib.pyplot as plt
from sklearn.preprocessing import MinMaxScaler

def makeFig(plt, title, xlabel, ylabel, fName):
 plt.xlabel(xlabel)
 plt.ylabel(ylabel)
 plt.title(title)
 plt.tight_layout()
 plt.savefig(fName, dpi=100)
 #plt.show()
 return

# Observe the whole data range and then specific data ranges
for startYear,endYear in [[1949,2019],[1990,2000],[2000,2010],[2010,2019]]:
 df_new = pd.read_csv('forex_signals.csv',index_col=0)
 # Keep only the data for the time range that we care about
 if startYear>=1950:
   df_new = df_new[df_new.index>=str(startYear)+'-01']
   df_new = df_new[df_new.index'-01'
]
 # Use the same date format we used for the exchange rate
 df_new.index=pd.to_datetime(df_new.index)

 #df_new.plot(legend=False)

 # Scale the IPPI data
 scaler = MinMaxScaler()
 df_new[list(df_new)] = scaler.fit_transform(df_new[list(df_new)])
 # Join the exchange rate data with the IPPI data
 m=df_new[list(df_new)[:]].join(rates, how='inner').fillna(0)

 correlations = m.corr()['USD_CAD'].sort_values(ascending=False).dropna()
 
 plt.figure(figsize=(20, 8))
 correlations[1:26].plot.barh()
 title="Correlation of Industrial Product Prices and USD_CAD strength ("+str(startYear)+" to "+str(endYear)+")"
 xlabel="Correlation with USD_CAD"
 ylabel="Price of Industrial Product"
 fName=str(startYear)+'s_corr_high.png'
 makeFig(plt, title, xlabel, ylabel, fName)
 
 plt.figure(figsize=(20, 8))
 correlations[-25:].plot.barh()
 fName=str(startYear)+'s_corr_low.png'
 makeFig(plt, title, xlabel, ylabel, fName)
 
 plt.figure(figsize=(20, 8))
 correlations[1:].plot.bar()
 plt.xticks([])  
 fName=str(startYear)+'s_histogram_correlations.png'
 makeFig(plt, title, ylabel, xlabel, fName)
 
 # Tomorrow minus today's exchange rate gives the rate delta
 # Intuition: When tomorrow's USD_CAD exchange rate is higher than today's, the result is positive
 p=m.copy(deep=True)
 p['dUSD_CAD']= m['USD_CAD'].shift(-1) - m['USD_CAD']
 causations = p.corr()['dUSD_CAD'].sort_values(ascending=False).dropna()
 
 plt.figure(figsize=(20, 8))
 causations[1:].plot.bar()
 plt.xticks([])
 xlabel="Price of Industrial Product"
 ylabel="Correlation with change in USD_CAD next month"
 title="Correlation with change in USD_CAD next month("+str(startYear)+" to "+str(endYear)+")"
 fName=str(startYear)+'s_histogram_predictions.png'
 makeFig(plt, title, xlabel, ylabel, fName)


20世纪50年代到现在


预处理后,数据集中仍保留931个因子。首先让我们看看在整个数据期间(1950年代到现在)与USD_CAD密切相关的因素。


在第一张图中,我们看到了一些有趣的相关性。例如,木材和相关的精炼产品,如新闻纸和纸浆与美元的强度相关。这是有意义的。来自加拿大的昂贵纸张导致需求减少,而众所周知,加拿大和美国在软木价格上一直存在争议。这告诉我们,来自加拿大的廉价木材给USD_CAD带来了压力。


接下来,让我们看看哪些因素与较弱的USD_CAD相关。我们可以在下面的图表中看到,石油和天然气部门扮演着重要的角色,矿石和采矿部门也是如此。这是有意义的。加拿大生产矿石(如萨德伯里的镍),也出口石油。因此,它们价格的上涨与美元兑加元汇率的下跌是有道理的。


下面是每个IPPI因子及其与USD_CAD相关性的放大图:



这是一些很好的相关性,但相关性与交易预测不同。我们需要用因果关系而不是相关性来赚钱。所以我们需要一些基于相关观察的预期回报数据。


下图显示了IPPI因素与下个月USD_CAD值变化的相关性。需要注意的是,即使一个月之后,调查数据也可能无法获得,但是让我们假设我们能够及时地访问这些数据。



USD_CAD与工业产品价格指数的长期总体关系与每十年的关系不同。对我们来说,深入研究数据来帮助我们理解IPPI因素和USD_CAD移动之间的移动关系是一个好主意。在本文的下一部分中,我们将研究1990年代、2000年代和2010年代的这些数据。


20世纪90年代USD_CAD


让我们先来看看90年代与美元走强相关性最强的股票。我们看到一些常见的疑点,如汽车和纸制品(如上所述,较高的价格不利于CAD)。有趣的是,IPPI接近榜首,表明加拿大工业产品价格普遍上涨意味着美元走强。



在这段时间里,美元表现优异,因此大多数价格上涨都与美国的主导地位有关。下面是上世纪90年代的价格图表:



如下图所示,20世纪90年代,只有少数IPPI因素与USD_CAD负相关。木浆是一种奇怪的负相关关系,因为大多数其他木材相关因素最终都是正相关的。



为了一致性,让我们看一下这个时间段的相关图表:



和以前一样,我们更关心的是交易信号而不是原始的相关性,因此下面的图表显示了每个IPPI因素是如何与当月的USD_CAD到下个月的USD_CAD(汇率中的技术)的变化相关的。


注意,虽然大多数因素与USD_CAD呈正相关,但与变化呈正相关的因素并不多。另外,请注意,在90年代没有数据的地方,很多相关性都隐藏在结果中。在上一节查看所有数据时,任何位置有数据的因素都可能是相关的。现在我们看的是数据的一个更小的子集,我们只能说上世纪90年代有数据的因素。


下面快速浏览一下dataframe是什么样子的,以显示在数据集的早期有许多因素不可用:



现在,让我们从21世纪头十年的角度来看一下支撑我们的模型的数据。


21世纪头十年,一个不断变化的世界


让我们回过头来看看数据中最重要的正相关和负相关就像我们在20世纪90年代和整个数据集中所做的那样。


在2000年代,我们继续看到USD_CAD强度与汽车材料以及与木材/纸张相关的材料之间存在很强的相关性。



从下面的负相关关系中我们可以看出,金属和石油仍然是美元兑加元走软的原因之一。



那么有什么改变吗?从这个放大的角度看,这种变化是微妙的,但是基本上20世纪90年代USD_CAD的上升并没有持续。以下是IPPI因素与USD_CAD之间相关性的放大视图,右边是1990年代,左边是2000年代。



我们看到与USD_CAD相关的因素发生了戏剧性的逆转,与USD_CAD负相关的因素发生了逆转。这告诉我们,使用这些从20世纪50年代到现在的因素作为我们预测模型的训练数据是错误的。使用所有的数据将忽略这些因素在现实生活中如何变化。但是,我们可以使用滑动窗口进行回溯测试,该窗口可以从新内容中学习并转储旧内容。这是一种非常常见的策略,用于测试“很久”以前的策略。


现在,为了一致性,让我们看一下这个图表,它显示了各种因素如何与一个月后的USD_CAD变化相关联。



这是一种相当均衡的情况,数据中出现了大量的正相关和负相关。这对于预测这段时间内的USD_CAD运动是一个好迹象。事实上,相关性的方向并不像强度和信号相互之间的独立性那样重要。最终,关键因素是我们赚了多少钱。这里的想法是持有加元和美元,每月根据我们的模型预测的时间在两者之间进行转换。


2010年代是历史上最长的经济扩张时期


我很想知道数据中高相关信号的故事是什么。相关性是怎样的?看看下图中的雪地摩托价格和USD_CAD。


工厂门口的雪地摩托价格和美元的强势之间的相关性是一个真正的加拿大故事。购买雪地摩托的成本越高,加拿大元在美国的影响力就越小。有趣。这可能是其他一些潜在的原因,如石油和金属价格,造成了这种动态,但它仍然是好的,看看一些数据,以验证它的意义。


结果表明,在2010年代,一些IPPI因素与USD_CAD之间存在很强的相关性。我们继续看到像suv这样的汽车和战争产品在美元强势中扮演着重要角色。我认为关于2001年9月11日的恐怖袭击以及由此引发的战争有一个潜在的信息,那就是推动美元作为一个安全港和军事强国的地位。我认为这种情况一直持续到2010年。这些相关性把木材的故事推到了前面的结果。虽然争议仍未解决,但加拿大的许多纸浆和造纸厂在2010年代就关门大吉了。


在下面的图表中我们可以看到,石油和相关产品以及金属仍然是USD_CAD负相关的一部分。



在2010年代,数据集中有很多可用的因素。下图显示了这些因素之间的USD_CAD相关性分布。



现在让我们看看这些因素是如何被用来预测的。



与上世纪90年代不同,相关性和预测分布之间似乎存在对应关系。请记住,这些图表中的因素的顺序是不相同的,因此该数据不能告诉我们与USD_CAD相关的因素是否也能预测USD_CAD中的变化。


模型生成介绍


我们看到,整个数据集中这十年的数据比过去几十年的数据要多,而几十年前的数据可能与我们今天的数据无关。数据中有一些关键点会发生变化,我们不能使用之前的数据来预测接下来的时间段。



我们还发现,这些数据与我们对世界的预期相比是合理的。基于这些数据的模型应该是相对可解释的。例如,如果有几个因素指向USD_CAD上升,我们应该能够看到这些因素是什么,并验证这个多头或空头头寸是有意义的。


预测算法交易模型


为了建立我们的预测模型,我们需要建立前面讨论过的张量x和y。输入“x”是IPPI经过数据清理后的数据,“y”是两个类别:LONG和SHORT。决定USD_CAD中预测的更改在多大程度上支持某个操作的阈值之类等超出了这个示例的范围。选择了一个前向深度学习模型(DNN),一个自编码器,在输入端添加一些噪声以避免过拟合。


为了做出预测,我们回顾了过去3个月按比例调整的IPPI指标。

为了进行预测,我们只使用与USD_CAD预期收益相关至少10%的指标。这减少了x中的维数。此外,在测试期间,我们使用训练运行中训练过的定标器,因为我们事先不知道如何对尚未发生的事情进行定标。让我们将每笔交易的费用设置为0.20个基点(如IB中所列)。每个模型运行都是模型的一个全新的训练和测试实例。


让我们先对2000年至2012年初的数据进行训练,然后在2012年至2017年第一季度结束的回测中进行“交易”。这是12年的月度训练数据,或者说12*12=144个训练数据点。实际上,切割一个NaN后,我们得到143个训练样本,每个样本有39个数据点。当缺乏数据样本时,我喜欢把它们看成是一组方程,我们可以用它们来确定一个近似解。它并不完美,但当我们看到这种模式为我们赚钱时,我们就会知道它是否有效。

Before Tuning: Model performance for 10 simulation runs before tuning the network and massaging the training data. Results are pretty random.


After some effort, but before fees: Model performance for 10 simulation runs. These simulations did not include fees. Results look promising.


A trading algorithm is born: These are the results with fees included. We make a bit less money, but have a bit more consistent performance. Fees are only paid when we buy in or change position. All 9 of 10 simulations eventually ended in profit.


在模拟的前3年,所有的模型都亏损了。这是一个问题,我就不讲了,因为这是一个demo。在2012-01-01至2017-03-01期间,模拟的最终平均值为118.7。这相当于5.25年的交易。因此,年化收益率为3.32%。不是很好,但不是0或负数。我不打算讲如何通过杠杆来增加回报,也不打算分析风险调整后的回报。训练精度始终在80%范围内,而测试精度大多在50%以上,如下表所示。



我们可以看到,训练的准确性并不是一个好的方法,表明最后一个模型(第9个)不是一个好的模型。在这里,实现利润最大化的最明智的方法是将模型堆叠在一起,一起并平均出这种类型的错误。想象一下,将$10放入10个模型中,而不是将$100放入一个模型中。长时间的完整模拟周期将产生以下结果:



把这些主动和被动策略叠加起来,我们得到如下图表。


我们看到持有USD_CAD是非常好的。不幸的是,如果没有一些模型告诉我们该怎么做,我们无法预先知道购买和持有USD_CAD是有利可图的。与股票市场真正的长期策略是买入并持有不同,货币对并不遵循这种逻辑。相反,法定货币对会随着相关经济体和政府的兴衰而变化。


什么因素导致预测?


我们有一个赚钱的模式,这很酷,但如果能更好地了解它的作用,那就太好了。我用DeepSHAP得到了这张图片。首先,我使用来自x_train的75个样本设置了一个先验期望。x_train的其余部分用于获取下一个步骤中使用的SHAP值。下面的图表显示了使用上一步中获得的SHAP值对x_test数据的总结图。


我们马上就能看出这个模型并不是我们想象的那样。它最关心的是男装(纺织品)、家禽、清洁产品、烟草和化妆品。这些都是我们在上述分析中没有过多考虑的因素。退一步说,我们看到以石油为基础的东西,如沥青和航空燃料,在这里,这是一个好迹象,我们不是完全出去吃午餐。我们也看到了与纸张相关的东西,比如新闻纸,这是一个好迹象,表明我们期望看到的东西还在那里。我们从这个分析中学到的是,你认为重要的东西最终可能不是最重要的因素。在这种情况下,我们所考虑的东西在列表中,但对预测的影响小于模型中的其他因素。


推荐阅读


01、经过多年交易之后你应该学到的东西(深度分享)

02、监督学习标签在股市中的应用(代码+书籍)

03、全球投行顶尖机器学习团队全面分析

04、使用Tensorflow预测股票市场变动

05、使用LSTM预测股票市场基于Tensorflow

06、美丽的回测——教你定量计算过拟合概率

07、利用动态深度学习预测金融时间序列基于Python

08、Facebook开源神器Prophet预测时间序列基于Python

09、Facebook开源神器Prophet预测股市行情基于Python

10、2018第三季度最受欢迎的券商金工研报前50(附下载)

11、实战交易策略的精髓(公众号深度呈现)

12、Markowitz有效边界和投资组合优化基于Python

13、使用LSTM模型预测股价基于Keras

14、量化金融导论1:资产收益的程式化介绍基于Python

15、预测股市崩盘基于统计机器学习与神经网络(Python+文档)

16、实现最优投资组合有效前沿基于Python(附代码)

17、精心为大家整理了一些超级棒的机器学习资料(附链接)

18、海量Wind数据,与全网用户零距离邂逅!

19、机器学习、深度学习、量化金融、Python等最新书籍汇总下载

20、各大卖方2019年A股策略报告,都是有故事的人!


扫码关注我们


今天看啥 - 让阅读更高品质
本文地址:http://www.jintiankansha.me/t/sE2jZin6ON